앤트로픽 연구원의 경고 "AI, 10년 안에 인류 멸망시킬 수도"

AI 요약

앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 엑스에 AI가 10년 안에 인류를 파멸시킬 수 있다고 주장하며, 스스로 성능을 개선하는 시스템을 개발하는 경쟁 속에서 안전 문제가 뒷전으로 밀리고 있다고 우려를 표했습니다. 콕슨은 이러한 AI가 인간 통제를 벗어나 명령을 거부하거나 해킹으로 권력과 자원을 확보하는 초인적 체계가 될 수 있으며, 일부 시나리오가 현실화하면 내년 말이면 상황이 통제 불능에 빠질 수도 있다고 경고했습니다. 앤트로픽의 에번 휴빙거 정렬 과학 총괄과 새뮤얼 마크스 확장감독도 AI가 인류를 멸망시킬 수 있다는 점에 동의했으며, 휴빙거는 개인적으로 10년 이내에 그 확률이 10%를 넘을 것이라고 생각한다고 밝혔고 콕슨은 오픈AI와 앤트로픽이 책임감 있게 행동하지 않고 있다고 비판했습니다.