앤스로픽 연구진 "AI가 10년 내 인류 멸망시킬 확률 10% 넘어"

AI 요약

앤스로픽 내부에서 AI가 통제 불능 상태에 빠져 인류를 위협할 수 있다는 경고가 잇따라 나왔습니다. 연구원 제이컵 콕슨은 8일(현지 시각) 회사를 그만두며 앤스로픽과 오픈AI가 책임감 없이 초지능을 향해 질주하고 있다고 비판했고, 정렬 과학 책임자 에번 휴빙어는 향후 10년 안에 AI가 모든 인류를 죽일 가능성이 10%를 넘는다고 밝혔습니다. 앤스로픽은 재귀적 자기 개선이 통제 상실 위험을 높일 수 있다고 지난 6월 경고했으며, 콕슨은 글로벌 개발 경쟁을 멈추기 어렵다며 일시적 능력 향상 금지와 같은 조치가 필요할 수 있다고 주장했습니다.