"내년 말 통제 불가능"…앤트로픽 연구원, 사표내며 섬뜩한 경고 [지금이뉴스]

AI 요약

앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 엑스에 글을 올려 AI가 10년 안에 인류를 파멸시킬 수 있고 스스로 성능을 개선하는 시스템이 인간 통제를 벗어날 가능성이 있다고 경고했습니다. 앤트로픽의 정렬 과학 총괄 에번 휴빙거와 확장감독 총괄 새뮤얼 마크스도 콕슨의 우려에 동의하며 휴빙거는 개인적으로 10년 이내에 그 확률이 10%를 넘을 것이라고 생각한다고 밝혔고 마크스는 상업적 인센티브와 경쟁 때문에 개발이 계속되고 있다고 지적했습니다. 콕슨은 오픈AI에서 올해 초 앤트로픽으로 이직했으나 개별 기업의 노력만으로는 위험을 통제할 수 없다며 정부 개입과 업계의 공동 대응을 촉구했고 약 1천명의 연구자가 서명한 국제적 체계 마련 촉구 성명에 참여했다고 전했습니다.