앤스로픽 “AI 개발 일시 중단도 검토해야”…‘AI의 AI 개발’ 현실화 경고

AI 요약

앤스로픽은 4일(현지 시간) 자사 블로그에서 마리나 파바로 연구총괄과 잭 클라크 공동창업자 명의로 전 세계 주요 AI 연구소들이 AI 개발 속도를 늦추거나 일시 중단할 수 있는 방안을 검토해야 한다고 경고했습니다. 이들은 재귀적 자기개선 단계에 예상보다 빠르게 도달할 수 있어 AI 안전성 연구와 사회 제도가 기술 발전 속도를 따라갈 수 있도록 국제적 합의와 검증 체계를 포함해 개발 속도를 조절할 선택지를 확보해야 한다고 주장했습니다. 앤스로픽은 재귀적 자기개선이 아직 현실화되지는 않았지만 안전장치가 마련되기 전에 나타날 수 있으며 잭 클라크는 향후 2년 안에 등장할 수도 있다고 언급한 반면, 얀 르쿤 등은 LLM 기반 시스템이 인간 수준 지능에 도달하기 어렵다고 반론을 제기하고 있습니다.