앤스로픽 "AI 개발 전 세계가 일시 중단해야"…자기개선 AI 임박 경고

AI 요약

앤스로픽이 주요 AI 연구소들에 개발 속도를 늦추도록 촉구하며 AI 시스템이 곧 인간 개입 없이 스스로를 개선하는 '재귀적 자기개선' 단계에 도달할 수 있다고 경고했다고 월스트리트저널이 4일 보도했습니다. 앤스로픽은 전 세계적 합의와 준수 검증 메커니즘을 제안했으나 AI는 훈련 실행을 숨기기 쉬워 검증이 어렵다고 인정했으며, 해당 블로그 게시물은 마리나 파바로와 잭 클라크가 작성했다고 밝혔습니다. 이 게시물은 기업가치 약 1조 달러로 평가된 상황에서 비공개로 IPO 서류를 제출한 직후 나왔고, 연간 환산 매출이 이달 말 500억 달러에 달할 것으로 전망되며 앤스로픽은 향후 수개월간 정책 입안자·연구자들과 논의를 조직할 계획이라고 밝혔습니다.