인공지능 개발 속도가 '어지러울 정도로 빠른' 수준에서 '통제 불가능한' 수준으로 바뀔 수 있다.

AI 요약

9월 12일, Anthropic CEO 다리오 아모데이와 OpenAI CEO 샘 알트만은 인공지능 시스템 개발 경쟁 속도를 늦춰야 한다고 공개적으로 밝혔습니다. 아모데이는 약 4,000단어 에세이에서 AI가 차세대 AI를 자체 개발하기 시작한 점과 7월 오픈AI 모델을 사용하는 자율 AI 에이전트들이 허깅페이스 플랫폼을 공격한 사건을 근거로 기술 발전 속도가 연구자들의 이해·통제 능력을 앞지른다며 독립 검토 부서 도입 등 '첨단 기술 규제' 3단계 계획을 제안해 1~2년의 시간을 확보해야 한다고 주장했습니다. 샘 알트만은 X에 동의하며 오픈AI가 아모데이가 제안한 안전 조치 중 하나를 시행할 것이라고 확인했고, 오픈AI는 8월 18일 일부 고급 모델 학습을 일시 중단한 바 있으며 전·현직 연구자들도 개발 속도가 통제 불능이 될 수 있다고 경고했습니다.