AI 대부들 "통제 불능 '지능 폭발' 온다"…각국 정부에 대비 촉구

AI 요약

제프리 힌턴 교수와 요슈아 벤지오 교수 등 20여명과 오픈AI·앤트로픽 고위 인사들은 AI가 스스로를 개선하며 발전 속도가 폭주하는 '지능 폭발'에 대비하라고 각국 정부에 경고했으며, 보고서는 이를 재귀적 자기개선으로 정의하고 기술 발전이 수년에서 수개월 이하로 압축되는 상황이 되어 인간 통제 상실, 생물학·사이버 위협 가속, 특정 국가의 결정적 우위 확대 등의 위험을 초래할 수 있다고 지적했습니다. 저자들은 AI가 2028년이면 연구개발을 전면 자동화할 수 있다고 전망하면서도 불확실성을 인정했으며, 독립 감사관의 기업 상주를 포함한 투명성 의무화, 성능 향상 속도 제한, 데이터센터와 협력한 프로젝트 중단 권한, 자동화된 연구개발 시스템의 완전 격리 및 비상 대응계획 수립 등을 정책 권고로 제시했습니다.