[AI프리즘] '속도'에서 '통제'로…AI 경쟁의 판이 바뀐다

AI 요약

다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 모델 성능 향상 속도를 늦춰야 한다고 제안하자 샘 올트먼 오픈AI CEO, 데미스 허사비스 딥마인드 창업자, 일론 머스크 xAI CEO 등 세계 AI 수장들이 잇따라 동의하며 개발 속도 조절론이 부상했습니다. 배경에는 재귀적 자기개선 가능성과 통제를 벗어난 사이버 행동 우려, 오픈AI 모델의 통제 이탈 사례와 앤트로픽의 위협정보 보고서, 그리고 퇴사한 연구원 제이콥 콕슨의 향후 위험 경고 등 최근 잇단 위험 신호가 있습니다. 제안된 해법은 개발 중단이 아니라 위험을 검증할 시간을 확보하는 3단계 프레임워크로 상주 제3자 평가자 배치, 민주주의 국가 간 공통 기준 마련, 권위주의 국가와의 국제 공조를 포함하지만, 강화된 안전 기준이 빅테크의 기득권을 굳히고 후발주자와 오픈소스 진영의 진입 장벽으로 작용할 수 있다는 우려도 제기되고 있습니다.