[9월14일] 잘나가던 AI 기업들이 ‘속도 늦추자’고 합의한 이유…‘죄수의 딜레마’

AI 요약

앤트로픽의 다리오 아모데이 CEO가 AI 개발 속도를 늦추자고 제안하자 샘 알트먼 오픈AI CEO와 일론 머스크, 데미스 허사비스 구글 딥마인드 회장, 사티아 나델라 마이크로소프트 CEO까지 동의했으며 최근 AI 에이전트의 공격·악용 사례와 모델 능력이 안전장치보다 빠르게 발전하고 있다는 판단이 이유라고 보입니다. 아모데이는 개발 중단이 아니라 안전·정렬·모니터링이 따라올 시간을 벌자는 입장이지만 앤트로픽 혼자 속도를 늦출 수 없고 중국 등 경쟁국이나 기업이 계속 개발하면 뒤처질 수 있다는 '죄수의 딜레마' 문제가 제기되어 독립 평가기관·공통 안전기준·국가 간 협력을 제안했으며 오픈AI·구글·앤트로픽이 업계 안전 기준기구를 만드는 방안을 논의했다고 보도되었습니다. 재귀적 자기개선(RSI) 위험을 제기한 제이콥 콕슨과 오픈AI 수석과학자 야쿠부 파초키의 경고와 함께, 막대한 학습 컴퓨팅 비용과 모델 출시 주기가 과거 반년에서 약 2개월로 단축되는 등 수익성 압박으로 인해 속도 조절이 비용·안전 문제 양쪽의 해소 수단으로도 해석되며 규제가 후발주자에 불리해 선두 기업의 진입장벽을 높일 수 있다는 지적도 제기되었습니다.