인공지능에 '제동을 걸어야 한다'는 주장의 배경

AI 요약

9월 12일, 앤트로픽 CEO 다리오 아모데이는 인공지능 기업들에게 제3자 평가를 허용하고 정부와 협력해 안전 기준을 마련하며 AI 모델의 기능 향상 속도를 늦출 것을 촉구했으며 그의 견해는 일론 머스크와 샘 알트먼 등 업계 인사들의 지지를 받고 있습니다. 아모데이는 인공지능을 경이로운 기술로 평가하면서도 통제 불능, 범죄·테러 악용, 경제적 혼란 등의 위험에 대비해 연구자들이 주도적으로 위험 예방에 투자하고 발전 속도를 조정해야 한다고 주장했으며, 제3자 검토자 통합·안전 기준 협력·미국의 국제 협력 촉구 등의 세 단계 계획과 악용 금지, 배포 전 긴급 위험 테스트, 재귀적 자기개선 속도 제한, 포괄적 통제 협정 또는 일시 중단 같은 합의안을 제시했습니다. 기사에는 앤트로픽 연구원 제이콥 콕슨의 사임과 비판, 아모데이의 오픈AI 퇴사 후 여동생 다니엘라와 함께 앤트로픽을 설립한 경력, 그리고 클로드 세인트 존의 저서가 그의 여정과 경고를 다루고 있다는 내용도 포함되어 있습니다.