"인공지능이 인간 해칠 수 있다" 모처럼 의기투합한 IT 거물들

AI 요약

허깅페이스 해킹 등 잇단 사고를 계기로 앤트로픽, 오픈AI 등 빅테크 수장들이 AI 개발 속도 조절을 한목소리로 촉구했습니다. 앤트로픽의 다리오 아모데이 CEO는 12일 블로그에서 재귀적 자기 개선(RSI)으로 통제가 어려워질 수 있고 앞으로 6~12개월 내 에이전트 대규모 결합으로 인터넷 장악 등 큰 피해가 날 수 있다며 성능 향상 속도를 늦춰 안전장치를 마련할 시간을 확보해야 한다고 주장했고, 앤트로픽은 이틀 전 클로드 악용을 다룬 위협정보보고서를 발표했습니다. 샘 올트먼 오픈AI CEO는 아모데이 의견에 동의하며 독립적 평가기관 도입 등 안전 조치를 검토하겠다고 밝히고 안전 문제로 IPO 일정을 연기해 2026년은 아닐 것이라고 했으며 일론 머스크와 데미스 허사비스도 동의했습니다.