“AI가 다음 세대 AI를 만든다”…앤트로픽, ‘개발 감속’ 제안

AI 요약

앤트로픽이 재귀적 자기개선 단계에 대비해 전 세계 AI 개발사들이 모델 개발 속도를 늦추거나 일시 중단하는 방안을 공식 검토해야 한다고 4일(현지시간) 자사 블로그를 통해 촉구했습니다. 회사는 내부 데이터에서 엔지니어들이 분기당 반영하는 코드 양이 최근 몇 년 평균 대비 8배로 증가했고, 지난 5월 기준 자사 코드베이스에 병합된 코드의 80% 이상이 AI 모델 클로드에 의해 작성됐다고 공개하며 AI가 차세대 모델 설계에 관여할 가능성을 경고했습니다. 앤트로픽은 의미 있는 감속이나 일시 중단을 위해 주요 기업과 국가들의 공동 조치, 검증 메커니즘과 중단 기준 설정이 필요하다고 주장했으며 검증의 어려움과 기술 주권·안보 문제를 지적하면서 산하 연구 조직을 통해 관련 연구와 논의를 이어가겠다고 밝혔습니다.