앤트로픽 "AI가 AI 만드는 단계 대비해야"…개발 감속론 제기

AI 요약

앤트로픽은 4일(현지시간) 자사 블로그에서 프론티어 AI 개발을 늦추거나 일시 중단할 선택지를 세계가 가져야 하며, AI가 후속 AI 개발에 깊이 관여하는 ‘재귀적 자기개선’이 현실화하면 위험 관리가 어려워질 수 있다고 촉구했습니다. 앤트로픽은 자사 엔지니어들이 2021~2025년 평균보다 분기당 8배 많은 코드를 반영하고 있고 지난 5월 기준 병합된 코드의 80% 이상이 자사 AI 모델 클로드가 작성했다고 설명했습니다. 앤트로픽은 특정 기업만 멈추는 방식은 실효성이 작아 여러 국가의 주요 연구소와 기업이 함께 움직여야 하며, 검증 방식과 중단·해제 조건을 정해야 한다고 지적하고 산하 연구조직을 통해 관련 연구와 국제 논의를 진행하겠다고 밝혔습니다.