앤트로픽 “AI 발전에 ‘브레이크’ 걸자”…‘스스로 진화’ AI 위험 경고

AI 요약

앤트로픽이 전 세계 AI 연구소들에 AI 개발 속도를 늦추는 방안을 검토할 것을 촉구했으며, 공동 창업자 잭 클라크와 사내 연구소장 마리나 파바로는 4일 블로그에서 AI가 인간 개입 없이 스스로 개선·진화하는 재귀적 자기 개선 단계로 향할 수 있다고 지적했습니다. 이들은 프론티어 AI 개발을 늦추거나 일시 중지하고 여러 연구소가 동일한 조건에서 개발을 중지하기로 합의한 뒤 이행 여부를 검증하는 체제를 구축할 것을 제안했으며, 이를 위해 과거 INF 같은 기술 검증 전례를 언급했습니다. 앤트로픽은 최근 IPO 절차에 착수하며 AI 안전성을 강조해 왔고, 고성능 모델 미토스를 보안 우려로 제한 공개했으며 거대언어모델 클라우드의 군사적 활용 반대 입장으로 미 국방부와 갈등을 빚어 왔습니다