앤트로픽 “AI 발전에 ‘브레이크’ 걸자”…‘스스로 진화’ AI 위험 경고

AI 요약

앤트로픽이 4일 블로그에서 AI가 인간 개입 없이 스스로 업그레이드하는 재귀적 자기 개선 단계로 향하는 것으로 보인다며 전 세계 연구소에 개발 속도를 늦추거나 일시 중지할 것을 촉구했습니다. 공동 창업자 잭 클라크와 사내 연구소장 마리나 파바로는 연구소들이 동일한 조건에서 개발 중지를 합의하고 이행을 검증할 수 있어야 한다고 주장했고 클라크는 현재는 가속 페달만 있고 브레이크는 없다고 지적했습니다. 앤트로픽은 최근 IPO 절차에 착수했고 AI 안전을 강조하며 고성능 모델 미토스를 제한 공개했으며 자사 LLM 클로드의 국내 감시 및 완전 자율형 살상무기 활용에 반대해 미 국방부와 갈등을 빚어 왔습니다.