앤트로픽 “위험한 AI는 정부가 막아야”…미토스 공개 제한 뒤 규제론 제시 [팩플]

AI 요약

앤트로픽 최고경영자 다리오 아모데이는 10일(현지시간) 블로그에서 일정 규모 이상의 프런티어 AI 모델은 출시 전 제3자 안전평가를 받아야 하고, 사이버 공격·생물무기 제조·자율적 행동·위험한 연구개발 자동화 등 중대 위험이 확인될 경우 정부가 모델 배포를 막거나 되돌릴 수 있어야 한다며 정부의 더 강한 통제를 촉구했습니다. 이번 제안은 앤트로픽이 공개한 차세대 모델 미토스 발표 직후 나왔으며, 미토스는 사이버 보안 분야에서 악용 우려가 있어 사이버 능력을 포함한 버전은 검증된 기관에만 제공하기로 했습니다. 아모데이는 완전 자율무기와 대규모 국내 감시는 반대하지만 인간이 최종 결정을 내리는 군사 의사결정 지원은 허용할 수 있으며, 중국과 러시아의 AI 고도화 속에서 민주 진영이 AI 역량을 포기할 수는 없다고 밝혔습니다.