앤트로픽 “위험한 AI는 정부가 막아야”…미토스 공개 제한 뒤 규제론 제시 [팩플]

AI 요약

앤트로픽의 다리오 아모데이 CEO는 10일(현지시간) 블로그에서 일정 규모 이상의 프런티어 AI 모델은 출시 전 제3자 안전평가를 받아야 하고, 사이버 공격·생물무기 제조·자율적 행동·위험한 연구개발 자동화 등 중대 위험이 확인될 경우 정부가 모델 배포를 막거나 되돌릴 수 있어야 한다며 정부의 더 강력한 통제를 촉구했습니다. 이번 제안은 앤트로픽이 미토스급 모델을 공개한 직후 나왔고, 회사는 사이버 보안 능력이 포함된 버전은 검증된 기관에만 제공하기로 했으며 미토스급 모델이 생물학적 위험과 AI 자율성 위험도 초래할 수 있다고 경고했습니다. 아모데이는 완전 자율무기와 대규모 국내 감시는 반대하지만 인간이 최종 결정을 내리는 군사 의사결정 지원은 허용될 수 있다는 회사 정책을 재확인하며, 중국과 러시아의 AI 고도화에 대응해 민주주의 진영이 AI 역량을 포기할 수 없다는 안보 논리도 제시했습니다.