[비욘드IT] AI 성능 낮춘 앤트로픽, 결과값도 제어한다면

AI 요약

앤트로픽이 지난 9일 공개한 클로드 페이블 5와 클로드 미토스 5의 공개 안전 문서에서 LLM 개발 관련 작업에 대해 사용자에게 보이지 않게 응답 품질을 의도적으로 낮추는 시스템 명령이 포함된 사실이 드러났습니다. 사용자 불만과 비판이 잇따르자 앤트로픽은 약 48시간 만에 해당 정책을 철회하고 사과했으며 이후 미국 정부의 수출통제 지침에 따라 해당 모델들의 서비스가 임시 중단돼 국내 기업과 사용자가 타격을 입었습니다. 이번 사태는 특정 대상을 겨냥한 AI 무기화와 결과값 은닉 조작 가능성, 외부 통제 위험성을 확인시키며 국가 안보와 산업 기밀 보호를 위한 소버린 AI 구축 필요성을 부각시켰습니다.