‘천재 AI’의 위험한 뇌세포만 도려냈다… 앤트로픽, 보안 우려에 ‘오퍼스 4.7’ 긴급 투입

AI 요약

인공지능 모델 클로드 미토스로 보안 우려를 일으킨 앤트로픽이 현지시간 16일 클로드 오퍼스 4.6을 업그레이드한 오퍼스 4.7을 정식 출시하며 사이버 위협 역량을 의도적으로 제한했다고 발표했습니다. 오퍼스 4.7은 SWE-벤치 프로 64.3%, SWE-벤치 베리파이드 87.6%, 파이낸스 에이전트 v1.1 64.4%의 성능을 기록해 공개 모델 중 높은 기술력을 보였으나 미토스 미리보기보다 전반적 지표는 낮고 훈련 단계에서 보안 관련 기능을 선별적으로 축소하고 해킹 요청을 자동 감지·차단하는 안전장치를 도입했습니다. 앤트로픽은 이번 출시를 미토스급 모델의 일반 공개를 위한 시험 단계로 규정하고 정당한 연구 목적으로 사이버 검증 프로그램 참여 전문가에는 사용 권한을 예외적으로 부여하며 미국 재무부 등 각국 당국과 협력할 준비가 돼 있다고 밝혔습니다.