앤스로픽, ‘위험해서 봉인’했던 미토스...공격 기능 빼고 출시

AI 요약

인공지능 스타트업 앤스로픽이 9일(현지시간) 사이버 공격에 악용될 수 있어 일반 공개를 제한했던 미토스급 성능의 차세대 AI 모델 클로드 페이블 5를 위험 기능을 제거한 채 공개했습니다. 페이블 5는 소프트웨어 취약점 공격 방법, 악성코드 개발, 생물학적 위험 물질 제조 등 민감한 질문에 답변을 거부하고 대신 클로드 오퍼스 4.8을 통해 제한된 답변만 제공하며, 일부 제한을 덜어낸 미토스5는 프로젝트 글래스윙 참여기관에만 제공됩니다. 앤스로픽은 외부 보안 전문가들이 참여한 1000시간이 넘는 검증에서 보편적인 탈옥 방법을 발견하지 못했다고 밝혔고, 페이블 5는 코딩과 연구 등에서 향상된 성능을 보인다고 설명했습니다.