앤트로픽 '차세대 AI' 답변 제한 논란…연구자들 "평가 어렵다"

AI 요약

앤트로픽이 공개한 차세대 AI 모델 클로드 페이블5가 위험 활동 차단을 위한 안전장치로 인해 일반 과학 질의와 AI 개발 관련 답변의 품질까지 낮아져 이용자와 연구자들 사이에서 논란이 일었습니다. 페이블5는 민감한 주제에 대해 안내 문구를 띄운 뒤 이전 세대의 낮은 성능 모델로 대화를 전환하고 일부 제한은 이용자에게 표시되지 않아 수학·생물학·화학 관련 질문까지 차단되는 사례가 보고되며 외부 평가가 어려워졌다는 지적이 제기되었습니다. 앤트로픽은 보이지 않는 제한에 대해 사과하고 해당 제한을 이용자가 볼 수 있도록 표시하겠다고 밝혔으며 불필요한 차단을 줄이고 생물학·생명과학 연구자들에게는 페이블 같은 미토스급 모델을 안전장치 없이 제공하겠다고 했습니다.