앤트로픽 이어 오픈AI도 문샷AI 겨냥 "증류" 비난

AI 요약

오픈AI는 중국 경쟁사 문샷 AI가 자사 GPT 시스템에서 모델의 추론 능력과 성능을 재현하는 데 쓰일 수 있는 데이터를 대규모로 빼낸 책임이 있다고 비난하며, 문샷 관련 사용자들이 모델의 문제해결 방식에 관한 숨겨진 정보를 해독하려 한 수천 건의 시도를 포착했다고 밝혔습니다. 오픈AI는 이 시도가 7월 초 시작돼 7월 말에 1만6천건으로 최고점을 찍었고, 이용자들이 암호화된 추론 내용을 한 대화에서 복사해 다른 대화의 모델에 옮겨 적도록 요청하는 좁은 범위의 탈옥 기법으로 방어를 우회했다고 설명했고 앤트로픽·구글과 함께 '적대적 증류'에 대응할 방안을 조율해 왔다고 전했습니다. 앤트로픽은 앞서 문샷이 수천 건의 요청을 자사 클로드 모델로 몰래 보낸 뒤 그 답변을 키미 모델 학습에 활용했다고 주장했으며 중국 정부는 증류 의혹을 모두 부인하고 미국의 제재에 보복하겠다고 경고했습니다.