중국 ‘AI 베끼기’ 의혹 또…오픈AI “문샷, 추론정보 추출 시도”

AI 요약

오픈AI는 중국 AI 기업 문샷AI와 연계된 계정들이 GPT 모델의 보호된 추론 정보를 빼내려 한 정황을 포착했으며 관련 활동은 7월 1일 시작돼 7월 24~25일 이틀 동안 4000명 이상의 이용자가 추론 정보 추출 패턴과 일치하는 요청 약 1만6000건을 보냈고 오픈AI는 1만5000명 이상의 이용자로 구성된 관련 활동 집단을 확인해 7월 28일까지 이를 차단했다고 밝혔습니다. 오픈AI는 이를 한 모델의 출력값이나 추론 과정을 체계적으로 활용해 다른 모델을 학습·복제·개선하려는 '적대적 증류(adversarial distillation)' 시도로 규정했으며, 해당 계정들이 암호화된 추론 정보를 복사해 다른 대화에 입력하고 모델에 숨겨진 추론 내용을 풀어쓰도록 요청했다고 설명하면서 저장된 이용자 대화에 직접 접근하거나 암호화를 깨진 않았다고 밝혔습니다. 앤스로픽은 이전에 문샷AI가 키미 이용자의 요청을 클로드로 전달하고 응답을 다시 이용자에게 보여주는 방식과 프록시 네트워크를 활용한 대규모 증류 시도를 보고했으며 오픈AI는 관련 계정 정지와 가입·인프라 통제 강화, 조사 결과의 ��업 및 정부 공유로 대응했다고 밝혔습니다.