중국 ‘AI 베끼기’ 의혹 또…오픈AI “문샷, 추론정보 추출 시도”

AI 요약

오픈AI는 문샷AI와 연계된 계정들이 GPT 모델의 보호된 추론 정보를 빼내려 한 정황을 포착했다고 밝혔으며, 관련 활동은 7월 1일 시작되어 7월 24~25일 이틀 동안 4000명 이상의 이용자가 추론 정보 추출 패턴과 일치하는 요청 약 1만6000건을 보냈고, 추가 조사에서 1만5000명 이상의 이용자로 구성된 관련 활동 집단을 확인해 7월 28일까지 이를 차단했습니다. 이번 사건은 한 모델의 출력값과 추론 과정을 체계적으로 활용해 다른 모델을 학습·복제·개선하려는 적대적 증류 시도로 판단되며, 해당 계정들은 한 대화에서 암호화된 추론 정보를 복사해 다른 대화에 입력해 모델에 숨겨진 추론 내용을 다시 풀어쓰도록 요청했으나 오픈AI는 암호화 자체를 깨거나 저장된 이용자 대화에 직접 접근한 정황은 없었다고 설명했습니다. 오픈AI는 관련 계정을 정지하거나 제한하고 가입·인프라 통제를 강화했으며 프런티어 모델 포럼을 통해 다른 AI 기업들과 조사 결과를 공유하고 정부 당국에도 관련 내용을 전달했으며, 이번 우려는 이용약관 위반에 관한 것이라고 전했습니다.