[단독]AI '생각'까지 빼갔다…中 기업 '불법 증류' 수법 드러나

AI 요약

중국 인공지능(AI) 기업들이 미국 AI 모델의 최종 답변뿐 아니라 외부에 공개되지 않은 내부 추론 과정(CoT)까지 추출해 학습에 활용한 정황이 확인됐습니다. 튀빙겐대학·막스플랑크 연구소·MATS 리서치·Snyk 소속 연구진은 암호화된 추론 정보를 다른 세션이나 모델에 재사용해 원래의 내부 추론을 복원할 수 있는 취약점을 실험으로 확인했고, 앤트로픽은 문샷AI·딥시크·알리바바·샤오미·즈푸AI·센스타임·미니맥스 등 중국 소재 7개 기업 연구소의 무단 증류 공격을 적발해 알리바바 1억5100만 건, 문샷AI 2300만 건, 딥시크 1210만 건, 즈푸AI 340만 건 이상의 관련 공격을 관측했다고 밝혔습니다. 앤트로픽은 문샷AI가 클로드의 암호화된 사고과정을 저장한 뒤 새로운 세션에 재주입해 원래의 내부 추론을 복원하는 크로스 세션 리플레이 기법을 사용했다고 밝혔으며, 익명의 중국 업계 폭로 문서에는 즈푸AI(GLM)가 지난 4~5월 암호화된 CoT를 먼저 풀어 방법과 데이터를 다른 업체들과 공유했다는 주장이 담겼습니다.