中 AI, 앤트로픽 AI로 학습… 수천개 가짜계정 증류 시도

AI 요약

문샷AI가 자사 AI 모델 ‘키미’ 이용자들의 질문을 중개업체가 만든 가짜 앤트로픽 계정을 통해 미국 앤트로픽의 AI ‘클로드’로 몰래 보내 답변을 받아 자사 학습에 활용한 것으로 드러났습니다. 앤트로픽이 10일 공개한 보고서에 따르면 문샷은 지난 5∼7월 수천 개의 가짜 계정을 동원해 클로드와 2300만 건 이상 교신했고, 최근 7개월간 비슷한 시도를 한 중국 소재 AI 연구소는 모두 7곳이며 이용자들은 자신들의 질문과 정보가 클로드에 전달된 사실을 알지 못했다고 합니다. 같은 보고서는 클로드가 중국의 SNS 감시 대상 선정, 서아프리카 말리의 이동통신망 감청 플랫폼 개발, 중국 연구자의 조류인플루엔자 변이 연구 지원 등 국가 감시와 위험한 생물학 연구에 악용된 사례도 있다고 밝혔습니다.