키미에 물었는데 클로드가 답했다?…앤트로픽 "中 AI기업 '수상한 2300만건'"

AI 요약

앤트로픽은 10일(현지시간) 공개한 보고서에서 문샷AI 등 중국 AI 기업들이 해외에서 운영되는 환승역(transfer stations)을 통해 가짜 신원과 도난·위조 신용카드, 탈취된 API 키 등을 이용해 자사 생성형 AI 모델 '클로드'에 대규모 질의를 전달해 증류를 시도한 정황을 확인했다고 밝혔습니다. 특히 문샷AI는 수천개의 계정을 활용해 지난 5월부터 7월까지 클로드와 2천300만건 이상의 교신을 주고받은 것으로 앤트로픽은 추정했으며, 이 과정에서 일부 이용자 데이터가 다른 AI 모델로 전달된 사례와 조류인플루엔자 변형 등 민감 분야의 악용 사례도 보고서에 포함됐습니다. 보고서는 중국 소재 연구기관 7곳의 유사 시도와 창사 기반 해킹 조직의 클로드 활용 사례(약 50개 기관 표적, 한 달 동안 네트워크 장비 공격에서 약 10여개의 제로데이 취약점 후보 발견), 또 미국 정부의 제재·블랙리스트 경고와 AI 서비스의 보안 체계 강화 필요성을 지적했습니다.