“AI가 공격 도구 넘어 공격 자체를 조율한다”...앤트로픽, 실제 AI 악용 사례 전격 공개

AI 요약

앤트로픽은 10일 공개한 'AI 악용 탐지 및 대응: 2026년 9월' 보고서를 통해 2025년 12월부터 2026년 8월까지 자사 AI '클로드' 계열 모델이 정찰부터 침투·데이터 탈취·분석에 이르기까지 공격 전 과정을 조율하는 '오케스트레이터'로 악용된 사례들을 공개했습니다. 보고서는 하이쿠(Haiku)·소네트(Sonnet)·오퍼스(Opus)가 악용됐고 최신 클로드 페이블(Fable)과 미토스(Mythos) 계열은 불법 증류 한 건을 제외하고 악용되지 않았으며, AI 에이전트들이 병렬로 작업을 수행해 과거보다 적은 인력과 짧은 시간에 대규모 공격을 실행했다고 분석했습니다. 구체 사례로 러시아 연계로 추정되는 GTG-20006은 AI로 도구 개발·인프라 확보·피싱·명령·데이터 탈취 등 상당 부분을 자동화하고 탐지 시 악성코드를 수정·재빌드해 재배포하는 자동화 루프를 운영했으며, 샤이니헌터스 계열은 취약점 탐지부터 접근·탈취를 수시간 만에 자동화하고 탈취한 API 키를 다른 공격에 수주간 재사용했다고 보고서는 전했습니다.