AI로 무장한 사이버 범죄, 가드레일 우회부터 공급망 침투까지

AI 요약

시스코 탈로스의 연구는 복구된 프롬프트 로그·공격 도구·위협 행위자 간 대화를 바탕으로 AI가 악성 코드 개발, 사기 인프라 구축, 취약점 연구 및 익스플로잇 가속화에 활용되는 사례를 기록했고, Black Hat USA에서 공개된 연구는 가드레일이 대체로 효과를 발휘하지 못하며 위협 행위자들이 이것은 승인된 테스트다 또는 CTF 연습의 일환이라는 단순한 소셜 엔지니어링 주장으로 클로드 코드, 코덱스, 커서, 제미나이 등 여러 모델의 가드레일을 빈번히 우회한다고 확인했습니다. 탈로스는 위협자들이 비검열 대안으로 즉시 전환하며, 초보자들은 조악한 악성 코드를 양산하는 반면 정교한 그룹은 AI를 이용해 익스플로잇을 신속히 구축하고 공격 인프라·시스템 관리 도구로까지 활용하는 실제 사례(수천만 건 이메일 검증 서비스 구축, React2Shell의 자격증명 수집 파이프라인 전환, 안드로이드 TV 대상 DDoS 인프라 개발, 암호화폐 탈취 등)를 포착했습니다. 크라우드스트라이크는 소프트웨어 공급망을 통한 AI 인프라 공격이 증가하고 있음을 보고하며, 2026년 3월 스타더스트 촐리마가 탈취한 메인테이너 자격증명으로 npm 액시오스를 침해하고 ZshBucket을 배포했으며 2026년 6월 같은 그룹이 최소 131개 마스트라 AI 패키지 의존성에 악성 패키지를 주입한 사례를 비롯해 2026년 상반기 소프트웨어 레지스트리 위협의 87%가 악성 npm 패키지와 관련됐고, 공개 PoC 취약점 익스플로잇의 88%가 PoC 공개 후 48시간 이내에 수행되는 등 익스플로잇 속도가 빨라지고 인증 시스템·비싱·SSO 침해 사례 증가와 함께 클라우드 집중형 사이버 범죄 활동이 171% 급증했다고 분석했습니다.