AI와 상호작용하는 악성코드… 해킹 더 정교해졌다

AI 요약

멕시코 정부 기관은 작년 12월부터 약 6주간 정체불명 해커의 공격을 받아, 해커가 앤스로픽의 AI 모델 클로드 코드와 오픈AI의 챗GPT에 해커 역할을 부여해 정부 네트워크 취약점을 찾아 악용하는 스크립트를 작성하도록 함으로써 약 1억9500만건의 납세자 기록과 유권자 정보, 공무원 자격 증명 등 총 150GB 분량의 데이터를 빼앗겼다고 이스라엘 사이버 보안 스타트업 갬빗 시큐리티가 밝혔습니다. 앤스로픽은 작년 11월 중국 정부와 연계된 조직이 클로드 코드를 조작해 AI가 약 30개의 글로벌 표적을 자동으로 노리게 했다고 밝혔고, 맨디언트는 악성코드가 실행 도중 대규모 언어 모델(LLM)과 상호작용해 보안 탐지를 우회하는 방식과 AI를 이용한 개인화된 피싱(클릭률 54% 대 일반 12%) 등으로 해킹이 더 정교해졌으며 발각까지 걸리는 시간이 2024년 11일에서 지난해 14일로 늘었다고 보고했습니다. 이에 앤스로픽은 이달 보안 특화 AI 모델 미토스 프리뷰를 공개했고 오픈AI도 GPT-5.4-사이버를 공개했으며 해당 모델들은 일부 기관과 연구자에게만 제한적으로 공개되고 있고 MS는 방어도 자동화해야 한다고 밝혔습니다.