당신 AI 비서가 회사 기밀 빼돌리는 4가지 수법, 9배 빠른 탐지기가 잡는다

AI 요약

미국 캘리포니아대 샌디에이고(UC San Diego)와 노스캐롤라이나대 그린즈버러(UNC Greensboro) 공동 연구진은 2026년 5월 1일 arXiv에 발표한 연구에서 40억 파라미터급 LLM이 AI 에이전트를 노린 다단계 해킹의 85%를 통과시켰고, 알리바바의 Qwen3-4B는 1만 2천 건 시뮬레이션에서 공격의 15%만 차단해 F1 점수 0.26에 머물렀다고 보고했습니다. 연구진은 신용카드 사기 탐지 기법을 옮겨온 저지연 사기 탐지 레이어로 프롬프트·세션·도구 사용 순서 등 42개 신호를 XGBoost에 넣었을 때 전체 신호로 F1 0.81·차단율 94%를 기록했으며, 사기 영감 신호만으로도 F1 0.76·ASR 감소 87%를 달성했고 이 가벼운 탐지기는 같은 공격의 92%를 0.0046초 만에 차단했다고 보고했습니다.