구글 “악성 웹페이지가 AI 에이전트를 오염시킨다” 간접 프롬프트 인젝션 경고

AI 요약

구글 보안 연구팀이 커먼 크롤(Common Crawl) 저장소 분석 결과 공개 웹페이지에 숨겨진 명령어를 심어 기업용 AI 에이전트를 장악하는 '간접 프롬프트 인젝션' 공격이 확산되고 있다고 경고했습니다. 해당 명령어는 AI 에이전트가 페이지를 크롤링할 때 활성화되어 내부 데이터 유출 등 악성 지시를 실행하게 하고, 에이전트가 정상 자격증명을 사용하기 때문에 방화벽과 엔드포인트 탐지 같은 기존 보안 도구로는 탐지되지 않습니다. 구글은 권한이 제한된 소형 '정화' 모델로 외부 페이지를 먼저 처리해 숨겨진 명령어를 걸러낸 뒤 핵심 모델에 요약만 전달하는 이중 모델 검증, 제로트러스트 원칙에 따른 과도한 권한 차단, 의사결정 감사 이력 관리 등을 방어책으로 제안했습니다.