고려대 컴퓨터학과 교수 연구팀, 'AI 검색 조작' 보안 취약점 규명

AI 요약

3일 고려대에 따르면 이번 연구는 지난달 24일부터 6일간 헝가리 부다페스트에서 열린 자연어처리 분야 국제학술대회 EMNLP 2026에 채택됐습니다. 연구팀은 시스템 내부에 접근하지 않고도 Agentic RAG가 외부에 게시한 조작 문서를 차례대로 검색하도록 유도하는 공격 기법 키드냅RAG(KidnapRAG)을 제안했으며, 이 기법은 검색 단계마다 조작 문서가 개입해 판단 방향을 점진적으로 바꾸어 최종적으로 공격자가 의도한 답변을 생성하게 하여 최대 78%의 공격 성공률을 기록했습니다. 연구팀은 이번 연구가 Agentic RAG의 검색·추론 경로 왜곡을 점검하고 탐지·차단하는 보안 기술을 설계해 AI 에이전트의 안전성을 높이는 데 쓰일 것으로 기대한다고 밝혔습니다.