숭실대 김도윤 학부연구생, AI 에이전트 보안 연구 'EMNLP 2026' 채택

AI 요약

숭실대학교는 김도윤 학부연구생이 제1저자, 김찬우 학부연구생이 공동저자로 참여한 논문 EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents가 자연어처리(NLP) 분야 국제학술대회 EMNLP 2026 메인 컨퍼런스에 채택됐다고 밝혔다. 논문은 자기진화형 AI 에이전트의 보안 취약점을 분석하고 이를 평가하는 레드티밍 방법을 제안했으며 악의적 행동이 정상적 경험으로 학습돼 스킬로 저장·재활용될 수 있는 새로운 위협을 EvoSkill Injection으로 정의했다. 연구진은 이 취약점을 분석하기 위해 다중 에이전트 기반 레드티밍 프레임워크 SARGE를 제안했고 AI 에이전트의 안전성 검증에서는 입력·출력뿐 아니라 스킬의 생성·검증·저장·검색·재사용 등 자기진화 과정 전반을 살펴야 한다고 제시했다.