네이버 AI 안전성 연구, ICML 스포트라이트 선정

AI 요약

네이버 AI랩과 KAIST 공동연구진은 ‘스테이블 지플로우넷: 대조적 궤적 균형 기반의 다양하고 안정적인 LLM 레드티밍 기술’ 논문으로 ICML 2026 메인 컨퍼런스 스포트라이트 세션에 선정됐으며, ICML은 올해 2만3918편 가운데 6352편이 채택되고 스포트라이트는 536편으로 전체의 약 2.2% 수준입니다. 연구는 배포 전 LLM의 취약점을 자동으로 찾아내는 레드티밍 기술로, 기존 지플로우넷 기반 방식의 학습 불안정성과 유사한 공격 반복 생성 문제를 개선해 고유 공격 유형을 기존 대비 약 7배로 늘리면서도 약 92% 수준의 공격 성공률을 유지했습니다. 네이버는 ICML 2026에서 네이버 AI랩뿐 아니라 네이버클라우드와 네이버랩스의 연구 성과와 데모를 소개했으며, 네이버랩스는 KAIST·서울대 AI연구원 등이 참여한 ‘서울 월드 모델’을 선보였습니다.