AI 스스로 취약점 찾아 ‘안전한 생성형 AI’ 만든다

AI 요약

KAIST는 김준모 전기및전자공학부 교수 연구팀이 생성형 AI를 의도적으로 공격해 취약점을 찾아내는 새로운 프레임워크 ‘스테이블-지플로우넷’을 개발했다고 30일 밝혔습니다. 연구팀은 대조 궤적 균형 기법과 노이즈 경사 가지치기, 유창성 안정화 장치를 도입해 기존 대비 7배 많은 공격 유형을 발굴하면서 92%의 공격 성공률을 유지했으며, 이 연구는 ICML 2026에서 상위 2.2%에 해당하는 스포트라이트 논문으로 선정됐습니다.