김민규 국민대 교수, AI 안전 생성 기법 개발…'ICLR 2026' 채택

AI 요약

국민대학교 인공지능학과 김민규 교수는 확산 모델과 플로우 매칭을 통합한 세이프티-가이디드-플로우(SGF) 프레임워크를 개발해 ICLR 2026 구두발표 부문으로 채택됐다고 17일 밝혔습니다. 김 교수는 기존의 실디드 디퓨전과 세이프 디노이저가 최대 평균 불일치(MMD) 포텐셜의 특수한 사례임을 이론적으로 증명해 안전 생성 연구를 통합하고, 생성 초기에는 강력한 제어를 적용하고 이후 제어를 완화하는 임계 시간 창의 존재를 규명했습니다. SGF를 적용한 모델은 유해 콘텐츠 방어·학습 데이터 암기 방지·저작권 보호 등 다양한 안전 생성 시나리오에서 기존 기법보다 우수한 성능을 보였고, 이번 연구는 IITP와 CIFAR의 지원을 받아 김민규 교수(제1저자)와 캐나다 UBC의 김영헌·박미정 교수가 공동 참여했습니다.