“AI를 속이는 적대적 공격 탐지해 보정” 단국대 김선오 교수팀, AI 판단 신뢰성 높이는 기술 개발

AI 요약

단국대 김선오 교수팀이 엄대호 교수와 공동으로 인공지능(AI)의 신뢰도를 저하시키는 적대적 공격(Adversarial Attack)을 효과적으로 방어하는 기술인 MAC(Multi-View Guided Adaptive Counterattack)을 개발했습니다. MAC는 여러 이미지를 동시에 분석해 변형 및 오염 정도를 추정하고 이에 맞춰 결과를 보정하는 방식이며, 기존 모델을 재학습하지 않고 추론 단계에서 적용돼 추가 학습 비용 없이도 추론 속도와 메모리 효율성을 확보했고 다양한 데이터셋과 공격 환경에서 성능을 검증했습니다. 이번 연구는 IEEE/CVF Conference on Computer Vision and Pattern Recognition(CVPR)에 지난 2월 채택됐으며 오는 6월 학술대회에서 발표될 예정이고 논문 제목은 When CLIP Sees More, It Fights Back Harder: Multi-View Guided Adaptive Counterattacks for Test-Time Adversarial Robustness입니다.