‘AI 속이는 적대적 공격 방어’…단국대 김선오 교수팀, AI 판단 신뢰성 향상 기술 개발

AI 요약

단국대학교는 김선오 교수(단국대 AI융합대학 컴퓨터공학과)팀과 엄대호 교수(서울시립대)가 공동으로 AI의 신뢰도를 저하시키는 적대적 공격(Adversarial Attack)을 효과적으로 방어하는 기술을 개발했다고 20일 밝혔습니다. 연구팀은 여러 이미지를 동시에 분석해 변형 및 오염 정도를 추정하고 결과를 보정하는 MAC(Multi-View Guided Adaptive Counterattack) 기법을 제안했으며, 이 기술은 기존 모델을 재학습하지 않고 추론 단계에서 적용돼 추론 속도와 메모리 효율성을 확보한다고 설명했습니다. 연구팀은 다양한 데이터셋과 공격 환경에서 성능을 검증했으며 자율주행, 보안, 의료영상 등 분야에서 활용될 것으로 기대된다고 전했습니다.