‘AI 속이는 적대적 공격 방어’…단국대 김선오 교수팀, AI 판단 신뢰성 향상 기술 개발

AI 요약

단국대는 김선오 교수(AI융합대학 컴퓨터공학과)팀과 엄대호 교수(서울시립대)가 공동으로 인공지능의 신뢰도를 저하시키는 적대적 공격을 효과적으로 방어하는 기술을 개발했다고 20일 밝혔습니다. 연구팀은 MAC(Multi-View Guided Adaptive Counterattack) 기법을 제안해 여러 이미지를 동시에 분석해 변형 및 오염 정도를 추정하고 이에 맞춰 결과를 보정하며, 기존 모델을 재학습하지 않고 추론 단계에서 적용 가능한 것이 특징이라고 설명했습니다. 해당 기술은 추가 학습 비용 없이 추론 속도와 메모리 효율성을 확보하면서 다양한 데이터셋과 공격 환경에서 성능을 검증했으며 자율주행, 보안, 의료영상 등 분야에서 활용될 것으로 기대된다고 밝혔습니다.