단국대 김선오 교수팀, AI 판단 신뢰성 높이는 ‘MAC 기법’ 개발

AI 요약

단국대는 김선오 교수(AI융합대학 컴퓨터공학과)팀이 엄대호 교수(서울시립대)와 공동으로 인공지능의 신뢰도를 저하시키는 적대적 공격을 효과적으로 방어하는 기술을 개발했다고 20일 밝혔습니다. MAC(Multi-View Guided Adaptive Counterattack) 기법은 하나의 입력에 의존하지 않고 여러 이미지를 동시에 분석해 변형 및 오염 정도를 추정한 뒤 결과를 보정하며, 기존 모델을 재학습하지 않고 추론 단계에서 적용돼 추가 학습 비용 없이 추론 속도와 메모리 효율성을 확보한다고 연구팀은 설명했습니다. 연구팀은 다양한 데이터셋과 공격 환경에서 성능을 검증했으며 이번 연구는 CVPR에 지난 2월 채택돼 오는 6월 학술대회에서 발표될 예정입니다.