UNIST, 정상 정보 보존하고 삭제 정보 복구 막는 머신 언러닝 기술 개발

AI 요약

UNIST 인공지능대학원 윤성환 교수팀과 산업공학과 박새롬 교수팀은 지워야 할 정보와 닮은 정상 정보의 인식 성능은 보호하면서 삭제 대상 사진들의 공통 특징만 선택적으로 제거해 재학습 공격으로 되살아나는 것을 막는 머신 언러닝 기술 스포터(Spotter)를 개발했다고 21일 밝혔습니다. CIFAR-10 실험에서 스포터는 삭제 대상의 인식 정확도를 0%로 낮추고 사진 5장을 이용한 재학습 공격 뒤에도 0.24%로 억제했으며 삭제하지 않은 나머지 범주에 대해서는 인식 정확도 99.96%를 유지한 반면 기존 언러닝 기술은 같은 공격 뒤 정확도가 71.10%에서 최대 99.98%까지 되살아났습니다. 스포터는 타이니이미지넷과 CASIA-WebFace에서도 유사한 성능을 확인했고 플러그인 형태로 기존 언러닝 기법에 결합해 얼굴 인식과 유해 콘텐츠 삭제 등 개인정보 보호에 활용될 수 있으며 이번 연구는 ICML에 채택되었습니다.