'삭제한 민감정보 AI로 되살아나지 않는다'...머신 언러닝 기술 개발

AI 요약

울산과학기술원(UNIST) 인공지능대학원 윤성환 교수팀과 산업공학과 박새롬 교수팀은 삭제한 민감 개인정보나 저작권 위반 데이터가 AI에서 다시 살아나는 것을 막는 머신 언러닝 기술 스포터를 개발했습니다. 스포터는 삭제 대상과 닮은 정상 정보의 인식 성능은 유지하면서 삭제 대상 사진들에서 공통점을 찾아내는 능력만 없애 공격자가 몇 장의 사진으로 인식 기준을 되살리는 것을 방지합니다. CIFAR-10 실험에서 스포터는 삭제 대상 인식 정확도를 0%로 낮추고 재학습 공격 뒤에도 0.24%로 억제했으며 삭제하지 않은 나머지 범주의 인식 정확도는 99.96%를 유지한 반면 기존 언러닝 기법은 재학습 공격 뒤 삭제 대상 인식 정확도가 71.10%에서 최대 99.98%까지 되살아났습니다.