AI 감시에 맞선 인간… AI가 인식 못하는 ‘디지털 투명 망토’ 등장

AI 요약

미국 메릴랜드대 톰 골드스타인 교수 연구팀이 개발한 노리코그니션(noRecognition) 프로젝트는 소용돌이 등 특수 무늬 옷과 차량 위장을 통해 AI 기반 사람·차량 탐지를 교란해 같은 사람을 AI가 사람 없음으로 판단하게 만드는 시연을 공개했습니다. 연구팀은 1년간 11개 상용 컴퓨터 비전 모델을 상대로 3170만회 시험을 진행했고, 미국 IT 매체 테크크런치는 9일 라스베이거스에서 열린 블랙햇·데프콘 행사에서 이 프로젝트를 공개했다고 보도했습니다. 다만 AI 모델마다 중요 특징이 달라 조명·각도·옷의 주름에 따라 인식 효과가 달라지고, 걸음걸이·열 영상·휴대전화 위치 등 다른 분석 수단을 결합하면 추적을 피하기 어렵다고 보도했으며 권헌영 고려대 정보보호대학원 교수는 공개된 특수 무늬를 AI에 학습시키면 AI가 이를 다시 탐지할 수 있다고 지적했습니다.