성착취물 탐지에 AI 도입했더니…삭제 지원 9.7배 늘어

AI 요약

성평등가족부는 지난 4월 AI 성착취 탐지·신고 시스템을 도입한 결과 종사자 1인당 하루 평균 삭제 요청 처리 건수가 도입 전 일평균 20.8건에서 도입 후 202건으로 9.7배 증가했고, 지난 6개월 동안 삭제 지원 건수는 9만6000여 건으로 늘었다고 10일 밝혔습니다. AI 시스템은 SNS와 랜덤채팅앱 등에서 24시간 자동으로 아동·청소년 성착취물과 유인정보를 수집·분석해 담당자 검토를 거쳐 유포 현황 모니터링과 삭제 요청을 진행하며, AI 탐지로 종사자의 직접 노출 빈도가 감소해 심리적 부담이 완화되었습니다. 성평등가족부는 내년까지 AI 고도화와 탐지 플랫폼 확대, 중앙디성센터의 핵심 기능을 탑재한 설치형 삭제 지원 소프트웨어 보급 및 지역센터 확대를 추진하고 있으며, API 연계로 NCMEC를 통해 95건, 클라우드플레어를 통해 2만5156건의 삭제를 진행했다고 밝혔습니다