성착취물 탐지에 AI 도입하니…처리량 10배·초성 표현도 잡아내

AI 요약

한국여성인권진흥원 중앙디지털성범죄피해자지원센터는 올해 4월 인공지능 기반 아동·청소년 온라인 성착취물 탐지·신고 시스템을 도입해 시연하고 운영성과를 공개했습니다. AI는 센터가 구축한 성착취물 키워드와 탐지·신고 매뉴얼, 사진·게시글 4만여 건을 학습해 초성 은어(예: ㅈㄱㅁㄴ)까지 식별하고 아동·청소년 대상 여부와 신규성 등을 분석한 뒤 종사자가 재검토해 신고 여부를 결정하도록 했습니다. 도입 이후 담당자 1인당 하루 처리량이 약 10배로 늘었고, 올해 4월부터 9월까지 삭제를 지원한 성착취물은 총 9만 6천210건으로 작년(4만 5천438건)보다 112% 증가했으며 디지털성범죄 피해자는 2022년 7천979명에서 2023년 8천983명, 2024년 1만 305명, 작년 1만 637명으로 꾸준히 증가했습니다.