노골적인 표현 없어도… AI로 온라인 그루밍 찾아내 '차단' - 머니투데이

AI 요약

중앙디성센터의 AI 기반 아동·청소년 온라인 성착취 탐지·신고 시스템은 SNS와 온라인 플랫폼의 게시물을 24시간 자동으로 수집·분석해 아동 성착취물, 딥페이크 영상, 온라인 그루밍 등을 탐지했으며 한 게시물은 미성년자를 의미하는 단어와 성적 해시태그로 온라인 그루밍 위험도를 86%로 판단했습니다. 올해 4월부터 운영을 시작해 현재 14개 플랫폼에서 하루 약 5000건을 탐지하고 AI가 성착취물 가능성 70% 이상 또는 아동 성착취물 가능성 60% 이상으로 분류하면 직원에게 자동 배정되어 직원이 최종판단 후 플랫폼에 삭제를 요청합니다. AI 도입으로 종사자 1인당 하루 처리건수는 지난해 평균 20.8건에서 올해 4~9월 평균 202.1건으로 약 9.7배 증가했고, 중앙디성센터는 내년부터 모니터링을 139개 플랫폼으로 확대하고 대화의 흐름과 맥락을 분석해 온라인 그루밍을 식별하는 기능을 추가할 계획이라고 김미순 센터장이 말했습니다.