‘ㅈㄱㅁㄴ’ 콕 집어냈다…AI 도입 6개월, 성착취물 삭제 10배 껑충

AI 요약

중앙디성센터가 구축한 인공지능(AI) 기반 아동·청소년 온라인 성착취 탐지·신고 시스템 도입 이후 종사자 1명이 하루 평균 처리하는 삭제 요청 건수가 20.8건에서 202.1건으로 9.7배 늘었고, 지난해 한 해 삭제지원한 4만5438건과 비교해 도입 뒤인 지난 4월∼9월 삭제 지원 건수는 만6210건으로 2배 이상 늘었습니다. 다만 성착취물은 주로 해외 사이트에 퍼져 유해사이트의 79.8%(1만8875개)가 미국에 서버를 두고 있어 중앙디성센터는 미국 국립실종학대아동방지센터(NCMEC)와 클라우드플레어와 API로 연동해 클라우드플레어를 통해 2만5156건의 삭제를 진행했고 NCMEC 사이버팁라인을 통해 미국 서버 기반 사이트 2곳의 성착취물 95건 삭제를 지원했습니다. 삭제 요청 가운데 약 70% 정도만 삭제되며 삭제 소요 시간은 하루에서 한 달까지 건마다 다르고, 중앙디성센터는 내년까지 AI 탐지 대상 플랫폼을 확대하고 대화의 흐름과 맥락을 분석해 온라인 그루밍 등 성착취 유인 행위까지 찾아내는 기술을 개발할 계획입니다.