AI 슬롭, 딥페이크… 쓰레기통에 들어간 AI 창작물들 [창작주체 AI 두 얼굴➁]

AI 요약

생성형 인공지능(AI)은 창작의 문턱을 낮춰 고품질 콘텐츠를 누구나 만들 수 있게 했지만 딥페이크와 AI 슬롭 등 어두운 문제도 가져왔습니다. 경찰청 국가수사본부에 따르면 2024년 11월부터 지난해 10월까지 집중단속에서 사이버 성폭력 4413건을 적발했고 그중 딥페이크를 활용한 허위영상물 범죄가 35.2%(1553건)로 가장 비중이 컸으며 10대 피의자의 딥페이크 범죄는 2022년 52건에서 2024년 548건으로 늘었고, 지난 1월 22일부터 시행된 인공지능 발전과 신뢰 기반 조성 등에 관한 법률(일명 AI 기본법)은 AI로 제작한 사진·음성·영상에 표시 의무와 위반 시 최대 3000만원 과태료를 규정했으나 1년간 계도 기간으로 내년 1월까지는 제재하지 않습니다. 메리엄 웹스터가 AI 슬롭을 주목한 가운데 캡윙 조사에서는 한국의 AI 슬롭 채널 조회수가 84억5000만회로 20개국 중 1위를 기록했고 상위 10개 채널 중 4개가 한국 채널로 추정돼 총 67억3000만회를 차지했으며 플랫폼들은 일부 채널을 삭제(구독자 3500만·누적조회수 47억)하는 등 정화 노력을 벌이고 있습니다.