SNS 점령한 'AI 과일 막장극'…폭력·테러 조장 우려 확산

AI 요약

테러방지 세계인터넷포럼 산하 학술 연구 기관인 글로벌네트워크는 현지 시간 11일 틱톡 내 'AI 과일 드라마' 가운데 폭력적이고 극단적인 콘텐츠를 분석한 보고서를 발표했으며, 이들 영상이 미성년자를 폭력적·테러 관련 내용에 쉽게 노출시킨다고 경고했습니다. 해당 콘텐츠는 의인화된 음식으로 자극적 서사를 생성형 AI로 제작해 플랫폼의 검열을 우회하기 쉬우며 신체 훼손·고문 등 잔혹한 장면과 특정 범죄나 극단주의를 연상시키는 연출, 테러 지지 해시태그가 포함된 사례가 발견되었습니다. 연구진은 모방된 폭력적 콘텐츠를 효율적으로 식별하고 틱톡 등 플랫폼에서 이러한 AI 생성 콘텐츠의 확산을 제한하는 대응책 마련을 촉구했습니다.