SNS 점령한 ’AI 과일 막장극’…폭력·테러 조장 우려 확산

AI 요약

현지 시간 11일 스카이뉴스는 테러방지 세계인터넷포럼 산하 학술 연구 기관인 글로벌네트워크가 틱톡에서 유행하는 'AI 과일 드라마' 가운데 폭력적이고 극단적인 콘텐츠를 분석한 보고서를 발표했다고 보도했습니다. 연구진은 생성형 AI로 제작된 의인화된 과일·채소 영상이 신체 훼손·고문 등 잔혹한 장면과 일부 테러 단체를 연상시키는 해시태그를 포함해 미성년자가 폭력적·테러 관련 콘텐츠에 쉽게 노출될 위험이 있고 폭력과 극단주의를 정상화할 우려가 있다고 지적했습니다. 연구진은 모방된 폭력적 콘텐츠를 효율적으로 식별하고 틱톡 등 플랫폼에서 이러한 AI 생성 콘텐츠의 확산을 제한하는 대응책을 개발해야 한다고 촉구했습니다.