기부금 탈취·음란물 생성까지…알고리즘 타고 번지는 `AI 딥페이크 범죄` [특별기획 ①]

AI 요약

생성형 AI의 확산으로 딥페이크를 앞세운 사이버 폭력, 선거·금융시장 교란용 허위조작정보, 에이전트 AI의 악용 등 기술의 부작용이 빠르게 심화되고 있으며 AI의 진화 속도가 사회의 대응 능력을 앞질러 글로벌 공통의 과제가 됐습니다. <디지털데일리>는 한국언론진흥재단의 공익 목적 콘텐츠 기획으로 총 5회에 걸쳐 AI가 공동체에 던지는 위협을 진단하고 해외 주요국의 대응 사례와 'AI 기본법' 등 국내 법·제도 보강 과제를 통해 해법을 모색합니다. 글로벌 딥페이크 탐지기업 센시티는 노인·장애인·난치병 환자 등의 가상 인물을 내세운 동정심 유도 사기가 소셜미디어 알고리즘을 통해 확산되고 있으며 유명인 딥페이크의 절반가량이 한국 연예인을 도용하고 서비스형 딥페이크가 재난 등 사건을 악용해 장기전으로 확산되는 양상을 지적하며 피해자 구제를 위한 사전 대응 체계 마련을 촉구했습니다.