"눈으로 본 것 더는 못 믿어…AI 탓에 100년 신뢰체계 붕괴"

AI 요약

스탠퍼드대 인간중심AI연구소(HAI)의 3차 보고서 'AI의 대중화: 규모 확장 시대와 생성 AI의 부상'은 AI로 생성된 미디어가 진짜 기록물과 구별하기 어려워지며 딥페이크가 선거 개입과 아동성착취자료(CSAM) 등 해로운 자료 제작에 폭넓게 악용되고 있다고 평가했습니다. 보고서는 당사자 동의 없이 제작된 성적 딥페이크(NCII)가 2023년부터 2025년까지 2년 만에 1,600% 폭증했고 군사용 AI도 급속히 확산되어 실전에서 표적선정 시스템이 산업적 규모로 도입되는 등 전쟁 양상을 바꿨다고 진단했습니다. 또한 미국·중국의 경쟁 속에서 규제 논의가 파편화되고 있어 정부와 산업계의 명확한 검증과 감시가 필요하다고 제언했습니다.