[들어보니] 해킹보다 무섭다…AI 허위정보 시대 경고

AI 요약

지난해 에이럽 홍콩 지사에서 딥페이크로 조작된 화상회의 영상에 속아 한 직원이 약 2천500만달러를 사기범 계좌로 송금하는 초대형 금융사기 사건이 발생했습니다. 세계경제포럼의 2025 글로벌 리스크 보고서에서는 전문가 약 1천500명이 향후 2년 내 가장 심각한 위협으로 허위·조작정보를 지목했으며, 디지털 허위정보로 인한 경제적 손실은 2019년 기준 780억달러였고 기업들의 대응 비용은 2028년까지 300억달러를 넘어설 것으로 전망됐습니다. 가트너의 데이브 애런 수석 애널리스트는 생성형 AI와 에이전틱 AI가 딥페이크 생산과 유포를 자동화해 100만명에게도 조작 캠페인을 퍼뜨릴 수 있고 모델 포이즈닝 등 새로운 위협이 등장했다고 지적하며 트러스트옵스 체계와 사전 교육인 프리벙킹을 가장 효과적인 대응 방식으로 제시했습니다.