딥페이크가 확산되면서, 인공지능들이 이에 맞서 '이열치열' 경쟁을 벌이고 있다.

AI 요약

인공지능이 이미지와 음성을 높은 정확도로 재현하면서 이전의 부자연스러운 단서로는 딥페이크를 식별하기 어려워졌고, 언론인 가비 델 발레가 단 9초 분량의 오디오로 거의 완벽한 가짜 음성을 만들어낸 실험이 소개되었습니다. 사이버 범죄자들은 소셜 미디어의 공개 데이터를 수집해 직원 음성 데이터베이스를 구축하고 임원이나 동료를 사칭해 송금을 요구하는 등 조직적 사기에 딥페이크를 악용하며, 딥페이크 사기 하나당 기업은 수십만 달러의 손실을 입을 수 있습니다. 보안 스타트업들은 인공지능을 이용한 탐지(예: 선생-제자 모델)와 콘텐츠 출처 검증 같은 대응책을 개발하고 있으나 딥페이크 기술의 고도화에 맞춰 탐지 시스템도 끊임없이 업그레이드되어야 하며, 가짜 생성 비용은 낮아지는 반면 탐지에는 더 많은 자원이 필요해 장기적으로 탐지 도구가 브라우저나 디지털 플랫폼에 기본 보호 계층으로 통합될 것으로 예측됩니다.