[동아시론/고학수]AI가 흔든 ‘증거의 신뢰성’… 검증 체계 새로 짜야

AI 요약

인공지능으로 음성과 문자 등을 손쉽게 합성·조작할 수 있게 되면서 수사 당국은 배우 김수현 씨와 고 김새론 씨 관련 사건에서 의혹 근거로 제시된 음성 녹취가 AI로 합성·조작된 정황이 있다고 판단했고, 가로세로연구소 김세의 대표가 증거 조작 및 허위 유포 혐의로 구속되었습니다. 이로 인해 녹취 파일이나 문자 캡처가 곧바로 사실을 증명한다는 기존의 상식이 통하지 않게 되었고, 소셜미디어의 추천 알고리즘이 자극적·논쟁적 내용을 확산시켜 조작된 정보가 빠르게 여론을 형성하고 민주적 의사 형성의 기반을 흔들 수 있으며, 당사자는 허위가 드러나더라도 회복 불가능한 피해를 입을 가능성이 높습니다. 해결책으로는 출처와 편집 이력을 확인할 수 있는 기술 개발·확산(예: 콘텐츠 자격증명), 워터마킹과 AI 생성물 탐지 기술 고도화, 수사·재판 과정에서 디지털 콘텐츠 진실성 검증 절차와 관련 전문기관 분석 역량의 강화, 그리고 조작 정보 유통 생태계와 유인 체계 분석을 통한 제도적 대응 마련 등이 제기되고 있습니다.