AI가 찾은 단서, 법정에서도 통할까…'재현성·무결성'이 관건

AI 요약

인공지능(AI)을 악용한 범죄가 보이스피싱·딥페이크·사이버 공격 등으로 확산하는 가운데 수사기관도 AI를 활용해 통화 녹음과 기존 범죄자 음성을 비교하는 방식으로 2023년 보이스피싱 음성분석 모델로 3개 조직의 총책과 자금관리책 등 51명을 검거했고, 서울동부지검은 4월 흐릿한 CCTV의 시선과 얼굴 방향을 오픈소스 AI로 분석해 피해자 인지 여부와 범행 고의성을 보강하는 자료로 활용했습니다. AI가 원본을 보정·분석하는 과정에서 원본에 없던 정보가 추가되거나 같은 입력에서 다른 결과가 나올 수 있어 형사재판에서 증거능력을 어떻게 인정할지와 분석 과정의 검증 대상(수사관·개발자 등)을 정하는 문제가 남아 있습니다. 이재성 중앙대 AI학과 교수는 재현성 문제를, 최경진 한국인공지능법학회장은 증거 분석에 쓰는 AI의 무작위성 최소화를, 김명주 AI안전연구소장은 원본과 AI 처리본의 명확한 구분·보존 필요성을 지적했습니다.