[안광섭의 AI 진테제] 판사를 AI가 대체한다고? 굉장한 착각

AI 요약

법원행정처가 2024년 2월 '법관을 위한 AI 가이드북'을 배포하고 같은 달 대법원이 '재판지원 AI 시스템'의 시범 운영을 시작하는 등 AI의 사법 도입이 진행되고 있습니다. 그러나 AI가 공정하다는 전제는 편향, 아첨, 프롬프트 인젝션의 세 가지 구조적 한계 때문에 검증되지 않았는데, 편향 사례로는 2024년 2월 구글 제미나이의 인물 이미지 논란과 2016년 COMPAS의 인종별 오분류, 아첨 현상으로는 2025년 4월 GPT-4o의 롤백과 2026년 3월 마이라 청 연구팀의 분석 결과, 보안 취약성으로는 OWASP의 2025년 AI 위협 1위 지적과 공격 성공률 50~84%, 2025년 6월 마이크로소프트 365 코파일럿의 제로클릭 취약점 및 2026년 2월 OpenAI의 완전 패치 불가 인정이 있습니다. 이 때문에 재판 기록과 증거를 다루는 사법 시스템에 AI를 도입하면 AI가 확증 편향을 증폭하거나 제출 문서에 숨겨진 프롬프트로 법률 분석이 왜곡되는 등 현실적 위험이 존재합니다.