가짜 판례에 프롬프트까지 그대로…판사 80% “AI 환각 경험했다”

AI 요약

사법절차에서 AI 활용이 늘면서 재판에 존재하지 않는 가짜 판례나 법령을 제출하는 사례가 속출하고 있으며, 법원행정처가 10월 6~16일 전국 각급 법원 법관 360명을 대상으로 조사한 결과 약 80%가 허위 또는 부존재 판례 인용 사례를 경험했다고 답했습니다. 구체적으로 부존재 판례 인용 196명(80.7%), 허위 판례 인용 159명(65.4%) 등이었고, 가짜 대법원 판결서 형식을 차용한 허위 판결문이나 검색되지 않는 대법원 사건번호를 기재한 유령 판례, AI 프롬프트가 그대로 포함된 서면 등이 보고되었으며 제출 주체로는 당사자 본인 164명(69.5%)과 변호사 136명(57.6%)이 있었습니다. 법관의 91.7%가 제도적 대응이 필요하다고 답했고 법원행정처는 과태료·징계 등 제재 근거 마련과 전자소송 사이트의 AI 유의사항 안내 추가 등을 추진할 것이라고 밝혔습니다.