[AI, 法을 배우다] ④ '유령 판례' 판사도 골머리…AI 오류 방지는 '과제'

AI 요약

법조계에서 생성형 인공지능(AI) 활용이 상용화되면서 존재하지 않는 판례를 제시하는 등 오류(환각) 사례가 잇따라 발생해 서울북부지법과 울산지법 등에서 허위 판례 제출 사례가 확인되었습니다. 이에 대법원, 대검찰청, 대한변호사협회 등은 규칙 개정 및 가이드라인 제정, 사법정보공개포털의 허위 사건번호 확인 기능 추가, 법관용 AI 가이드북 발간, 대검의 출처 기반 답변생성(RAG) 적용과 온프레미스 방식 시스템 구축 등 오류·정보유출 방지 대책을 마련하고 있습니다. 법률사무소와 변호사들은 여러 AI 툴을 교차 검증하고 국가법령정보시스템과 대조하는 등 검증 관행을 강화하며 최종적인 사실관계와 법리 확인 책임은 변호사에게 있다고 밝혔습니다.