[서초동 MSG] AI ‘환각’이 만든 허위 판례…변호사 검증 책임 논란

AI 요약

생성형 AI 확산으로 법률 실무에서 활용 사례가 늘고 있으나 검증되지 않은 정보 사용에 따른 부작용 우려가 커지고 있으며 특히 허위 판례 인용 사례가 문제로 지적되고 있습니다. 최근 한 재판부는 피고인 측이 제출한 서면에 존재하지 않는 대법원 판례가 인용된 사실을 확인하고 인용 경위 설명을 요구하는 석명준비명령을 내리며 해당 부분을 수정해 재제출하라고 지시하고 자료 작성 과정의 검증 책임을 강조했습니다. 해외에서도 2023년 미국 변호사 스티븐 슈워츠가 챗GPT로 작성한 서면에 존재하지 않는 판례를 인용해 벌금을 부과받는 사례가 있었고 전문가들은 AI가 문서 작성에 유용하더라도 사실관계와 법리 검증은 전문가의 책임이라고 지적했습니다.