[동아광장/정소연]인간 전문가가 AI 답변의 검증 기계가 된 현실

AI 요약

LLM 기반 AI 서비스(챗GPT, 클로드, 제미나이 등)의 접근성 향상으로 AI가 법적 분쟁에 그대로 제출되거나 이용되는 사례가 늘어나면서 가짜 판례와 허위 근거가 그럴듯하게 생성되고 있습니다. 존재하지 않는 사건번호·논문·전문가 발언 등을 확인하느라 단순 검증에 시간이 소진되고 당사자 설득과 민원 대응에 드는 비용이 커지며, 크래프톤의 해고 소송 패소(2억5000만 달러·약 3700억 원) 사례처럼 실질적 피해가 발생하기도 합니다. 기사에서는 언어모델의 태생적 한계와 환각 문제를 줄이기 위한 정확하고 구체적인 질문·검증 교육과 검증 책임 및 비용 부담에 대한 제도적 논의가 시급하다고 지적했습니다.