[동아광장/정소연]인간 전문가가 AI 답변의 검증 기계가 된 현실

AI 요약

대규모언어모델(LLM) 기반인 챗GPT, 클로드, 제미나이 등 AI의 접근성이 높아지면서 존재하지 않는 개념이나 허위정보, 변조된 판례 등을 그럴듯하게 제시한 답변을 법적 분쟁 서면·탄원서에 그대로 제출하는 사례가 늘고 있습니다. 이로 인해 없는 링크와 사건번호, 논문 등을 확인하느라 검증에 많은 시간이 소요되고 당사자들이 AI에 편향된 확신을 갖게 돼 설득이 어려워지며, 챗GPT 사용 관련 사례로 크래프톤의 2억5000만 달러짜리 해고 소송 패소 등이 발생했습니다. 저자는 환각을 줄일 수 있는 정확한 질의와 검증 교육이 시급하고 검증 책임과 비용 부담에 대한 제도적 논의가 필요하다고 지적합니다.