“AI가 맞다고 하던데”… 잘못된 정보로 민원

AI 요약

이달 초 서울의 한 소방서에 상가 복도에 쌓인 물건이 대피로를 막고 있다는 민원이 접수됐고, 민원인은 AI에 물어봤더니 처벌 대상이라고 답했다며 이의를 제기했습니다. 민원인이 근거로 삼은 AI는 2022년 개정 전 법령을 바탕으로 잘못된 환각 답변을 내놓았고, 담당 소방관은 관련 규정을 찾아 민원인에게 증명하기 위해 야근까지 했습니다. 한국연구재단 부설 정보통신기획평가원에 따르면 주요 AI 모델이 법률 분야 답변에서 환각을 감지하는 비율은 64%에 불과하며, 전문가들은 공공기관이 AI발 허위 정보 민원에 대응할 실무 매뉴얼을 마련해야 한다고 지적했습니다.