“내 취향보다 AI가 추천한 상품만 반복된다”... UNIST, 추천 AI의 편향·환각 증폭 규명

AI 요약

UNIST 인공지능대학원 이연창 교수팀은 LLM 기반 추천시스템에서 발생하는 편향과 환각의 생성·누적을 추적하는 진단 도구 에코트레이스(EchoTrace)를 개발했다고 발표했습니다. 분석 결과 LLM이 직접 추천할 경우 영화 4.07%, 도서 7.40%, 가게 13.14%가 실제 존재하지 않는 항목으로 추천되었고, 사용자 직업 추정은 93.16%가 실제와 불일치했으며 추천 결과가 인기 항목으로 편중되고 다섯 차례의 반복 학습 후에도 초기 편향과 오류가 해소되지 않았습니다. 특히 LLM이 영화를 직접 추천하는 모델에서는 사용자 100명 중 약 86~92명에게 다음 추천 시 이전에 자신이 추천했던 작품을 가장 중요한 참고 정보로 활용했으며, 이번 연구는 박동욱 연구원이 제1저자로 참여하고 이동원 펜실베이니아주립대 교수와 공동으로 수행되어 ACM CIKM 2026(11월 7~11일, 로마)에 채택되었습니다.