“내 취향보다 AI가 추천한 상품만 반복된다”... UNIST, 추천 AI의 편향·환각 증폭 규명

AI 요약

UNIST 인공지능대학원 이연창 교수팀은 LLM 기반 추천시스템의 편향과 환각이 생성·추천·피드백 루프 과정에서 어떻게 누적·증폭되는지 진단하는 도구 에코트레이스(EchoTrace)를 개발해 8일 발표했습니다. 분석 결과 LLM이 추천대상에 없는 항목을 제시하는 현상(영화 4.07%, 도서 7.40%, 가게 13.14%)과 사용자 직업 추정의 93.16% 불일치 등 오류 및 특정 장르·업종 편중을 확인했으며, 추천 결과를 다시 학습에 반영하는 과정을 다섯 차례 반복해도 초기 편향과 오류가 해소되지 않고 일부 시스템에서는 인기 항목 집중이 오히려 확대되었습니다. 특히 영화를 직접 추천하는 모델에서는 사용자 100명 중 약 86~92명에게 다음 영화를 추천할 때 이전에 자신이 추천했던 작품을 가장 중요한 참고로 활용하는 등 피드백 루프가 편향을 증폭했으며, 이 연구는 박동욱 연구원(제1저자)과 펜실베이니아주립대 이동원 교수의 공동연구로 ACM CIKM 2026에 채택되었습니다.