상품 추천 AI, 반복 학습하면서 편향·오류 커진다

AI 요약

울산과학기술원(UNIST) 이연창 교수팀은 LLM 기반 추천 시스템에서 편향과 오류가 생성·누적되는 과정을 추적하는 진단 도구 에코트레이스(EchoTrace)를 개발해 추천 시스템 3종을 분석했고, LLM이 생성한 정보와 추천 결과를 다시 학습에 반영하면 초기의 편향과 오류가 사라지지 않고 누적·증폭될 수 있다고 밝혔습니다.분석 결과 LLM이 직접 추천할 때 영화 4.07%, 도서 7.40%, 가게 13.14%가 추천 대상에 없는 항목으로 제시됐고, 사용자 프로필에서 추천된 직업은 93.16%가 원래 정보와 불일치했으며 추천 결과는 실제 이용 기록보다 인기 항목을 더 많이 추천하는 경향을 보였고 5차례 재학습 후에도 편향과 오류가 사라지지 않았습니다.특히 영화 추천 모델에서는 사용자 100명 중 86∼92명꼴로 다음 영화를 고를 때 자신이 앞서 추천했던 작품을 가장 중요하게 참고하는 것으로 나타났으며, 이 연구는 ACM CIKM 2026에 채택됐습니다.