AI 추천 믿었더니 취향까지 바뀐다?…반복 학습의 함정

AI 요약

울산과학기술원(UNIST) 인공지능대학원 이연창 교수팀이 대형언어모델(LLM) 기반 추천시스템의 편향과 오류를 추적하는 진단 도구 에코트레이스(EchoTrace)를 개발했다고 2026-11-08 발표했습니다. 연구팀은 MovieLens·Amazon Books·Yelp 데이터를 이용한 실험에서 LLM이 추천 대상에 없는 항목을 제시한 비율이 영화 4.07%, 도서 7.40%, 가게 13.14%였고 영화 이용기록으로 추정한 직업은 93.16%가 실제와 일치하지 않았으며 원래 분류에 없던 '영화 평론가'라는 직업까지 생성했고, 추천 결과를 5차례 재학습하자 일부 시스템에서는 인기 항목 쏠림이 더 커졌으며 LLM이 직접 추천하는 경우 이용자 100명 중 86~92명은 다음 추천의 근거로 AI 자신이 앞서 추천했던 작품을 가장 중요하게 삼았습니다.