"AI 추천, 반복할수록 편향 심해져"

AI 요약

울산과학기술원(UNIST) 이연창 교수팀은 LLM 기반 추천 시스템의 편향과 오류를 추적하는 진단 도구 에코트레이스를 개발했으며, 연구에서 LLM이 추천을 반복하면 특정 상품에 치우친 추천과 잘못된 추천을 반복할 수 있음이 확인되었습니다. MovieLens-1M(영화), Amazon-Books(도서), Yelp(가게) 자료 실험에서 목록에 없는 항목을 추천하는 오류율은 영화 4.07%, 도서 7.40%, 가게 13.14%였고, LLM이 추정한 사용자 직업의 93.16%가 실제와 일치하지 않았으며 영화 평론가라는 직업을 자체 생성하기도 했습니다. AI가 생성한 학습자료가 특정 장르·업종에 치우치고 최종 추천은 실제 이용 기록보다 인기 항목을 더 많이 추천했으며, 최종 추천 결과를 다시 학습시키는 과정을 5회 반복해도 편향과 오류가 사라지지 않고 영화 추천에서는 사용자 100명 중 86~92명에게 이전에 추천했던 작품을 가장 중요한 참고 자료로 활용하는 등 피드백 루프가 편향을 증폭했습니다.