AI가 자기 추천 다시 학습하니…인기 상품 쏠림·오류 반복

AI 요약

울산과학기술원(UNIST) 이연창 교수팀은 거대언어모델(LLM) 기반 추천 시스템이 자신이 내놓은 추천 결과로 다시 학습하면 특정 항목에 대한 쏠림과 잘못된 추천이 반복될 수 있음을 보여주는 진단 도구 '에코트레이스(EchoTrace)'를 개발했습니다. 연구팀 분석에서 LLM이 직접 만든 추천 목록에는 영화 4.07%, 도서 7.4%, 가게 13.14%의 비율로 추천 대상에 없는 항목이 포함됐고, 영화 이용 기록으로 추정한 사용자 직업은 93.16%가 실제 기록과 달랐으며, 학습용으로 생성한 데이터와 최종 추천은 특정 장르·업종과 인기 항목에 치우쳤습니다. 추천 결과를 다섯 차례 반복 학습해도 초기 편향과 오류가 사라지지 않았고 일부 시스템에서는 인기 항목으로의 쏠림이 더 커졌으며, 특히 LLM이 영화를 직접 추천하는 모델은 사용자 100명 중 86~92명꼴로 다음 영화를 고를 때 자신이 앞서 추천한 작품을 가장 중요하게 참고해 피드백 루프가 편향과 오류를 이어갔습니다.