"상품 추천 AI, 잘못된 결과 재학습하며 편향·오류 증폭"

AI 요약

울산과학기술원(UNIST) 이연창 교수팀은 LLM 기반 추천 AI의 편향과 오류가 누적되는 과정을 추적하는 진단 도구 에코트레이스를 개발했다고 밝혔습니다. 분석 결과 LLM이 직접 추천 목록을 만들 경우 영화 4.07%, 도서 7.40%, 가게 13.14%가 원래 추천 대상에 없는 항목이었고, 사용자 프로필 생성에서는 직업 정보가 93.16% 일치하지 않았으며 특정 장르·업종 편중과 인기 항목 과추천 경향이 확인됐습니다. 최종 추천을 다시 학습하는 과정을 5회 반복해도 초기 편향과 오류는 사라지지 않았고 일부 시스템에서는 인기 쏠림이 더 심해졌으며, 특히 LLM이 직접 영화를 추천하는 모델에서는 사용자 100명 중 86∼92명이 이전 추천을 가장 중요하게 참고하는 것으로 나타났고 연구 결과는 ACM CIKM 2026에 채택됐습니다.