"상품 추천 AI, 잘못된 결과 재학습하며 편향·오류 증폭"

AI 요약

울산과학기술원(UNIST) 이연창 교수팀이 LLM 기반 추천 편향과 오류가 발생하고 누적되는 과정을 진단하는 도구 '에코트레이스'(EchoTrace)를 개발했습니다. 분석 결과 LLM이 직접 만든 추천 목록에서는 추천 대상에 없는 항목을 추천하는 비율이 영화 4.07%, 도서 7.40%, 가게 13.14%였고, 사용자 프로필 생성에서는 영화 자료 기준으로 93.16%가 원래 정보와 일치하지 않았으며 '영화 평론가' 등 자료의 직업 분류에 없는 항목을 생성하는 등 오류와 특정 장르·업종 쏠림이 나타나 최종 추천은 인기 항목을 과다 추천하는 경향을 보였고 같은 추천 결과를 학습에 5번 반복 반영해도 편향과 오류가 사라지지 않거나 더 심해지는 경우가 있었습니다. 연구 결과는 데이터마이닝 분야 국제 학술대회 ACM CIKM 2026에 채택됐고 학회는 7일부터 11일까지 이탈리아 로마에서 열린다.