내 취향인 줄 알았는데, AI가 추천한 상품, 다음에도 또 추천…UNIST, 쏠림 추적 도구 개발

AI 요약

울산과학기술원(UNIST) 이연창 교수팀과 미국 펜실베이니아주립대 이동원 교수가 공동 개발한 진단 도구 에코트레이스는 LLM 기반 추천 시스템에서 정보 생성부터 최종 추천·재학습까지 오류와 편향이 어떻게 이어지는지 살펴봅니다. 실험 결과 AI가 직접 추천한 항목은 목록에 없는 항목이 영화 4.07%, 도서 7.40%, 가게 13.14%를 차지했고, 이용자 프로필 추정에서는 93.16%의 직업이 원자료와 일치하지 않았으며 추천 결과를 재학습에 반영하는 과정을 다섯 차례 반복해도 초기 오류와 편향이 사라지지 않고 일부 시스템에서는 인기 항목 쏠림이 더 커졌습니다. 이번 연구는 ACM CIKM 2026에 채택됐으며 과학기술정보통신부와 정보통신기획평가원, 미국 국립과학재단 등의 지원을 받아 수행됐습니다.