엉뚱한 추천 ‘AI 알고리즘’ 맹점… UNIST, 추천시스템 위험성 진단 ‘EchoTrace’ 개발

AI 요약

UNIST 인공지능대학원 이연창 교수팀은 LLM 기반 추천 AI의 편향과 환각을 추적하는 진단 도구 에코트레이스(EchoTrace)를 개발했으며 생성형 인공지능을 적용한 상품 추천 서비스가 과거의 오류를 재학습해 왜곡된 추천을 반복한다고 밝혔습니다. 분석 결과 목록에 없는 대상을 추천한 비율은 가게 13.14%, 도서 7.40%, 영화 4.07%였고 AI가 영화 시청 이력만으로 추정한 사용자 직업은 93.16%가 실제와 맞지 않았으며 추천을 5회 재학습시켜도 초기 편향이 유지되거나 특정 인기 항목으로 쏠리고 이용자 10명 중 9명꼴로 직전에 추천한 작품을 다음 추천의 핵심 근거로 삼는 등 오류가 누적·증폭됐습니다. 이번 연구에는 박동욱 연구원이 제1저자로 참여했으며 미국 펜실베이니아주립대 이동원 교수와 공동으로 수행됐고 연구 결과는 ACM CIKM 2026에 채택돼 학회는 지난 7일에 시작해 11일까지 이탈리아 로마에서 열렸습니다.