"AI 상품 추천이 AI 재학습시켜"…오류·편향 추적기술 개발

AI 요약

울산과학기술원(UNIST) 인공지능대학원 이연창 교수팀은 대형언어모델(LLM) 기반 추천시스템의 오류와 편향을 추적·진단하는 기술 에코트레이스(EchoTrace)를 8일 개발했습니다. 영화·도서·가게 추천 데이터 분석에서 LLM이 실제 데이터에 없는 항목을 추천한 비율은 영화 4.07%, 도서 7.40%, 가게 13.14%였고 사용자의 직업을 추정할 때는 93.16%가 실제 정보와 달라 존재하지 않는 직업을 만들어내기도 했습니다. AI가 만든 추천을 학습 자료로 재사용할수록 오류와 편향이 반복·심화되는 피드백 루프가 확인되어 5차례 반복 학습에서도 오류가 사라지지 않았고 영화 추천 모델에서는 100명 중 86~92명이 이전에 AI가 제시한 작품을 가장 중요한 기준으로 삼는 것으로 나타났으며 연구 결과는 ACM CIKM 2026에 채택되었습니다.