AI 추천이 다시 AI 학습 데이터로…UNIST, 반복 추천 속 편향 증폭 위험 확인

AI 요약

울산과학기술원(UNIST) 인공지능대학원 이연창 교수 연구팀은 LLM 기반 추천 시스템에서 발생하는 편향과 환각, 반복 학습에 따른 오류 누적을 추적하는 진단 프레임워크 에코트레이스(EchoTrace)를 개발했다고 8일 밝혔습니다. 영화·도서·지역 상점 데이터(MovieLens-1M, Amazon-Books, Yelp)를 활용한 실험에서 추천 대상에 존재하지 않는 항목이 포함된 비율은 영화 4.07%, 도서 7.40%, 지역 상점 13.14%였고, 영화 이용 기록으로 사용자의 직업을 추정했을 때 실제 직업과 불일치한 비율은 93.16%였으며 인기 항목 집중 등 편향도 관찰되었습니다. 연구팀은 AI가 생성한 추천 결과를 다시 학습에 반영하는 과정을 5차례 반복해 분석한 결과 초기 편향과 오류가 사라지지 않았고, LLM이 직접 추천 목록을 생성하는 모델에서는 전체 사용자 사례의 86~92%에서 이전 추천이 다음 추천의 주요 참고 요소로 작용하는 등 반복 학습이 특정 항목 의존도를 더욱 높인다고 밝혀 추천 시스템의 신뢰성 확보를 위한 기술적 검증이 중요해졌다고 설명했습니다.