“내 취향은 사라지고 AI 취향만 남았다”…챗GPT 추천의 역설

AI 요약

울산과학기술원(UNIST) 인공지능대학원 이연창 교수 연구팀은 대형언어모델(LLM) 기반 추천 시스템의 오류와 편향을 추적하는 진단 기술 에코트레이스(EchoTrace)를 개발했다고 8일 밝혔습니다. 연구팀이 영화·도서·가게 추천 시스템을 분석한 결과 AI가 추천 목록에 없는 항목을 제시하는 환각 비율은 영화 4.07%, 도서 7.40%, 가게 13.14%였고 영화 이용 기록으로 추정한 직업은 93.16%가 실제 정보와 일치하지 않았으며 AI 추천 결과를 5차례 반복 학습해도 초기 편향과 오류가 지속되어 일부 시스템에서는 인기 상품 쏠림이 심해졌습니다. 에코트레이스는 정보 생성·최종 추천·반복 학습 단계에서 오류와 편향의 변화를 추적하며, 연구팀은 관련 국제학술대회 발표 논문 116편을 분석해 추천 시스템에서 LLM의 역할을 5가지로 분류하고 그중 3가지를 검증했다고 밝혔습니다.