AI 추천 믿었더니 취향까지 바뀐다?…반복 학습의 함정

AI 요약

울산과학기술원(UNIST)은 인공지능대학원 이연창 교수팀이 대형언어모델(LLM) 기반 추천 시스템의 편향과 오류를 추적하는 진단 도구 에코트레이스(EchoTrace)를 개발했다고 8일 밝혔습니다. 연구팀은 영화·도서·가게 추천 시스템을 분석한 결과 LLM이 추천 대상에 없는 항목을 제시하는 비율이 영화 4.07%, 도서 7.40%, 가게 13.14%였고 영화 이용 기록을 바탕으로 추정한 직업은 93.16%가 실제 데이터와 일치하지 않으며 심지어 원래 직업 분류에 존재하지 않는 영화 평론가라는 직업까지 만들어냈다고 보고했습니다. 또한 추천 결과를 다시 학습시키는 과정을 5차례 반복하자 일부 시스템에서 인기 항목 쏠림이 더 커졌고 LLM이 앞서 추천했던 작품을 다음 추천의 가장 중요한 근거로 삼는 비율은 이용자 100명 중 86~92명으로 나타나 추천 결과가 반복 학습을 통해 자신이 만든 선호를 강화할 위험이 확인되었습니다.