UNIST, AI 추천 오류 진단 도구 개발 : 테크/과학

AI 요약

울산과학기술원(UNIST) 인공지능대학원 이연창 교수팀은 8일 대형언어모델(LLM) 기반 인공지능의 추천 편향과 오류 과정을 진단하는 도구 에코트레이스를 개발했다고 밝혔습니다. 연구팀은 LLM이 추천 목록을 직접 만들 때 영화 4.07%, 도서 7.40%, 가게 13.14% 비율로 원래 대상에 없는 항목을 추천하는 것을 분석했으며, 분석에는 영화 무비렌즈, 도서 아마존 북스, 가게 옐프 자료가 사용되었습니다. LLM이 가상 프로필을 생성할 때는 영화 이용 자료를 바탕으로 추정한 사용자 직업의 93.16%가 원래 정보와 맞지 않았고 분류에 없는 영화 평론가를 만들었으며, 추천 결과를 다시 학습시키는 과정을 5번 반복해도 초기 오류는 사라지지 않고 일부 시스템에서는 인기 항목 쏠림이 더 커졌습니다.