“필요한 정보만 기억한다”…UNIST, 개인화 휴대전화 AI 기술 개발

AI 요약

울산과학기술원(UNIST) 컴퓨터공학과 공태식 교수팀은 사용자와 밀접한 정보만 선별·저장하고 정보에 사용 지침을 함께 붙여 온디바이스 검색증강생성(RAG) 기술인 에픽(EPIC)을 개발했다고 10일 밝혔습니다. 에픽은 관련성이 낮은 자료를 먼저 걸러내고 필요한 정보만 저장해 저장공간을 줄이며, PrefWiki 벤치마크에서 저장공간을 기존 648.96MB에서 0.27MB로 줄이고 평균 검색 시간을 96.5밀리초에서 3밀리초로 단축했으며 Llama-3.1-8B-Instruct 실험에서는 사용자 취향 반영 정확도가 기존 최고 성능 기술보다 평균 18.79%포인트 높아졌습니다. 젯슨 오린 나노·맥북 프로 M4·갤럭시 Z 플립6에서 검색용 메모리를 1MB 미만으로 유지하면서 질문당 5.21∼29.35밀리초에 자료를 찾았고, 연구 결과는 지난 7월 서울에서 열린 국제머신러닝학회(ICML)에서 공개됐으며 과학기술정보통신부·정보통신기획평가원(IITP)·한국연구재단 등의 지원을 받았습니다.