“AI 기억공간 2,404분의 1로 줄였다”... 알레르기까지 챙기는 ‘스마트폰 속 맞춤 비서’

AI 요약

UNIST 컴퓨터공학과 공태식 교수팀이 온디바이스 검색증강생성(RAG) 기술 '에픽'을 개발해 기기 안에서 개인 기록과 웹페이지 등을 검색해 개인정보를 외부 서버로 보내지 않고 맞춤형 답변을 제공한다고 밝혔습니다. 에픽은 관련성이 높은 정보만 두 단계로 선별해 '사용지침'과 함께 저장함으로써 검색용 저장공간을 기존 648.96MB에서 0.27MB로 줄이고(약 2,404분의 1) 4개 벤치마크 평균 검색시간을 96.5밀리초에서 3밀리초로 단축했습니다. 실제 기기(젯슨 오린 나노·맥북 프로 M4·갤럭시 Z 플립6)에서 검색용 메모리를 1MB 미만으로 유지하며 질의당 5.21∼29.35밀리초에 자료를 찾았고, Llama-3.1-8B-Instruct를 사용한 실험에서는 개인화 정확도가 기존 최고 기술보다 평균 18.79%포인트 높았습니다.