KAIST, ‘지식 재사용’으로 서버 호출 57% 줄였다…“증류·추가학습 필요 없어”

AI 요약

한국과학기술원(KAIST) 이재길 전산학부 교수 연구팀은 기기 내부에 서버의 핵심 응답 특성을 요약해 저장·재사용하는 협업 프레임워크 CURE를 개발했으며, 소형 AI가 먼저 처리하고 부족하면 저장된 서버 지식을 활용하다가 그래도 부족할 때만 서버에 요청하는 3단계 추론 방식을 적용했습니다. 실험에서 CURE는 이미지넷 기준 정확도 82.43%로 모든 이미지를 대형 서버에 보냈을 때의 83.68%와 근소한 차이를 보였고, 기존 협업 방식 대비 서버 호출 횟수를 평균 55.61% 줄였으며 처리 속도는 기존 협업 방식보다 최대 2.80배, 모든 입력을 서버로 보낼 때보다 최대 3.67배 빨라졌습니다. CURE는 모델 가중치 변경이나 재학습이 필요 없고 기존 지식 증류와 구별되며, 스마트폰·로봇·웨어러블 등 자원이 제한된 기기에서 응답 대기 시간과 서버 운영 효율을 개선할 수 있으나 실제 사용 환경에서의 추가 검증이 필요하다고 연구진은 밝혔습니다.