article detail
로컬 AI 에이전트 구동을 위한 NPU 가속 생태계 확장 본격화
2026. 11. 21. 오전 4:28
AI 요약
AMD는 언슬로스(Unsloth)와 협력해 언슬로스 데스크톱에서 세계 최초로 NPU 가속을 공식 지원한다고 밝혔으며, 레모네이드(Lemonade)와 패스트플로우LM(FLM) 통합을 통해 AMD XDNA 2 아키텍처 기반 NPU를 언슬로스 생태계와 연결해 로컬 고효율 에이전트 추론을 가능하게 했습니다. 언슬로스 데스크톱의 오픈AI 호환 API를 통해 헤르메스 에이전트, 오픈클로(OpenClaw), 오픈 웹UI(Open WebUI), 클라인(Cline), OMP, VS 코드 등 100개 이상의 에이전틱 애플리케이션과 워크로드에서 로컬 NPU 추론을 활용할 수 있고, NPU 오프로딩으로 배터리 수명 보존과 CPU·GPU 자원 확보가 가능하다고 설명했습니다. 시연에서는 350억 개(35B) 파라미터의 큐원 3.6(Qwen 3.6) 전문가 혼합(MoE) 모델이 언슬로스 데스크톱과 FLM을 거쳐 AMD NPU에서 실시간 로컬 추론을 수행했으며, 윈도우 언슬로스 데스크톱에서 NPU 필터로 모델을 다운로드해 64GB 시스템 기준 약 28GB의 NPU 할당 메모리를 활용해 대형 모델을 처리할 수 있었습니다.