퀄컴, "스마트폰 AI 두뇌 확 바꾼다"…‘에이전틱 AI’ 겨냥 차세대 헥사곤 NPU 공개

AI 요약

퀄컴 테크놀로지스가 에이전틱 AI를 스마트폰에서 직접 구동하기 위한 차세대 퀄컴 헥사곤 NPU를 10일(현지시간) 공개했습니다. NPU는 트랜스포머 연산에 특화된 엘리먼트 가속기와 스칼라·벡터·매트릭스 확장 기능, 기존보다 50% 확대된 공유 메모리 시스템, 플래시 기반 모델 로딩과 캐싱을 결합해 여러 특화 모델을 선택적으로 실행하고 긴 문맥 유지와 동시 에이전트 실행, 낮은 지연을 지원하도록 재설계됐습니다. 또한 Mixture-of-Experts(MoE) 모델에 대응하고 INT2·INT4·INT8·FP8·FP16 등의 연산 정밀도를 지원해 INT4 기반 프리필 성능을 최대 50% 향상시키는 등 디코딩 처리량과 응답 지연 개선을 목표로 합니다.