퀄컴, 차세대 NPU '헥사곤' 공개…에이전틱 AI 상시 구동 최적화

AI 요약

퀄컴이 10일(현지시간) 에이전틱 AI 상시 구동을 목표로 신형 헥사곤 NPU를 공개했으며 엘리먼트 가속기, 공유 메모리 50% 확장, 전문가 혼합(MoE) 아키텍처를 최초로 도입해 사용자 상황과 맥락을 이해하며 다수 앱을 오가며 추론·작업을 수행하는 에이전틱 AI 동작을 최적화했습니다. 엘리먼트 가속기는 트랜스포머 연산에 최적화돼 대규모 언어 모델의 연산 속도와 모바일 전력 효율을 개선하고 내부 공유 메모리 증대로 외부 D램 전송을 줄여 더 긴 대화 맥락과 빠른 작업 전환을 지원하며, 신형 헥사곤은 최대 300억(30B) 매개변수 MoE 모델을 구동하고 토큰 생성 시 약 30억(3B) 매개변수만 활성화하며 낸드 기반 관리·캐싱으로 전력과 메모리 대역폭을 절감합니다. 데이터 정밀도는 FP16, INT2, INT4, INT8, FP8을 지원해 INT4 환경에서 프리필 속도가 최대 50% 빨라지고 디코딩 성능이 향상돼 답변 시작 속도는 1.5초 이내이며 스냅드래곤 플랫폼의 오라이온 CPU와 아드레노 GPU와 협업해 AI 작업 흐름을 조율하고 게임용 뉴럴 퓨전 기능을 구현하며 자세한 내용은 현지시간 이달 22일~24�� 미국에서 열리는 퀄컴 스냅드래곤 서밋에서 공개될 예정입니다.