"AI 시대의 데이터 병목…추론 특화 칩이 해결사"

AI 요약

조너선 로스 엔비디아 최고소프트웨어설계자(CSA)는 3일 대만 타이베이에서 열린 컴퓨텍스 2026에서 대규모언어모델(LLM)과 에이전트 AI의 고도화에 따라 데이터 처리 병목을 해결할 언어처리장치(LPU)의 중요성이 커질 것이라고 말했습니다. LPU는 외부 D램(HBM) 대신 초고속 S램(SRAM)을 칩 내부에 적용해 연산해 데이터 처리 속도가 수십 배 빠르고 HBM 공급 부족 속에서도 메모리 병목을 해소하며, 하나의 거대 모델을 여러 대가 분산 처리해 데이터 중복과 에너지·전력 소모를 줄일 수 있다고 설명했습니다. 로스 CSA는 LPU 개발을 총괄하는 핵심 인물로 스타트업 그록을 창업했다가 엔비디아가 약 200억달러에 그록을 인수하면서 합류했고 젠슨 황 엔비디아 CEO는 LPU 기반의 그록 3 LPX 서버를 차세대 AI 인프라인 베라루빈에 포함시켰습니다.