[AI위클리] AI 무게중심 '추론'으로…국산 NPU 시대 열린다

AI 요약

AI 시장의 무게중심이 모델 학습에서 추론으로 이동하면서 전력 소모가 적고 비용 효율이 높은 국산 신경망처리장치(NPU)에 대한 관심과 중요성이 커지고 있으며 정부는 올해부터 5년간 공공이 보유한 5만여 대의 CCTV를 NPU 기반 AI 모니터링 체계로 전환하고 해군 CCTV도 국산 NPU 기반 AI 관제 체계로 교체하는 사업을 추진하는 등 공공 부문 보급에 속도를 내고 있습니다. 업스테이지, 퓨리오사AI, AXZ는 업스테이지의 대규모언어모델(LLM) 솔라를 퓨리오사AI의 NPU 레니게이드(RNGD)에서 구동해 다음의 실시간 검색 요약 서비스에 적용했고 레니게이드는 하루 약 5억개의 토큰을 처리하며 퓨리오사AI는 엔비디아와 유사한 성능을 목표로 소프트웨어 스택을 함께 설계해 향후 가격을 절반 이하로 낮추고 연내 1만장 정도 공급할 계획이라고 밝혔습니다. 정부는 5G SA와 AI 기반 무선 접속망(AI-RAN)을 결합한 하이퍼-AI 네트워크 구축을 위해 SK텔레콤[017670]과 KT[030200]를 주관 기관으로 하는 컨소시엄 2개를 선정해 사족보행 순찰 로봇, 무인 자율 이송 서비스, 휴머노이드 저전력 모드 등 ���지컬 AI 서비스를 실증하고 AI 코어 오케스트레이터 개발로 네트워크 성능을 검증할 방침입니다.