삼바노바·인텔, AI 추론 인프라 하반기 공급

AI 요약

미국 AI 인프라 스타트업 삼바노바가 8일(현지시간) 인텔과 협력한 AI 추론 솔루션을 올 하반기부터 본격 공급한다고 밝혔습니다. 양사가 공급할 솔루션은 인텔 서버용 제온6 프로세서와 삼바노바의 SN50 칩으로 구성되며 랙 단위 시스템은 제온6와 SN50 256개로 구성되고 랙당 전력 소모는 30kW 수준입니다. 삼바노바는 SN50이 GPU 대비 토큰 생성 등 처리 속도가 최대 5배 빠르고 총소유비용(TCO)은 30% 수준으로 낮다고 설명했으며 제온6는 LLVM 컴파일시 Arm 기반 서버용 CPU 대비 50% 이상 빠르다고 자체 측정 결과를 제시했습니다.