에스티엔인포텍, 리벨리온 NPU 기반 AI 클러스터 구축

AI 요약

에스티엔인포텍이 12일 국산 AI 반도체 리벨리온의 신경망처리장치(NPU) '아톰 맥스(ATOM-Max)' 기반 AI 클러스터를 자체 구축·운영하고 있으며 기업 대상 NPU 도입 검증(PoC)과 AI 솔루션 개발·실증을 진행하고 있다고 밝혔습니다. 회사는 고객 모델을 NPU 환경에 최적화해 RTX 5090, DGX Spark, 아톰 맥스 등 이기종 AI 인프라에서 동시 처리량과 응답속도(TTFT)를 실측·비교해 적합한 인프라를 제시하고, 당일 호환성 분석·다음 날 검증 환경 제공 및 방문형 PoC에서 실시간 대시보드를 제공한다고 했습니다. 에스티엔인포텍은 NPU 클러스터에서 RAG 기반 AI D-seeker, 오픈AI 음성인식 모델 Whisper 기반 회의록 시스템, 72B급 대규모언어모델 서빙 환경 등을 직접 운영해 안정성을 검증하고 있으며 통신사 네트워크 관리 시스템 개발·운영 경험을 바탕으로 AI 도입 전 과정을 지원하는 기술 파트너가 되겠다고 밝혔습니다.