IT뉴스모아news terminal

article detail

하이퍼엑셀, ‘SC26’서 LPU 기반 AI 추론 서버 공개

와우테일
2026. 11. 16. 오후 3:24
하이퍼엑셀, ‘SC26’서 LPU 기반 AI 추론 서버 공개

AI 요약

하이퍼엑셀은 오는 17일부터 19일까지(현지시간) 미국 시카고 맥코믹 플레이스에서 열리는 글로벌 슈퍼컴퓨팅 행사 SC26에 참가해 LPU 8개를 탑재한 서버 시스템을 전시하고 국내에서 실제 운영 중인 서버와 연결해 대규모언어모델(LLM) 추론을 실시간으로 시연합니다. 회사 내부 벤치마크에 따르면 LPU 카드 탑재 서버는 엔비디아 RTX PRO 6000 Blackwell Server Edition GPU 기반 시스템보다 와트당·달러당 토큰 처리량이 3.5배 이상 높았고(측정 대상 Qwen3-32B와 Llama3-70B), 카드당 소비전력은 250W로 비교 대상 GPU의 600W보다 낮으며 LPDDR5X와 자체 개발한 Streamlined Dataflow 아키텍처로 메모리 대역폭 활용률은 약 90%입니다. 하이퍼엑셀은 2023년 KAIST 김주영 교수가 설립한 스타트업으로 데이터센터용 'Bertha'와 온디바이스용 'Bertha-Edge' 등을 개발했으며 각종 수상 경력이 있고 현재 시리즈 B 투자 유치를 진행해 누적 투자 유치액은 약 2,100억 원입니다.

원문보기