“비싼 HBM 없이도 LLM 쌩쌩…‘LPU’로 AI 반도체 가성비 뒤집겠다”

AI 요약

생성형 AI 확산으로 AI 데이터센터 비용과 전력·운영비 부담이 커지며 토큰 생성 비용이 서비스 수익성의 핵심이 되는 가운데, 국내 스타트업 하이퍼엑셀은 역발상 전략으로 HBM 대신 LPDDR을 쓰고 수십 개의 ‘빅코어’로 LLM 연산을 코어 내부에서 처리하는 아키텍처를 내세우고 있습니다. 하이퍼엑셀은 2023년 1월 KAIST 교원 창업으로 출범해 트랜스포머 기반 LLM 추론 전용 프로세서 LPU ‘베르다’의 엔지니어링 샘플을 개발 중이며, 칩 아키텍처로 LPDDR 대역폭을 90% 이상 활용해 초당 30~40토큰 이상의 처리 속도를 확보했다고 설명했습니다. 회사는 베르다가 절대 피크 성능에서는 엔비디아 H200에 못 미치지만 달러당·와트당 토큰 생산성으로 경쟁하겠다고 밝혔고, 현재 국내외 74건의 특허 출원·등록을 진행 중이며 ‘레이턴시 프로세싱 유닛’ 특허는 국내(출원 2023년 4월·등록 2023년 11월, 등록번호 10-2609481)와 미국(출원 2023년 12월·등록 2024년 7월, 등록번호 12,032,925)에서 등록을 마쳤고 포브스 아시아 ‘100 To Watch’에 선정됐습니다.