"AI 추론 병목 해결사"…샌디스크, HBM 한계 넘는 HBF 기술 발표

AI 요약

샌디스크가 AI 데이터센터와 엣지 컴퓨팅 환경의 메모리 병목을 해결하기 위해 고대역폭 플래시 메모리(HBF)를 선보였으며, 알퍼 일크바하르 CTO는 8일(현지시간) 이를 통해 HBM과 DRAM의 용량 및 비용 한계를 극복하겠다고 밝혔습니다. HBF는 비익스 나인드(BiCS NAND) 설계와 CMOS 본디드 어레이(CBA) 웨이퍼 기술을 활용해 전원 차단 시 데이터 유지가 가능한 비휘발성과 높은 온도 안정성을 제공하고, 병렬 처리·로직 미세화·맞춤형 적층을 통해 지연을 단축하고 읽기 대역폭을 향상시켜 LLM이 DRAM에 근접한 속도로 데이터를 처리하며 대규모 KV 캐시를 지원한다고 회사는 설명했습니다. 샌디스크는 HBF가 물리적 공간과 전력 공급이 제한적인 엔터프라이즈 데이터센터 및 엣지 AI 환경에서 비용 효율성을 제공하고 스마트폰 등 엣지 디바이스의 실시간 의사결정과 중소규모 기업의 도메인 특화 모델 미세 조정을 지원할 것으로 보며, AI 워크로드 비중은 2030년 약 70%로 확대될 전망이고 엣지 AI 애플리케이션 매출은 2020년대 말까지 약 665억 달러에 달할 것으로 예상했습니다.