고대역폭 플래시 메모리(HBF), AI 데이터센터와 엣지 컴퓨팅을 위한 새로운 메모리

AI 요약

인공지능이 데이터센터와 네트워크 엣지로 확산되면서 현재 데이터센터의 약 14%만 AI 워크로드를 처리하지만 2030년에는 70%에 이를 것으로 전망되며, 기존 디램(DRAM)과 고대역폭 메모리(HBM)는 대규모 AI 모델과 추론의 저장·확장·비용 효율성 측면에서 구조적 한계를 보이고 있습니다. 샌디스크(Sandisk)는 HBM 수준의 대역폭을 유지하면서 더 높은 용량과 집적도를 제공하는 비휘발성 고대역폭 플래시 메모리(HBF)를 BiCS 낸드 및 CBA 웨이퍼 기술로 에너지 효율을 극대화해 대형 언어모델이 디램에 근접한 속도로 데이터를 처리하도록 재설계해 선보였습니다. HBF는 엣지 디바이스와 중소 규모 엔터프라이즈 환경에서 스마트폰 등에서의 복잡한 추론 수행과 고가의 GPU 클러스터 없이 도메인 특화 모델을 미세 조정할 수 있는 경제적 대안을 제공해 성능 병목을 해결하고 AI 애플리케이션의 인사이트 도출 속도를 가속화할 것으로 기대됩니다.