델 XE9680: 여덟 개 GPU 괴물로 LLM 길들이기

AI 요약

Dell은 대규모 인공지능 작업을 위해 설계된 서버 PowerEdge XE9680을 출시했습니다. 이 서버는 최대 8개의 고성능 GPU(예: NVIDIA H100)를 NVLink로 상호 연결해 대규모 언어 모델 훈련을 가속화하며, 각 H100은 80GB HBM3를 탑재해 총 640GB의 메모리를 제공합니다. 섀시는 3000W 이상의 소비전력에서 발생하는 열을 방출하도록 최적화되어 있습니다.