AMD, 표준 서버 호환 AI 가속기 MI350P PCIe 발표

AI 요약

AMD는 7일 PCIe 규격의 인스팅트 MI350P를 발표했으며, CDNA4 멀티칩 아키텍처 기반 GPU를 탑재한 AI 가속 카드로 2개의 일반 크기 PCIe 5.0 단자를 통해 표준 공랭식 서버에 바로 장착해 기존 전력·냉각·랙 인프라를 크게 바꾸지 않고 온프레미스 AI 데이터센터 구축이 가능하다고 밝혔습니다. MI350P는 CU 128개(8192 SP), 매트릭스 코어 512개, 칩렛 구조(핵심 TSMC 3nm·보조 6nm), TBP 600W(전력 조건에 따라 최대 450W), 144GB HBM3E(대역폭 4TB/s), 128MB 인피니티 캐시를 탑재하고 MX FP4/MXFP6 기준 최대 4,600TFLOPS, FP16/FP32 72TFLOPS 성능과 희소성 가속을 제공하며 AV1 등 미디어 디코더와 오픈소스 기반 AMD 엔터프라이즈 AI 레퍼런스 스택(파이토치, 텐서플로우, 트리톤, ONNX-RT, 쿠버네티스 GPU 오퍼레이터, AIMs)을 지원합니다.