xAI GPU 활용률 11% 그쳐…AI 인프라 비효율 논란

AI 요약

일론 머스크가 겸영하고 있는 AI 스타트업 xAI가 보유한 약 55만개의 엔비디아 GPU 중 실제 활용률이 약 11%에 불과해 약 6만개 정도만 실질적으로 작동하고 있는 것으로 파악됐습니다. 기사에 따르면 xAI는 H100·H200 기반의 멤피스와 콜로서스 클러스터를 운영하지만 대규모 환경에서 소프트웨어 스택 미최적화로 데이터 처리와 분산 학습에서 병목이 발생해 전체 활용률이 낮아지는 문제가 있으며, 메타플랫폼스와 구글은 각각 약 43%, 46%의 활용률을 기록해 업계 평균인 35~45%보다 높게 나타났습니다. xAI는 인프라 개선과 소프트웨어 최적화로 활용률을 50% 수준까지 끌어올리는 것을 목표로 하고 대규모 GPU 자원 외부 임대도 검토 중이며 업계는 AI 경쟁력이 하드웨어 확보보다 소프트웨어 최적화와 운영 효율성에 달렸다고 평가하고 있습니다.