“AI 인프라 경쟁, 칩 아닌 소프트웨어에 좌우”

AI 요약

소프트웨어정책연구소가 지난 10일 발간한 보고서에 따르면 AI 인프라 경쟁이 반도체 성능 중심에서 소프트웨어 생태계로 이동하고 있으며 동일한 GPU라도 소프트웨어 최적화 수준에 따라 실제 처리 성능이 최대 3배 이상 차이 나고, 올해 전 세계 AI 지출은 2조5000억달러(3722조원)에 이를 전망이며 이 중 절반 이상이 서버·가속기·데이터센터 등 인프라에 집중됩니다. 보고서는 엔비디아가 CUDA를 중심으로 개발자 도구·라이브러리·교육 자료·커뮤니티를 축적해 데이터센터 GPU 매출의 약 86%를 차지하는 구조적 종속(lock‑in)을 형성했고 프레임워크·컴파일러·라이브러리·드라이버·런타임의 4개 소프트웨어 계층이 하드웨어 선택에 영향을 준다고 분석합니다. 다만 vLLM·SGLang 등 오픈소스 추론 소프트웨어가 일부 종속을 완화하는 흐름을 만들고 있으나 드라이버 계층의 폐쇄성 때문에 완전한 대체는 쉽지 않고, 보고서는 한국 NPU 생태계가 리벨리온·퓨리오사AI 등이 파이토치 호환과 vLLM 연동으로 프레임워크 진입에는 성공했지만 컴파일러·라이브러리 최적화와 운영 레퍼런스 부족으로 확산에 한계를 보인다고 진단합니다.