‘AI=GPU’ 공식의 붕괴…기업 인프라는 GPU를 넘어 CPU로 이동한다

AI 요약

에이전틱 AI 도구는 값비싼 클라우드 GPU가 아니라 CPU와 특수 AI 칩(ASIC) 등 더 효율적이고 비용 효과적인 하드웨어에서도 구동될 수 있어 IT 의사결정자들이 하드웨어 선택을 재검토할 필요가 제기되고 있습니다. 넥스트 커브의 수석 애널리스트 레너드 리 등은 CPU가 AI 스택의 오케스트레이션 계층이자 제어 플레인 역할을 하며 작업에 따라 저전력 ASIC이 더 효율적일 수 있다고 지적했고, 엔비디아는 추론용 ASIC을 도입하고 Groq의 AI 칩 기술을 200억 달러에 라이선스했습니다. J. 골드 어소시에이츠의 잭 골드는 향후 2~3년 내 AI 워크로드의 80~85%가 추론 중심으로 이동할 것으로 전망했으며, 전문가들은 클라우드 하드웨어 옵션·가격 구조와 데이터 이동·오케스트레이션·네트워킹 관련 오버헤드를 고려해 아키텍처를 재검토해야 한다고 분석했습니다.