리눅스 회사가 'AI 추론 회사'로…레드햇, vLLM·llm-d로 기업 GPU 위 운영체제 자리 노린다

AI 요약

레드햇은 10월 27일 서울에서 열린 레드햇 서밋: 커넥트 서울 2026에서 오픈소스 추론 엔진 vLLM과 분산 추론 프레임워크 llm-d를 앞세운 레드햇 AI 전략을 국내 고객 약 500명 앞에 공개하며 AI 시대의 승부처를 추론으로 규정했습니다. 닷새 전인 10월 22일에는 엔비디아와 에이전트 보안·추론 협력 확대안을 내놓고, 10월 21일 GTC 베를린의 오픈셸 레퍼런스 아키텍처에 공동 개발사로 참여해 vLLM·llm-d와 엔비디아 다이나모·NIM을 결합한 레퍼런스를 제시했습니다. 한국에서는 BC카드가 레드햇 오픈시프트 AI 기반으로 GPU 추론 비용을 최대 70% 절감해 APAC 이노베이션 어워드 2026에서 AI 부문 상을 받았고, 레드햇은 2025년 1월 뉴럴 매직 인수, 2025년 5월 llm-d 출범, 2026년 2월 레드햇 AI 엔터프라이즈 구성과 9월까지 3.5 버전까지 기능을 쌓았으며 IBM은 llm-d가 운영 비용을 5~10배 낮춘다고 언급했습니다.