레드햇이 제시한 엔터프라이즈 AI 전환 핵심은?

AI 요약

레드햇은 기업의 AI 전환을 지원하기 위한 엔터프라이즈 AI 플랫폼 전략을 제시하며 ML옵스에서 LLM옵스, 에이전틱 AI로 이어지는 진화 과정에서 추론 효율성, 데이터 연결, 에이전트 관리, 하이브리드 클라우드 확장까지 전체 라이프사이클을 관리할 통합 플랫폼의 필요성을 강조했습니다. 레드햇 AI는 오픈소스 추론 엔진 vLLM과 분산 추론 프레임워크 llm-d로 GPU 등 하드웨어 가속기 환경에서 비용 효율적인 추론을 지원하며 llm-d는 인프라 비용 절감과 멀티턴 대화·에이전트 워크플로에서의 응답 시간 개선을 목표로 설계됐습니다. 또한 허깅페이스의 레드햇 AI 레포지토리에서 라마, 큐원, 딥시크, 그래니트 등 검증·최적화된 모델을 제공하고 파인튜닝, 프롬프트 엔지니어링, RAG, 합성 데이터 파이프라인과 MCP 게이트웨이·에이전트 라이프사이클 관리·관측 기능으로 에이전트 워크플로 개발·배포와 하이브리드 클라우드 확장을 지원합니다.