F5, “한국 기업 55%, AI 추론 워크로드 운영 중”...AI, 실험 넘어 실제 운영 단계로

AI 요약

F5는 연례 애플리케이션 전략 현황(State of Application Strategy, SOAS) 보고서를 통해 인공지능이 실험 단계를 넘어 프로덕션 워크로드로 자리잡았다고 밝히며, 국내 기업의 55%가 이미 AI 추론 워크로드를 운영하고 다수는 전체 애플리케이션의 40~60%에 AI를 적용하고 있다고 밝혔습니다. 국내 기업들은 평균 2~3개의 AI 모델을 프로덕션 환경에서 운영하고 65%가 실시간 운영 자동화를 위해 AI를 활용하는 한편, 퍼블릭 AI 서비스에만 의존하는 기업은 8%에 불과해 비용·정확도·가용성 관리를 위한 다양한 모델 포트폴리오와 정교한 라우팅·장애 대응·정책 제어 역량을 필요로 한다고 보고서는 지적했습니다. 보고서는 하이브리드 멀티클라우드의 일상화 속에서 보안·거버넌스·통합 제어의 중요성이 커졌으며, 기업들이 비용(56%), 에이전트ID 증가(51%) 등을 과제로 인식하고 프롬프트(36%)·토큰·제어 계층(21%)에 대한 거버넌스를 확보하는 것이 핵심이라고 결론지었습니다.