[AI 비용 최적화①] 토큰·에이전트가 키운 AI 비용 ··· ‘가시성’이 출발점

AI 요약

AI가 기업 업무에 광범위하게 도입되면서 GPU·LLM API·데이터 처리·외부 API·SaaS 등 복잡한 AI 비용을 통합 관리하고 투자 대비 성과까지 평가하는 방향으로 비용 관리 기준이 바뀌었습니다. 핀옵스 재단의 ‘핀옵스 현황(State of FinOps) 2026’에 따르면 AI 지출을 관리하는 핀옵스 조직은 2024년 31%에서 2025년 63%, 올해 98%로 증가했고, 토큰 단위 과금과 에이전트의 연쇄 모델 호출로 비용이 예측 불가능해져 가트너는 2029년까지 AI 활용 조직의 60%가 예상치 못한 비용 초과를 경험할 것으로 전망했습니다. 마이크로소프트·서비스나우·옵스나우 등은 비용 최적화 초점을 단순 절감에서 기술투자 성과 관리로 전환하고 클라우드뿐 아니라 SaaS·GPU·온프레미스 자산을 하나의 투자 포트폴리오로 관리해야 한다고 제시했습니다.