가트너, 2030년 LLM 추론 비용 90% 감소 전망...기업 AI 부담 되레 증가

AI 요약

가트너는 반도체·인프라 효율화, 모델 설계 혁신, 추론 특화 반도체 및 엣지 적용 확대에 힘입어 2030년 1조 개 파라미터 LLM의 추론 비용이 2025년 대비 90% 이상 낮아지고, 2022년 초기 동일 규모 모델 대비 최대 100배의 비용 효율 개선이 가능하다고 전망했습니다. 다만 AI 에이전트는 기존 챗봇보다 작업당 5배에서 최대 30배 더 많은 토큰을 필요로 해 토큰 단가가 내려가도 사용량 증가가 더 빨라 기업의 전체 추론 비용은 오히려 늘어날 수 있다고 분석했습니다. 가트너는 저렴한 토큰 비용으로 아키텍처 비효율을 방치하면 확장 단계에서 한계에 직면할 수 있다고 경고하며, 반복 업무는 소형·도메인 특화 모델로 처리하고 프런티어급 모델은 고부가 복잡 추론에 선택 적용하는 멀티 모델 오케스트레이션 전략이 핵심이라고 제시했습니다.