[AI리더스] 데이터독 "배보다 배꼽 큰 AI 지출, '자율 운영'으로 해소"

AI 요약

생성형 인공지능 도입이 실험 단계를 넘어 본격 운용되면서 GPU 등 인프라 투자 부담, 토큰 사용량 증가, 보안 취약점 확대, 운영 거버넌스 구축 등 기업의 운영 부담이 커지고 있으며 현재 AI를 운영하는 기업의 70% 이상이 3개 이상의 생성형 AI 모델을 동시에 활용하고 평균 토큰 사용량도 전년 대비 2배 이상 증가했고 LLM 사용료가 전체 비용의 10~20% 수준까지 늘어나는 사례도 나타나고 있습니다. 데이터독은 AI 옵저버빌리티로 모델별 사용량·토큰 비용·응답 품질·오류 현황을 통합 관리하고, 비츠 AI를 중심으로 인프라 확장·취약점 탐지·장애 복구까지 자동화해 운영 효율을 높인다고 설명했으며 비츠 AI for SRE는 대응 시간을 최대 90% 단축하고 비츠 AI 시큐리티 애널리스트는 위협 조사 시간을 최대 98% 줄여준다고 밝혔습니다. 삼성전자와 GS리테일 등 국내 기업들은 데이터독의 MCP 서버와 솔루션을 도입해 알람 발생 시 자동 데이터 수집과 원인 분석, 특정 클라우드 리전 장애 시 다른 리전으로 서비스 전환하는 자율 운영 체계 등을 구현했습니다.