삼쩜삼, AI 에이전트 통합 관리…운영 비용 45% 절감

AI 요약

자비스앤빌런즈가 환급 플랫폼 삼쩜삼에 적용되는 AI 에이전트 통합 관리 플랫폼 '카터'를 구축해 AI 운영 비용을 최대 45% 절감했다고 27일 밝혔습니다. 카터는 비용 관리·모니터링과 보안·개인정보 보호 기능을 공통으로 제공하고 공통 라이브러리·인프라로 중복 개발을 방지하며 현재 삼쩜삼 서비스와 사내 업무용 AI 에이전트 8개를 운영하고 있습니다. 회사는 모델 티어링으로 전체 호출의 약 50%를 경량 모델로 처리해 LLM 호출비용을 약 45% 낮추고 프롬프트 캐싱으로 호출비용을 약 43% 절감했으며 중앙 추적·관측과 자동 비식별·프롬프트 인젝션 차단 등의 보안기능을 제공한다고 설명했습니다.