삼쩜삼, AI 에이전트 8개 통합 플랫폼 '카터' 구축…LLM 호출비 45%↓

AI 요약

자비스앤빌런즈는 세금 환급 플랫폼 삼쩜삼의 서비스와 사내 업무에 흩어져 있던 인공지능 에이전트 8개를 한곳에서 관리하는 자체 플랫폼 카터를 구축해 중앙 관찰·모니터링, 개인정보 비식별 처리, 프롬프트 인젝션 방어, 클라우드 자동 전환 등 보안·안정성 기능과 응답 속도 개선을 구현했습니다. 모델 티어링으로 전체 호출의 약 50%를 경량 모델로 처리해 대규모언어모델(LLM) 호출 비용을 약 45% 절감하고, 프롬프트 캐싱으로 캐시 구간 호출 비용을 약 43% 줄였으며 지식 오케스트레이터와 답변 품질 정량 평가 체계 도입을 계획하고 있습니다. 회사는 지난해 연결 매출 약 838억원(전년 대비 2.8% 감소), 영업이익 약 33억원(60% 넘게 감소)을 기록했고 누적 가입자 2450만명을 기반으로 사업 영역을 확장하는 한편 지난해 12월 시정명령과 과징금 7100만원을 받았고 개정 세무사법은 6월 24일부터 시행되고 있습니다.