KT, AI 500개 한곳에…비용 최대 25% 절감

AI 요약

KT는 27일 서울 종로구 광화문 웨스트빌딩에서 AI 플랫폼 KT 토큰팩토리를 출시했으며 국내외 AI 모델 500개 이상을 통합해 모델 선택, 가입·사용량 확인, 비용 관리·결제, 신뢰·안전 기능을 한곳에서 제공한다고 설명했습니다. KT는 자체 추론 모델과 글로벌 모델을 연계하고 오토 모델 라우터와 프롬프트 압축 기능을 적용해 이용자의 질문·업무 유형·난이도·요구 품질·비용 등을 분석해 적합한 모델을 자동으로 선택하며 이를 통해 토큰 사용량과 비용을 최대 25%(프롬프트로 약 20%, 모델 라우팅으로 약 5%) 절감할 수 있다고 밝혔습니다. 서비스는 우선 B2B 시장을 대상으로 시작하고 내년 3월부터 개인 개발자 등으로 확대할 예정이며 KT는 내년 전체 토큰 시장 규모를 215조원으로 전망하고 공공과 금융 분야로 사업을 확대하겠다고 밝혔습니다.