KT, AI 모델 500종 한곳에…비용 최대 25% 줄이는 ‘토큰팩토리’ 출시

AI 요약

KT는 27일 서울 종로구 KT광화문빌딩 웨스트에서 기자간담회를 열고 AI 플랫폼 토큰팩토리를 공개했으며, 이용자가 원하는 답변 수준과 비용에 맞춰 국내외 여러 AI 모델을 한곳에서 자동으로 골라주는 서비스를 선보였습니다. 자체 개발한 오토 모델 라우터와 프롬프트 압축 기술로 토큰 사용량을 줄여 비용을 절감(프롬프트 압축 약 20%, 모델 라우팅 약 5%, 최대 약 25%)하고 개인정보·민감정보 입력 차단 등 보안 기능과 전용 회선·서비스 품질 보장 옵션을 제공한다고 밝혔습니다. 토큰팩토리는 30일 기업고객 대상 73종 모델로 서비스를 시작하고 믿음 K 3.0 프로·업스테이지 솔라 프로4 등 국내 모델 3종과 일부 해외 오픈웨이트 모델 4종은 국내 데이터센터에서 처리하며, KT는 오픈라우터와 공식 협약으로 확보한 500개 이상의 모델을 11월에 추가하고 내년 3월에는 개인·개발자 대상 구독형 요금제로 개방할 계획이라고 밝혔습니다.