KT, ‘AI 모델 중개’ 토큰팩토리 출격…“토큰 최대 25% 절감”

AI 요약

KT가 27일 서울 종로구 광화문 웨스트 빌딩에서 AI 플랫폼 KT 토큰팩토리를 공개했으며, 이용자가 입력한 프롬프트에 맞춰 비용 대비 효율이 높은 AI 모델을 연결해 주는 중개 플랫폼이라고 설명했습니다. 핵심 기술로 자체 개발한 모델 라우팅 기술 오토 모델 라우터와 한국어 특성을 고려한 프롬프트 압축 기술을 적용해 토큰 사용량을 최대 25%까지 줄일 수 있다고 밝혔습니다. 토큰팩토리는 국내 데이터센터에서 AI 추론을 처리하는 소버린 AI 인프라 위에서 운영되며, 개인정보·민감정보 검사 등 가드레일을 적용하고 오픈라우터와의 파트너십으로 500개 이상의 글로벌 모델을 연계해 30일 기업 고객 대상으로 먼저 출시한 뒤 개인 고객으로 확대할 계획입니다.