AI도 골라 쓰고 요금 관리…KT, ‘토큰팩토리’ 30일 출시

AI 요약

KT가 국내외 500개 이상의 인공지능 모델을 한곳에서 이용하고 사용량과 비용을 통합 관리할 수 있는 플랫폼 토큰팩토리를 공개했으며, 27일 공개하고 오는 30일부터 기업 고객을 대상으로 서비스를 제공하고 향후 개인 고객으로 확대할 계획입니다. 토큰팩토리는 글로벌 AI 모델 유통 플랫폼 오픈라우터와 파트너십으로 해외 모델과 자체 추론 모델을 통합 제공하고, 자체 개발한 오토 모델 라우터(KT-ModelRouter)를 적용해 업무 유형·난이도·품질·비용을 분석해 모델을 자동 선택하며 해당 라우터는 RouterArena의 Acc-Cost Arena에서 76.28점으로 1위를 기록했습니다. 또한 한국어 특성을 고려한 프롬프트 압축 기술로 토큰 사용량을 최대 25% 절감할 수 있고, KT 데이터센터의 국내 AI 추론 환경과 오픈웨이트 모델 구동을 지원하며 입력과 출력에서 개인정보·민감정보·유해 표현을 점검하는 가드레일 기술을 적용하고 기업별 탐지 대상과 차단 수준 설정 기능을 확대할 계획입니다.