"AI 비용 최대 25% 줄이고 자체 인프라로 수익"…KT 토큰팩토리 공개 - 머니투데이

AI 요약

KT는 30일 AI 플랫폼 KT 토큰팩토리를 출시해 초기 73개 모델(국내 데이터센터에서 제공하는 7개 모델 포함)을 제공하고 11월에 오픈라우터 연계를 통해 500개 이상으로 확대한다고 밝혔습니다. 요금제는 토큰 사용량 기반의 스탠다드와 규모·약정별 할인·전용회선·SLA 등을 제공하는 엔터프라이즈로 구성되며 내년 3월에는 개인 개발자·일반 이용자 대상 서비스 확대와 구독형 요금제 출시를 계획하고 있습니다. KT는 오토 모델 라우터와 프롬프트 압축 기술로 AI 이용 비용을 최대 25% 절감하는 것을 목표로 내부 시험에서 프롬프트 압축 약 20%, 저렴한 모델 자동 전환 약 5%의 비용 절감 효과를 확인했으며, 7개 국내 모델에는 데이터 비저장·비학습 원칙과 자체 가드레일을 적용하고 자체 데이터센터 GPU로 수익을 창출할 계획이라고 밝혔습니다