`AI 토큰 공장` 가동하는 KT…모델 중개 넘어 생산자로(종합)

AI 요약

KT가 27일 서울 종로구 광화문 West 빌딩에서 기업용 AI 플랫폼 '토큰팩토리'를 공개했으며, 플랫폼은 여러 AI 모델의 응답 결과·처리 시간·토큰 사용량을 비교하고 모델별 이용내역과 API 키별 일·월간 이용 한도 설정 등 사용량·비용을 통합 관리할 수 있게 설계되었습니다. KT는 통화상세기록(CDR) 기술을 응용한 '토큰상세기록(TDR)'로 모델별 토큰 사용량을 기록해 통합 청구하고, 오토 모델 라우터와 프롬프트 압축으로 입력 토큰을 최대 25%까지 절감한다고 설명했습니다. KT는 외부 모델 유통과 자체 데이터센터의 GPU에서 토큰을 직접 생산하는 방식을 병행해 토큰 생산 원가와 마진을 관리하려 하며, 구체적인 매출 목표는 공개하지 않았습니다.