Token consumption = amount of work done?···In the AI era, companies wrestle with ‘to-seong-bi’

AI 요약

최근 AI 사용자들 사이에서 '토큰'이 화제가 되고 있으며 개발자와 IT 업계에서는 토큰 사용량이 업무 성과나 근면의 객관적 지표로 활용되고 있습니다. Deloitte는 'AI Tokens: Exploring the New Cost Dynamics of AI' 보고서에서 AI를 예측 불가능한 토큰 기반 비용으로 작동하는 경제 시스템으로 봐야 한다고 했고, NVIDIA의 젠슨 황은 계산(즉 토큰 용량)이 AI 데이터센터와 제조의 경쟁력 기초가 될 것이라고 예측했습니다. 토큰은 LLM의 기본 계산 단위이자 '디지털 연료'로서, 올해 초부터 에이전스형 AI 확산으로 토큰 소비가 급증해 에이전트는 생성형 AI보다 최대 100만 배 더 많은 토큰을 사용할 수 있고 빅테크는 직원 토큰 사용량을 대시보드로 집계해 생산성 평가에 활용하고 있습니다.