AI 토큰 많이 쓰면 인재? 실리콘밸리 토큰맥싱 열풍

AI 요약

실리콘밸리에서 '토큰맥싱'이 확산하며 엔지니어들이 AI 토큰 소비를 경쟁적으로 늘려 오픈AI의 한 엔지니어가 일주일에 2,100억 개 토큰을 사용하고 앤스로픽의 '클로드 코드' 사용자 한 명이 한 달에 15만 달러어치 토큰을 소비한 사례가 보고되었습니다. 빅테크는 리더보드와 칭호, 인사 고과 반영 등으로 토큰 사용을 장려했고 메타는 최근 30일간 전체 토큰 사용량이 60조 개를 넘었으며 1위 사용자는 평균 2,810억 개를 소비한 것으로 알려졌습니다. 에이전틱 AI의 도래로 토큰 사용량이 급증하자 비용 부담이 커져 '토성비' 경쟁과 재피어의 실시간 추적 대시보드, 스타트업 쿠모 AI의 비용 통제, 소형언어모델·추론 칩 개발 등 최적화 노력이 진행되고 있으며 IDC는 2029년까지 에이전틱 AI가 10억 개를 넘고 토큰 전송 비용이 연간 680억 달러를 초과할 것으로 예측했습니다.