[기자수첩] AI 많이 쓸수록 업무 혁신? '토큰맥싱'의 함정

AI 요약

맥킨지 내부 자료에 따르면 직원 상위 10%가 회사 전체 생성형 AI 토큰의 65%를 사용했고 맥킨지는 사용량이 많은 직원에게 알림을 보내고 내부 AI 게이트웨이와 캐싱 등을 도입해 비용 관리를 했습니다. EY는 업무에 적합한 AI 모델을 자동으로 골라주는 라우터와 관리 체계를 도입해 토큰 사용량을 60% 줄였고 업계에서는 직원들의 AI 이용률과 구축한 AI 에이전트 수를 강조하며 '토큰맥싱(Tokenmaxxing)'이라는 용어가 등장했습니다. 기사는 기업들이 단순히 토큰 사용량을 늘리는 대신 업무에 맞는 모델을 필요한 만큼 활용해 시간과 비용을 줄이고 결과당 토큰 비용으로 성과를 평가해야 한다고 전했습니다.