“AI 쓴다고 꼭 생산적인 건 아냐...토큰 맥싱은 끔찍한 생각”[김창영의 실리콘밸리Look]

AI 요약

스리다르 라마스와미 스노플레이크 CEO는 지난 1일(현지 시간) 샌프란시스코에서 열린 스노플레이크 서밋 26에서 토큰맥싱을 끔찍한 생각이라고 비판하며 AI를 쓴다고 해서 더 발전적이거나 생산적이라는 의미는 아니라고 강조했습니다. 그는 숫자가 전혀 없으면 AI 활용을 모르는 것이라면서도 숫자를 어떻게 활용하는지 신중해야 한다고 말했고, 토큰맥싱이 아마존·메타·쇼피파이 등에서 직원들의 토큰 낭비와 성과 부풀리기 등 부작용을 낳았다고 지적했습니다. 스노플레이크는 토큰 비용 상승에 대응해 고급 모델과 오픈소스 모델을 병행해 사용하고 작업 성격에 따라 오퍼스 대신 소넷처럼 작은 모델을 쓰는 등 다양한 모델 조합으로 수익성을 높인다고 설명했습니다.