‘공포’ 타이틀 달고 돌아온 ‘터보퀀트’ [AI 딥다이브]

AI 요약

구글의 터보퀀트는 LLM 추론 시 쌓이는 KV 캐시를 16비트에서 3~4비트 수준으로 압축해 메모리 사용량을 줄이고 일부 구간에서 속도를 올리는 양자화 기반 데이터 압축 알고리즘입니다. 이를 근거로 메모리 수요 감소와 반도체 슈퍼사이클 종말을 주장하는 시각이 있으나 업계는 터보퀀트가 1년 전 공개된 구형 기술이며 현장에서는 이미 FP8·FP4 등 최적화가 쓰여 실질적 개선폭은 구글이 주장한 6배가 아닌 2~3배 수준으로 줄어든다고 지적하고 있습니다. 오히려 제본스 역설과 앤트로픽 클로드의 주간 사용량 30% 증가 같은 사례를 들어 AI 수요가 늘어나 HBM·대용량 D램·기업용 스토리지의 전략적 가치가 중장기적으로 높아질 것이란 의견이 지배적입니다.