"보고 있나 삼전닉스?"…AI 반도체 판 뒤흔들 빅테크 '승부수'

AI 요약

빅테크 기업들이 메모리 칩 공급난과 치솟는 HBM 가격에 대응해 메모리 확보 전략 대신 소프트웨어·아키텍처로 CPU·GPU 효율을 높이는 쪽으로 전환하고 있으며, 구글의 기술 발표 이후 삼성전자와 SK하이닉스 주가가 일시적으로 떨어지는 등의 반응이 있었습니다. 데이터센터 GPU의 모델플롭스활용률(MFU)은 40%에 불과하고 최적화해도 55% 수준에 그치며, GPU 연산 속도를 HBM이 따라가지 못해 KV캐시가 주요 병목으로 지적되고 있습니다. 구글의 터보퀀트는 KV캐시를 6분의 1로 압축했고 딥시크의 V4(지난달 24일)는 하이브리드 어텐션으로 KV캐시 사용량을 10분의 1로 줄였으며, 엔비디아의 트라이어텐션은 KV캐시를 9.3%로 줄이고 연산을 2.5배 빠르게 할 수 있고 화웨이는 통합컴퓨트메모리(UCM)로 HBM 의존도를 낮췄습니다.