구글, 8세대 TPU 4종 완성…"AI 메모리 병목 뚫는다"

AI 요약

구글 클라우드는 9일 8세대 TPU 시스템 '8i 맥스'와 '8tx'를 공개했으며 이는 지난 4월 선보인 대규모 학습용 '8t'와 실시간 추론용 '8i'에 이어 추가된 제품입니다. 8i 맥스는 기존 8i 칩 두 개를 한 패키지에 담아 HBM 용량을 288GB에서 384GB로 늘리고 메모리 대역폭을 초당 8.6TB에서 17.2TB로 두 배로 높여 같은 랙 공간에 더 많은 연산 자원을 배치하도록 했고, 8tx는 8t 칩과 맞춤형 AMD CPU를 결합해 연산 중 민감한 데이터와 모델 가중치를 하드웨어 수준에서 보호하도록 설계되었습니다. 구글은 대기 중인 작업을 자동으로 멈추고 진행 상태를 칩 밖 메모리로 옮기는 '에이전트 컴퓨트 엔진'과 칩·서버 메모리·저장장치를 함께 관리하는 'TPU 싱크'를 공개해 칩 활용도를 높여 운영비를 낮추려 한다고 밝혔으며 이는 AI 수요 증가로 인한 설비 투자 부담과 맞물린 조치입니다.