구글, 8세대 AI칩 'TPU 8t·8i' 공개…훈련용·추론용으로 분리

AI 요약

구글은 22일(현지시간) 미국 라스베이거스에서 열린 구글 클라우드 넥스트 행사에서 8세대 AI칩 TPU 8t와 TPU 8i를 공개했습니다. 훈련에 최적화한 TPU 8t는 7세대 아이언우드보다 처리 능력을 3배로 끌어올리고 칩 간 연결로 최대 9천600개와 HBM 최대 2PB까지 확장할 수 있으며, 추론용 TPU 8i는 HBM 288GB와 S램 384MB를 탑재하고 칩 간 데이터 이동 경로를 절반 이상 단축해 지연 없이 즉각적인 응답을 제공하고 아이언우드 대비 달러당 성능을 80% 높였습니다. 두 칩은 와트당 성능을 아이언우드의 최대 2배까지 끌어올렸고 구글은 CPU를 자체 설계한 액시온으로 교체해 이들 칩과 엔비디아 GPU가 AI 하이퍼컴퓨터의 핵심 기반이 되며 HBM 공급업체는 공개하지 않았습니다.