구글, AI 칩 ‘학습·사용’ 나눴다…속도·비용 잡고 엔비디아 추격

AI 요약

구글은 22일(현지시간) 구글 클라우드 넥스트에서 학습용 TPU 8t와 추론용 TPU 8i로 구성된 8세대 TPU 시리즈를 공개했으며 두 칩은 올해 말부터 공급될 예정입니다. TPU 8t는 전력 대비 성능이 이전 세대 대비 124% 향상됐고 최대 9600개의 칩을 묶어 운용할 수 있으며, TPU 8i는 전력 대비 성능이 117% 향상되고 내부에 384MB SRAM을 탑재해 추론 지연을 줄였다고 구글이 밝혔습니다. 구글은 학습용과 추론용 칩 분리를 통해 응답 속도와 비용 효율을 동시에 개선하겠다는 목표를 내세웠으며, 동시에 자사 TPU와 함께 엔비디아 GPU 기반 서비스도 계속 제공하고 하반기 엔비디아 신형 칩도 도입할 계획입니다.