구글 클라우드, 신형 AI칩 2종 공개…보안 특화 칩에 AMD CPU 탑재

AI 요약

구글 클라우드는 10일 처리 중인 데이터까지 암호 상태로 보호하는 보안 특화 칩 TPU 8tx와 대규모 정보 처리에 특화된 TPU 8i 맥스를 공개하며 8세대 TPU 라인업을 4종으로 확장했다고 밝혔습니다. TPU 8tx에는 5세대 AMD 에픽(EPYC) CPU를 탑재해 하드웨어 기반 기밀 컴퓨팅을 구현하고 민감한 데이터와 모델 가중치를 처리하는 중에도 격리·보호하며 TPU 8t 대비 지연 시간을 최대 절반으로 줄였다고 구글과 AMD는 설명했습니다. TPU 8i 맥스는 TPU 8i 칩 2개를 하나의 패키지로 묶어 연산 성능과 칩 내부 SRAM 용량, HBM 대역폭을 각각 2배로 늘려 컨텍스트 윈도우가 100만 토큰 규모로 커질 때 발생하는 메모리 병목 완화에 초점을 맞추고 기존 서버 랙에 칩을 2배 장착할 수 있다고 구글은 밝혔습니다.