구글, 신형 AI 칩 'TPU 8i Max' 공개…연산 성능 2배

AI 요약

구글은 9일(현지시간) 8세대 텐서처리장치(TPU) 제품군에 TPU 8i Max와 TPU 8tx를 추가한다고 발표했습니다. TPU 8i Max는 기존 TPU 8i 칩 2개를 한 패키지에 결합해 연산 성능과 칩 내부 메모리(SRAM) 용량, 고대역폭 메모리(HBM) 대역폭을 각각 2배로 늘려 동일한 서버 랙 공간에 더 많은 연산 자원을 배치하고 대량의 데이터를 동시에 처리하도록 설계되었습니다. TPU 8tx는 학습용 TPU 8t 칩에 맞춤형 AMD CPU를 조합해 하드웨어 수준에서 민감한 데이터와 모델 가중치를 격리해 처리 중에도 보호하며 저지연 네트워크로 TPU 8t보다 지연 시간을 최대 절반으로 줄여 금융사나 정부 기관 등이 별도 서버로 데이터를 옮기지 않고도 모델을 미세 조정하고 추론에 활용할 수 있게 합니다.