TPU v4

Dokumen ini menjelaskan arsitektur dan konfigurasi Cloud TPU v4 yang didukung.

Arsitektur sistem

Tiap chip TPU v4 berisi dua TensorCore. Tiap TensorCore memiliki empat unit perkalian matriks (MXU), satu unit vektor, dan satu unit skalar. Tabel berikut menampilkan spesifikasi utama untuk Pod TPU v4.

Spesifikasi Nilai
Komputasi puncak per chip 275 teraflops (bf16 atau int8)
Kapasitas dan bandwidth HBM2 32 GiB, 1200 GBps
Daya min/rata-rata/maksimum yang diukur 90/170/192 W