TPU7x（Ironwood）
このページでは、 Google Cloudで利用可能な最新の TPU である TPU7x のアーキテクチャと利用可能な構成について説明します。TPU7x は、Ironwood ファミリーの最初のリリースであり、 Google Cloudの第 7 世代 TPU です。Ironwood 世代は、大規模な AI トレーニングと推論向けに設計されています。
Pod あたり 9,216 チップのフットプリントを備えた TPU7x は、TPU v5p と多くの類似点があります。TPU7x は、大規模な密モデルと MoE モデル、事前トレーニング、サンプリング、デコードを多用する推論で高いパフォーマンスを発揮します。
TPU7x を使用するには、Google Kubernetes Engine（GKE）を使用する必要があります。詳細については、GKE での TPU についてをご覧ください。
TPU7x と GKE を TPU Cluster Director で使用することもできます。TPU Cluster Director は、予約容量すべてにアクセスできる（ホールドバックのない）All Capacity モードの予約で使用できます。これにより、TPU ハードウェアのトポロジ、使用率、健全性ステータスを完全に把握できます。詳細については、All Capacity モードの概要をご覧ください。
TPU7x を利用する場合は、アカウント チームにお問い合わせください。
システム アーキテクチャ
各 TPU7x チップには、2 つの TensorCore と 4 つの SparseCore が含まれています。次の表に、TPU7x の主な仕様と値を以前の世代と比較して示します。
| 仕様 | v5p | v6e（Trillium） | TPU7x（Ironwood） |
|---|---|---|---|
| Pod あたりのチップ数 | 8960 | 256 | 9,216 |
| チップあたりのピーク コンピューティング（BF16）（TFLOP） | 459 | 918 | 2,307 |
| チップあたりのピーク コンピューティング（FP8）（TFLOP） | 459 | 918 | 4,614 |
| チップあたりの HBM 容量（GiB） | 95 | 32 | 192 |
| チップあたりの HBM 帯域幅（GB/秒） | 2765 | 1638 | 7,380 |
| vCPU 数（4 チップ VM） | 208 | 180 |