GoogleがラスベガスのGoogle Cloud Nextで第8世代のTPUを発表した。訓練向けのTPU 8tと、推論・強化学習向けのTPU 8iに分けたのが特徴で、ハードウェアの世代として訓練と推論を明確に切り分けたのは初めてである。TPU 8tは最大9,600チップを結合し、第7世代のIronwoodに対して訓練の価格性能を最大2.8倍改善するとした。TPU 8iは1ポッドあたり1,152チップ、オンチップSRAMをIronwoodの3倍に増やし、自律的に動くAIエージェントを並列に走らせる用途に最適化されている。いずれもTSMCの2nmプロセスを狙い、Google外の顧客への提供は2027年後半が目標とされた。Anthropicが最大100万基のTPUを確保し、Googleが同社に最大400億ドルを投じるなど、TPUはGoogleにとって自社モデルの基盤であるだけでなくNVIDIAに対抗する事業そのものになっていた。