Google 第八代 TPU 晶片：訓練與推論分工新紀元

產品發布與市場背景

Google 於 2026 年 4 月在 Google Cloud NEXT ’26 大會上正式推出第八代張量處理器（TPU v8）。此次發布標誌著 AI 晶片時代的重大轉變，Google 首次將產品線拆分為兩款獨立晶片，分別針對不同的 AI 應用場景進行優化。

TPU 8t：專用於模型訓練

TPU 8t 是專為 frontier-model（前沿模型）訓練設計的晶片。相較於前一代產品，TPU 8t 在訓練效能上可提升近 3 倍（部分資料指出為 2.7 至 2.8 倍），有助於大幅縮短大型模型的開發週期。在同等價格下，其效能顯著提升，能源效率表現亦特別亮眼，每瓦效能較上一代提升逾一倍，達到 124%。

TPU 8i：專攻 AI 推論與即時推理

另一款晶片 TPU 8i 則鎖定 AI 推論與即時推理場景，特別適用於多個 AI 代理人（agentic AI）的應用。TPU 8i 的效能提升約 80%，兩款晶片的能源效率均較上一代提升超過一倍。

技術架構革新

第八代 TPU 採用了系統級協同設計（system-level co-design），以加速 AI 生命週期。技術上，相較於傳統的 DCN（數據中心網路），新架構透過減少網路層級顯著降低延遲，並採用多平面設計。此外，搭配獨立的控制網域來連結 TPU 8t，機架也透過 Jupiter 南北向網路結構進行優化，資料中心網路帶寬增益達 300%（從 100 Gb/s 提升至 400 Gb/s），同時推理網路延遲減少 56%。