Google 第 8 代 TPU 雙軌設計:TPU 8t 專攻訓練、TPU 8i 專攻推論

Google 第 8 代 TPU 雙軌設計:TPU 8t 專攻訓練、TPU 8i 專攻推論

產品發布與架構設計

Google 於 Google Cloud Next 2026 活動中正式發表新一代自研晶片 TPU,共推出兩款不同架構的產品,分別為TPU 8tTPU 8i。這兩款晶片旨在針對 AI 生命週期的不同階段進行優化,取代過去單一晶片通吃所有場景的設計模式。

功能定位與應用場景

  • TPU 8t:專為大型模型訓練(Frontier-model training)設計,提供極高的訓練效能。
  • TPU 8i:專為 AI 代理協作(Agentic AI)與推理部署(Inference)打造,支援許多專業化的 AI 代理協作。

性能提升與技術特點

根據 Google 提供的資訊,新一代 TPU 的性能較以往提升80%,且兩款晶片的每瓦效能皆有最高可達2 倍的提升。對於以永續方式擴展下一世代 AI 的規模相當重要。此外,第八代 TPU 延續了成熟的軟體體系,支援 JAX、PyTorch、Keras 及 vLLM 等主流框架,且原生 PyTorch 支援現已進入預覽階段,使用者可直接遷移模型而無需修改程式碼。

市場反應與供應鏈

外界看好 TPU 8t 與 TPU 8i 將在今年稍晚正式推出,並有助於企業服務更多客戶。此產品也引發了對臺廠供應鏈的關注,顯示其在產業鏈中的重要地位。

返回頂端