英偉達仍是王者,GB200貴一倍卻暴省15倍,AMD輸得徹底

英偉達仍是王者,GB200貴一倍卻暴省15倍,AMD輸得徹底

要點摘要

根據最新報告,英偉達在AI推理領域的經濟性優勢日益顯著。以GB200 NVL72為例,其吞吐量相較於 AMD MI350X 高出近三十倍,並且在高互動場景中,DeepSeek R1 的每 Token 成本也大幅下降,約為AMD方案的 1/15。

此趨勢使得「每一美元能輸出多少智能」成為判斷勝負的新核心指標,超越單純的晶片性能或 GPU 數量。報告指出,GB200 在成本效益方面顯著領先,重塑推理市場的競爭格局。

  • 吞吐量對比:GB200 NVL72 約為 AMD MI350X 的 28 倍吞吐量(實際數值會因場景而異)。
  • 成本對比:高互動場景中,DeepSeek R1 的每 Token 成本約比 AMD 方案低 15 倍。
  • 核心觀點:「每美元能輸出多少智能」成為新決勝要素。

來源:https://36kr.com/p/3624929430963458

返回頂端