大型掛機現場:馬斯克的55萬英偉達GPU,利用率才11%

大型掛機現場:馬斯克的55萬英偉達GPU,利用率才11%

核心事實

馬斯克旗下xAI團隊目前擁有約55萬塊英偉達GPU,但實際算力利用率僅為11%,引發業界對AI基礎設施使用效率的廣泛討論。

技術背景

該利用率數字反映的是模型運算效率(Model FLOPs Utilization, MFU),並非所有GPU處於閒置狀態,而是指整體算力使用率偏低,顯示AI軟件棧在任務調度與優化方面仍存在明顯短板。

行業影響

這一現象凸顯全球AI競賽正從“硬件數量”轉向“算力使用效率”,凸顯軟件層面的優化挑戰。相較之下,Meta與Google等公司已實現更高效的GPU調度與模型訓練流程。

誤解澄清

  • 11%並不表示89%的GPU在“睡覺”,而是整體算力利用率偏低。
  • 該數據反映的是模型運算效率,而非硬件閒置率。

相關媒體來源

虎嗅新浪財經鳳凰網科技IT之家X平臺Facebook科技新報芯智訊新浪財經網易

來源:https://36kr.com/p/3795874564250627

返回頂端