別盯著GPU了,CPU正成為AI時代的『新瓶頸』

別盯著GPU了,CPU正成為AI時代的『新瓶頸』

AI算力發展轉向系統協同優化

隨著AI發展從GPU算力競賽轉向系統協同優化,CPU的重要性被嚴重低估。未來AI基礎設施的勝負手,可能在於誰能更好地平衡CPU與GPU的協作效率。

電力成為AI擴張的首要瓶頸

根據可驗證事實,電力已取代芯片成為制約AI算力擴張的首要瓶頸。AI算力需求呈指數級增長,單機櫃功耗達100kW以上,而電網擴建需5至10年週期,關鍵設備的供電路徑與轉換效率成為新瓶頸。

產業動態與技術演進

  • 馬斯克Terafab太空算力、英偉達重拾CPU,與張璐聊AI算力新趨勢。
  • 2025年,谷歌與英特爾達成多年協議,在全球AI數據中心規模部署英特爾的「Xeon至強處理器」,以破解CPU瓶頸。
  • GPU面臨挑戰,先進製程演進放緩,臺積電3nm性能增幅與成本不成正比,AI晶片年均提升從50%降至20%以下。
  • 2025年,定製ASIC晶片(如谷歌TPU)崛起,成本低、功耗優,對傳統GPU構成威脅。

記憶體成為關鍵瓶頸

當前AI系統如同頂級跑車配細油管,GPU性能再強也會因記憶體不足而空轉。訓練GPT級大模型每秒需傳輸數十TB數據,但全球僅有三家企業能產能高端HBM記憶體,其中兩家產能已預訂至2028年。

來源:https://36kr.com/p/3764433173037577

返回頂端