算力的新因果:AI Agent時代,被重估的CPU價值與新機遇

算力的新因果:AI Agent時代,被重估的CPU價值與新機遇

AI Agent改變算力結構,CPU被重新定價

一、AI Agent不是更耗算力,而是更像一個“系統級大腦”。傳統大模型推理本質上是一道數學題:輸入問題,調用GPU,輸出結果;而AI Agent不一樣,它更像一個長期在線的系統級大腦,需要持續調度與執行任務。

CPU在AI Agent時代扮演關鍵角色

在HaystackRAG任務中,CPU處理佔總延遲的90%以上,而GPU推理僅佔10%左右。在其他任務中,CPU環節佔比普遍在40%至90%之間,凸顯其在端到端體驗中的核心地位。

AI Agent推動CPU需求不降反增

隨著AI Agent能力增強,其對“主動服務+實時決策”的需求上升,這類任務需要強大的通用算力支撐。CPU一旦被“持續重計算”任務(如視頻渲染、複雜代碼運行)佔滿,便無法服務其他沙箱,導致算力資源競爭加劇。

服務器CPU迎來價值重估機會

服務器CPU是AI算力與數據中心升級的核心受益環節,正進入存量升級、國產替代與模型迭代三重共振週期。據預測,未來CPU出貨量有望增長25%,或將迎來價值重估機會。

算力選型的範式轉移

在AI發展的早期,算力資源幾乎全部向“模型訓練”傾斜,但隨著AI Agent時代的到來,這種天平正在發生逆轉——從“重訓練”轉向“重推理”。專家預測,未來推理算力將成為主流,推動CPU在整體算力架構中的地位提升。

來源:https://36kr.com/p/3709358968467840

返回頂端