99%計算閒置？推理時代，存力比算力香
傳統存儲在AI數據中心的增量機會
上篇文章主要是對AI服務器中各類存儲角色和HBM市場進行梳理，海豚君將在本篇文章中圍繞於傳統DDR、NAND、HDD等傳統領域展開，主要介紹傳統存儲在AI數據中心中的實際應用與潛在增量機會。
存儲與算力的權衡
在AI推理時代，雖然算力被廣泛認為是關鍵，但實際上許多數據中心的計算資源存在嚴重閒置現象，達99%以上。這顯示出「存力」（即存儲能力）在實際運作中可能比「算力」更具價值。
傳統存儲技術的應用前景
- DDR記憶體：作為AI伺服器中快速存取資料的基礎，其在模型推理階段的資料緩存中扮演關鍵角色。
- NAND閃存：用於儲存大量非結構化資料，如訓練資料集與模型參數，具有高密度與低成本優勢。
- HDD硬碟：雖速度較慢，但在長期資料歸檔與冷數據儲存方面仍具備不可替代性。
這些傳統存儲技術在AI推理任務中，不僅能有效降低資料傳輸延遲，還能提升整體系統效能與穩定性。
未來發展方向
隨著AI模型規模持續擴大，對資料存取效率的需求日益增加，傳統存儲技術的優化與整合將成為數據中心升級的重要方向。未來需結合存儲與算力的協同設計，以實現更高效能與成本優化。