Google Cloud 推出 Cloud Storage Rapid,強化 AI 訓練與分析工作負載的儲存效能

Google Cloud 推出 Cloud Storage Rapid,強化 AI 訓練與分析工作負載的儲存效能

背景與挑戰

隨著企業訓練大型 AI 模型、部署大規模 AI 推論服務,並建置可處理大量企業資料的 AI 代理,儲存系統已成為 AI 基礎架構的重要瓶頸。Google Cloud 指出,雖然 GPU 與 TPU 是 AI 運算的核心,但若資料供應或檢查點寫入跟不上運算節奏,運算資源便無法充分發揮效益。

Cloud Storage Rapid 服務介紹

Google Cloud 正式推出 Cloud Storage Rapid 服務,旨在清除 AI/ML 和資料分析工作負載的資料瓶頸。該服務屬於 Cloud Storage 中的高效能產品系列,專為處理日益複雜的 AI/機器學習模型及 PB 級資料集而設計。

核心優勢與技術特點

  • 低延遲與高處理量:提供低延遲且高達 20 Tbps 的高處理量,以滿足 AI 工作負載的即時需求。
  • 解決物件儲存瓶頸:針對物件儲存面對 AI 和數據密集型工作負載時延遲較高且缺乏文件語義的問題進行優化。
  • 降低 IO 爭搶成本:Rapid Bucket 功能可顯著降低客戶在多租戶環境下的 IO 爭搶成本。
  • 跨洲存取優化:在橫跨整洲存取資料時,可將網路輸出費用降至最低,且無需額外佈建或管理單獨的儲存空間層級。

市場影響與展望

若此服務確實能解決企業級 AI 工作負載的儲存限制,將加速企業向 Google Cloud 遷移,特別利好需要高頻資料重載的推理服務與模型微調(Fine-tuning)應用。

返回頂端