英偉達出手,SRAM重回C位
黃仁勳提出SRAM新架構,強調低延遲與高效能
在黃仁勳於GTC演講中,提出英偉達透過新開發的LPU(語言處理器)架構,將SRAM(靜態隨機存取記憶體)重新帶回核心地位。此架構專為生成式AI的解碼階段設計,解決傳統GPU因記憶體頻寬受限導致的延遲問題。
Groq 3 LPX機架方案展示高階SRAM效能
英偉達與新創公司Groq合作推出的Groq 3 LPX機架,搭載256個LPU處理器,提供128GB片上SRAM與達40PB/s的推理加速帶寬,並透過每個機架640TB/s的專用擴展接口,實現極高資料傳輸效率。
SRAM架構優勢:降低延遲與能耗
該SRAM架構將資料「貼著算力跑」,大幅縮短數據路徑,從架構層面降低延遲與能耗,理論上可比傳統GPU快100倍,更適合低延遲推理場景。
產業影響與未來展望
此舉顯示英偉達正從傳統GPU轉向以SRAM為核心的AI推理解決方案,無需依賴當前主流的高頻寬記憶體(HBM),預計將推動SRAM在AI領域的應用擴張,並可能成為2026年後AI產業的關鍵技術。
