仍選擇走高成本路線！黃仁勳談為何SRAM 無法取代HBM

黃仁勳的觀點

黃仁勳表示，雖然 SRAM、較便宜的記憶體及開放權重模型可提升效率，但 AI 工作負載的不斷變化現實，使輝達仍離不開 HBM。對某些工作負載來說，SRAM 快得驚人，而其在處理「Token 產出（嘴巴說話的速度）」時表現優異。

SRAM 全稱為 Static Random Access Memory，是高速小容量記憶體，適合用於快速存取的場景。然而，其容量極小，無法裝下現在主流的大模型。

市場對 SRAM 取代 HBM 的方案存在熱議，認為低成本方案可緩解昂貴元件的依賴。然而，黃仁勳強調，SRAM 在容量上的不足，使其難以全面取代 HBM，尤其在處理大型 AI 模型時。

儘管 SRAM 在特定應用上表現亮眼，但輝達仍堅持使用 HBM，並持續投入高頻寬記憶體技術。未來發展將聚焦於如何優化記憶體與 AI 芯片之間的協同，而非單純以成本為導向。