英偉達放棄GPU上LPU:新推理芯片被曝Groq即買即用,OpenAI第一個吃螃蟹

英偉達放棄GPU上LPU:新推理芯片被曝Groq即買即用,OpenAI第一個吃螃蟹

核心事件:英偉達轉向外部架構AI芯片

更引人關注的是,這款芯片的底層架構並非來自英偉達自研,而是由原Groq團隊打造的LPU(語言處理單元)架構。這意味著:英偉達第一次在核心AI算力產品線上,大幅調整策略,將核心AI算力產品線從GPU轉向外部架構的專用推理芯片。

技術背景:LPU架構優勢顯著

理論上,LPU的最高速度可比GPU快100倍,更適合低延遲推理場景,特別是Agent應用的高頻調用需求。該架構在處理自然語言任務時,具備更高的效率與更低的延遲,成為AI推理領域的新選擇。

產品發佈與客戶佈局

英偉達計劃在2026年3月的GTC大會發布一款整合了Groq“語言處理單元”(LPU)技術的全新推理芯片,首客戶為已完成1100億美元融資的OpenAI。此舉回應了市場對高效能、低成本計算方案的迫切需求。

市場影響與競爭格局

此舉標誌著英偉達正加速向推理計算領域轉型,以應對客戶對高效能、低成本計算方案的迫切需求。Groq的LPU芯片為LLM推理領域帶來新選擇,挑戰傳統GPU在LLM推理中的侷限性,如速度慢、成本高和隱私保護不足等問題。

來源:https://m.36kr.com/p/3705414421737607

返回頂端