英偉達放棄GPU上LPU:新推理芯片被曝Groq即買即用,OpenAI第一個吃螃蟹
核心事件:英偉達轉向外部架構AI芯片
更引人關注的是,這款芯片的底層架構並非來自英偉達自研,而是由原Groq團隊打造的LPU(語言處理單元)架構。這意味著:英偉達第一次在核心AI算力產品線上,大幅調整策略,將核心AI算力產品線從GPU轉向外部架構的專用推理芯片。
技術背景:LPU架構優勢顯著
理論上,LPU的最高速度可比GPU快100倍,更適合低延遲推理場景,特別是Agent應用的高頻調用需求。該架構在處理自然語言任務時,具備更高的效率與更低的延遲,成為AI推理領域的新選擇。
產品發佈與客戶佈局
英偉達計劃在2026年3月的GTC大會發布一款整合了Groq“語言處理單元”(LPU)技術的全新推理芯片,首客戶為已完成1100億美元融資的OpenAI。此舉回應了市場對高效能、低成本計算方案的迫切需求。
市場影響與競爭格局
此舉標誌著英偉達正加速向推理計算領域轉型,以應對客戶對高效能、低成本計算方案的迫切需求。Groq的LPU芯片為LLM推理領域帶來新選擇,挑戰傳統GPU在LLM推理中的侷限性,如速度慢、成本高和隱私保護不足等問題。
