英偉達推出首款Groq芯片LPX:與Vera Rubin組合每兆瓦推理效率最高提升35倍,並展示下一代Kyber原型

Gate News 消息,3 月 17 日,英偉達推出 Groq 3 LPU(語言處理單元)晶片,這是英偉達去年 12 月以約 200 億美元收購 AI 推理晶片初創公司 Groq 後推出的第一款晶片,預計今年第三季度開始出貨。Groq 3 LPX 機架可容納 256 顆 LPU,配備 128GB 片上 SRAM 和每秒 640TB 的擴展互連帶寬。官方稱 LPX 與 Vera Rubin NVL72 搭配部署時,每兆瓦推理吞吐量最高可提升 35 倍,同時解鎖萬億參數、百萬令牌上下文推理場景的營收潛力。黃仁勳將兩款處理器描述為「極端差異卻相互統一:一個追求高吞吐,一個追求低延遲」,LPX 的片上記憶體則大幅擴展模型可用的總記憶容量。LPX 機架計畫今年下半年隨 Vera Rubin 平台一同上市。此外,黃仁勳還展示了代號 Kyber 的下一代機架架構原型。Kyber 將 144 顆 GPU 的計算托盤改為垂直排列,以提升物理密度、降低延遲,將搭載於 Vera Rubin 的繼任平台 Vera Rubin Ultra,預計 2027 年推出。

查看原文
免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明
留言
0/400
暫無留言