通過跨 NVIDIA Vera CPU、Rubin GPU、NVLink 6 交換機(jī)、ConnectX-9 SuperNIC、BlueField-4 DPU 和 Spectrum-6 以太網(wǎng)交換機(jī)的極致協(xié)同設(shè)計，大幅縮短訓(xùn)練時間，降低推理 token 生成成本。

• Rubin 平臺采用軟硬件極致協(xié)同設(shè)計，將推理 token 成本最多降低至 NVIDIA Blackwell 平臺的十分之一，在 MoE 模型訓(xùn)練中使用的 GPU 數(shù)量僅為 Blackwell 平臺的四分之一。
• NVIDIA Spectrum-X 以太網(wǎng)硅光交換機(jī)系統(tǒng)可將能效和持續(xù)運(yùn)行時間提高 5 倍。
• 搭載 NVIDIA BlueField-4 存儲處理器的全新 NVIDIA 推理上下文記憶存儲平臺加速代理式 AI 推理。
• 微軟旗下搭載 NVIDIA Vera Rubin NVL72 機(jī)架級擴(kuò)展系統(tǒng)的新一代 FAIrwater AI 超級工廠，將擴(kuò)展至搭載數(shù)十萬個 NVIDIA Vera Rubin 超級芯片。
• CoreWeave 作為率先提供 NVIDIA Rubin 的首批企業(yè)之一，將通過 CoreWeave Mission Control 進(jìn)行管理，兼顧靈活性和高性能。
• 擴(kuò)大與紅帽的合作，借助紅帽企業(yè) Linux、紅帽 OpenShift 和紅帽 AI，提供針對 Rubin 平臺優(yōu)化的完整 AI 堆棧。

NVIDIA 今日發(fā)布 NVIDIA Rubin 平臺，開啟了新一代 AI 之旅，該平臺由六款專為打造超凡 AI 超級計算機(jī)而設(shè)計的全新芯片組成。NVIDIA Rubin 樹立了新的標(biāo)桿，能以最低的成本構(gòu)建、部署和安全運(yùn)行全球最大型、最先進(jìn)的 AI 系統(tǒng)，以助力加速主流 AI 的采用。

Rubin 平臺對六款芯片——NVIDIA Vera CPU、NVIDIA Rubin GPU、NVIDIA NVLink? 6 交換機(jī)、NVIDIA ConnectX?-9 SuperNIC、NVIDIA BlueField?-4 DPU 和 NVIDIA Spectrum?-6 以太網(wǎng)交換機(jī)——進(jìn)行極致協(xié)同設(shè)計，從而大幅縮短訓(xùn)練時間并降低推理 token 成本。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“訓(xùn)練和推理的 AI 計算需求不斷激增，Rubin 的問世恰逢其時。憑借我們每年推出一代新 AI 超級計算機(jī)的節(jié)奏，以及對跨六款全新芯片的極致協(xié)同設(shè)計，Rubin 向 AI 的下一個前沿邁出了關(guān)鍵一步?！?/p>

Rubin 平臺以 Vera Florence Cooper Rubin 命名，這位具有開創(chuàng)精神的美國天文學(xué)家，她的發(fā)現(xiàn)改變了人類對宇宙的理解。Rubin 平臺包括 NVIDIA Vera Rubin NVL72 機(jī)架級擴(kuò)展解決方案和 NVIDIA HGX Rubin NVL8 系統(tǒng)。

Rubin 平臺引入了五項創(chuàng)新技術(shù)，包括新一代 NVIDIA NVLink 互連技術(shù)、Transformer 引擎、機(jī)密計算和 RAS 引擎以及 NVIDIA Vera CPU。這些突破將以 NVIDIA Blackwell 平臺低至十分之一的 token 成本加速代理式 AI、高級推理和超大規(guī)?；旌蠈＜遥∕oE）模型推理的發(fā)展。NVIDIA Rubin 平臺在 MoE 模型訓(xùn)練中使用的 GPU 數(shù)量僅為前代平臺的四分之一，從而可加速 AI 的采用與普及。

以上為新聞?wù)獌?nèi)容，如需閱讀新聞全文，請點(diǎn)擊鏈接：NVIDIA 發(fā)布 Rubin，開啟新一代 AI 平臺——六款全新芯片，一臺超凡 AI 超級計算機(jī) | NVIDIA 英偉達(dá)博客