通過跨 NVIDIA Vera CPU、Rubin GPU、NVLink 6 交換機(jī)、ConnectX-9 SuperNIC、BlueField-4 DPU 和 Spectrum-6 以太網(wǎng)交換機(jī)的極致協(xié)同設(shè)計(jì)，大幅縮短訓(xùn)練時(shí)間，降低推理 token 生成成本。

• Rubin 平臺(tái)采用軟硬件極致協(xié)同設(shè)計(jì)，將推理 token 成本最多降低至 NVIDIA Blackwell 平臺(tái)的十分之一，在 MoE 模型訓(xùn)練中使用的 GPU 數(shù)量?jī)H為 Blackwell 平臺(tái)的四分之一。
• NVIDIA Spectrum-X 以太網(wǎng)硅光交換機(jī)系統(tǒng)可將能效和持續(xù)運(yùn)行時(shí)間提高 5 倍。
• 搭載 NVIDIA BlueField-4 存儲(chǔ)處理器的全新 NVIDIA 推理上下文記憶存儲(chǔ)平臺(tái)加速代理式 AI 推理。
• 微軟旗下搭載 NVIDIA Vera Rubin NVL72 機(jī)架級(jí)擴(kuò)展系統(tǒng)的新一代 FAIrwater AI 超級(jí)工廠，將擴(kuò)展至搭載數(shù)十萬個(gè) NVIDIA Vera Rubin 超級(jí)芯片。
• CoreWeave 作為率先提供 NVIDIA Rubin 的首批企業(yè)之一，將通過 CoreWeave Mission Control 進(jìn)行管理，兼顧靈活性和高性能。
• 擴(kuò)大與紅帽的合作，借助紅帽企業(yè) Linux、紅帽 OpenShift 和紅帽 AI，提供針對(duì) Rubin 平臺(tái)優(yōu)化的完整 AI 堆棧。

NVIDIA 今日發(fā)布 NVIDIA Rubin 平臺(tái)，開啟了新一代 AI 之旅，該平臺(tái)由六款專為打造超凡 AI 超級(jí)計(jì)算機(jī)而設(shè)計(jì)的全新芯片組成。NVIDIA Rubin 樹立了新的標(biāo)桿，能以最低的成本構(gòu)建、部署和安全運(yùn)行全球最大型、最先進(jìn)的 AI 系統(tǒng)，以助力加速主流 AI 的采用。

Rubin 平臺(tái)對(duì)六款芯片——NVIDIA Vera CPU、NVIDIA Rubin GPU、NVIDIA NVLink? 6 交換機(jī)、NVIDIA ConnectX?-9 SuperNIC、NVIDIA BlueField?-4 DPU 和 NVIDIA Spectrum?-6 以太網(wǎng)交換機(jī)——進(jìn)行極致協(xié)同設(shè)計(jì)，從而大幅縮短訓(xùn)練時(shí)間并降低推理 token 成本。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“訓(xùn)練和推理的 AI 計(jì)算需求不斷激增，Rubin 的問世恰逢其時(shí)。憑借我們每年推出一代新 AI 超級(jí)計(jì)算機(jī)的節(jié)奏，以及對(duì)跨六款全新芯片的極致協(xié)同設(shè)計(jì)，Rubin 向 AI 的下一個(gè)前沿邁出了關(guān)鍵一步�！�

Rubin 平臺(tái)以 Vera Florence Cooper Rubin 命名，這位具有開創(chuàng)精神的美國(guó)天文學(xué)家，她的發(fā)現(xiàn)改變了人類對(duì)宇宙的理解。Rubin 平臺(tái)包括 NVIDIA Vera Rubin NVL72 機(jī)架級(jí)擴(kuò)展解決方案和 NVIDIA HGX Rubin NVL8 系統(tǒng)。

Rubin 平臺(tái)引入了五項(xiàng)創(chuàng)新技術(shù)，包括新一代 NVIDIA NVLink 互連技術(shù)、Transformer 引擎、機(jī)密計(jì)算和 RAS 引擎以及 NVIDIA Vera CPU。這些突破將以 NVIDIA Blackwell 平臺(tái)低至十分之一的 token 成本加速代理式 AI、高級(jí)推理和超大規(guī)�；旌蠈＜遥∕oE）模型推理的發(fā)展。NVIDIA Rubin 平臺(tái)在 MoE 模型訓(xùn)練中使用的 GPU 數(shù)量?jī)H為前代平臺(tái)的四分之一，從而可加速 AI 的采用與普及。

以上為新聞?wù)獌?nèi)容，如需閱讀新聞全文，請(qǐng)點(diǎn)擊鏈接：NVIDIA 發(fā)布 Rubin，開啟新一代 AI 平臺(tái)——六款全新芯片，一臺(tái)超凡 AI 超級(jí)計(jì)算機(jī) | NVIDIA 英偉達(dá)博客