NVIDIA 推出面向行業(yè)的 NVLink Fusion，非Nvidia CPU 和 GPU 與 Nvidia互通數(shù)據(jù)

NVIDIA 推出了 NVIDIA NVLink Fusion計(jì)劃，可以讓各行各業(yè)與龐大的合作伙伴生態(tài)系統(tǒng)一起構(gòu)建半定制的 AI 基礎(chǔ)設(shè)施，并使用世界上最先進(jìn)、應(yīng)用最廣泛的計(jì)算結(jié)構(gòu) NVIDIA NVLink 構(gòu)建。

MediaTek、Marvell、Alchip Technologies、Astera Labs、Synopsys 和 Cadence 是首批采用 NVLink Fusion 的公司，可實(shí)現(xiàn)定制芯片擴(kuò)展，以滿足模型訓(xùn)練和代理 AI 推理的苛刻工作負(fù)載要求。使用 NVLink Fusion，F(xiàn)ujitsu 和 Qualcomm Technologies 的 CPU 還可以與 NVIDIA GPU 集成，以構(gòu)建高性能的 NVIDIA AI 工廠。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“一場(chǎng)結(jié)構(gòu)性轉(zhuǎn)變正在發(fā)生：幾十年來(lái)第一次，數(shù)據(jù)中心必須從根本上重新架構(gòu) — AI 正在融入每個(gè)計(jì)算平臺(tái)。NVLink Fusion 為合作伙伴打開了 NVIDIA 的 AI 平臺(tái)和豐富的生態(tài)系統(tǒng)，以構(gòu)建專門的 AI 基礎(chǔ)設(shè)施�！�

NVLink Fusion 還為云提供商提供了一條簡(jiǎn)單的途徑，可以使用任何 ASIC、NVIDIA 的機(jī)架級(jí)系統(tǒng)和 NVIDIA 端到端網(wǎng)絡(luò)平臺(tái)將 AI 工廠擴(kuò)展到數(shù)百萬(wàn)個(gè) GPU，該平臺(tái)可提供高達(dá) 800Gb/s 的吞吐量，并配備 NVIDIA ConnectX-8 SuperNIC、NVIDIA Spectrum-X 以太網(wǎng)和 NVIDIA Quantum-X800 InfiniBand 交換機(jī)，并即將推出聯(lián)合封裝的光學(xué)器件。

互聯(lián)互通的技術(shù)生態(tài)系統(tǒng)

使用 NVLink Fusion，超大規(guī)模企業(yè)可以與 NVIDIA 合作伙伴生態(tài)系統(tǒng)合作，集成 NVIDIA 機(jī)架級(jí)解決方案，以便在數(shù)據(jù)中心基礎(chǔ)設(shè)施中無(wú)縫部署。

創(chuàng)建可使用 NVIDIA NVLink Fusion 部署的定制 AI 計(jì)算的 AI 芯片制造合作伙伴包括 MediaTek、Marvell、Alchip、Astera Labs、Synopsys 和 Cadence。

聯(lián)發(fā)科技副董事長(zhǎng)兼首席執(zhí)行官蔡崇信表示：“聯(lián)發(fā)科技利用我們世界一流的 ASIC 設(shè)計(jì)服務(wù)和在高速互連方面的深厚專業(yè)知識(shí)，與 NVIDIA 合作構(gòu)建下一代 AI 基礎(chǔ)設(shè)施�！拔覀兊暮献魇加谄囶I(lǐng)域，現(xiàn)在進(jìn)一步擴(kuò)展，使我們能夠提供可擴(kuò)展、高效和靈活的技術(shù)，以滿足云規(guī)模 AI 的快速發(fā)展需求�！�

“Marvell 正在與 NVIDIA 合作，重新定義 AI 工廠集成的可能性，”Marvell 董事長(zhǎng)兼首席執(zhí)行官 Matt Murphy 表示。采用 NVLink Fusion 的 Marvell 定制芯片為客戶提供了構(gòu)建高級(jí) AI 基礎(chǔ)設(shè)施的靈活、高性能基礎(chǔ)，從而提供下一代萬(wàn)億參數(shù) AI 模型所需的帶寬、可靠性和敏捷性。

Alchip 首席執(zhí)行官 Johnny Shen 表示：“Alchip 通過(guò)設(shè)計(jì)和制造生態(tài)系統(tǒng)擴(kuò)大其可用性，包括 ASIC 行業(yè)最靈活的參與，并得到 ASIC 行業(yè)最靈活的參與支持，從而支持 NVLink Fusion 的采用。“這是我們?yōu)榇_保能夠高效訓(xùn)練和部署下一代 AI 模型以滿足未來(lái)智能應(yīng)用的需求做出的貢獻(xiàn)。”

Astera Labs 首席執(zhí)行官 Jitendra Mohan 表示：“基于我們與 NVIDIA 密切合作的悠久歷史，我們很高興能夠添加專用連接解決方案來(lái)應(yīng)對(duì) NVLink Fusion 生態(tài)系統(tǒng)�！暗脱舆t和高帶寬縱向擴(kuò)展互連以及對(duì)內(nèi)存語(yǔ)義的原生支持，對(duì)于最大限度地提高 AI 服務(wù)器的利用率和性能至關(guān)重要。通過(guò)使用 NVLink 解決方案擴(kuò)展我們的縱向擴(kuò)展連接產(chǎn)品組合，我們?yōu)槌笠?guī)模和企業(yè) AI 客戶提供了更多選擇和更快的上市時(shí)間。

Synopsys 總裁兼首席執(zhí)行官 Sassine Ghazi 表示：“數(shù)據(jù)中心正在轉(zhuǎn)變?yōu)?AI 工廠，Synopsys 行業(yè)領(lǐng)先的 AI 芯片設(shè)計(jì)解決方案和基于標(biāo)準(zhǔn)的接口 IP 是關(guān)鍵任務(wù)的推動(dòng)因素�！拔覀儗�(duì) NVIDIA NVLink Fusion 的支持反映了我們致力于為下一代 AI 和高性能計(jì)算培育開放且可擴(kuò)展的生態(tài)系統(tǒng)�！�

Cadence 高級(jí)副總裁兼芯片解決方案事業(yè)部總經(jīng)理 Boyd Phelps 表示：“HPC 和 AI 工作負(fù)載需求是獨(dú)特的，并且正在迅速發(fā)展，構(gòu)建最先進(jìn)的定制 AI 系統(tǒng)的超大規(guī)模企業(yè)依靠 Cadence 提供從數(shù)據(jù)中心到邊緣的使能技術(shù)�！拔覀�?nèi)娴?IP 產(chǎn)品組合，包括設(shè)計(jì) IP、小芯片基礎(chǔ)設(shè)施、子系統(tǒng)和其他關(guān)鍵 IP，與 NVIDIA NVLink 生態(tài)系統(tǒng)相輔相成，加速了功能強(qiáng)大、節(jié)能且可大規(guī)模生產(chǎn)就緒的 AI 工廠的交付。”

NVLink Fusion 還使 Fujitsu 和 Qualcomm Technologies 等 AI 創(chuàng)新者能夠在機(jī)架級(jí)架構(gòu)中將其自定義 CPU 與 NVIDIA GPU 耦合，以提高 AI 性能。

“將富士通的先進(jìn) CPU 技術(shù)與 NVIDIA 的全棧 AI 基礎(chǔ)設(shè)施相結(jié)合，可將性能提升到新的水平，”富士通首席技術(shù)官 Vivek Mahajan 表示。“富士通的下一代處理器 FUJITSU-MONAKA 是一款基于 Arm 的 2 納米 CPU，旨在實(shí)現(xiàn)極高的能效。將我們的技術(shù)直接連接到 NVIDIA 的架構(gòu)標(biāo)志著我們通過(guò)世界領(lǐng)先的計(jì)算技術(shù)推動(dòng) AI 發(fā)展的愿景向前邁出了里程碑式的一步，為新型可擴(kuò)展、主權(quán)和可持續(xù)的 AI 系統(tǒng)鋪平了道路。

Qualcomm Technologies 總裁兼首席執(zhí)行官 Cristiano Amon 表示：“Qualcomm Technologies 的先進(jìn)定制 CPU 技術(shù)與 NVIDIA 的全棧 AI 平臺(tái)相結(jié)合，為數(shù)據(jù)中心基礎(chǔ)設(shè)施帶來(lái)了強(qiáng)大、高效的智能。“由于能夠?qū)⑽覀兊亩ㄖ铺幚砥鬟B接到 NVIDIA 的機(jī)架級(jí)架構(gòu)，我們正在將高性能、高能效計(jì)算的愿景推進(jìn)到數(shù)據(jù)中心。”

NVIDIA NVLink 展示經(jīng)過(guò)行業(yè)驗(yàn)證的規(guī)模

為了以最節(jié)能的方式最大限度地提高 AI 工廠的吞吐量和性能，第五代 NVIDIA NVLink 平臺(tái)包括 NVIDIA GB200 NVL72 和 GB300 NVL72，這些計(jì)算密集型機(jī)架每個(gè) GPU 的總帶寬為 1.8 TB/s，比 PCIe Gen5 快 14 倍。

領(lǐng)先的超大規(guī)模企業(yè)已經(jīng)在部署 NVIDIA NVLink 全機(jī)架解決方案，并通過(guò) NVLink Fusion 在 NVIDIA 機(jī)架架構(gòu)上標(biāo)準(zhǔn)化其異構(gòu)硅數(shù)據(jù)中心來(lái)加快可用性。

專為 AI 工廠打造的軟件

與 NVIDIA NVLink Fusion 連接的 AI 工廠由 NVIDIA Mission Control 提供支持，NVIDIA Mission Control 是一個(gè)統(tǒng)一的運(yùn)營(yíng)和編排軟件平臺(tái)，可自動(dòng)管理 AI 數(shù)據(jù)中心和工作負(fù)載的復(fù)雜管理。

NVIDIA Mission Control 增強(qiáng)了 AI 工廠運(yùn)營(yíng)的各個(gè)方面，從配置部署到驗(yàn)證基礎(chǔ)設(shè)施，再到編排任務(wù)關(guān)鍵型工作負(fù)載，以幫助企業(yè)更快地啟動(dòng)和運(yùn)行前沿模型。