北京時(shí)間6日凌晨5點(diǎn)，美國拉斯維加斯，在全球“科技春晚”——國際消費(fèi)電子展（CES）的聚光燈下，英偉達(dá)CEO黃仁勛身著標(biāo)志性的鱷魚皮紋黑色夾克跑步登臺(tái)。

AI競(jìng)賽已經(jīng)開始，所有人都在努力達(dá)到下一個(gè)水平……如果你不進(jìn)行全棧的極端協(xié)同設(shè)計(jì)，根本無法跟上模型每年增長10倍的速度?！泵鎸?duì)資本市場(chǎng)對(duì)“AI泡沫”的隱憂和摩爾定律失效的焦慮，黃仁勛用一套名為Vera Rubin的全新架構(gòu)，向外界證明：英偉達(dá)依然掌握著定義AI未來的絕對(duì)權(quán)力。

這次演講不同于以往單純發(fā)布顯卡，老黃這次雖然沒有帶來GeForce新品，卻用“All in AI”、“All in 物理AI”的姿態(tài)，向資本市場(chǎng)展示了一張從原子級(jí)芯片設(shè)計(jì)到物理世界機(jī)器人落地的完整拼圖。

演講三大主線：

• 在基礎(chǔ)設(shè)施與算力層面，英偉達(dá)通過“極端協(xié)同設(shè)計(jì)”暴力破解物理極限，重構(gòu)了數(shù)據(jù)中心的成本邏輯。面對(duì)晶體管數(shù)量僅增長1.6倍的瓶頸，英偉達(dá)通過Vera Rubin平臺(tái)、NVLink 6互聯(lián)以及BlueField-4驅(qū)動(dòng)的推理上下文內(nèi)存存儲(chǔ)平臺(tái)，強(qiáng)行將推理性能提升5倍，并將Token生成成本壓低至1/10。這一層面的核心目標(biāo)是解決Agentic AI（代理智能體）“算不起”和“記不住”（顯存墻）的問題，為AI從訓(xùn)練向大規(guī)模推理轉(zhuǎn)移鋪平道路。
  
• 在模型演進(jìn)層面，英偉達(dá)正式確立了從“生成式AI”向“推理型AI”（Test-time Scaling）的范式轉(zhuǎn)移。黃仁勛強(qiáng)調(diào)AI已不再是一次性的問答，而是需要多步思考和規(guī)劃的思維鏈過程。通過開源Alpamayo（自動(dòng)駕駛推理）、Cosmos（物理世界模型）以及Nemotron（智能體）系列模型，英偉達(dá)正在推動(dòng)AI具備邏輯推理能力和長時(shí)記憶能力，使其能處理未見過的復(fù)雜長尾場(chǎng)景。
  
• 在物理落地層面，英偉達(dá)宣布“物理AI”正式進(jìn)入商業(yè)變現(xiàn)期，打破了AI僅存于屏幕的局面。演講明確了2026年Q1梅賽德斯-奔馳實(shí)車上路的時(shí)間表，并展示了與西門子在工業(yè)元宇宙的深度全棧合作。通過將Omniverse模擬環(huán)境、合成數(shù)據(jù)生成與機(jī)器人控制模型打通，英偉達(dá)正在將AI能力從互聯(lián)網(wǎng)云端這一“軟世界”，大規(guī)模注入到汽車、工廠、機(jī)器人等“硬世界”中。

演講要點(diǎn)：

• Vera Rubin平臺(tái)全面投產(chǎn)：新一代AI計(jì)算平臺(tái)的全部六款核心芯片已完成制造和關(guān)鍵測(cè)試，已進(jìn)入全面生產(chǎn)階段。在晶體管僅增長1.6倍的物理極限下，通過“極端協(xié)同設(shè)計(jì)”強(qiáng)行實(shí)現(xiàn)5倍推理性能提升，訓(xùn)練性能提升3.5倍。微軟下一代AI超級(jí)工廠將部署數(shù)十萬顆Vera Rubin芯片。
  
• Rubin推理成本較Blackwell降10倍：明確回應(yīng)市場(chǎng)對(duì)AI太貴的質(zhì)疑，Rubin將推理Token生成成本壓低至Blackwell的1/10，讓高昂的Agentic AI具備商業(yè)可行性。
  
• 解決AI“記憶”瓶頸：利用BlueField-4 DPU構(gòu)建推理上下文內(nèi)存存儲(chǔ)平臺(tái)，為每顆GPU憑空增加16TB高速共享內(nèi)存，徹底解決長文本“顯存墻”問題。
  
• 物理AI變現(xiàn)時(shí)刻：發(fā)布“具備推理能力”的自動(dòng)駕駛模型Alpamayo，明確2026年Q1隨梅賽德斯-奔馳實(shí)車上路，開啟物理AI營收周期。
  
• 能源經(jīng)濟(jì)學(xué)重構(gòu)：Rubin架構(gòu)支持45℃溫水冷卻，無需冷水機(jī)組，直接為全球數(shù)據(jù)中心節(jié)省6%的電力。
  
• 開源生態(tài)擴(kuò)張：宣布擴(kuò)展其開源模型生態(tài)，覆蓋物理AI、自動(dòng)駕駛、機(jī)器人、生物醫(yī)學(xué)等多個(gè)關(guān)鍵領(lǐng)域，并提供配套數(shù)據(jù)集和工具鏈。
  
• 工業(yè)元宇宙落地：與西門子達(dá)成深度全棧合作，將英偉達(dá)AI技術(shù)植入全球工業(yè)制造底層，從“設(shè)計(jì)芯片”延伸至“設(shè)計(jì)工廠”。
  

新王亮相：Rubin平臺(tái)全面投產(chǎn)，推理成本較Blackwell降10倍

“Vera Rubin已經(jīng)全面投產(chǎn)?！秉S仁勛宣布在CES展會(huì)推出新一代Rubin AI平臺(tái)，該平臺(tái)通過六款新芯片的集成設(shè)計(jì)，在推理成本和訓(xùn)練效率上實(shí)現(xiàn)大幅躍升，將于2026年下半年交付首批客戶。

這也是市場(chǎng)最為關(guān)切的消息。他將Rubin GPU形容為“一只巨大的怪獸（It's a giant ship）”，并詳盡闡述了背后的邏輯：“AI的推理成本每年要下降10倍，而AI‘思考’（Test-time Scaling）產(chǎn)生的token數(shù)量每年增長5倍。”在這兩股力量的巨大拉扯下，傳統(tǒng)芯片的迭代節(jié)奏無法滿足要求。

黃仁勛用一個(gè)生動(dòng)的比喻來解釋新一代AI芯片的設(shè)計(jì)思路：“這不是簡單地造一個(gè)更好的引擎，而是重新設(shè)計(jì)整輛車，讓引擎、傳動(dòng)、底盤協(xié)同工作。它的AI浮點(diǎn)性能是Blackwell的5倍，但晶體管數(shù)量僅為后者的1.6倍。”黃仁勛強(qiáng)調(diào)，這種超出摩爾定律常規(guī)預(yù)期的性能飛躍，源自于“極端協(xié)同設(shè)計(jì)”。

他所指的“協(xié)同”涵蓋了從CPU、GPU、網(wǎng)絡(luò)芯片到整個(gè)冷卻系統(tǒng)的全方位重構(gòu)。這種設(shè)計(jì)的實(shí)際效果直接反映在市場(chǎng)最敏感的成本指標(biāo)上：推理成本最高可降至Blackwell平臺(tái)的1/10。具體來看：

• 算力：Rubin GPU在NVFP4精度下的推理性能達(dá)到50 PFLOPS（Blackwell的5倍），訓(xùn)練性能35 PFLOPS（較上代提升3.5倍）。每顆GPU封裝8組HBM4內(nèi)存，帶寬高達(dá)22 TB/s。

• CPU黑科技：全新的Vera CPU集成了88個(gè)定制Olympus Arm核心，采用了一種名為“空間多線程”（Spatial Multi-threading）的設(shè)計(jì)，可同時(shí)高效運(yùn)行176個(gè)線程，解決了CPU跟不上GPU吞吐的痛點(diǎn)。

• 連接：NVLink 6將機(jī)架內(nèi)的通信帶寬推高至驚人的240 TB/s，是全球互聯(lián)網(wǎng)總帶寬的兩倍以上。

AI的下半場(chǎng)：從“死記硬背”到“邏輯思考”

演講中，黃仁勛敏銳地捕捉到了AI模型側(cè)的根本性變化——Test-time Scaling（測(cè)試時(shí)擴(kuò)展）

“推理不再是一次性的回答，而是一個(gè)思考的過程?！彼赋?，隨著DeepSeek R1和OpenAI o1等模型的出現(xiàn)，AI開始展現(xiàn)出思維鏈（Chain of Thought）能力。這意味著AI在給出答案前，需要消耗大量的算力進(jìn)行多步推理、反思和規(guī)劃。

對(duì)于投資者而言，這是一個(gè)巨大的增量信號(hào)：未來的算力消耗將從“訓(xùn)練側(cè)”大規(guī)模轉(zhuǎn)移到“推理側(cè)”。為了支撐這種“讓AI多想一會(huì)兒”的需求，算力必須足夠便宜。Rubin架構(gòu)的核心使命，就是將MoE（混合專家模型）的推理Token生成成本降低至Blackwell的1/10。只有將成本打下來，能夠處理復(fù)雜任務(wù)的Agentic AI（代理智能體）才具備商業(yè)落地的可能性。

突破瓶頸：如何讓AI“記住”更長的對(duì)話

而當(dāng)AI從簡單的問答轉(zhuǎn)向長時(shí)間的復(fù)雜推理時(shí)，一個(gè)新的瓶頸出現(xiàn)了——記憶。

在Agentic AI時(shí)代，智能體需要記住漫長的對(duì)話歷史和復(fù)雜的上下文，這會(huì)產(chǎn)生巨大的KV Cache（鍵值緩存）。傳統(tǒng)的解決方案是將這些數(shù)據(jù)塞進(jìn)昂貴的HBM顯存中，但HBM容量有限且價(jià)格高昂，這被稱為“顯存墻”。

黃仁勛詳細(xì)解釋了這一問題：“AI的工作記憶存儲(chǔ)在HBM內(nèi)存中。每生成一個(gè)token，它都要讀取整個(gè)模型和所有工作記憶。”對(duì)于需要長期運(yùn)行、擁有持續(xù)記憶的AI智能體，這種架構(gòu)顯然不可持續(xù)。

解決方案是一套全新的存儲(chǔ)架構(gòu)。黃仁勛亮出了他的秘密武器：基于BlueField-4 DPU構(gòu)建的推理上下文內(nèi)存存儲(chǔ)平臺(tái)（Inference Context Memory Storage Platform）

他指著舞臺(tái)上那個(gè)巨大的機(jī)架系統(tǒng)解釋道：“在每個(gè)GPU原有1TB內(nèi)存的基礎(chǔ)上，我們通過這個(gè)平臺(tái)為每個(gè)GPU額外增加了16TB的‘思考空間’。”這個(gè)平臺(tái)被放置在離計(jì)算單元最近的位置，通過高達(dá)200Gb/s的帶寬連接，避免了傳統(tǒng)存儲(chǔ)帶來的延遲瓶頸。

這一設(shè)計(jì)直接回應(yīng)了市場(chǎng)對(duì)AI應(yīng)用規(guī)?；渴鸬膿?dān)憂：沒有足夠大且快速的內(nèi)存，AI就無法真正成為我們長期的、個(gè)性化的助手

物理AI落地：不畫餅，Q1智駕汽車直接上路

黃仁勛將演講的第二部分聚焦于一個(gè)更宏大的主題：“物理AI的ChatGPT時(shí)刻已到來——機(jī)器開始理解、推理并在真實(shí)世界中行動(dòng)。

為了證明AI不僅僅能聊天，黃仁勛發(fā)布了全球首款開源的VLA（視覺-語言-行動(dòng)）自動(dòng)駕駛推理模型——Alpamayo。與傳統(tǒng)自動(dòng)駕駛不同，Alpamayo能“解釋”自己的決策。

這不僅僅是一個(gè)駕駛模型，而是一個(gè)能解釋自己思考過程的模型。”黃仁勛播放了一段演示視頻，Alpamayo不僅能駕駛汽車，還能用自然語言解釋自己的決策邏輯，例如“前方車輛剎車燈亮起，它可能減速，所以我應(yīng)該保持距離”。

這種“可解釋的AI”對(duì)于解決自動(dòng)駕駛的長尾問題至關(guān)重要。黃仁勛坦言：“我們不可能收集世界上所有可能的駕駛場(chǎng)景。但我們可以讓AI學(xué)會(huì)‘推理’，將陌生場(chǎng)景分解為已知的元素組合。

這一技術(shù)即將走向商業(yè)化。黃仁勛宣布：“首款搭載英偉達(dá)全棧DRIVE系統(tǒng)的梅賽德斯-奔馳CLA車型將于2026年第一季度在美國上路。”這標(biāo)志著英偉達(dá)的AI技術(shù)首次完整地應(yīng)用于量產(chǎn)汽車。

硅光技術(shù)（CPO）與溫水冷卻：為全球數(shù)據(jù)中心省電6%

在連接與散熱層面，英偉達(dá)也展示了統(tǒng)治級(jí)的技術(shù)儲(chǔ)備。

首先是光通信的革命。黃仁勛正式發(fā)布了采用“共封裝光學(xué)（CPO）”技術(shù)的Spectrum-6以太網(wǎng)交換機(jī)（SN688/SN6810）。

他明確表示：“與不具備硅光子技術(shù)的硬件相比，它們?cè)谀苄?、可靠性和運(yùn)行時(shí)間方面表現(xiàn)更優(yōu)?！边@意味著CPO不再是實(shí)驗(yàn)室里的概念，而是已經(jīng)進(jìn)入了英偉達(dá)的量產(chǎn)清單，光模塊產(chǎn)業(yè)鏈將迎來從可插拔向CPO轉(zhuǎn)型的實(shí)質(zhì)性時(shí)刻。

其次是能源經(jīng)濟(jì)學(xué)的重構(gòu)。AI的高能耗一直是懸在頭頂?shù)倪_(dá)摩克利斯之劍。Rubin NVL72機(jī)架實(shí)現(xiàn)了100%液冷，且支持45攝氏度的進(jìn)水溫度。這意味數(shù)據(jù)中心不再需要高能耗的冷水機(jī)組（Chillers）來制造冷水，直接利用自然冷卻或溫水循環(huán)即可散熱。黃仁勛自豪地宣布，這將為全球數(shù)據(jù)中心節(jié)省6%的電力。這對(duì)于電力配額捉襟見肘的北美數(shù)據(jù)中心市場(chǎng)來說，是一個(gè)無法拒絕的誘惑。

工業(yè)界聯(lián)盟：AI如何改變?nèi)f億美元的傳統(tǒng)產(chǎn)業(yè)

如果物理AI僅停留在汽車領(lǐng)域，其想象空間或許有限。但黃仁勛展示了更廣闊的圖景——工業(yè)制造

我們必須設(shè)計(jì)制造這些AI芯片的工廠，而這些工廠本身就是巨大的機(jī)器人。”黃仁勛用這一邏輯將話題轉(zhuǎn)向了工業(yè)制造領(lǐng)域的巨頭——西門子。

他宣布與西門子達(dá)成深度戰(zhàn)略合作：“我們將英偉達(dá)的物理AI、代理AI模型和Omniverse平臺(tái)深度集成到西門子的工業(yè)軟件與數(shù)字孿生工具鏈中。

這一合作的規(guī)模遠(yuǎn)超普通的技術(shù)集成。黃仁勛解釋道：“你將在這些平臺(tái)上設(shè)計(jì)你的芯片和系統(tǒng)，在計(jì)算機(jī)中模擬整個(gè)制造流程，甚至在它們接觸重力之前完成測(cè)試和評(píng)估。

這種合作標(biāo)志著英偉達(dá)AI技術(shù)從數(shù)據(jù)中心向?qū)嶓w經(jīng)濟(jì)的全面滲透。當(dāng)AI不僅能生成文本和圖像，還能設(shè)計(jì)、模擬和優(yōu)化物理世界的復(fù)雜系統(tǒng)時(shí)，其市場(chǎng)潛力將從互聯(lián)網(wǎng)經(jīng)濟(jì)擴(kuò)展至全球工業(yè)經(jīng)濟(jì)

開放生態(tài)戰(zhàn)略：如何應(yīng)對(duì)開源模型的沖擊

面對(duì)日益強(qiáng)大的開源模型，黃仁勛沒有回避，而是展示了英偉達(dá)的應(yīng)對(duì)策略——成為開源的領(lǐng)導(dǎo)者而非被動(dòng)應(yīng)對(duì)者

我們是前沿AI模型的建設(shè)者，而且我們以一種非常特殊的方式構(gòu)建它——完全開放。”黃仁勛宣布擴(kuò)展英偉達(dá)的“開放模型宇宙”，涵蓋了從生物醫(yī)學(xué)到物理世界的六大領(lǐng)域。

他特別強(qiáng)調(diào)了開源帶來的產(chǎn)業(yè)激活效應(yīng)：“當(dāng)開放創(chuàng)新、全球協(xié)作真正啟動(dòng)后，AI的擴(kuò)散速度會(huì)極快。

英偉達(dá)的開源不是簡單的代碼釋放，而是全套工具鏈的開放，包括訓(xùn)練數(shù)據(jù)、模型架構(gòu)、評(píng)估工具等。這種策略的智慧在于：與其被開源社區(qū)顛覆，不如主動(dòng)塑造開源生態(tài)的標(biāo)準(zhǔn)和方向。

隨著英偉達(dá)的技術(shù)從芯片延伸到系統(tǒng)，從云端滲透到物理世界，這家公司正在構(gòu)建的已不再僅僅是計(jì)算平臺(tái)，而是一個(gè)AI驅(qū)動(dòng)的新世界基礎(chǔ)架構(gòu)。

演講全文如下（翻譯由AI工具輔助）：

黃仁勛：
你好，拉斯維加斯！新年快樂！歡迎大家。好吧，我們大概準(zhǔn)備了相當(dāng)于15場(chǎng)主題演講的內(nèi)容要塞進(jìn)這場(chǎng)發(fā)布會(huì)里。很高興見到你們所有人?，F(xiàn)場(chǎng)有3000名觀眾，外面的庭院里還有2000人在觀看，據(jù)說四樓還有1000人在英偉達(dá)的展區(qū)觀看這場(chǎng)直播。當(dāng)然，全球還有數(shù)百萬觀眾在線上收看，與我們共同開啟這個(gè)新年。
每隔10到15年，計(jì)算機(jī)行業(yè)就會(huì)重啟一次。從大型機(jī)到PC，到互聯(lián)網(wǎng)，到云，再到移動(dòng)端，新的平臺(tái)轉(zhuǎn)移不斷發(fā)生。每一次，應(yīng)用世界都會(huì)瞄準(zhǔn)一個(gè)新的平臺(tái)。這就是為什么它被稱為平臺(tái)轉(zhuǎn)移。你為新計(jì)算機(jī)編寫新應(yīng)用，但這一次，實(shí)際上有兩個(gè)平臺(tái)轉(zhuǎn)移同時(shí)發(fā)生。當(dāng)我們轉(zhuǎn)向AI時(shí)，應(yīng)用程序現(xiàn)在將建立在AI之上。起初，人們認(rèn)為AI就是應(yīng)用程序。事實(shí)上，AI確實(shí)是應(yīng)用程序，但你們將在AI之上構(gòu)建應(yīng)用程序。除此之外，軟件的運(yùn)行方式、軟件的開發(fā)方式也發(fā)生了根本性變化。計(jì)算機(jī)行業(yè)的整個(gè)核心堆棧正在被重塑。你不再是對(duì)軟件進(jìn)行編程，而是訓(xùn)練軟件。你不在CPU上運(yùn)行它，而是在GPU上運(yùn)行它。以前的應(yīng)用程序是預(yù)先錄制、預(yù)先編譯并在設(shè)備上運(yùn)行的，而現(xiàn)在的應(yīng)用程序能夠理解上下文，并完全從零開始生成每一個(gè)像素、每一個(gè)Token。
每一次都是如此。由于加速計(jì)算和人工智能，計(jì)算已被根本性重塑。這五層蛋糕的每一層都在被重新發(fā)明。這意味著過去十年中約10萬億美元的計(jì)算基礎(chǔ)設(shè)施正在向這種新的計(jì)算方式現(xiàn)代化轉(zhuǎn)型。這意味著每年有數(shù)千億美元、幾千億美元的風(fēng)險(xiǎn)投資正在投入到現(xiàn)代化和發(fā)明這個(gè)新世界中。這意味著價(jià)值100萬億美元的產(chǎn)業(yè)，其中幾個(gè)百分點(diǎn)是研發(fā)預(yù)算，正在轉(zhuǎn)向人工智能。人們問，錢從哪里來？這就是錢的來源。從傳統(tǒng)IT向AI的現(xiàn)代化，研發(fā)預(yù)算從經(jīng)典方法向人工智能方法的轉(zhuǎn)移。巨大的投資正涌入這個(gè)行業(yè)，這也解釋了為什么我們?nèi)绱嗣β?。去年也不例外?br/>去年是不可思議的一年。這有一張幻燈片要放……這就是當(dāng)你沒彩排就開場(chǎng)的結(jié)果，這是今年的第一場(chǎng)主題演講。希望這也是你們今年的第一場(chǎng)。否則，如果你們來這里之前已經(jīng)很忙了，那就算了。這是我們今年的第一場(chǎng)，我們要把蜘蛛網(wǎng)掃干凈。2025年是令人難以置信的一年。似乎所有事情都在同一時(shí)間發(fā)生。事實(shí)上，可能確實(shí)如此。首先當(dāng)然是縮放定律（Scaling Laws）。2015年，第一個(gè)我認(rèn)為真正會(huì)產(chǎn)生影響的語言模型出現(xiàn)了，它確實(shí)產(chǎn)生了巨大影響，它叫BERT。2017年，Transformer來了。
直到五年后的2022年，ChatGPT時(shí)刻發(fā)生了。它喚醒了世界對(duì)人工智能可能性的認(rèn)知。一年后發(fā)生了一件非常重要的事情。來自ChatGPT的首個(gè)o1模型，首個(gè)推理模型，完全革命性地發(fā)明了這個(gè)叫做**“測(cè)試時(shí)擴(kuò)展”（Test-time Scaling）的概念，這其實(shí)是非常常識(shí)性的東西。我們不僅預(yù)訓(xùn)練模型讓其學(xué)習(xí)，我們還在訓(xùn)練后通過強(qiáng)化學(xué)習(xí)讓它學(xué)習(xí)技能。現(xiàn)在我們還有了測(cè)試時(shí)擴(kuò)展，換句話說就是“思考”，你在實(shí)時(shí)地思考。人工智能的每一個(gè)階段都需要大量的計(jì)算，計(jì)算定律繼續(xù)擴(kuò)展。大語言模型繼續(xù)變得更好。
與此同時(shí)，另一個(gè)突破發(fā)生了，這一突破發(fā)生在2024年。Agentic（代理/智能體）系統(tǒng)開始出現(xiàn)。2025年，它開始普及，幾乎遍布各地。能夠推理、查找信息、做研究、使用工具、規(guī)劃未來、模擬結(jié)果的代理模型，突然開始解決非常重要的問題。我最喜歡的代理模型之一叫做Cursor，它徹底改變了我們?cè)谟ミ_(dá)進(jìn)行軟件編程的方式。Agentic系統(tǒng)將從這里真正騰飛。
當(dāng)然，還有其他類型的AI。我們知道大語言模型并不是唯一的信息類型。只要宇宙中有信息，只要宇宙有結(jié)構(gòu)，我們就可以教一個(gè)大語言模型、一種形式的語言模型去理解這些信息，理解其表征，并將其轉(zhuǎn)化為AI。其中最大、最重要的一類是理解自然法則的物理AI（Physical AI）。當(dāng)然，物理AI是關(guān)于AI與世界互動(dòng)的。但世界本身就有信息，編碼的信息，這被稱為AI，物理AI。在物理AI的情況下，你有與物理世界互動(dòng)的AI，也有理解物理定律的AI，即AI物理學(xué)。
最后，去年發(fā)生的最重要的事情之一是開放模型（Open Models）的進(jìn)步。我們現(xiàn)在知道，當(dāng)開源、當(dāng)開放創(chuàng)新、當(dāng)全球每一家公司和每一個(gè)行業(yè)的創(chuàng)新同時(shí)被激活時(shí)，AI將無處不在。去年，開放模型真正起飛了。事實(shí)上，去年我們見證了DeepSeek R1的進(jìn)步，這是第一個(gè)開放模型。那是一個(gè)推理系統(tǒng)。它讓世界大吃一驚，并真正激活了這整個(gè)運(yùn)動(dòng)。非常令人興奮的工作。我們對(duì)此感到非常高興。現(xiàn)在我們?cè)谑澜绺鞯赜懈鞣N不同類型的開放模型系統(tǒng)。我們現(xiàn)在知道，開放模型也已經(jīng)觸及前沿，雖然仍穩(wěn)固地落后前沿模型六個(gè)月，但每隔六個(gè)月，一個(gè)新的模型就會(huì)出現(xiàn)，而且由于這個(gè)原因，這些模型正變得越來越聰明。你可以看到下載量已經(jīng)爆炸式增長。下載量增長如此之快，是因?yàn)槌鮿?chuàng)公司希望參與AI革命。大公司想?yún)⑴c，研究人員想?yún)⑴c，學(xué)生想?yún)⑴c，幾乎每個(gè)國家都想?yún)⑴c。
數(shù)字形式的智能怎么可能拋下任何人？因此，開放模型去年真正徹底改變了人工智能。整個(gè)行業(yè)將因此被重塑。
幾年前我們就有了這種預(yù)感，你們可能聽說過，幾年前我們就開始構(gòu)建和運(yùn)營自己的AI超級(jí)計(jì)算機(jī)，我們稱之為DGX Cloud。很多人問，你們是要進(jìn)入云業(yè)務(wù)嗎？答案是否定的。我們構(gòu)建這些DGX超級(jí)計(jì)算機(jī)是為了自己使用。結(jié)果證明，我們運(yùn)營著價(jià)值數(shù)十億美元的超級(jí)計(jì)算機(jī)，以便我們可以開發(fā)我們的開放模型。
我對(duì)我們正在做的工作感到非常高興。它開始吸引全世界和各行各業(yè)的關(guān)注，因?yàn)槲覀冊(cè)谌绱硕嗟牟煌I(lǐng)域進(jìn)行前沿AI模型工作。我們?cè)诘鞍踪|(zhì)、數(shù)字生物學(xué)領(lǐng)域的工作，Llama Protina，能夠合成和生成蛋白質(zhì)。OpenFold 3，去理解蛋白質(zhì)的結(jié)構(gòu)。Evo 2，如何理解和生成多種蛋白質(zhì)。這也是細(xì)胞表征的開端。
Earth 2，理解物理定律的AI。我們利用ForecastNet所做的工作，利用Cordiff所做的工作，真正徹底改變了人們進(jìn)行天氣預(yù)測(cè)的方式。NeMo Tron，我們正在那里做開創(chuàng)性的工作，第一個(gè)混合Transformer SSM模型，速度極快，因此可以思考很長時(shí)間，或者可以在不花很長時(shí)間的情況下非?？焖俚厮伎疾a(chǎn)生非常聰明、智能的答案。NeMo Tron 3是開創(chuàng)性的工作，你們可以期待我們?cè)诓痪玫膶斫桓禢eMo Tron 3的其他版本。
Cosmos，一個(gè)前沿的開放世界基礎(chǔ)模型，一個(gè)理解世界如何運(yùn)作的模型。GR00T，一個(gè)類人機(jī)器人系統(tǒng)，涉及關(guān)節(jié)、移動(dòng)性、運(yùn)動(dòng)。這些模型、這些技術(shù)現(xiàn)在正在被集成，在每一個(gè)案例中都向世界開放，前沿的人形機(jī)器人模型向世界開放。今天我們要談一點(diǎn)關(guān)于Alpamayo，我們?cè)谧詣?dòng)駕駛汽車方面所做的工作。我們不僅開源了模型，還開源了我們用來訓(xùn)練這些模型的數(shù)據(jù)。因?yàn)橹挥羞@樣，你才能真正信任模型的來源。我們開源所有模型。我們幫助你們從中制作衍生品。
我們有一整套庫。我們稱之為NeMo庫，物理NeMo庫，以及Clara NeMo庫，每一個(gè)BioNeMo庫。每一個(gè)庫都是AI的生命周期管理系統(tǒng)，以便你可以處理數(shù)據(jù)、生成數(shù)據(jù)、訓(xùn)練模型、創(chuàng)建模型、評(píng)估模型、為模型設(shè)置護(hù)欄，直到部署模型。每一個(gè)庫都極其復(fù)雜，而且全部開源。所以現(xiàn)在在這個(gè)平臺(tái)上，英偉達(dá)是一個(gè)前沿AI模型構(gòu)建者，我們以一種非常特殊的方式構(gòu)建它。我們完全在公開環(huán)境中構(gòu)建它，以便我們可以賦能每一家公司、每一個(gè)行業(yè)、每一個(gè)國家成為這場(chǎng)AI革命的一部分。
我為我們?cè)谀抢锼龅墓ぷ鞲械綗o比自豪。事實(shí)上，如果你注意到趨勢(shì)、圖表，圖表顯示我們對(duì)這個(gè)行業(yè)的貢獻(xiàn)是首屈一指的。實(shí)際上你會(huì)看到我們將繼續(xù)這樣做，甚至加速。
這些模型也是世界級(jí)的。所有系統(tǒng)都癱瘓了。這在圣克拉拉從來沒發(fā)生過。是因?yàn)槔咕S加斯嗎？肯定有人在外面中了頭獎(jiǎng)。所有系統(tǒng)都癱瘓了。好吧。我想我的系統(tǒng)還沒恢復(fù)，但這沒關(guān)系。我會(huì)在進(jìn)行中即興發(fā)揮。不僅這些模型具有前沿能力，不僅它們是開放的，它們還在排行榜上名列前茅。
這是我們非常自豪的一個(gè)領(lǐng)域。它們?cè)谥悄芘判邪裆厦星懊Ｎ覀冇兄匾哪Ｐ湍軌蚶斫舛嗄B(tài)文檔，也就是PDF。世界上最有價(jià)值的內(nèi)容都捕捉在PDF中。但這需要人工智能來找出里面的內(nèi)容，解釋里面的內(nèi)容并幫助你閱讀它。所以我們的PDF檢索器、我們的PDF解析器是世界級(jí)的，我們的語音識(shí)別模型絕對(duì)是世界級(jí)的。我們的檢索模型，基本上是現(xiàn)代AI時(shí)代的搜索引擎語義搜索AI、數(shù)據(jù)庫引擎，也是世界級(jí)的。所以我們經(jīng)常在排行榜上名列前茅。
這是一個(gè)我們非常自豪的領(lǐng)域，所有這些都是為了服務(wù)于你們構(gòu)建AI代理（AI Agents）的能力。這真的是一個(gè)開創(chuàng)性的發(fā)展領(lǐng)域。你知道，當(dāng)ChatGPT剛出來的時(shí)候，人們說，天哪，它產(chǎn)生了非常有趣的結(jié)果，但幻覺非常嚴(yán)重。產(chǎn)生幻覺的原因當(dāng)然是因?yàn)樗梢杂涀∵^去的一切，但它無法記住未來或當(dāng)前的一切。因此它需要扎根于研究。在回答問題之前，它必須進(jìn)行基礎(chǔ)研究。推理的能力——我是否需要做研究？我是否需要使用工具？我如何將一個(gè)問題分解成步驟？每一個(gè)步驟都是AI模型知道如何做的事情。而在它們組合在一起時(shí)，它能夠按順序執(zhí)行從未做過、從未受過訓(xùn)練去執(zhí)行的事情。
這就是推理的美妙能力。我們可以遇到以前從未見過的情況，并將其分解為我們知道如何做的情境、知識(shí)或規(guī)則，因?yàn)槲覀冊(cè)谶^去經(jīng)歷過。因此，AI模型現(xiàn)在能夠進(jìn)行推理的能力極其強(qiáng)大，代理的推理能力打開了通往所有這些不同應(yīng)用的大門。我們不再需要在第一天就訓(xùn)練一個(gè)AI模型知道所有事情，就像我們不需要在第一天就知道所有事情一樣，我們應(yīng)該能夠在每種情況下推理如何解決那個(gè)問題。
大語言模型現(xiàn)在已經(jīng)實(shí)現(xiàn)了這一根本性的飛躍，使用強(qiáng)化學(xué)習(xí)和思維鏈（Chain of Thought）、搜索和規(guī)劃以及所有這些不同的技術(shù)和強(qiáng)化學(xué)習(xí)的能力，使得我們擁有這種基本能力成為可能，而且現(xiàn)在也完全開源了。
但真正棒的是另一個(gè)突破。我第一次看到它是在Aravind的Perplexity上。那家搜索公司，AI搜索公司，真正創(chuàng)新、真正的公司。我第一次意識(shí)到他們同時(shí)使用多個(gè)模型時(shí)，我覺得這完全是天才之舉。當(dāng)然，我們也會(huì)那樣做。
當(dāng)然，AI也會(huì)在推理鏈的任何部分調(diào)用世界上所有偉大的AI來解決它想要解決的問題。這就是為什么AI實(shí)際上是多模態(tài)的（Multi-modal），意味著它們理解語音、圖像、文本、視頻、3D圖形和蛋白質(zhì)。那是多模態(tài)。它也是多模型（Multi-model）的，意味著它們應(yīng)該能夠使用任何最適合任務(wù)的模型。根據(jù)定義，它是多云的，因?yàn)檫@些AI模型位于所有這些不同的地方。它也是混合云，因?yàn)槿绻闶且患移髽I(yè)公司或你建造了一個(gè)機(jī)器人或任何設(shè)備，有時(shí)它在邊緣，有時(shí)是無線電蜂窩塔，有時(shí)是在企業(yè)內(nèi)部，或者可能是在醫(yī)院這樣你需要數(shù)據(jù)實(shí)時(shí)就在你身邊的地方。
無論那些應(yīng)用是什么，我們現(xiàn)在知道這就是未來AI應(yīng)用的樣子。或者換個(gè)方式思考，因?yàn)槲磥淼膽?yīng)用是建立在AI之上的。這是未來應(yīng)用的基本框架。這個(gè)基本框架，這種能夠做我所說的事情的代理AI的基本結(jié)構(gòu)，它是多模型的，現(xiàn)在已經(jīng)為各種AI初創(chuàng)公司增壓?，F(xiàn)在你也因?yàn)槲覀兲峁┑乃虚_放模型和所有工具，你可以定制你的AI，教你的AI其他人沒有教的技能。沒有其他人讓他們的AI變得如此智能，如此聰明。你可以為自己做這件事。這就是我們?cè)贜eMo Tron、NeMo以及我們?cè)陂_放模型方面所做的一切工作的意圖。你在它前面放一個(gè)智能路由器，那個(gè)路由器本質(zhì)上是一個(gè)管理者，它根據(jù)你給它的提示意圖，決定哪個(gè)模型最適合該應(yīng)用，最適合解決那個(gè)問題。
好的，當(dāng)你思考這個(gè)架構(gòu)時(shí)，你得到了什么？當(dāng)你思考這個(gè)架構(gòu)時(shí)，突然之間你擁有了一個(gè)一方面完全由你定制的 AI。你可以教它為你公司做特定的技能，那些領(lǐng)域機(jī)密的東西，那些你擁有深厚領(lǐng)域?qū)I(yè)知識(shí)的東西，也許你擁有訓(xùn)練該 AI 模型所需的所有數(shù)據(jù)。另一方面，你的 AI 永遠(yuǎn)處于前沿。根據(jù)定義，你一方面永遠(yuǎn)在前沿，另一方面永遠(yuǎn)是定制的，而且它應(yīng)該就能運(yùn)行。
所以我們認(rèn)為我們會(huì)制作最簡單的示例，向你們提供這個(gè)完整的框架。我們稱之為藍(lán)圖（Blueprint）。我們有集成到全球企業(yè) SaaS 平臺(tái)中的藍(lán)圖，我們對(duì)進(jìn)展感到非常高興。但我們要向你們展示一個(gè)任何人都可以做的簡短示例。
演示視頻：
讓我們構(gòu)建一個(gè)個(gè)人助理。我希望它能幫我處理日歷、電子郵件、待辦事項(xiàng)列表，甚至幫我照看家里。我使用Brev將我的 DGX Spark 變成個(gè)人云。所以我可以使用相同的界面，無論我使用的是云 GPU 還是 DGX Spark。我使用前沿模型 API 輕松上手。我希望它幫我處理電子郵件，所以我為我的智能體創(chuàng)建了一個(gè)電子郵件工具。我希望我的電子郵件保持私密，所以我添加了一個(gè)在 Spark 上本地運(yùn)行的開放模型。
現(xiàn)在，對(duì)于任何工作，我都希望智能體使用正確的模型來完成任務(wù)，所以我將使用一個(gè)基于意圖的模型路由器。這樣，需要電子郵件的提示將留在我的 Spark 上，其他所有內(nèi)容都可以調(diào)用前沿模型。我希望我的助手與我的世界互動(dòng)，所以我將它連接到 Hugging Face 的 Richie 迷你機(jī)器人。我的智能體通過工具調(diào)用控制 Richie 的頭、耳朵和攝像頭。
黃仁勛：
調(diào)用。
演示視頻：
我想給 Richie 一個(gè)聲音，我很喜歡 ElevenLabs，所以我連接了他們的 API。
Richie 機(jī)器人：
嗨，我是 Richie，運(yùn)行在 DGX 上。
演示視頻：
嘿，Richie，今天我的待辦事項(xiàng)清單上有什么？
演示視頻：
你今天的待辦事項(xiàng)：買雜貨——雞蛋、牛奶、黃油，還要給 Jensen 發(fā)送新腳本。
演示視頻：
好的，讓我們給 Jensen 發(fā)送那個(gè)更新。告訴他我們會(huì)在今天結(jié)束前給他。
演示視頻：
好的。
演示視頻：
Richie，這里還有一個(gè)草圖。你能把它變成建筑渲染圖嗎？
演示視頻：
當(dāng)然。
演示視頻：
不錯(cuò)?，F(xiàn)在制作一個(gè)視頻，帶我參觀一下房間。
演示視頻：
給你。
演示視頻：
太棒了。有了 Brev，我可以分享對(duì)我的 Spark 和 Richie 的訪問權(quán)限。所以我打算把它分享給 Anna。
演示視頻：
嘿，Richie，Potato（寵物狗）在干什么？
演示視頻：
它在沙發(fā)上。我記得你不喜歡這樣。我會(huì)叫它下來。Potato，下沙發(fā)。
演示視頻：
隨著開源的所有進(jìn)展，看到你能構(gòu)建什么真是不可思議。我很想看看你們創(chuàng)造了什么。
黃仁勛：
這難道不令人難以置信嗎？現(xiàn)在令人驚訝的是，這已經(jīng)變得微不足道了。然而就在幾年前，這一切都是不可能的，絕對(duì)無法想象的。好吧，這個(gè)基本框架，這種構(gòu)建應(yīng)用程序的基本方式——使用預(yù)訓(xùn)練的、專有的前沿語言模型，結(jié)合定制的語言模型，進(jìn)入一個(gè)智能體框架（Agentic Framework），一個(gè)允許你訪問工具、文件甚至連接到其他智能體的推理框架。這基本上就是 AI 應(yīng)用或現(xiàn)代應(yīng)用的架構(gòu)。
我們要?jiǎng)?chuàng)建這些應(yīng)用程序的能力非?？?。注意，如果你給它以前從未見過的應(yīng)用信息，或者以一種并未完全按你所想的方式呈現(xiàn)的結(jié)構(gòu)，它仍然可以推理并盡最大努力去推理數(shù)據(jù)和信息，試圖理解如何解決問題。這就是人工智能。
這種基本框架現(xiàn)在正在被整合。剛才我描述的一切，我們有幸與一些世界領(lǐng)先的企業(yè)平臺(tái)公司合作。例如Palantir，他們的整個(gè) AI 和數(shù)據(jù)處理平臺(tái)今天正在被 NVIDIA 加速并整合。ServiceNow，世界領(lǐng)先的客戶服務(wù)和員工服務(wù)平臺(tái)。Snowflake，云端頂級(jí)數(shù)據(jù)平臺(tái)，那里正在進(jìn)行令人難以置信的工作。Code Rabbit，我們?cè)?NVIDIA 隨處都在使用它。CrowdStrike，創(chuàng)建 AI 來檢測(cè)和定義 AI 威脅。NetApp，他們的數(shù)據(jù)平臺(tái)現(xiàn)在上面有了 NVIDIA 的語義 AI，一個(gè)用于客戶服務(wù)的智能體系統(tǒng)。
但重要的是：這不僅是你現(xiàn)在開發(fā)應(yīng)用程序的方式，這還將成為你平臺(tái)的用戶界面。無論你是 Palantir、ServiceNow、Snowflake 還是我們合作的許多其他公司，智能體系統(tǒng)就是界面。不再是 Excel 里填滿方格輸入信息，也許不再只是命令行。所有這些多模態(tài)信息現(xiàn)在都成為可能，你與平臺(tái)互動(dòng)的方式更加——如果你愿意的話——簡單，就像你在與人互動(dòng)一樣。這就是被智能體系統(tǒng)革命化的企業(yè) AI。
接下來是物理AI（Physical AI）。這是一個(gè)你們看我談?wù)摿藥啄甑念I(lǐng)域。事實(shí)上，我們已經(jīng)為此努力了八年。問題是，你如何將計(jì)算機(jī)內(nèi)部的智能，那些通過屏幕和揚(yáng)聲器與你互動(dòng)的智能，轉(zhuǎn)變?yōu)榭梢耘c世界互動(dòng)的智能，意味著它可以理解世界運(yùn)作的常識(shí)。
物體恒存性。如果我看向別處再看回來，那個(gè)物體還在那里。因果關(guān)系。如果我推它，它會(huì)倒下。它理解摩擦力和重力。它理解慣性。一輛重型卡車沿路滾下需要更多時(shí)間停下來，而一個(gè)球會(huì)繼續(xù)滾動(dòng)。
這些概念對(duì)一個(gè)小孩子來說都是常識(shí)，但對(duì)AI來說完全未知。所以我們必須創(chuàng)建一個(gè)系統(tǒng)，允許AI學(xué)習(xí)物理世界的常識(shí)，學(xué)習(xí)其定律，當(dāng)然也要能夠從數(shù)據(jù)中學(xué)習(xí)。數(shù)據(jù)非常稀缺，并且要能夠評(píng)估那個(gè)AI是否在工作，意味著它必須在環(huán)境中進(jìn)行模擬。如果AI沒有能力模擬物理世界對(duì)其行動(dòng)的反應(yīng)，它怎么知道它正在執(zhí)行的行動(dòng)是否符合它應(yīng)該做的？對(duì)其行動(dòng)反應(yīng)的模擬對(duì)于評(píng)估非常重要。否則，就沒有辦法評(píng)估它。每次都不一樣。所以這個(gè)基本系統(tǒng)需要三臺(tái)計(jì)算機(jī)。一臺(tái)計(jì)算機(jī)，當(dāng)然是我們知道英偉達(dá)制造的用于訓(xùn)練AI模型的。另一臺(tái)計(jì)算機(jī)是用于推理模型的，推理計(jì)算機(jī)本質(zhì)上是一臺(tái)機(jī)器人計(jì)算機(jī)，運(yùn)行在汽車?yán)锘驒C(jī)器人里或工廠里，運(yùn)行在邊緣的任何地方。
但必須有另一臺(tái)設(shè)計(jì)用于模擬的計(jì)算機(jī)。模擬幾乎是英偉達(dá)所做一切的核心。這是我們最舒適的地方，模擬真的是我們用物理AI所做幾乎一切的基礎(chǔ)。所以我們有三臺(tái)計(jì)算機(jī)和運(yùn)行在這些計(jì)算機(jī)上的多個(gè)堆棧，這些庫使它們變得有用。Omniverse是我們的數(shù)字孿生、基于物理的模擬世界。Cosmos，如我之前提到的，是我們的基礎(chǔ)模型，不是語言的基礎(chǔ)模型，而是世界的基礎(chǔ)模型，并且也與語言對(duì)齊。你可以說像“球發(fā)生了什么？”它會(huì)告訴你球正滾下街道。所以是一個(gè)世界基礎(chǔ)模型。然后當(dāng)然是機(jī)器人模型。我們有兩個(gè)。一個(gè)叫GR00T，另一個(gè)叫Alpamayo，我現(xiàn)在要告訴你們。
我們對(duì)物理 AI 必須做的最重要的事情之一是創(chuàng)建數(shù)據(jù)來首先訓(xùn)練 AI。數(shù)據(jù)從哪里來？與其像語言那樣因?yàn)槲覀儎?chuàng)建了大量文本作為 AI 學(xué)習(xí)的“基準(zhǔn)真理（Ground Truth）”，我們?nèi)绾谓?AI 物理的基準(zhǔn)真理？有很多很多視頻，但很難捕捉到我們需要的多樣性和交互類型。所以這就是偉大的頭腦聚集在一起，將曾經(jīng)的計(jì)算轉(zhuǎn)化為數(shù)據(jù)的地方。
現(xiàn)在使用以物理定律為基礎(chǔ)和條件、以基準(zhǔn)真理為基礎(chǔ)和條件的合成數(shù)據(jù)生成（Synthetic Data Generation），我們可以選擇性地、巧妙地生成我們可以用來訓(xùn)練 AI 的數(shù)據(jù)。例如，進(jìn)入左邊這個(gè) Cosmos AI 世界模型的是交通模擬器的輸出。現(xiàn)在這個(gè)交通模擬器對(duì)于 AI 學(xué)習(xí)來說遠(yuǎn)遠(yuǎn)不夠。我們可以把它放入 Cosmos 基礎(chǔ)模型中，生成基于物理且在物理上合理的環(huán)繞視頻，AI 現(xiàn)在可以從中學(xué)習(xí)。這方面有很多例子。讓我向你們展示 Cosmos 能做什么。
“物理AI的ChatGPT時(shí)刻即將到來。”
Cosmos是世界領(lǐng)先的基礎(chǔ)模型，世界基礎(chǔ)模型。它已被下載數(shù)百萬次，在世界各地使用，讓世界為這個(gè)物理AI的新時(shí)代做好準(zhǔn)備。我們也自己使用它。我們自己使用它來創(chuàng)建我們的自動(dòng)駕駛汽車，用于場(chǎng)景生成和評(píng)估。我們可以擁有讓我們有效行駛數(shù)十億、數(shù)萬億英里，但在計(jì)算機(jī)內(nèi)部完成的東西。我們?nèi)〉昧司薮蟮倪M(jìn)步。今天，我們宣布Alpamayo，世界上第一款會(huì)思考、推理的自動(dòng)駕駛汽車AI。
Alpamayo是端到端訓(xùn)練的，字面意思是從攝像頭輸入到執(zhí)行輸出。攝像頭輸入大量由它自己駕駛的里程，或是我們?nèi)祟愸{駛的，使用人類演示。我們還有大量由Cosmos生成的里程。除此之外，成千上萬的例子被非常仔細(xì)地標(biāo)記，以便我們可以教汽車如何駕駛。
Alpamayo做了一些非常特別的事情。它不僅接收傳感器輸入并激活方向盤、剎車和加速，它還推理它將要采取的行動(dòng)。它告訴你它將要采取什么行動(dòng)，它得出那個(gè)行動(dòng)的理由，當(dāng)然還有軌跡。所有這些都直接耦合，并由大量人類訓(xùn)練以及Cosmos生成的數(shù)據(jù)非常具體地訓(xùn)練。結(jié)果真的令人難以置信。你的車不僅像你期望的那樣駕駛，而且它駕駛得如此自然，因?yàn)樗苯訌娜祟愌菔菊吣抢飳W(xué)習(xí)。但在每一個(gè)場(chǎng)景中，當(dāng)它遇到場(chǎng)景時(shí)，它會(huì)推理，它告訴你它要做什么，并推理它將要做什么。
為什么這如此重要？因?yàn)轳{駛的長尾效應(yīng)。我們不可能簡單地為每個(gè)國家、每種情況、所有人口可能發(fā)生的每一件可能的事情收集每一個(gè)可能的場(chǎng)景。然而，每種場(chǎng)景很有可能分解成一大堆其他較小的場(chǎng)景，這對(duì)你來說理解起來很正常。因此，這些長尾將被分解成汽車知道如何處理的相當(dāng)正常的情況，它只需要對(duì)其進(jìn)行推理。
讓我們來看一下。你們即將看到的一切都是一次通過，不需動(dòng)手。
視頻演示（車內(nèi)導(dǎo)航語音）：
正在導(dǎo)航至目的地。系好安全帶。
（視頻播放：自動(dòng)駕駛過程）
視頻演示：
你已到達(dá)。
黃仁勛：
我們?cè)诎四昵伴_始研究自動(dòng)駕駛汽車。原因是我們?cè)缇屯茢嗌疃葘W(xué)習(xí)和人工智能將徹底重塑整個(gè)計(jì)算堆棧。如果我們想要理解如何導(dǎo)航并引導(dǎo)行業(yè)走向這個(gè)新未來，我們必須擅長構(gòu)建整個(gè)堆棧。
我們想象有一天，路上的十億輛汽車都將是自動(dòng)駕駛的。你要么擁有它作為Robotaxi，你正在編排并從某人那里租用，要么你擁有它，它自己駕駛，或者你決定自己駕駛。但是，每一輛車都將具備自動(dòng)駕駛車輛的能力，每一輛車都將由AI驅(qū)動(dòng)。因此，這個(gè)案例中的模型層是Alpamayo，上面的應(yīng)用是梅賽德斯-奔馳。
好的，這整個(gè)堆棧是我們英偉達(dá)的第一個(gè)全棧嘗試。我們一直在這整個(gè)時(shí)間里致力于此。我很高興英偉達(dá)的第一輛自動(dòng)駕駛汽車將在第一季度（Q1）上路（在美國），然后在第二季度去歐洲，第一季度在美國，然后第二季度在歐洲，我想第三季度和第四季度是亞洲。強(qiáng)大的是，我們將繼續(xù)用下一個(gè)版本的Alpamayo和之后的版本更新它。
我現(xiàn)在毫無疑問，這將是最大的機(jī)器人產(chǎn)業(yè)之一，我很高興我們致力于此。它教會(huì)了我們大量關(guān)于如何幫助世界其他地方構(gòu)建機(jī)器人系統(tǒng)的知識(shí)，那種深刻的理解和知道如何自己構(gòu)建它，自己構(gòu)建整個(gè)基礎(chǔ)設(shè)施，知道機(jī)器人系統(tǒng)需要什么樣的芯片。
在這個(gè)特定的案例中，雙Orin芯片，下一代是雙Thor芯片。這些處理器專為機(jī)器人系統(tǒng)設(shè)計(jì)，并為最高級(jí)別的安全能力而設(shè)計(jì)。這輛車剛剛獲得評(píng)級(jí)?？?，剛剛投產(chǎn)的梅賽德斯-奔馳 CLA 剛剛被 NCAP 評(píng)為世界上最安全的汽車。
這是我知道的唯一一個(gè)系統(tǒng)，其每一行代碼、芯片、系統(tǒng)都經(jīng)過安全認(rèn)證。整個(gè)模型系統(tǒng)基于我們。傳感器是多樣化且冗余的，自動(dòng)駕駛汽車堆棧也是如此。Alpamayo堆棧是端到端訓(xùn)練的，擁有令人難以置信的技能。然而，除非你永遠(yuǎn)駕駛它，否則沒人知道它是否絕對(duì)安全。
所以我們用另一個(gè)軟件堆棧，即底層的整個(gè) AV 堆棧來進(jìn)行護(hù)欄保護(hù)。整個(gè) AV 堆棧被構(gòu)建為完全可追溯的。我們花了大約五年，實(shí)際上是六七年的時(shí)間來構(gòu)建第二個(gè)堆棧。這兩個(gè)軟件堆棧相互鏡像。然后我們有一個(gè)策略和安全評(píng)估器來決定：這是我有信心并能推理出可以非常安全駕駛的情況嗎？如果是，我會(huì)讓Alpamayo來做。如果這是一個(gè)我不太有信心的情況，安全策略評(píng)估器決定我們將回到一個(gè)更簡單、更安全的護(hù)欄系統(tǒng)。
然后它會(huì)回到經(jīng)典的 AV 堆棧，這是世界上唯一擁有這兩個(gè)同時(shí)運(yùn)行的 AV 堆棧的汽車，所有安全系統(tǒng)都應(yīng)該具有多樣性和冗余性。我們的愿景是有朝一日每一輛車、每一輛卡車都將是自動(dòng)駕駛的。我們一直在朝著那個(gè)未來努力。整個(gè)堆棧是垂直整合的。
當(dāng)然，在梅賽德斯-奔馳的案例中，我們共同構(gòu)建了整個(gè)堆棧。我們將部署這輛車，并在我們存續(xù)期間一直運(yùn)營和維護(hù)這個(gè)堆棧。然而，就像我們要做的所有其他事情一樣，我們構(gòu)建了整個(gè)堆棧，但整個(gè)堆棧對(duì)生態(tài)系統(tǒng)是開放的。與我們合作構(gòu)建 L4 和 Robotaxi 的生態(tài)系統(tǒng)正在擴(kuò)大，遍布各地。我完全預(yù)計(jì)這將是——這已經(jīng)是一個(gè)巨大的業(yè)務(wù)了。這對(duì)我們來說是一個(gè)巨大的業(yè)務(wù)，因?yàn)樗麄兪褂盟鼇碛?xùn)練、處理數(shù)據(jù)和訓(xùn)練他們的模型。他們用它進(jìn)行合成數(shù)據(jù)生成。在某些情況下，有些公司幾乎只構(gòu)建車內(nèi)的計(jì)算機(jī)芯片。有些公司與我們進(jìn)行全棧合作，有些公司與我們進(jìn)行部分合作。沒關(guān)系你決定用多少，我唯一的請(qǐng)求是盡可能多用一點(diǎn) NVIDIA。
這就是現(xiàn)在的全部開放內(nèi)容。這將是第一個(gè)大規(guī)模的主流 AI、物理 AI 市場(chǎng)。我想我們?cè)谶@里都完全同意，從非自動(dòng)駕駛汽車到自動(dòng)駕駛汽車的這個(gè)轉(zhuǎn)折點(diǎn)可能就在這個(gè)時(shí)間發(fā)生。在接下來的 10 年里，我相當(dāng)確定世界上很大比例的汽車將是自動(dòng)駕駛或高度自動(dòng)駕駛的。
但我剛才描述的這種使用三臺(tái)計(jì)算機(jī)、使用合成數(shù)據(jù)生成和模擬的基本技術(shù)適用于每一種形式的機(jī)器人系統(tǒng)。它可以是一個(gè)僅僅是關(guān)節(jié)、機(jī)械手的機(jī)器人，也許是一個(gè)移動(dòng)機(jī)器人，也許是一個(gè)完全的人形機(jī)器人。所以機(jī)器人系統(tǒng)的下一個(gè)旅程、下一個(gè)時(shí)代將是機(jī)器人。這些機(jī)器人將有各種不同的尺寸。我邀請(qǐng)了一些朋友。他們來了嗎？嘿，伙計(jì)們，快點(diǎn)。我有很多東西要講。來吧，快點(diǎn)。你告訴 R2D2 你會(huì)在這兒嗎？C-3PO。好的。好的。到這兒來。
（機(jī)器人上臺(tái)）
現(xiàn)在，有一件非?！銈冇?Jetson。它們里面有小型的 Jetson 計(jì)算機(jī)。它們是在 Omniverse 內(nèi)部訓(xùn)練的。這樣如何？讓我們向大家展示你們學(xué)習(xí)如何成為機(jī)器人的模擬器，你們想看那個(gè)嗎？好的，讓我們看看那個(gè)。Rana，請(qǐng)。
（視頻演示：Omniverse 中的機(jī)器人訓(xùn)練）
這太神奇了。那就是你學(xué)習(xí)成為機(jī)器人的方式。你是在 Omniverse 內(nèi)部完成的，機(jī)器人模擬器叫Isaac Sim、Isaac Lab。任何想制造機(jī)器人的人——即使沒有人會(huì)像你們這么可愛——但現(xiàn)在我們有了所有這些朋友，我們正在制造機(jī)器人。
我們有制造大的。不，就像我說的，沒人像你們這么可愛。但我們有 Neuro Bot，我們有 Ag Bot。那邊的 AG Bot。我們有 LG 在這邊。他們剛剛發(fā)布了一個(gè)新機(jī)器人。Caterpillar，他們有史上最大的機(jī)器人。那個(gè)是把食物送到你家的，連接著 Uber Eats。那是 Serve Robot，我喜歡那些家伙。Agility、Boston Dynamics。不可思議。你有手術(shù)機(jī)器人，你有來自 Franka 的機(jī)械臂機(jī)器人，你有 Universal Robotics 的機(jī)器人。數(shù)量驚人的不同種類的機(jī)器人。
所以這是下一章。我們將來會(huì)更多地談?wù)摍C(jī)器人技術(shù)。
但最終不僅僅是關(guān)于機(jī)器人。我知道一切都是關(guān)于你們這群家伙的。關(guān)鍵是到達(dá)那里。世界上最重要的行業(yè)之一將被物理 AI 和 AI 物理學(xué)徹底革命化，這個(gè)行業(yè)也是 NVIDIA 的起源。如果沒有我要談到的這些公司，NVIDIA 就不可能存在。我很高興所有這些公司，從Cadence開始，都在加速一切。Cadence 將 CUDA-X 集成到他們所有的模擬和求解器中。
他們擁有 NVIDIA 物理 AI，他們將用于不同的物理工廠和工廠模擬。你有 AI 物理學(xué)被集成到這些系統(tǒng)中。所以無論是 EDA 還是 CAE，以及未來的機(jī)器人系統(tǒng)，我們基本上將擁有讓你們成為可能的相同技術(shù)，現(xiàn)在徹底改變這些設(shè)計(jì)堆棧。Synopsys，沒有 Synopsys，你知道，Synopsys 和 Cadence 在芯片設(shè)計(jì)世界中是完全不可或缺的。Synopsys 在邏輯設(shè)計(jì)和 IP 方面處于領(lǐng)先地位。
在 Cadence 的案例中，他們?cè)谖锢碓O(shè)計(jì)、布局布線、仿真和驗(yàn)證方面處于領(lǐng)先地位。Cadence 在仿真和驗(yàn)證方面令人難以置信。他們都在進(jìn)入系統(tǒng)設(shè)計(jì)和系統(tǒng)模擬的世界。所以在未來，我們將在 Cadence 和 Synopsys 內(nèi)部設(shè)計(jì)你們的芯片。我們將在這些工具內(nèi)部設(shè)計(jì)你們的系統(tǒng)，并仿真整個(gè)過程，模擬一切。
那就是你們的未來。是的，你們將要在這些平臺(tái)內(nèi)部誕生。很神奇，對(duì)吧？所以我們很高興我們正在與這些行業(yè)合作，就像我們將 NVIDIA 集成到 Palantir 和 ServiceNow 一樣，我們正在將 NVIDIA 集成到計(jì)算最密集的模擬行業(yè)——Synopsys 和 Cadence 中。
今天我們宣布西門子（Siemens）也在做同樣的事情。
我們將集成CUDA-X，物理AI，Agentic AI，NeMo，NeMo Tron，深度集成到西門子的世界中。原因是這樣的。首先，我們?cè)O(shè)計(jì)芯片，未來所有芯片都將被英偉達(dá)加速。你們會(huì)對(duì)此很高興。我們將有代理芯片設(shè)計(jì)師和系統(tǒng)設(shè)計(jì)師與我們合作，幫助我們做設(shè)計(jì)，就像我們今天有代理軟件工程師幫助我們的軟件工程師編碼一樣。
所以我們將擁有代理芯片設(shè)計(jì)師和系統(tǒng)設(shè)計(jì)師。我們將在這些內(nèi)部創(chuàng)造你們。但然后我們必須建造你們，我們必須建造工廠，制造你們的工廠。我們必須設(shè)計(jì)組裝你們所有人的生產(chǎn)線。
這些制造工廠本質(zhì)上將是巨大的機(jī)器人。不可思議。那是對(duì)的嗎？我知道。所以你們將在計(jì)算機(jī)里設(shè)計(jì)。你們將在計(jì)算機(jī)里制造，你們將在計(jì)算機(jī)里測(cè)試和評(píng)估，早在你們不得不花任何時(shí)間應(yīng)對(duì)重力之前。
你們知道怎么應(yīng)對(duì)重力嗎？（機(jī)器人跳躍）好的，別顯擺了。
所以，這個(gè)使 NVIDIA 成為可能的行業(yè)。我很高興現(xiàn)在我們要?jiǎng)?chuàng)造的技術(shù)達(dá)到了如此復(fù)雜的水平和能力，我們可以回去幫助他們?yōu)樾袠I(yè)提供解決方案。所以，始于他們的東西，我們現(xiàn)在有機(jī)會(huì)回去幫助他們徹底改變他們的行業(yè)。
讓我們看看我們將與西門子做些什么。來吧。
視頻解說：
物理 AI 的突破讓 AI 從屏幕走向我們的物理世界。這恰逢其時(shí)，因?yàn)槭澜缯诮ㄔO(shè)各種各樣的工廠，用于芯片、計(jì)算機(jī)、救命藥物和 AI。隨著全球勞動(dòng)力短缺的加劇，我們比以往任何時(shí)候都更需要由物理 AI 和機(jī)器人技術(shù)驅(qū)動(dòng)的自動(dòng)化。
這就是 AI 與世界上最大的物理產(chǎn)業(yè)相遇的地方，是 NVIDIA 和 西門子合作的基礎(chǔ)。近兩個(gè)世紀(jì)以來，西門子建立了世界的工業(yè)，現(xiàn)在它正在為 AI 時(shí)代重塑工業(yè)。西門子正在整合 NVIDIACUDA-X庫、AI 模型和Omniverse到其 EDA、CAE 和數(shù)字孿生工具及平臺(tái)的產(chǎn)品組合中。我們將物理 AI 帶入從設(shè)計(jì)和模擬到生產(chǎn)和運(yùn)營的整個(gè)工業(yè)生命周期。我們正站在新工業(yè)革命的開端——物理 AI 時(shí)代。由 NVIDIA 和西門子為下一個(gè)工業(yè)時(shí)代打造。
(Vera Rubin平臺(tái)發(fā)布部分)
黃仁勛：
不可思議，對(duì)吧，伙計(jì)們？你們覺得怎么樣？好的，抓緊了。如果你看世界的模型，毫無疑問 OpenAI 是今天領(lǐng)先的 Token 生成者。OpenAI 生成的 Token 比其他任何都多。第二大群體，第二大可能是開放模型。我的猜測(cè)是，隨著時(shí)間的推移，因?yàn)橛羞@么多公司、這么多研究人員、這么多不同類型的領(lǐng)域和模態(tài)，開源模型將是迄今為止最大的。
讓我們談?wù)勔粋€(gè)非常特別的人。你們想那樣做嗎？
讓我們談?wù)?strong>Vera Rubin（薇拉·魯賓）。她是美國天文學(xué)家。她是第一個(gè)觀察到并注意到星系尾部的移動(dòng)速度與星系中心差不多快的人。我知道這說不通。牛頓物理學(xué)會(huì)說，就像太陽系一樣，離太陽越遠(yuǎn)的行星繞太陽公轉(zhuǎn)的速度比離太陽近的行星慢。因此，除非有看不見的物體，否則這是說不通的。她發(fā)現(xiàn)了即使我們看不見但也占據(jù)空間的暗物質(zhì)。
所以 Vera Rubin 是我們以她名字命名下一臺(tái)計(jì)算機(jī)的人。這是個(gè)好主意，對(duì)吧？我知道。
Vera Rubin的設(shè)計(jì)是為了解決我們面臨的這一根本挑戰(zhàn)。AI 所需的計(jì)算量正在飆升。對(duì) NVIDIA GPU 的需求正在飆升。這種飆升是因?yàn)槟Ｐ兔磕暝黾?10 倍，即一個(gè)數(shù)量級(jí)。更不用說，正如我提到的，o1 的引入是 AI 的一個(gè)轉(zhuǎn)折點(diǎn)。推理不再是一次性的回答，而是一個(gè)思考過程。為了教 AI 如何思考，強(qiáng)化學(xué)習(xí)和非常顯著的計(jì)算被引入到后訓(xùn)練中。這不再只是監(jiān)督微調(diào)（SFT）或模仿學(xué)習(xí)。現(xiàn)在有了強(qiáng)化學(xué)習(xí)，本質(zhì)上是計(jì)算機(jī)自己嘗試不同的迭代，學(xué)習(xí)如何執(zhí)行任務(wù)。因此，預(yù)訓(xùn)練、后訓(xùn)練、測(cè)試時(shí)擴(kuò)展的計(jì)算量已經(jīng)爆炸式增長。
現(xiàn)在我們做的每一次推理，不再只是一次性的，Token 的數(shù)量——你可以看到 AI 在思考，我們對(duì)此表示贊賞。它思考得越久，通常產(chǎn)生的答案就越好。所以測(cè)試時(shí)擴(kuò)展導(dǎo)致生成的 Token 數(shù)量每年增加 5 倍。與此同時(shí)，AI 的競(jìng)賽正在進(jìn)行。每個(gè)人都試圖達(dá)到下一個(gè)水平。每個(gè)人都試圖達(dá)到下一個(gè)前沿。每當(dāng)他們達(dá)到下一個(gè)前沿時(shí)，上一代 AI Token 的成本就開始每年下降約 10 倍。每年 10 倍的下降實(shí)際上告訴你一些不同的事情，它是說競(jìng)爭(zhēng)如此激烈，每個(gè)人都試圖達(dá)到下一個(gè)水平，有人正在達(dá)到下一個(gè)水平。因此，所有這些都是計(jì)算問題。你計(jì)算得越快，你就能越快達(dá)到下一個(gè)前沿水平。所有這些事情都在同一時(shí)間發(fā)生。
所以我們決定每年都必須推進(jìn)計(jì)算的最先進(jìn)水平，一年也不能落下。我們一年半前就開始出貨 GB200?，F(xiàn)在，我們正在全面制造 GB300。如果 Vera Rubin 要趕上今年，它現(xiàn)在必須已經(jīng)投入生產(chǎn)。所以今天，我可以告訴你們 Vera Rubin 正在全面生產(chǎn)。
你們想看看 Vera Rubin 嗎？好的，來吧。請(qǐng)播放。
視頻解說：
Vera Rubin恰好趕上AI的下一個(gè)前沿。這是我們?nèi)绾螛?gòu)建它的故事。架構(gòu)，一個(gè)六芯片系統(tǒng)工程化為一個(gè)整體。誕生于極端協(xié)同設(shè)計(jì)（Extreme Co-design）。它始于Vera，一個(gè)定制設(shè)計(jì)的CPU，性能是上一代的兩倍。以及Rubin GPU。Vera和Rubin從一開始就協(xié)同設(shè)計(jì)，以更快、更低延遲地雙向和一致地共享數(shù)據(jù)。
AI需要快速的數(shù)據(jù)。ConnectX-9為每個(gè)GPU提供1.6 TB/s的擴(kuò)展帶寬，BlueField-4 DPU卸載存儲(chǔ)和安全。所以計(jì)算完全專注于AI。Vera Rubin計(jì)算托盤完全重新設(shè)計(jì)，沒有電纜、軟管或風(fēng)扇，配備一個(gè)BlueField-4 DPU、8個(gè)ConnectX-9網(wǎng)卡、兩個(gè)Vera CPU和四個(gè)Rubin GPU，這是Vera Rubin AI超級(jí)計(jì)算機(jī)的計(jì)算構(gòu)建塊。接下來，第六代NVLink Switch，移動(dòng)的數(shù)據(jù)比全球互聯(lián)網(wǎng)還多，連接18個(gè)計(jì)算節(jié)點(diǎn)，擴(kuò)展到72個(gè)Rubin GPU作為一個(gè)整體運(yùn)行。然后是Spectrum-6 Ethernet Photonics，世界上第一個(gè)具有512通道和200Gbps“共封裝光學(xué)（Co-packaged optics）”的以太網(wǎng)交換機(jī)。
將數(shù)千個(gè)機(jī)架擴(kuò)展成 AI 工廠。自設(shè)計(jì)開始以來的 15,000 個(gè)工程師年。第一個(gè) Vera RubinNVL72 機(jī)架上線。六個(gè)突破性的芯片，18 個(gè)計(jì)算托盤，9 個(gè) NVLink 交換機(jī)托盤，220 萬億個(gè)晶體管，重近 2 噸。向 AI 下一個(gè)前沿的巨大飛躍。Rubin 來了。
黃仁勛：
你們覺得怎么樣？這是一個(gè)Rubin Pod。1152個(gè)GPU和16個(gè)機(jī)架。正如你知道的，每個(gè)機(jī)架有72個(gè)Vera Rubin或72個(gè)Rubin。每一個(gè)Rubin實(shí)際上是兩個(gè)GPU晶粒連接在一起。
“這是一只巨大的怪獸（It's a giant ship）。”
我們?cè)O(shè)計(jì)了六種不同的芯片。首先，我們?cè)诠緝?nèi)部有一個(gè)規(guī)則。作為一個(gè)好規(guī)則，新一代不應(yīng)該有超過一兩個(gè)芯片的變化。但問題是，正如你所見，我們?cè)诿枋雒總€(gè)被描述的芯片中的晶體管總數(shù)。我們知道摩爾定律已經(jīng)大大放緩。因此，我們每年能得到的晶體管數(shù)量不可能跟上大10倍的模型。它不可能跟上每年多5倍的Token生成。它不可能跟上這樣一個(gè)事實(shí)：Token的成本下降將如此激進(jìn)，如果行業(yè)要繼續(xù)進(jìn)步，除非我們部署積極的極端協(xié)同設(shè)計(jì)，基本上同時(shí)在整個(gè)系統(tǒng)的所有芯片上進(jìn)行創(chuàng)新，否則不可能跟上這種速度。這就是為什么我們決定這一代，我們別無選擇，只能重新設(shè)計(jì)每一個(gè)芯片。
剛才描述的每一個(gè)芯片本身都可以開一場(chǎng)新聞發(fā)布會(huì)，這在過去可能需要一整家公司專門來做。每一個(gè)都是完全革命性的，是同類中最好的。
Vera CPU，我為此感到驕傲。在一個(gè)受功耗限制的世界里，Vera CPU的性能是世界上最先進(jìn)CPU的兩倍。它有88個(gè)CPU核心，但使用了“空間多線程”（Spatial Multi-threading）技術(shù)，使得176個(gè)線程中的每一個(gè)都能獲得全性能。
這是Rubin GPU。它的浮點(diǎn)性能是Blackwell的5倍。但重要的是，看底線，它只有Blackwell晶體管數(shù)量的1.6倍。
我要告訴你們關(guān)于當(dāng)今半導(dǎo)體物理水平的一些事情。如果不做協(xié)同設(shè)計(jì)，如果不做基本上整個(gè)系統(tǒng)每個(gè)芯片層面的極端協(xié)同設(shè)計(jì)，我們?cè)趺纯赡芴峁┻@種性能水平？因?yàn)槟阒挥?1.6 倍的晶體管。即使每晶體管的性能提高一點(diǎn)，比如 25%，也不可能從這些晶體管中獲得 100% 的良率。所以 1.6 倍在某種程度上設(shè)定了每年性能提升的上限，除非你做一些極端的事情，我們稱之為極端協(xié)同設(shè)計(jì)。
我們做的一件事，也是一項(xiàng)偉大的發(fā)明，叫做NVFP4 Tensor Core。我們芯片內(nèi)部的 Transformer 引擎不僅僅是我們放入數(shù)據(jù)路徑的某種 4 位浮點(diǎn)數(shù)。它是一個(gè)完整的處理器，一個(gè)處理單元，知道如何動(dòng)態(tài)地、自適應(yīng)地調(diào)整其精度和結(jié)構(gòu)以處理 Transformer 的不同層級(jí)。這樣你就可以在可能損失精度的地方實(shí)現(xiàn)更高的吞吐量，并在需要的地方回到盡可能高的精度。那種動(dòng)態(tài)自適應(yīng)的能力，你不能在軟件中做，因?yàn)轱@然運(yùn)行得太快了。所以你必須在處理器內(nèi)部自適應(yīng)地完成。
這就是 NVFP4。當(dāng)有人說 FP4 或 FP8 時(shí)，這對(duì)我們來說幾乎沒有任何意義。原因是這關(guān)乎 Tensor Core 結(jié)構(gòu)和使其工作的所有算法。NVFP4，我們已經(jīng)發(fā)表了相關(guān)論文。其能夠保留的吞吐量和精度水平完全令人難以置信。這是開創(chuàng)性的工作。如果行業(yè)希望我們將這種格式和結(jié)構(gòu)在未來變成行業(yè)標(biāo)準(zhǔn)，我也不會(huì)感到驚訝。這是完全革命性的。這就是我們能夠提供如此巨大性能提升的原因，即使我們只有 1.6 倍的晶體管。
我們徹底改變了整個(gè)NGX機(jī)箱。從兩個(gè)小時(shí)的組裝時(shí)間變成了五分鐘。100%液冷。真正的突破。好的，所以這是新的計(jì)算底盤，將所有這些連接到架頂交換機(jī)，東西向流量的，叫做Spectrum-X NIC。
好的，這是新的計(jì)算底盤。連接所有這些到機(jī)架頂部交換機(jī)（東西向流量）的是Spectrum-X 網(wǎng)卡。這是世界上最好的網(wǎng)卡，毫無疑問。NVIDIA 的 Mellanox，很久以前加入我們的 Mellanox，他們用于高性能計(jì)算的網(wǎng)絡(luò)技術(shù)是世界上最好的，無可比擬。算法、芯片設(shè)計(jì)、所有的互連、運(yùn)行在上面的所有軟件堆棧。他們的 RDMA 絕對(duì)是世界上最好的?，F(xiàn)在它具有進(jìn)行可編程 RDMA 和數(shù)據(jù)路徑加速器的能力。這樣我們的合作伙伴（如 AI 實(shí)驗(yàn)室）可以為他們想要如何在系統(tǒng)中移動(dòng)數(shù)據(jù)創(chuàng)建自己的算法，但這完全是世界級(jí)的。
ConnectX-9和 Vera CPU 是協(xié)同設(shè)計(jì)的。直到 CX9 出現(xiàn)我們才發(fā)布它，因?yàn)槲覀兪菫橐环N新型處理器協(xié)同設(shè)計(jì)它的。你知道，ConnectX-9、我們的 CX8 和 Spectrum-X 徹底改變了以太網(wǎng)用于人工智能的方式。
AI 的以太網(wǎng)流量要密集得多，需要更低的延遲。瞬時(shí)的流量激增不同于以太網(wǎng)見過的任何東西。所以我們創(chuàng)造了 Spectrum-X，即AI 以太網(wǎng)。兩年前，我們發(fā)布了 Spectrum-X。NVIDIA 今天是世界上最大的網(wǎng)絡(luò)公司。
它如此成功，被用于如此多不同的安裝中。它正在橫掃 AI 領(lǐng)域。性能令人難以置信，特別是當(dāng)你擁有一個(gè) 200 兆瓦的數(shù)據(jù)中心或吉瓦級(jí)的數(shù)據(jù)中心時(shí)，這些都是數(shù)十億美元的投資。假設(shè)一個(gè)吉瓦數(shù)據(jù)中心價(jià)值 500 億美元，如果網(wǎng)絡(luò)性能讓你多獲得 10% 的輸出，而在 Spectrum-X 的情況下，提供 25% 更高的吞吐量并不罕見。哪怕我們只提供 10%，那也價(jià)值 50 億美元。那網(wǎng)絡(luò)就完全是免費(fèi)的了，這也是為什么大家都在用 Spectrum-X。這真的是個(gè)不可思議的東西。
現(xiàn)在我們要發(fā)明一種新型的數(shù)據(jù)處理方式。所以 Spectrum-X 是用于東西向流量的。我們現(xiàn)在有一個(gè)名為BlueField-4的新處理器，允許我們采用一個(gè)非常大的數(shù)據(jù)中心，隔離其不同部分，以便不同用戶可以使用不同部分，確一切都可以虛擬化，如果他們決定虛擬化的話。所以你卸載了大量的虛擬化軟件、安全軟件、南北向流量的網(wǎng)絡(luò)軟件。
BlueField-4 是每個(gè)計(jì)算節(jié)點(diǎn)的標(biāo)配。BlueField-4 還有我馬上要講的第二個(gè)應(yīng)用。這是一個(gè)革命性的處理器，我對(duì)此非常興奮。
這是NVLink 6 Switch，就在這里。這個(gè)交換機(jī)里面的每個(gè)交換芯片擁有歷史上最快的SerDes。世界僅僅剛達(dá)到 200 Gbps。這是一個(gè)400 Gbps的交換機(jī)。這之所以如此重要，是為了讓我們可以讓每一個(gè) GPU 在完全相同的時(shí)間與每一個(gè)其他 GPU 對(duì)話。
這個(gè)位于這些機(jī)架背板上的交換機(jī)使我們能夠移動(dòng)相當(dāng)于全球互聯(lián)網(wǎng)數(shù)據(jù)量兩倍的數(shù)據(jù)，以兩倍于所有世界互聯(lián)網(wǎng)數(shù)據(jù)的速度。將整個(gè)星球互聯(lián)網(wǎng)的橫截面帶寬算作大約每秒 100 TB。這是每秒240 TB。所以這讓大家有個(gè)概念。這是為了讓每一個(gè) GPU 可以在完全相同的時(shí)間與每一個(gè)其他 GPU 一起工作。
好的，在那之上——這是單機(jī)架。這是一個(gè)機(jī)架。如你們所見，這一個(gè)機(jī)架的晶體管數(shù)量是 1.7 倍。是的，你能幫我做這個(gè)嗎？這通常大約是 2 噸，但今天有2.5 噸。因?yàn)楫?dāng)他們運(yùn)輸時(shí)，忘了把里面的水排干。所以我們從加州運(yùn)了很多水過來。
你能聽到它尖叫嗎？當(dāng)你旋轉(zhuǎn) 2.5 噸時(shí)，它肯定會(huì)有點(diǎn)尖叫。你能做到的。好的。我們不會(huì)讓你做兩次。
好的，在這后面是NVLink Spine，基本上是兩英里長的銅纜。銅是我們知道的最好的導(dǎo)體。這些都是屏蔽銅纜，結(jié)構(gòu)化銅纜，是計(jì)算系統(tǒng)中有史以來使用最多的。我們的 SerDes 驅(qū)動(dòng)銅纜從機(jī)架頂部一直到底部，速度為 400 Gbps。不可思議。
這總共有兩英里的銅纜，5,000 根銅纜。這使得 NVLink Spine 成為可能。這是真正開啟了 NGX 系統(tǒng)的革命，我們決定創(chuàng)建一個(gè)行業(yè)標(biāo)準(zhǔn)系統(tǒng)，以便整個(gè)生態(tài)系統(tǒng)、我們所有的供應(yīng)鏈都可以標(biāo)準(zhǔn)化這些組件。有大約 80,000 個(gè)不同的組件組成了這些 NGX 系統(tǒng)。
如果每年都改變它，那是完全的浪費(fèi)。每一個(gè)主要的計(jì)算機(jī)公司，從富士康到廣達(dá)，到緯創(chuàng)，名單還在繼續(xù)，到 HP、Dell 和 Lenovo。每個(gè)人都知道如何構(gòu)建這些系統(tǒng)。所以盡管性能高得多，而且非常重要的是，功率是原來的兩倍，我們還是能把 Vera Rubin 塞進(jìn)去。Vera Rubin 的功率是 Grace Blackwell 的兩倍。
然而，這是奇跡所在——進(jìn)入其中的空氣、氣流大致相同。非常重要的是，進(jìn)入其中的水是相同的溫度，45 攝氏度。有了 45 攝氏度的水，數(shù)據(jù)中心就不需要冷水機(jī)組了。我們基本上是在用熱水冷卻這臺(tái)超級(jí)計(jì)算機(jī)，效率極高。
所以這是新機(jī)架，晶體管數(shù)量增加 1.7 倍，但峰值推理性能增加 5 倍，峰值訓(xùn)練性能增加 3.5 倍。好的，它們?cè)陧敳渴褂?Spectrum-X 連接。哦，謝謝。
這是世界上第一個(gè)使用臺(tái)積電新工藝制造的芯片，這是我們共同創(chuàng)新的工藝，叫做Coupe，是一種**硅光子（Silicon Photonics）**集成工藝技術(shù)。這允許我們將硅光子直接連接到芯片上。這是 512 個(gè)端口，速度為 200 Gbps。這是新的以太網(wǎng) AI 交換機(jī)，Spectrum-X 以太網(wǎng)交換機(jī)。
看這個(gè)巨大的芯片。但真正令人驚奇的是它直接連接了硅光子，激光進(jìn)入。激光從這里進(jìn)入。光學(xué)器件在這里，它們連接到數(shù)據(jù)中心的其余部分。這我稍后會(huì)展示，但這就在機(jī)架頂部。這是新的 Spectrum-X 硅光子交換機(jī)。
好的，我有新東西要告訴你們。正如我?guī)啄昵疤岬降?，我們引入?Spectrum-X 以便我們可以重塑網(wǎng)絡(luò)的方式。以太網(wǎng)非常易于管理，每個(gè)人都有以太網(wǎng)堆棧，世界上每個(gè)數(shù)據(jù)中心都知道如何處理以太網(wǎng)。當(dāng)時(shí)我們唯一使用的是 InfiniBand，用于超級(jí)計(jì)算機(jī)。InfiniBand 延遲非常低，但當(dāng)然其軟件堆棧、整個(gè)可管理性對(duì)于使用以太網(wǎng)的人來說非常陌生。所以我們決定首次進(jìn)入以太網(wǎng)交換機(jī)市場(chǎng)。Spectrum-X 就這樣起飛了，使我們成為世界上最大的網(wǎng)絡(luò)公司。
正如我提到的，下一代 Spectrum 將延續(xù)這一傳統(tǒng)。正如我之前所說，AI 已經(jīng)重塑了整個(gè)計(jì)算堆棧，計(jì)算堆棧的每一層。理所當(dāng)然地，當(dāng) AI 開始在全球企業(yè)中部署時(shí)，它也將重塑我們進(jìn)行存儲(chǔ)的方式。AI 不使用 SQL。AI 使用語義信息。
當(dāng)使用 AI 時(shí)，它會(huì)創(chuàng)建這種臨時(shí)知識(shí)、臨時(shí)內(nèi)存，稱為KV Cache（KV 緩存），即 Key-Value 組合。這是一個(gè) KV 緩存，基本上是 AI 的緩存，AI 的工作記憶。AI 的工作記憶存儲(chǔ)在HBM 內(nèi)存中。
對(duì)于每一個(gè) Token，GPU 讀取模型，整個(gè)模型，它讀取整個(gè)工作記憶并產(chǎn)生一個(gè) Token，并將這一個(gè) Token 存回 KV 緩存中。然后下一次它這樣做時(shí)，它讀取整個(gè)內(nèi)存，讀取它，并通過我們的 GPU 流式傳輸，然后生成另一個(gè) Token。好吧，它重復(fù)這樣做，一個(gè) Token 接著一個(gè) Token。
顯然，如果你與那個(gè) AI 進(jìn)行長時(shí)間的對(duì)話，隨著時(shí)間的推移，那個(gè)記憶、那個(gè)上下文記憶將會(huì)極大地增長，更不用說模型在增長，我們使用的 AI 對(duì)話輪次在增加。我們希望這個(gè) AI 能伴隨我們一生，并記住我們與它的每一次對(duì)話，對(duì)吧？我要求它做的每一個(gè)研究鏈接。當(dāng)然，共享超級(jí)計(jì)算機(jī)的人數(shù)將繼續(xù)增長。因此，這種最初適合放入 HBM 的上下文記憶已經(jīng)不夠大了。
去年，我們創(chuàng)造了 Grace Blackwell 的非常快的內(nèi)存，我們稱之為快速上下文內(nèi)存。這就是我們將 Grace 直接連接到 Hopper 的原因。這就是我們將 Grace 直接連接到 Blackwell 的原因，以便我們可以擴(kuò)展上下文內(nèi)存。但即使那樣也不夠。所以下一個(gè)解決方案當(dāng)然是去網(wǎng)絡(luò)上，南北向網(wǎng)絡(luò)去公司的存儲(chǔ)。但如果你同時(shí)運(yùn)行很多 AI，那個(gè)網(wǎng)絡(luò)將不再足夠快。所以答案顯然是做不同的事情。
所以我們引入了 BlueField-4，以便我們可以在機(jī)架中擁有非?？斓?KV 緩存上下文內(nèi)存存儲(chǔ)。我馬上就展示給你們看，這是一種全新的存儲(chǔ)系統(tǒng)類別。業(yè)界非常興奮，因?yàn)閷?duì)于幾乎所有今天進(jìn)行大量 Token 生成的人來說，這是一個(gè)痛點(diǎn)。AI 實(shí)驗(yàn)室、云服務(wù)提供商，他們真的深受 KV 緩存移動(dòng)引起的大量網(wǎng)絡(luò)流量之苦。
所以創(chuàng)建一個(gè)新平臺(tái)、一個(gè)新處理器來運(yùn)行整個(gè) Dynamo KV 緩存上下文內(nèi)存管理系統(tǒng)，并將其放在離機(jī)架其余部分非常近的地方，這個(gè)想法是完全革命性的。
就是它。就在這里。這就是所有計(jì)算節(jié)點(diǎn)。每一個(gè)都是 NVLink 72。所以這是 Vera Rubin，NVLink 72，144 個(gè) Rubin GPU。這是存儲(chǔ)在這里的上下文內(nèi)存。每一個(gè)后面都有四個(gè) BlueField。每個(gè) BlueField 后面有 150 TB 的內(nèi)存，上下文內(nèi)存。對(duì)于每個(gè) GPU，一旦你分配下去，每個(gè) GPU 將獲得額外的 16 TB?，F(xiàn)在在這個(gè)節(jié)點(diǎn)內(nèi)部，每個(gè) GPU 本質(zhì)上有 1 TB?，F(xiàn)在有了這個(gè)直接位于同一東西向流量上的后備存儲(chǔ)，以完全相同的數(shù)據(jù)速率，200 Gbps 跨越這臺(tái)計(jì)算節(jié)點(diǎn)的整個(gè)架構(gòu)。你將獲得額外的16 TB 內(nèi)存。好的？這是管理平面。這些是連接所有它們的 Spectrum-X 交換機(jī)。在這邊，末端的這些交換機(jī)將它們連接到數(shù)據(jù)中心的其余部分。好的，這就是 Vera Rubin。
有幾件事真的令人難以置信。首先我提到的是，這整個(gè)系統(tǒng)的能源效率是原來的兩倍，本質(zhì)上是溫度性能的兩倍，也就是說，即使功率是兩倍，使用的能量是兩倍，計(jì)算量也比那高出許多倍。但進(jìn)入其中的液體仍然是 45 攝氏度。這使我們能夠節(jié)省大約6% 的全球數(shù)據(jù)中心電力。這是一件非常大的事情。
第二件非常大的事情是，整個(gè)系統(tǒng)現(xiàn)在是“機(jī)密計(jì)算安全（Confidential Computing Safe）”的，意味著一切在傳輸中、靜態(tài)時(shí)和計(jì)算期間都是編碼的。并且每一條總線現(xiàn)在都是加密的。每個(gè) PCIe Express、每個(gè) NVLink，CPU 內(nèi)存和 GPU 之間的 8 個(gè) NVLink，GPU 到 GPU 之間，一切現(xiàn)在都是加密的。所以它是機(jī)密計(jì)算安全的。這允許公司感到安全，他們的模型由別人部署，但永遠(yuǎn)不會(huì)被別人看到。
好的？所以這個(gè)特定的系統(tǒng)不僅極其節(jié)能，還有一件事令人難以置信。由于 AI 工作負(fù)載的性質(zhì)，它會(huì)隨著稱為All-Reduce的計(jì)算層瞬間飆升，電流、同時(shí)使用的能量真的是爆表的。通常它們會(huì)飆升 25%。我們現(xiàn)在在整個(gè)系統(tǒng)中擁有**功率平滑（Power Smoothing）**功能，這樣你就不必過度配置。或者如果你過度配置了，你不必浪費(fèi)那 25% 的能量或閑置不用。所以現(xiàn)在你可以填滿整個(gè)功率預(yù)算，而不必過度配置。
最后一件事當(dāng)然是性能。讓我們看看這個(gè)的性能。這些圖表只有構(gòu)建 AI 超級(jí)計(jì)算機(jī)的人才會(huì)喜歡。我們花了很大力氣重新設(shè)計(jì)每一個(gè)芯片、每一個(gè)系統(tǒng)并重寫整個(gè)堆棧才使這成為可能?；旧线@是訓(xùn)練 AI 模型。
第一列，你訓(xùn)練 AI 模型越快，你就能越快將下一個(gè)前沿推向世界。這是你的上市時(shí)間。這是技術(shù)領(lǐng)導(dǎo)力。這是你的定價(jià)權(quán)。如果是綠色，這是 Blackwell。在 Rubin 的情況下，吞吐量高得多。因此，只需要四分之一的這些系統(tǒng)就能在我們給定的時(shí)間內(nèi)（一個(gè)月）訓(xùn)練模型。這就是 10 萬億參數(shù)模型在 100 萬億 Token 上訓(xùn)練。好的，這是我們對(duì)構(gòu)建下一個(gè)前沿模型所需內(nèi)容的模擬預(yù)測(cè)。Elon 已經(jīng)提到下一版本的 Grok 可能是 7 萬億參數(shù)。所以這是 10 萬億。在綠色的是 Blackwell。在這里的 Rubin，注意吞吐量高得多。
第二部分是你的工廠吞吐量（Factory Throughput）。Blackwell 又是綠色的，工廠吞吐量很重要，因?yàn)槟愕墓S，在吉瓦的情況下是 500 億美元。一個(gè) 500 億美元的數(shù)據(jù)中心只能消耗 1 吉瓦的電力。所以如果你的性能、你的每瓦吞吐量很好與很差相比，這直接轉(zhuǎn)化為你的數(shù)據(jù)中心收入直接與第二列相關(guān)。在 Blackwell 的情況下，它是 Hopper 的 10 倍左右。在 Rubin 的情況下，它將再次高出約 10 倍。
而在Token成本方面，Rubin大約是Blackwell的十分之一。
這就是我們?nèi)绾巫屆總€(gè)人到達(dá)下一個(gè)前沿，將AI推向下一個(gè)水平，當(dāng)然，還有能源高效和成本高效地構(gòu)建這些數(shù)據(jù)中心。
這就是現(xiàn)在的 NVIDIA。你們知道我們制造芯片，但如你們所知，NVIDIA 現(xiàn)在制造整個(gè)系統(tǒng)，AI 是全棧的。我們正在重塑 AI 的一切，從芯片到基礎(chǔ)設(shè)施，到模型，到應(yīng)用。我們的工作是創(chuàng)建整個(gè)堆棧，以便你們所有人都能為世界其他地方創(chuàng)建令人難以置信的應(yīng)用程序。
謝謝大家的到來。祝大家CES愉快。