文：天空之城·城主 （未經(jīng)授權(quán)請勿轉(zhuǎn)載）

萬眾期待的AI界科技界春晚-NVIDIA GTC 2024大會今天正式開幕。這不僅是一場面向開發(fā)者的盛會, 更是NVIDIA創(chuàng)始人黃仁勛獨領(lǐng)風(fēng)騷、引領(lǐng)業(yè)界方向的重要舞臺。

以下和大家分享這一次黃教主大會主旨演講中的精彩內(nèi)容, 附上視頻完整版及書面文字版,方便大家深入了解。

視頻完整版的B站傳送門：

【【精?！縉vidia GTC2024 黃仁勛主旨演講 2024.3.19【中英】-嗶哩嗶哩】 https://b23.tv/eEDeOq4

此次GTC大會聚集了來自氣候科技、無線電科學(xué)等不同領(lǐng)域的研究人員,他們正探索如何利用AI、機(jī)器人技術(shù)控制下一代6G無線電、自動駕駛汽車等。大會還邀請了眾多公司代表,他們將運用加速計算解決普通計算機(jī)無法應(yīng)對的難題,應(yīng)用領(lǐng)域涵蓋生命科學(xué)、醫(yī)療健康、基因組學(xué)、零售、物流、制造、工業(yè)等。

NVIDIA的發(fā)展歷程始于1993年。2006年,革命性的CUDA計算模型誕生,成為里程碑。2012年,AI首次接觸CUDA,標(biāo)志著AlexNet的出現(xiàn)。2016年,NVIDIA發(fā)明了DGX-1超級計算機(jī),8個GPU實現(xiàn)170 teraflops計算能力。從2017年Transformer到2022年ChatGPT,這些技術(shù)點燃全球想象力,彰顯AI非凡潛力。2023年,生成式AI嶄露頭角,開啟全新產(chǎn)業(yè)征程。

數(shù)據(jù)中心正成為NVIDIA生成Token、浮點數(shù)的重要基地。就像工業(yè)革命時期的發(fā)電機(jī)創(chuàng)造了電力,NVIDIA如今正在AI工廠中用GPU生成極其有價值的新型電子Token。以AI為核心的新產(chǎn)業(yè)正在形成。

NVIDIA的靈魂在于計算機(jī)圖形學(xué)、物理、AI的交叉融合,這些在Omniverse模擬的虛擬世界中交匯。今天展示的內(nèi)容皆為模擬而非動畫,它之所以美,源于其背后的物理學(xué)規(guī)律,就像真實的世界一樣。更神奇的是,這些動畫由機(jī)器人、AI創(chuàng)作。觀眾將欣賞到前所未有的AI自制音樂會。

加速計算已到達(dá)臨界點,通用計算逐漸失去動力。加速計算在性價比上遠(yuǎn)超通用計算,幾乎遍布所涉足的每個行業(yè)。它的影響不局限于單一行業(yè)。各行業(yè)正在利用數(shù)字孿生技術(shù),實現(xiàn)全流程數(shù)字化、高保真模擬。這意味著要大幅提升計算規(guī)模。合作伙伴正攜手NVIDIA,共同推動整個生態(tài)系統(tǒng)進(jìn)入加速計算時代。

加速計算的另一大優(yōu)勢在于,當(dāng)整個基礎(chǔ)設(shè)施與GPU耦合時,便可輕松實現(xiàn)AI生成能力。NVIDIA已與一些重要合作伙伴建立了深度關(guān)系。ANSYS、新思科技、Cadence這些頂級公司,正在利用NVIDIA GPU加速系統(tǒng)的巨大安裝基礎(chǔ),為最終用戶、系統(tǒng)制造商、CSP創(chuàng)造巨大機(jī)遇與客戶需求。

Blackwell是NVIDIA推出的全新GPU平臺,將涵蓋與Hopper兼容的普通系統(tǒng)和與Grace CPU連接的專用系統(tǒng)。Blackwell提供了前所未有的算力,有望突破物理極限,為互聯(lián)網(wǎng)產(chǎn)業(yè)注入新動力。

在處理海量數(shù)據(jù)和復(fù)雜計算時,精確性和范圍至關(guān)重要。配備第五代NV Link的全新Transformer引擎速度驚人。在多GPU環(huán)境中,信息同步與更新必不可少。

新型超算的高速運轉(zhuǎn)離不開早期問題檢測和替換機(jī)制。同時,數(shù)據(jù)加密對價值數(shù)億美元的AI模型和代碼至關(guān)重要。高速壓縮引擎可將數(shù)據(jù)高效導(dǎo)入導(dǎo)出,速度提升20倍。Nvidia必須全力保留這些功能,因為這些超算的投資和能力都十分驚人。

全新的FP8格式讓內(nèi)存可容納更多參數(shù),大幅提升計算速度。生成式AI作為一種全新計算范式正在興起。NVLink交換芯片實現(xiàn)所有GPU同時全速通信,仿佛成為一個巨無霸GPU。直接驅(qū)動銅技術(shù)的突破讓系統(tǒng)更加經(jīng)濟(jì)實惠。

訓(xùn)練一個1.8萬億參數(shù)的GPT模型,傳統(tǒng)方法可能需要8000個GPU、15MW電力,歷時90天。而Blackwell只需2000個GPU,功耗4MW。

NVIDIA GPU有一半時間運行在云端,專注于生成Token,如Copilot、ChatGPT等。龐大的語言模型需要后臺超算的支持。要在眾多GPU中高效分配任務(wù),CUDA和其豐富生態(tài)系統(tǒng)不可或缺。Blackwell驚人的推理能力是Hopper的30倍,有望成為未來生成式AI的核心引擎。這些AI工廠旨在產(chǎn)生智慧而非電力。AWS、GCP、Oracle、微軟紛紛為Blackwell做好準(zhǔn)備。

數(shù)字孿生技術(shù)已在各行各業(yè)大放異彩。Wistron利用Omniverse SDK定制軟件,將NVIDIA DGX和HGX工廠實現(xiàn)數(shù)字孿生,大幅縮短調(diào)試周期。NVIDIA還運用生成式AI預(yù)測天氣。CoreDev可通過超高分辨率AI預(yù)測嚴(yán)重風(fēng)暴,如臺風(fēng)燦都。這項服務(wù)作為NVIDIA Earth 2的一部分,將惠及全球氣象機(jī)構(gòu)。NVIDIA在醫(yī)療領(lǐng)域也碩果累累,涵蓋醫(yī)學(xué)成像、基因測序和計算化學(xué)等。

NVIDIA推出BioNeMo NIMS、NVIDIA推理微服務(wù)(NIMS)等新品,可在幾分鐘內(nèi)生成候選分子。微服務(wù)包含三大支柱:AI模型、運行AI的工具;AI技術(shù);基礎(chǔ)設(shè)施用于AI微調(diào)和部署,可在DGX云等平臺上實現(xiàn)。這類似于臺積電代工芯片的模式,因此被稱為AI代工廠。

用戶可利用這些服務(wù)處理各類結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù),編碼存儲于向量數(shù)據(jù)庫中,成為企業(yè)專屬智慧。通過與智能數(shù)據(jù)庫交互,可輕松獲取所需信息。NVIDIA AI Foundry正攜手SAP、ServiceNow等巨頭,幫助他們開發(fā)自有數(shù)據(jù)和工具,在聊天機(jī)器人中打造企業(yè)級Copilot。

要讓AI理解物理世界,需要AI計算機(jī)、監(jiān)測分析計算機(jī)和執(zhí)行任務(wù)的機(jī)器人三位一體。這就像語言模型,只不過我們要構(gòu)建的是端到端的機(jī)器人系統(tǒng)。

通過強(qiáng)化學(xué)習(xí),機(jī)器人可適應(yīng)物理定律。Omniverse提供模擬環(huán)境,教會機(jī)器人如何成為機(jī)器人。OVX托管于Azure。未來的倉儲、工廠都將由軟件定義,機(jī)器人自主協(xié)同工作。數(shù)字孿生是機(jī)器人系統(tǒng)CICD的關(guān)鍵。西門子正構(gòu)建工業(yè)元宇宙,日產(chǎn)已將Omniverse整合到工作流。

所有移動設(shè)備都將是機(jī)器人,包括自動駕駛汽車。從計算機(jī)視覺到AI控制,還有很多工作要做。

最后,黃仁勛總結(jié)了5大要點:新工業(yè)革命、Blackwell平臺、NIMS、NEMO和NVIDIA AI Foundry、Omniverse和ISAAC機(jī)器人。這些將重塑產(chǎn)業(yè)格局,開啟AI新紀(jì)元。

==附：演講之天空之城書面全文版==

歡迎來到GTC。我希望你意識到這不是一場音樂會，你已到達(dá)開發(fā)者大會。這里將會有很多科學(xué)描述，包括算法、計算機(jī)體系結(jié)構(gòu)、數(shù)學(xué)。

我突然感覺到房間里有很重的重量，幾乎就像你來錯地方了。世界上沒有哪個會議，會有更多的研究人員聚集，他們來自如此不同的科學(xué)領(lǐng)域，包括氣候技術(shù)、無線電科學(xué)，他們試圖找出如何使用AI機(jī)器人控制MIMO下一代6G無線電、機(jī)器人、自動駕駛汽車，甚至人工智能。即使是人工智能，我也突然感覺到一種如釋重負(fù)的感覺。

此外，本次會議也有代表參加，他們來自一些令人驚嘆的公司。這份名單中，這些不是與會者，這些是主持人，令人驚奇的是這個。如果你帶走我所有的朋友，親密的朋友邁克爾·戴爾就坐在那兒。在IT行業(yè)，所有和我一起在這個行業(yè)長大的朋友，如果你把那個名單拿走，這就是令人驚奇的事情。

這些非IT行業(yè)的主講者使用加速計算來解決普通計算機(jī)無法解決的問題。它在生命科學(xué)、醫(yī)療保健、基因組學(xué)領(lǐng)域都有代表性。運輸當(dāng)然是零售、物流、制造、工業(yè)。所代表的行業(yè)范圍確實令人驚嘆。您來這里不僅僅是為了參加，您來這里是為了談?wù)撃难芯?。今天這個房間里有代表世界上100萬億美元的行業(yè)的代表，這絕對是驚人的。

絕對有事情發(fā)生，有事情發(fā)生。這個行業(yè)正在發(fā)生轉(zhuǎn)變，不僅僅是我們的行業(yè)，因為計算機(jī)行業(yè)，計算機(jī)是當(dāng)今社會最重要的工具。計算領(lǐng)域的根本性變革影響著每個行業(yè)。但我們是如何開始的呢？我們是怎么來到這里的？

我為你做了一個小漫畫，從字面上看是我畫的，在一頁中這是NVIDIA的旅程。1993年開始，這可能是談話的其余部分。1993年，這是我們的旅程，我們于1993年成立，一路上發(fā)生了幾件重要的事件。我想強(qiáng)調(diào)幾個關(guān)鍵的時間節(jié)點。首先是2006年，CUDA的誕生。事實證明，這是一種革命性的計算模型。當(dāng)時，我們預(yù)見到它將引發(fā)一場革命，并在一夜之間嶄露頭角。如今，近20年過去了，我們看到了這一預(yù)言的實現(xiàn)。

然后是2012年，AlexNet的出現(xiàn)，標(biāo)志著人工智能與CUDA的首次接觸。再后來是2016年，我們認(rèn)識到這種計算模型的重要性，于是發(fā)明了一種全新類型的計算機(jī)，我們將其稱為DGX-1。這臺超級計算機(jī)具有170 teraflops的計算能力，8個GPU連接在一起。我親手將第一臺DGX-1交付給了一家位于舊金山的初創(chuàng)公司，名為OpenAI。DGX-1是世界上第一臺AI超級計算機(jī)，記住，它的計算能力達(dá)到了170 teraflops。

從2017年的Transformer到2022年的ChatGPT，這些技術(shù)激發(fā)了全世界的想象力，讓人們認(rèn)識到人工智能的重要性和能力。到了2023年，生成式人工智能出現(xiàn)了，一個新的行業(yè)開始了。為什么我說這是一個新的行業(yè)呢？因為這種軟件以前并不存在。我們現(xiàn)在正在用計算機(jī)編寫軟件，生產(chǎn)出以前從未存在過的軟件。這是一個全新的類別，它從無到有地占據(jù)了市場份額。這是一個全新的類別，以及一種全新的制作軟件的方式，與我們以前做過的任何事情都不一樣。

在數(shù)據(jù)中心，我們生成Token，產(chǎn)生浮點數(shù)，規(guī)模非常大。這就像在最后一次工業(yè)革命中，當(dāng)人們意識到可以建立工廠，對其施加能量，這種看不見的、有價值的東西，叫做電，就出現(xiàn)了交流發(fā)電機(jī)。100年后，200年后，我們現(xiàn)在正在創(chuàng)建新型電子Token，使用我們稱為工廠的基礎(chǔ)設(shè)施——人工智能工廠來生成這種新的、極其有價值的東西。一個叫做人工智能的新產(chǎn)業(yè)已經(jīng)出現(xiàn)。

我們將討論這個新行業(yè)的很多事情，包括接下來如何進(jìn)行計算，您因這個新行業(yè)而構(gòu)建的軟件類型，新軟件，您會如何看待這個新軟件，以及這個新興行業(yè)的應(yīng)用情況。然后，我們也許會探討接下來會發(fā)生什么，我們今天如何開始為接下來的事情做準(zhǔn)備。

在我開始之前，我想向您展示NVIDIA的靈魂。我們公司的靈魂位于計算機(jī)圖形學(xué)、物理和人工智能的交叉點。所有這些都在計算機(jī)內(nèi)部交叉，在Omniverse虛擬世界模擬中。我們今天要向您展示的所有內(nèi)容，都是模擬，而非動畫。它之所以美麗，是因為它是物理學(xué)。世界是美麗的。這太神奇了，因為它是用機(jī)器人制作的動畫，是用人工智能制作的動畫。您一整天都會看到的東西，都是在Omniverse中完全模擬生成的。您將要享受的是世界上第一場音樂會，一切都是自制的。您將要觀看一些家庭視頻，所以請坐下來盡情享受。

我愛英偉達(dá)。加速計算已達(dá)到臨界點。通用計算已經(jīng)失去動力。我們需要另一種計算方式，這樣我們就可以繼續(xù)擴(kuò)展，這樣我們就可以繼續(xù)降低計算成本，這樣我們就可以繼續(xù)消耗越來越多的計算。我們正在追求的是可持續(xù)性。加速計算已經(jīng)在與通用計算的比較中展現(xiàn)出顯著的優(yōu)勢。在我所參與的每一個行業(yè)中，我都有大量的案例可以向您展示。其影響力巨大，而且在任何行業(yè)中，它的重要性都超過了我們自己的行業(yè)。這些行業(yè)都在使用模擬工具來創(chuàng)建產(chǎn)品。這并不是為了降低計算成本，而是為了擴(kuò)大計算規(guī)模。我們希望能夠進(jìn)行模擬，我們所做的整個產(chǎn)品都是完全高保真、完全數(shù)字化的，這就是我們所說的數(shù)字孿生。我們希望設(shè)計它、構(gòu)建它、模擬它、操作它，完全數(shù)字化。為了實現(xiàn)這一目標(biāo)，我們需要加速整個行業(yè)的發(fā)展。今天，我想宣布，我們有一些合作伙伴正在加入我們的旅程，他們將加速他們的整個生態(tài)系統(tǒng)，以便我們可以將世界帶入加速計算的時代。

但是，加速計算還有一個好處。當(dāng)你的計算速度加快時，你的基礎(chǔ)設(shè)施將與GPU耦合。當(dāng)這種情況發(fā)生時，生成人工智能的基礎(chǔ)設(shè)施將完全相同。因此，我很高興地宣布，我們已經(jīng)與一些非常重要的合作伙伴建立了關(guān)系。ANSYS是世界上一些最重要的公司，他們對世界制造的產(chǎn)品進(jìn)行工程模擬。我們正在與他們合作，加速ANSYS生態(tài)系統(tǒng)，將ANSYS連接到Omniverse數(shù)字孿生。令人驚嘆的是，NVIDIA GPU加速系統(tǒng)的安裝基礎(chǔ)已經(jīng)遍布世界各地、每個云、每個系統(tǒng)。因此，他們加速的應(yīng)用程序?qū)⒂幸粋€巨大的安裝基礎(chǔ)可供服務(wù)。最終用戶將擁有令人驚嘆的應(yīng)用程序，當(dāng)然，系統(tǒng)制造商和CSP也會有巨大的客戶需求。

新思科技(Synopsys)是NVIDIA的第一個軟件合作伙伴，他們在我們公司成立的第一天就參與其中。新思科技通過高水平設(shè)計徹底改變了芯片行業(yè)。我們將采取行動來加速Synopsys的發(fā)展。我們正在加速計算光刻，這是一項鮮為人知但極其重要的應(yīng)用。為了制作芯片，我們必須將光刻技術(shù)推向極限。NVIDIA創(chuàng)建了一個領(lǐng)域特定庫，這加速了計算光刻。令人難以置信的是，一旦我們能夠加速并由軟件定義臺積電的全部，臺積電今天宣布他們將使用NVIDIA Qlitho投入生產(chǎn)。一旦軟件定義并加速，下一步就是將生成式人工智能應(yīng)用于半導(dǎo)體制造的未來，進(jìn)一步推動幾何學(xué)的發(fā)展。

Cadence構(gòu)建了世界上重要的EDA和SDA工具。我們也在使用Cadence。這三個公司，Ansys、Synopsys、Cadence，我們基本上是在構(gòu)建NVIDIA。我們共同致力于加速Cadence。他們還利用NVIDIA GPU構(gòu)建超級計算機(jī)，以便為他們的客戶提供服務(wù)。這樣，他們就可以進(jìn)行流體動力學(xué)模擬，基本上是一百、一千倍的規(guī)模，實時風(fēng)洞。Cadence Millennium內(nèi)置NVIDIA GPU的超級計算機(jī)是一家構(gòu)建超級計算機(jī)的軟件公司，我很高興看到這一點。我們正在一起構(gòu)建Cadence Copilot。想象一下有一天，當(dāng)Cadence可以成為Synopsys、Ansys等工具提供商時，將為您提供人工智能Copilot。這樣我們就有成千上萬的Copilot助理幫助我們設(shè)計芯片、設(shè)計系統(tǒng)。我們還將把Cadence數(shù)字孿生平臺連接到Omniverse。

正如您在這里看到的趨勢，我們正在加速世界上的CAE、EDA和SDA，以便我們能夠在數(shù)字孿生中創(chuàng)造我們的未來。我們將把它們?nèi)窟B接到Omniverse，這是未來數(shù)字孿生的基本操作系統(tǒng)。受益于規(guī)模巨大的行業(yè)之一，你們都非常了解這一大型語言模型。基本上，自從Transformer被發(fā)明之后，我們能夠以令人難以置信的速度擴(kuò)展大型語言模型，每六個月有效翻倍。

你可能會問，現(xiàn)在怎么可能每六個月翻一番呢？我們已經(jīng)發(fā)展了這個行業(yè)，到目前為止，我們已經(jīng)增加了計算需求。原因很簡單。如果你將模型的大小加倍，你的大腦的大小就會加倍，你需要兩倍的信息來填充它。因此，每次將參數(shù)數(shù)量加倍時，您還必須適當(dāng)增加訓(xùn)練Token數(shù)量。這兩個數(shù)字的組合，成為你必須支持的計算規(guī)模。

最新、最先進(jìn)的OpenAI模型，大約有1.8萬億個參數(shù)。1.8 萬億個參數(shù)，需要幾萬億Token去訓(xùn)練。所以，幾萬億個參數(shù)大約是幾萬億個Token，當(dāng)你將它們兩者相乘時，大約30、40、500億，四萬億每秒浮點運算?，F(xiàn)在我們只需要做一些CO數(shù)學(xué)就可以了。所以你有300億千萬億，一萬億就像善待動物組織（PETA）。因此，如果你有一個PETA flop GPU，你將需要300億秒來進(jìn)行計算和訓(xùn)練該模型，300億秒大約需要1,000年。

一千年，這很值得。我想早點做，但這是值得的。當(dāng)大多數(shù)人告訴我做一件事要花多長時間時，我的答案通常是20年，這是值得的。但我們可以下周做嗎？等了1000年，我們需要的是更大的GPU。

我們需要更大的GPU，我們很早就認(rèn)識到了這一點。我們意識到答案是將一大堆GPU放在一起，當(dāng)然一路上創(chuàng)新一大堆東西，比如發(fā)明張量核心，推進(jìn)NVLink，以便我們能夠創(chuàng)造出實質(zhì)上巨大的東西。GPU并通過來自Mellanox InfiniBand公司的令人驚嘆的網(wǎng)絡(luò)將它們連接在一起，以便我們可以創(chuàng)建這些巨型系統(tǒng)。

所以，DGX1是我們的第一個版本，但它不是最后一個版本，我們一直在構(gòu)建超級計算機(jī)。2021年，我們有Selene，大約4,500個GPU。然后進(jìn)入2023年，我們建造了世界上最大的人工智能超級計算機(jī)之一，它剛剛上線，名為埃歐斯。

當(dāng)我們正在構(gòu)建這些東西時，我們正在努力幫助世界建造這些東西。為了幫助世界構(gòu)建這些東西，我們必須首先構(gòu)建它們。我們制造芯片、系統(tǒng)、網(wǎng)絡(luò)、執(zhí)行此操作所需的所有軟件。你應(yīng)該看到這些系統(tǒng)，想象一下編寫一個在整個系統(tǒng)上運行并分布計算的軟件。

數(shù)千個GPU，但內(nèi)部是數(shù)千個較小的GPU，數(shù)以百萬計的GPU，在所有這些之間分配工作并平衡工作負(fù)載，以便您可以獲得最大的能源效率，最佳的計算時間，降低您的成本等等。這種根本性創(chuàng)新，是什么讓我們來到這里。

我們到了，正如我們看到的奇跡，ChatGPT的出現(xiàn)，我們也意識到了，我們還有很長的路要走。我們需要更大的模型，我們將使用多模態(tài)數(shù)據(jù)來訓(xùn)練它，而不僅僅是互聯(lián)網(wǎng)上的文本，我們將使用文本、圖像、圖形和圖表來訓(xùn)練它。正如我們所學(xué)的那樣，將會有大量觀看視頻，以便這些模型。我們可以以物理學(xué)為基礎(chǔ)來理解，為什么我們的手臂不能穿過墻壁。因此，這些模型具有常識。他們通過觀看世界上的大量視頻和各種語言的結(jié)合來學(xué)習(xí)。當(dāng)我們嘗試學(xué)習(xí)時，他們會像我們一樣使用合成數(shù)據(jù)生成等工具。我們可能會用我們的想象力來模擬它將如何結(jié)束，就像我在準(zhǔn)備這個主題演講時所做的那樣，我一直在模擬它的過程。我希望事情會成功，我腦子里也有這個想法。

當(dāng)我正在模擬這個主題演講的結(jié)果時，有人確實提到了另一位表演者。她的表演完全是在跑步機(jī)上進(jìn)行的，這樣她就能以飽滿的能量來完成任務(wù)。我沒有那樣做。如果我在大約10分鐘內(nèi)聽到一點風(fēng)聲，你就知道發(fā)生了什么。

那么我們在哪里？我們坐在這里使用合成數(shù)據(jù)生成，我們將使用強(qiáng)化學(xué)習(xí)，我們將在我們的腦海中練習(xí)。我們將讓人工智能與人工智能一起工作，就像學(xué)生、老師和辯手一樣互相訓(xùn)練。所有這些都將增加我們模型的大小，這將增加我們擁有的數(shù)據(jù)量，并且我們將不得不構(gòu)建更大的模型。GPU Hopper非常棒，但我們需要更大的GPU。

女士們、先生們，我想向您介紹一下，至極大的GPU，以大衛(wèi)·Blackwell的名字命名。他是一位數(shù)學(xué)家，博弈論學(xué)家。我們認(rèn)為這是一個完美的名字。Blackwell，女士們、先生們，你們會喜歡這個。Blackwell不是芯片，Blackwell是一個平臺的名稱。人們認(rèn)為我們制造GPU，我們確實這么做了，但GPU的外觀已不再像以前那樣了。如果你愿意的話，這是Blackwell系統(tǒng)的核心。公司內(nèi)部不叫Blackwell，只是一個數(shù)字。

這是Blackwell，坐在旁邊的是當(dāng)今世界上生產(chǎn)的最先進(jìn)的GPU，這是Hopper。Hopper改變了世界，這是Blackwell。沒關(guān)系，Hopper，你很不錯。2080億個晶體管，所以你可以看到，我可以看到，兩個芯片之間有一條小線，這是第一次兩個芯片如此鄰接在一起，以這樣的方式，兩個骰子認(rèn)為這是一個芯片。每秒10TB之間有10TB的數(shù)據(jù)，因此Blackwell芯片的兩側(cè)不知道它們在哪一側(cè)，沒有內(nèi)存局部性問題，沒有緩存問題。這只是一塊巨型芯片，所以當(dāng)我們被告知Blackwell的野心超出了物理學(xué)的極限時，工程師說那又怎樣。這就是發(fā)生的事情，這就是Blackwell。

芯片及其進(jìn)入兩種類型的系統(tǒng)：第一種。形狀適合，功能與Hopper兼容，所以你在Hopper上滑動，然后你推入Blackwell，這就是為什么坡道的挑戰(zhàn)之一將如此高效。世界各地都有安裝Hopper，它們可能是你知道的相同的基礎(chǔ)設(shè)施，相同的設(shè)計。電源、電力、熱量、軟件相同，將其推回原處，所以這是針對當(dāng)前HGX配置的Hopper版本，這就是第二個Hopper的樣子?，F(xiàn)在這是一個原型板。

第二個問題是，隨著技術(shù)的發(fā)展，產(chǎn)品的價格會降低，這對所有消費者來說都是好消息。然而，當(dāng)前的產(chǎn)品價格相當(dāng)高，這是因為它是一種創(chuàng)新的啟動產(chǎn)品。

這款產(chǎn)品將以一種新的生產(chǎn)方式進(jìn)入市場。它配備了兩個Blackwell芯片和四個Blackwell芯片，這些芯片都連接到Grace CPU上。Grace CPU具有超快的芯片到芯片鏈接，這是一項令人驚奇的技術(shù)。這臺計算機(jī)是同類產(chǎn)品中的第一臺，能夠進(jìn)行大量的計算。

這款產(chǎn)品的體積小巧，內(nèi)存充足，所有的組件都能夠協(xié)同工作，就像一個幸福的大家庭一樣，共同開發(fā)應(yīng)用程序，保證了產(chǎn)品的連貫性。你可能會看到這款產(chǎn)品的數(shù)字規(guī)格，包括大量的太字節(jié)，這是一項令人驚嘆的技術(shù)。

MV鏈接位于產(chǎn)品的頂部，而PCI Express位于底部。至于CPU芯片到芯片的鏈接，它可能在你的左邊，也可能在我的左邊，這取決于我們的位置。我們正在努力解決這個問題，但我認(rèn)為這并不重要。

我們希望能夠插入更多的功能，這就是Grace Blackwell系統(tǒng)。但我們還有更多的計劃。所有的規(guī)格都很棒，但我們需要開發(fā)更多新功能，以突破物理的極限。

我們希望能夠不斷提高性能，因此我們發(fā)明了第二代Transformer引擎。這款引擎具有動態(tài)和自動的能力，可以重新調(diào)整和重塑數(shù)字格式，即使精度較低，只要它能記住，人工智能就是關(guān)于概率的。

你可能會看到一些數(shù)字，比如1.7乘以1.4等等，這些數(shù)字是否有意義，取決于數(shù)學(xué)的精度和范圍。在處理數(shù)據(jù)的特定階段，保持精度和范圍的能力是非常重要的。這不僅僅是因為我們設(shè)計了一個更小的鋁，它并不完全是世界，它并不那么簡單。你必須弄清楚在整個計算過程中何時可以使用它。

我們有數(shù)千個GPU，它們可以連續(xù)運行數(shù)周，你希望確保訓(xùn)練工作能夠收斂。因此，我們的新Transformer引擎配備了第五代MV鏈接。它的速度是Hopper的兩倍，這非常重要，因為它需要在網(wǎng)絡(luò)中進(jìn)行計算。

當(dāng)你有這么多不同的GPU一起工作時，我們必須彼此共享我們的信息，我們必須彼此同步和更新。每隔一段時間，我們就必須減少部分產(chǎn)品，然后重新廣播部分產(chǎn)品，其中一些部分產(chǎn)品返回給其他人。所以有很多所謂的全部減少和全部到所有所有收集都是這的一部分同步和集體領(lǐng)域，這樣我們就可以讓GPU相互協(xié)作，具有非?？斓逆溄?，并且能夠在網(wǎng)絡(luò)中正確進(jìn)行數(shù)學(xué)運算，使我們能夠從本質(zhì)上放大甚至更進(jìn)一步。

因此，即使它的速度是每秒1.8TB，它實際上也高于這個數(shù)字，所以可能性是Hopper的很多倍。超級計算機(jī)在In上運行數(shù)周的時間大約為零，其原因是因為有太多組件同時工作。據(jù)統(tǒng)計，它們連續(xù)工作的概率非常低，因此我們需要確保只要有一口井，我們就盡可能頻繁地檢查點并重新啟動。然而，如果我們有能力盡早檢測到芯片或筆記本的問題，我們就可以將其退役，甚至可能將其替換為另一個處理器。這種能力可以保持超級計算機(jī)的高利用率，特別是當(dāng)你剛剛花費了20億美元建造它時，這是非常重要的。因此，我們在Ras引擎中加入了一個具有可靠性的引擎。

我們的系統(tǒng)測試中，每一個門的每一個內(nèi)存位都會進(jìn)行百分百的自檢。這包括在Blackwell芯片上以及所有連接到的內(nèi)存上。這幾乎就像我們?yōu)槊總€芯片配備了自己的高級測試儀一樣，我們用它來測試我們的芯片。這是我們第一次對它的安全人工智能感到非常興奮。只有在今天的這次會議上，我們才為Ras引擎鼓掌。

顯然，保護(hù)你剛剛花費了數(shù)億美元創(chuàng)建的人工智能和代碼是非常重要的。這個人工智能的智能被編碼在參數(shù)中。你需要確保一方面你不會丟失它，另一方面它不會被污染。因此，我們現(xiàn)在有能力對數(shù)據(jù)進(jìn)行加密，無論是在休息時，還是在運輸途中，甚至在計算時，它都是加密的。所以我們現(xiàn)在有能力加密和傳輸數(shù)據(jù)，當(dāng)我們計算它時，它是在可信的環(huán)境中，最后一件事是解壓縮。

當(dāng)計算速度如此之快時，將數(shù)據(jù)移入和移出這些節(jié)點變得非常重要。因此，我們安裝了高線速壓縮引擎，有效地將數(shù)據(jù)移入和移出這些計算機(jī)的速度提高了20倍。這些計算機(jī)非常強(qiáng)大，而且投資如此之大，我們最不想做的就是讓它們閑置。因此，所有這些功能都應(yīng)該保留。

總的來說，與Hopper相比，對于每個芯片的訓(xùn)練來說，它是fp8性能的兩倍半。它也有這種稱為fp6的新格式，因此即使計算速度是相同的，由于內(nèi)存而放大的帶寬，你可以在內(nèi)存中存儲的參數(shù)數(shù)量現(xiàn)在已放大。Fp4有效地使吞吐量加倍，這對于推理至關(guān)重要。

變得非常清楚的一件事是，每當(dāng)你使用另一側(cè)帶有人工智能的計算機(jī)時，無論是與聊天機(jī)器人聊天，提出問題，審查或制作圖像，都要記住后面是一個GPU生成token。有些人稱之為推理，但更合適的是一代。

過去計算的方式是檢索，你會抓住你的手機(jī)，觸摸一些東西，一些信號基本上會消失，一封電子郵件會發(fā)送到某個存儲，某處有預(yù)先錄制的內(nèi)容，有人寫了一個故事，有人制作了一張圖像，或者有人錄制了一個內(nèi)容。視頻。然后，這些預(yù)先錄制的內(nèi)容會流回手機(jī)并以基于推薦系統(tǒng)的方式重新組合，向你呈現(xiàn)信息。

然而，未來你就知道了，絕大多數(shù)內(nèi)容將不會被檢索。原因是因為這是由不了解上下文的人預(yù)先錄制的。這就是我們必須檢索這么多內(nèi)容的原因。如果你可以與一個人工智能一起工作，它可以理解你是誰，你出于什么原因獲取這些信息，并以你喜歡的方式為你生成信息。我們節(jié)省的能源量、我們節(jié)省的網(wǎng)絡(luò)帶寬量、我們節(jié)省的時間浪費量，將是巨大的。

未來是生成式的，這就是我們稱之為生成式人工智能的原因，這就是為什么這是一個全新的行業(yè)，我們的計算方式根本不同。我們創(chuàng)建了一個處理器，面向生成人工智能時代。它最重要的部分之一是內(nèi)容Token生成，我們稱之為它，這種格式是fp4。這涉及到大量的計算。Token生成的能力是Hopper推理能力的五倍，這看起來已經(jīng)足夠了。但是，為什么我們要止步于此呢？答案是，這還不夠。我將向您解釋原因。

我們希望有一個更大的GPU，甚至比現(xiàn)在的更大。我們決定擴(kuò)展它，但在此之前，讓我告訴您我們在過去的八年里是如何擴(kuò)展我們的計算能力的。在這八年里，我們的計算能力增加了一千倍。還記得摩爾定律的美好舊時光嗎？那時，我們的計算能力每五年增加十倍，每十年增加一百倍。在個人電腦革命的鼎盛時期，我們的計算能力每十年增加一百倍。然而，在過去的八年里，我們的計算能力每十年增加了一千倍，而且我們還有兩年的時間。

我們推進(jìn)計算的速度是驚人的，但仍然不夠快，所以我們建造了另一個芯片。這個芯片是一個令人難以置信的芯片，我們稱之為MV鏈接開關(guān)。它有五百億個晶體管，幾乎有Hopper大小。這個開關(guān)芯片本身有四個MV鏈接，每個鏈接每秒可以傳輸1.8TB的數(shù)據(jù)。正如我提到的，它具有計算功能。

這個芯片的作用是什么呢？如果我們制造這樣的芯片，我們可以讓每個GPU同時與其他每個GPU全速通信。這聽起來似乎有些瘋狂，甚至沒有意義。但是，如果你能找到一種方法來實現(xiàn)這一點，并建立一個系統(tǒng)來實現(xiàn)這一點，那么這將是非常劃算的。如果我們可以通過一致的鏈路將所有這些GPU連接起來，使它們實際上就是一個巨大的GPU，那將是多么令人難以置信啊。

為了使其具有成本效益，我們必須直接驅(qū)動銅，這是我們的一項偉大發(fā)明。這樣，我們就可以直接驅(qū)動到銅，結(jié)果是，您可以構(gòu)建一個如下所示的系統(tǒng)。

現(xiàn)在，這個系統(tǒng)看起來有些瘋狂。這是一個DGX，這就是DGX現(xiàn)在的樣子。還記得六年前的樣子嗎？它相當(dāng)重，但我能夠舉起它。我交付了第一個DGX，打開了AI的大門。研究人員，你知道這些照片是在互聯(lián)網(wǎng)上的。我們都親筆簽名了。如果你來我的辦公室，你會看到它有親筆簽名，那里真的很漂亮。但你可以舉起這個DGX。

順便說一句，那個DGX的浮點運算能力是170萬億次。如果您不熟悉編號系統(tǒng)，那是0.17萬億次浮點運算。所以這是720。我交付給Open AI的第一個是0.17。你可以將其四舍五入到0.2，這不會有任何區(qū)別。到那時，就像哇，你知道了，30萬億次浮點運算。目前，我們已經(jīng)擁有了一臺720 petaflops的機(jī)器，這幾乎等同于exaflops的訓(xùn)練能力，它是世界上第一臺在一個機(jī)架中達(dá)到1 exaflops的機(jī)器。如你所知，在我們的地球上，只有兩臺能夠進(jìn)行三百億次浮點運算的機(jī)器。這是一臺Exaflops級別的人工智能系統(tǒng)。

讓我們來看看這臺機(jī)器的背面。這就是讓這臺機(jī)器成為可能的關(guān)鍵部分，也就是DGX的背面。這里有一個MV鏈路脊椎，每秒可以處理130 TB的數(shù)據(jù)。這個數(shù)據(jù)傳輸速度甚至超過了互聯(lián)網(wǎng)的總帶寬。因此，我們基本上可以在一秒鐘內(nèi)將所有內(nèi)容發(fā)送給每個人。

這臺機(jī)器的背面有5000根電纜，這些中壓連接電纜總長達(dá)到了2英里。這是一項令人驚奇的技術(shù)，如果我們必須使用光學(xué)器件，我們將不得不使用收發(fā)器和重定時器，而僅這些收發(fā)器和重定時器就需要花費20,000瓦的電力。而我們只用了2千瓦的收發(fā)器就驅(qū)動了MV鏈路主干。我們通過MV鏈路交換機(jī)完全免費完成此操作，因此我們能夠節(jié)省整個機(jī)架的20千瓦計算功率。120千瓦與20千瓦的差別是巨大的。

這臺機(jī)器是液體冷卻的，溫度約為室溫25攝氏度。結(jié)果是，你的按摩浴缸的溫度會達(dá)到45攝氏度。所以，室溫的液體進(jìn)入按摩浴缸后，每秒會輸出2升的液體。我們可以出售這些外圍設(shè)備。

有人曾經(jīng)說過，你們知道你們制造GPU，我們也制造GPU。但這就是我們的GPU的樣子。對我來說，當(dāng)有人說GPU時，我看到的就是這個。兩年前，當(dāng)我看到GPU是HGX時，它重70磅，需要35,000個零件。而我們現(xiàn)在的GPU有600,000個零件，重3,000磅。這個重量有點像碳纖維的法拉利。我不知道這是否是一個有用的比較。

現(xiàn)在，讓我們看看這臺DGX在運行中是什么樣子。讓我們想象一下我們?nèi)绾巫屗l(fā)揮作用，這意味著什么。如果你要訓(xùn)練一個擁有1.8萬億參數(shù)的GPT模型，你需要25,000安培的電力，這可能需要3到5個月的時間。如果我們用傳統(tǒng)的方式來做這件事，可能需要8,000個GPU并會消耗15兆瓦的電力，這需要90天，大約3個月的時間。

你知道這個突破性的人工智能模型，這顯然不像任何人想象的那么昂貴，但它需要8,000個GPU，這仍然是一筆巨大的投資。如果你要使用Blackwell來做這件事，只需要2,000個GPU。我們使用了2000個GPU，同樣在90天內(nèi)完成了任務(wù)，但令人驚奇的是，功率僅為4兆瓦。是的，從15開始，這是正確的。我們的目標(biāo)是不斷降低成本和能源消耗，因為它們與計算相關(guān)的成本和能源是正比關(guān)系。這樣，我們就可以繼續(xù)擴(kuò)展并擴(kuò)大我們必須進(jìn)行的計算訓(xùn)練，以培養(yǎng)下一代模型。這就是訓(xùn)練的過程。

推理或生成過程也是至關(guān)重要的一步。你可能知道，NVIDIA GPU有一半的時間都在云中運行，這些天它被用于Token生成。它們可能在運行Copilot，或者在進(jìn)行聊天，例如使用ChatGPT。當(dāng)你使用這些模型時，它們正在與你交互或生成圖像、視頻、蛋白質(zhì)、化學(xué)物質(zhì)等。所有這些都屬于我們稱為推理的計算類別，但推理過程非常困難。

對于大型語言模型，因為它們非常大，所以它們不適合一個GPU。這就像Excel不適合一個GPU，或者你在日常基礎(chǔ)上運行的某些應(yīng)用程序不適合一臺計算機(jī)，就像視頻游戲不適合一臺計算機(jī)一樣。事實上，過去很多次，超大規(guī)模計算的許多應(yīng)用程序都安裝在同一臺計算機(jī)上?，F(xiàn)在突然之間，你正在與這個聊天機(jī)器人進(jìn)行交互的推理應(yīng)用程序，需要一臺超級計算機(jī)在后臺運行。這就是未來，未來是由這些聊天機(jī)器人生成的，這些聊天機(jī)器人有數(shù)萬億的Token和數(shù)萬億的參數(shù)，它們必須生成Token。

現(xiàn)在，從互動的角度來看，這意味著什么呢？好吧，一個詞通常由三個Token表示。你知道，“太空是最后的疆域”，這就像80個Token一樣。我不知道這對你是否有用，你知道，溝通的藝術(shù)就是選擇好的和好的類比。是的，這個過程并不順利。我不知道他在說什么，我從未看過《星際迷航》。所以我們在這里嘗試生成這些Token，當(dāng)你與它交互時，你希望這些Token盡可能快地返回給你，這是你可以閱讀的最快速度。因此，生成Token的能力非常重要，你必須讓這個模型在許多GPU上工作，這樣你就可以實現(xiàn)幾件事。一方面，你想要吞吐量，因為吞吐量可以降低生成每個Token的總體成本，因此吞吐量決定了提供服務(wù)的成本。另一方面，你有交互率，它是每秒生成另一個Token，它與每個用戶有關(guān)，也與服務(wù)質(zhì)量有關(guān)。所以，這兩個目標(biāo)是相互競爭的。

我們必須找到一種方法，在所有這些不同的GPU上分配工作，并以一種能夠?qū)崿F(xiàn)這兩個目標(biāo)的方式進(jìn)行操作。事實證明，搜索空間是巨大的。你知道，我告訴過你這會涉及到數(shù)學(xué)。每個人都會感到困擾。我剛才放那張幻燈片時，聽到了一些喘息聲。所以，這個圖表中的y軸表示數(shù)據(jù)中心的吞吐量，即每秒的Token數(shù)，x軸表示用戶的交互性，即每秒的Token數(shù)。請注意，右上角是最好的，你希望交互性非常高，你希望每個用戶每秒的Token數(shù)非常高，你希望每個數(shù)據(jù)中心的每秒Token數(shù)非常高。右上角非常棒，但是很難做到這一點。我們正在尋找最好的答案，跨越每一個交點xy坐標(biāo)。所有這些藍(lán)點都來自于一些重新分區(qū)。在優(yōu)化軟件的過程中，我們必須明確是否使用張量并行、專家并行、管道并行或數(shù)據(jù)并行和分布。這個巨大的模型需要在所有這些不同的GPU上運行并保持所需的性能。如果沒有NVIDIA GPU的可編程性，這個探索空間將是不可能的。因此，我們可以通過CUDA，利用我們豐富的生態(tài)系統(tǒng)，探索這個領(lǐng)域并發(fā)現(xiàn)新的可能性。

請注意那條綠色屋頂線，它實際上證明了一些重要的事實。TP2EPADP4代表兩個張量并行，跨兩個GPU的張量并行，跨8個GPU的專家并行，跨4個GPU的數(shù)據(jù)并行。在另一端，您會看到跨4個GPU的張量并行以及跨16個GPU的專家并行。這些都是軟件分布的不同配置，它們在不同的運行時環(huán)境中會產(chǎn)生不同的結(jié)果。你必須去發(fā)現(xiàn)那個屋頂線，這只是一個模型，這只是計算機(jī)的一種配置。想象一下，所有在世界各地創(chuàng)建的模型以及所有不同的系統(tǒng)的不同配置將可用。

現(xiàn)在您已經(jīng)了解了基礎(chǔ)知識，讓我們看一下Blackwell的推理比較。Hopper，這是一件非凡的事情。在一代人的時間里，我們創(chuàng)建了一個專為萬億參數(shù)生成人工智能而設(shè)計的系統(tǒng)。Blackwell的推理能力超乎尋常，事實上，它是Hopper的大約30倍。對于大型語言模型，例如ChatGPT和其他類似的大型語言模型，藍(lán)線代表我給你的Hopper。想象一下，我們沒有改變Hopper的架構(gòu)，我們只是把它變成了一個更大的芯片。

我們只使用您所知道的最新最好的技術(shù)，我們將兩個芯片連接在一起，我們得到了這個巨大的2080億參數(shù)的芯片。如果沒有其他改變，我們會如何執(zhí)行，結(jié)果非常美妙。那是紫色線，但沒有那么好。這就是fp4 Tensor核心、新Transformer引擎和非常重要的NV鏈接開關(guān)的地方。原因是因為所有這些GPU必須共享結(jié)果，每當(dāng)他們互相交流時，所有人都會聚集在一起。NV鏈接交換機(jī)的通信速度幾乎快了10倍，比我們過去使用最快的網(wǎng)絡(luò)所能做的要多。

Blackwell將成為未來生成人工智能的一個令人驚嘆的系統(tǒng)。未來的數(shù)據(jù)中心將被視為我之前提到的人工智能工廠。在這種情況下，人工智能工廠的目標(biāo)是產(chǎn)生智力，而不是發(fā)電。這是一種新的工業(yè)革命，是智能的產(chǎn)生，所以這種能力是超級重要的。Blackwell的興奮真的很令人興奮。當(dāng)我們第一次開始使用漏斗進(jìn)入市場時，我們有兩個好處，兩個csp加入我們共進(jìn)午餐，我們很高興。所以我們有兩個客戶，現(xiàn)在我們有更多。對于Blackwell來說，這是令人難以置信的興奮。

還有一大堆不同的配置。當(dāng)然，我向您展示了可滑入Hopper外形尺寸的配置，以便輕松升級。我向您展示了液體冷卻的示例，其極端版本是通過MV連接的整個機(jī)架鏈接672個GPU。我們計劃將Blackwell推向全球的人工智能公司，其中許多公司正在以各種令人驚嘆的方式進(jìn)行工作。每個云服務(wù)提供商（CSP）都已經(jīng)做好準(zhǔn)備，包括所有的原始設(shè)備制造商（OEM）和原始設(shè)計制造商（ODM）。無論是區(qū)域性的還是全球的，各地的云主權(quán)AI和電信公司都正在與Blackwell簽約，以推出這項服務(wù)。

Blackwell將是我們歷史上最成功的產(chǎn)品發(fā)布，因此我迫不及待地想看到這一切。我要感謝那些加入我們的合作伙伴。亞馬遜網(wǎng)絡(luò)服務(wù)（AWS）正在為Blackwell做準(zhǔn)備，他們將使用安全的AI構(gòu)建第一個圖形處理器（GPU），并正在構(gòu)建一個222 exaflops的系統(tǒng)。當(dāng)我們剛剛開始動畫數(shù)字雙胞胎時，你可能會看到所有的集群都在下降，但實際上并非如此。

我們正在構(gòu)建的數(shù)字孿生就是藝術(shù)，除了基礎(chǔ)設(shè)施之外，它將會有多大。我們正在與AWS一起做很多事情，我們正在加速Sage制造商人工智能，我們正在加速基巖人工智能。亞馬遜機(jī)器人正在與我們合作，在Nvidia Omniverse和Isaac Sim AWS Health上使用Nvidia Health，因此AWS已經(jīng)真正傾向于加速計算。

谷歌正在為Blackwell做準(zhǔn)備，谷歌云平臺（GCP）已經(jīng)擁有100H 100T Force LForce的Nvidia Cuda GPUs，他們最近宣布了運行在所有方面的Jemma模型。我們正在努力優(yōu)化和加速GCP的各個方面，我們正在加速數(shù)據(jù)處理，用于數(shù)據(jù)處理，他們的數(shù)據(jù)處理引擎Vertex AI和Mujoko與Google和GCP合作，跨越一系列舉措。

Oracle正在為Blackwell做準(zhǔn)備，Oracle是我們的一個很好的合作伙伴，對于Nvidia DGX云，我們也在共同努力加速對很多公司來說非常重要的事情，如Oracle數(shù)據(jù)庫。

微軟正在為Blackwell做準(zhǔn)備，微軟和Nvidia有廣泛的合作伙伴關(guān)系，我們正在加速Cuda加速各種服務(wù)。當(dāng)你明顯地和AI聊天時，微軟Azure中的服務(wù)很可能是Nvidia在后面做推理和Token生成。我們構(gòu)建了他們構(gòu)建了最大的Nvidia Infiniband超級計算機(jī)，基本上是我們的數(shù)字孿生或我們的物理孿生。我們正在將Nvidia生態(tài)系統(tǒng)引入Azure Nvidia DGX云到Azure Nvidia Omniverse，現(xiàn)在托管在Azure Nvidia Health中關(guān)心Azure，所有這一切都與微軟結(jié)構(gòu)深度集成和深度連接。

整個行業(yè)都在為Blackwell做準(zhǔn)備，這就是我要向您展示的最多的內(nèi)容。到目前為止，您在Blackwell看到的場景是Blackwell的全保真設(shè)計，我們公司的所有東西都有數(shù)字孿生。事實上，這種數(shù)字孿生的想法正在真正傳播，它有助于幫助公司構(gòu)建非常復(fù)雜的東西，完美地第一次，還有什么比這更令人興奮的呢？

我們正在創(chuàng)建數(shù)字孿生，構(gòu)建一臺采用數(shù)字孿生構(gòu)建的計算機(jī)。讓我向您展示W(wǎng)ishtron正在做什么。為了滿足Nvidia加速計算Wishtron的需求，我們的領(lǐng)先制造合作伙伴之一正在使用由Omniverse SDKs和API開發(fā)的定制軟件構(gòu)建Nvidia DGX和HGX工廠的數(shù)字孿生。對于他們最新的工廠，Wishtron從數(shù)字孿生開始，將他們的Multicad和過程模擬數(shù)據(jù)虛擬集成到統(tǒng)一視圖中。在這個物理精確的數(shù)字環(huán)境中，經(jīng)過測試和優(yōu)化布局，工人的效率提高了51%。在施工過程中，我們使用Omniverse數(shù)字孿生來驗證物理構(gòu)建是否與數(shù)字化計劃相匹配，以便盡早發(fā)現(xiàn)任何差異。這有助于避免成本高昂的變更訂單。使用數(shù)字孿生的結(jié)果令人印象深刻，它幫助Wishtron工廠的上線時間縮短了一半，只需兩個半月而不是五個月。全方位數(shù)字孿生投入運行，幫助Wishtron快速測試新布局以適應(yīng)新流程，或改進(jìn)現(xiàn)有空間中的操作，并使用生產(chǎn)線上每臺機(jī)器的實時物聯(lián)網(wǎng)數(shù)據(jù)監(jiān)控實時操作。

最終，Wishtron將端到端周期時間縮短了50%，缺陷率降低了40%。借助nvidia ai和Omniverse，nvidia的全球合作伙伴生態(tài)系統(tǒng)正在構(gòu)建一個加速人工智能數(shù)字化的新時代。這就是我們的方式，這就是未來的方式。當(dāng)我們首先以數(shù)字方式制造所有東西，然后實際制造它時，人們問我這是如何開始的，是什么讓我們?nèi)绱伺d奮。

這就是那個時刻。這就是當(dāng)你不排練時會發(fā)生的情況。這就是你所知道的，這是第一次接觸。在2012年，AlexNet，你把一只貓的圖片放進(jìn)這臺電腦里，結(jié)果出來了，上面寫著“貓”。我們驚嘆，這將改變一切。

你拿了一百萬個數(shù)字，跨越了RGB的三個通道。這些數(shù)字對任何人來說都毫無意義。你把它放入這個軟件中，它會壓縮它，它會在維度上減少它，它從一百萬維減少到一個向量，一個數(shù)字，三個字母。廣義上來說，你可以養(yǎng)貓，成為不同的貓。你可以把它放在貓的前面和貓的后面。你看看你說的這件事，令人難以置信的是你指的是任何貓。是的，任何貓。它能夠識別所有這些貓。

我們意識到它是如何系統(tǒng)地做到這一點的。從結(jié)構(gòu)上講，它是可擴(kuò)展的。你能做多大，你想把它做多大。我們也是這樣想象的。這是一種全新的軟件編寫方式。正如你所知，今天，你可以讓你輸入單詞“cat”，出來的是一只貓。事情卻走向了另一條路。我對嗎？難以置信，這怎么可能，是的，你怎么可能拿了三個字母，你從中生成了一百萬個像素，這是有道理的。這就是奇跡。

十年后，我們真的認(rèn)識了文本，我們認(rèn)識了圖像，我們認(rèn)識了視頻和聲音，我們不僅認(rèn)識了它們，而且還理解了它們的含義。我們理解文本的含義，這就是我可以和你聊天的原因。它可以為你總結(jié)，它理解文本。它理解的不僅僅是識別英語，它理解英語，它不只是識別像素，它理解像素，你甚至可以在兩種模式之間調(diào)節(jié)它，你可以擁有語言條件圖像，并生成各種有趣的東西。

好吧，如果你能理解這些事情，你還能理解什么？你已經(jīng)數(shù)字化了。我們從文本開始的原因，你知道圖像是因為我們將這些數(shù)字化了，但是我們還數(shù)字化了其他什么東西？事實證明我們數(shù)字化了很多東西，比如蛋白質(zhì)、基因和腦電波。任何可以數(shù)字化的東西，只要它們的結(jié)構(gòu)，我們就可以從中學(xué)習(xí)一些模式，如果我們可以從中學(xué)習(xí)模式，我們就可以理解它的含義，如果我們可以理解它的含義。我們也許有能力生成它。

因此，生成式人工智能革命就在眼前。那么，我們還能生成什么？我們還能學(xué)到什么？學(xué)習(xí)是我們的一項愿望。我們是否對氣候有所了解？我們愿意了解極端天氣，我們愿意學(xué)習(xí)。那么，我們?nèi)绾晤A(yù)測未來的天氣？如何在區(qū)域范圍內(nèi)以足夠高的分辨率預(yù)測天氣，以便我們可以在傷害到來之前讓人們遠(yuǎn)離傷害？

極端天氣給世界造成了1500億美元的損失，這個數(shù)字肯定還要更高。這些損失并不均勻分布，1500億美元主要集中在世界的某些地區(qū)。對于世界上的某些人來說，我們需要適應(yīng)，我們需要知道即將發(fā)生什么。因此，我們正在創(chuàng)造地球2，這是地球的數(shù)字孿生，用于預(yù)測天氣。

我們已經(jīng)做出了一項非凡的發(fā)明，名為CoreDiv，它能夠使用生成式人工智能以極高的分辨率預(yù)測天氣。隨著地球氣候變化，人工智能天氣預(yù)報使我們能夠更準(zhǔn)確地預(yù)測和跟蹤2021年超級臺風(fēng)“燦圖”等嚴(yán)重風(fēng)暴，該風(fēng)暴對臺灣及周邊地區(qū)造成廣泛破壞。當(dāng)前的人工智能預(yù)測模型可以準(zhǔn)確預(yù)測風(fēng)暴的軌跡，但它們的分辨率僅限于25公里，這可能會錯過重要細(xì)節(jié)。

NVIDIA的CoreDiv是一種革命性的新生成AI模型，經(jīng)過高分辨率雷達(dá)同化碼頭天氣預(yù)報和ERA-5再分析數(shù)據(jù)的訓(xùn)練，使用CoreDiv，像Chanthu這樣的極端事件可以從25公里超分辨率到2公里分辨率，其速度和能源效率是傳統(tǒng)天氣模型的3000倍。通過結(jié)合NVIDIA天氣預(yù)報模型ForecastNet的速度和準(zhǔn)確性以及CoreDiv等生成式AI模型，我們可以探索數(shù)百甚至數(shù)千公里范圍的區(qū)域天氣預(yù)報，以提供清晰的圖片風(fēng)暴的最好、最壞和最有可能的影響。

這些豐富的信息可以幫助最大限度地減少生命損失和財產(chǎn)損失。今天，CoreDiv針對臺灣進(jìn)行了優(yōu)化，但很快，生成式超級采樣將作為NVIDIA Earth2推理服務(wù)的一部分提供給全球許多地區(qū)。氣象公司必須信任全球天氣預(yù)報的來源，我們正在共同努力加速他們的天氣模擬。

模擬的第一個原則基礎(chǔ)，但是，他們還將集成Earth2 CoreDiv，這樣他們就可以幫助企業(yè)和國家進(jìn)行區(qū)域高分辨率天氣預(yù)報。因此，如果您有一些天氣預(yù)報您想知道，喜歡做，聯(lián)系我們到氣象公司，這真的是一項令人興奮的工作。

在英偉達(dá)醫(yī)療保健領(lǐng)域，我們15年前就開始做這件事，對此我們感到非常非常興奮，這是一個讓我們非常非常自豪的領(lǐng)域。無論是醫(yī)學(xué)成像、基因測序還是計算化學(xué)，很可能NVIDIA就是其背后的計算者。我們在這方面做了很多工作。

今天我們宣布，我們要做一些非常非?？岬氖虑椤Ｏ胂笠幌?，所有這些正在使用的人工智能模型來生成圖像和音頻，但不僅僅是圖像和音頻。因為它理解圖像和音頻，我們?yōu)榛?、蛋白質(zhì)和氨基酸所做的所有數(shù)字化，這種數(shù)字化能力就是現(xiàn)在通過機(jī)器學(xué)習(xí)讓我們理解生命的語言。理解生命語言的能力，當(dāng)然，我們看到了它的第一個證據(jù)，那就是阿爾法折疊。這確實是一項了不起的成就。經(jīng)過幾十年的艱苦努力，我們終于實現(xiàn)了世界的數(shù)字化。我們使用了各種不同的技術(shù)，如冷凍電子顯微鏡和X射線晶體學(xué)，進(jìn)行重建。

在不到一年的時間里，AlphaFold竭盡全力重建了200,000個蛋白質(zhì)。至今，已經(jīng)重建了2億個蛋白質(zhì)，基本上包括了每一種被測序過的生物的每一種蛋白質(zhì)。這是一次完全的革命。這些模型非常難以使用，對于人們來說極其難以構(gòu)建。因此，我們的任務(wù)就是要構(gòu)建這些模型，我們將為世界各地的研究人員構(gòu)建它們。這不會是唯一的，我們還會創(chuàng)建許多其他模型。接下來，我將向您展示我們將如何使用這些模型。

新藥的虛擬篩選是一個計算上難以解決的問題?，F(xiàn)有技術(shù)只能掃描數(shù)十億種化合物，并且需要在數(shù)千個標(biāo)準(zhǔn)計算節(jié)點上運行數(shù)天才能識別新的候選藥物。NVIDIA BioNemo NIMS啟用了新的生成篩選范例。通過使用NIMS進(jìn)行蛋白質(zhì)結(jié)構(gòu)預(yù)測，通過MolNIM進(jìn)行AlphaFold分子生成，并與DiffDock對接，我們現(xiàn)在可以在幾分鐘內(nèi)生成和篩選候選分子。MolNIM可以連接到自定義應(yīng)用程序，迭代地引導(dǎo)生成過程，優(yōu)化所需的特性。

這些應(yīng)用程序可以使用BioNemo微服務(wù)定義或從頭開始構(gòu)建。在這里，基于物理的模擬優(yōu)化分子與目標(biāo)蛋白結(jié)合的能力，同時優(yōu)化其他有利的分子特性。MolNIM生成的高質(zhì)量藥物樣藥物與靶標(biāo)結(jié)合且可合成的分子，將轉(zhuǎn)化為更快開發(fā)成功藥物的更高可能性。

BioNemo正在啟用藥物發(fā)現(xiàn)的新范例，通過NIMS提供可組合的按需微服務(wù)，構(gòu)建強(qiáng)大的藥物發(fā)現(xiàn)工作流程，如從頭蛋白質(zhì)設(shè)計或用于虛擬篩選的引導(dǎo)分子生成。BioNemo NIMS正在幫助研究人員和開發(fā)人員重新發(fā)明計算藥物設(shè)計。NVIDIA MOLNIM、MolNIM、CoreDiff以及一大堆其他模型，包括計算機(jī)視覺模型、機(jī)器人模型，甚至一些非常優(yōu)秀的開源語言模型，都是開創(chuàng)性的。

然而，對于企業(yè)來說，這些模型很難使用。如何使用它們？如何將它們引入您的公司并將其集成到您的工作流程中？如何打包并運行它？請記住，我剛才說過，這個推論是一個非凡的計算問題。您將如何對每個模型進(jìn)行優(yōu)化，并將運行該超級計算機(jī)所需的計算堆棧組合在一起，以便您可以在您的公司中運行這些模型？

因此，我們有一個好主意。我們將發(fā)明一種新方法，為您發(fā)明一種新方法，接收并操作軟件。這個軟件基本自帶，在數(shù)字盒子中我們稱其為容器。我們將其稱為NVIDIA推理微服務(wù)，簡稱NIM。讓我向你解釋一下它是什么。

NIM是一個預(yù)先訓(xùn)練的模型，所以它非常聰明。它經(jīng)過打包和優(yōu)化，可在NVIDIA的安裝基礎(chǔ)上運行，該安裝基礎(chǔ)非常非常大，里面的內(nèi)容令人難以置信。您擁有所有這些經(jīng)過預(yù)先訓(xùn)練的最先進(jìn)的開源模型。它們可以是開源的，也可以來自我們的合作伙伴之一，也可以由我們創(chuàng)建，例如NVIDIA Moment。它與它的所有依賴項一起打包，因此CUDA，正確的版本CUDNN，正確的版本TensorRT，LLM，分布在多個GPU上。Trident推理服務(wù)器是一個全面優(yōu)化并打包的系統(tǒng)。其優(yōu)化程度取決于您是否擁有單個GPU、多GPU或多節(jié)點GPU。此外，它還與易用的API相連。

那么，什么是AI API呢？AI API是一個接口，您只需與之交談即可。因此，這是未來的一種軟件，它具有一個非常簡單的API，這個API被稱為人類。這些軟件包中的優(yōu)秀軟件將被優(yōu)化和打包。我們會將其放在網(wǎng)站上供您下載，您可以隨身攜帶，可以在任何云中運行它，也可以在自己的數(shù)據(jù)中心運行它。如果合適，您甚至可以在工作站中運行它。您只需訪問AI.NVIDIA.com，我們稱之為NVIDIA Inference Microservice，但在公司內(nèi)部，我們都稱之為NIM。

想象一下，有一天，將會有這些聊天機(jī)器人之一，這些聊天機(jī)器人將位于NIM中。您將組裝一大堆聊天機(jī)器人，這就是未來軟件構(gòu)建的方式。您不太可能從頭開始編寫它，或者編寫一大堆Python代碼或類似的東西，您很可能會組建一個人工智能團(tuán)隊?？赡軙幸粋€超級人工智能，它將接受您賦予它的任務(wù)并將其分解為執(zhí)行計劃。部分執(zhí)行計劃可以移交給另一個NIM。NIM可能會理解SAP，SAP的語言是ABAP，它可能理解ServiceNow，并從他們的平臺檢索一些信息。然后它可能會將結(jié)果交給另一個NIM，后者會對其進(jìn)行一些計算，也許這是一個優(yōu)化軟件，一個組合優(yōu)化算法，也許只是一些基本的計算器，也許這就是熊貓。對它進(jìn)行一些數(shù)值分析，然后它會返回答案。它會與其他人的結(jié)合起來，因為它已經(jīng)被呈現(xiàn)出來，這就是正確的答案應(yīng)該是什么樣的，它知道生產(chǎn)的正確答案是什么，并將其呈現(xiàn)給您。

我們每天都可以得到一份報告，這與構(gòu)建計劃或一些預(yù)測或一些客戶警報或一些錯誤數(shù)據(jù)庫或其他任何東西有關(guān)，我們可以使用所有這些NIM來組裝它，因為這些NIM已打包并準(zhǔn)備好在您的系統(tǒng)上工作，只要您的數(shù)據(jù)中心或云端有視頻GPU，這些NIM將作為一個團(tuán)隊一起工作并做出驚人的事情。因此，我們認(rèn)為這是一個好主意，我們要去這么做。

因此，NVIDIA在我們公司的各個角落都運行著NIM。聊天機(jī)器人遍布各地，最重要的聊天機(jī)器人之一當(dāng)然是芯片設(shè)計師聊天機(jī)器人。您可能不會驚訝我們非常關(guān)心構(gòu)建芯片。所以我們想要構(gòu)建聊天機(jī)器人人工智能Copilot。這是我們工程師的共同設(shè)計師，所以這就是我們這樣做的方式，所以我們給自己設(shè)計了一輛Llama 2，這是一輛70b，你知道它封裝在NIM中，我們問它你知道什么是CTL。事實證明，CTL是一個內(nèi)部程序，它有一種內(nèi)部專有語言，但它認(rèn)為CTL是一種組合時序邏輯，因此它描述了您知道CTL的常規(guī)知識，但這對我們來說不是很有用。所以我們給了它一大堆新的例子。員工入職員工。

您問我是否知道，我感謝您的提問。這是一個誤解。然后我們向他們展示，這就是CTL，沒有問題。所以這就是NVIDIA的CTL，以及您可以看到的CTL。您知道，CTL代表計算跟蹤庫，這讓您知道我們一直在跟蹤計算周期。它寫了“程序真是太棒了”。

這樣，我們的芯片設(shè)計人員的生產(chǎn)力就可以提高。這就是您可以使用NIM做的第一件事。您可以使用它進(jìn)行定制。我們有一項名為NEMO微服務(wù)的服務(wù)，可以幫助您管理數(shù)據(jù)，準(zhǔn)備數(shù)據(jù)，以便您可以進(jìn)行教學(xué)在這個人工智能上。您可以對它們進(jìn)行微調(diào)，然后您可以對其進(jìn)行防護(hù)，您可以評估答案，根據(jù)其他示例評估其性能，這就是所謂的NEMO。

現(xiàn)在出現(xiàn)的微服務(wù)是三個要素，我們正在做的事情的三個支柱。第一個支柱當(dāng)然是發(fā)明技術(shù)。AI模型和運行AI模型，然后再為您打包。是創(chuàng)建工具來幫助您修改它，其次是擁有人工智能技術(shù)，第二是幫助您修改它，第三是供您微調(diào)它的基礎(chǔ)設(shè)施。如果您喜歡部署它，您可以將其部署在我們稱為DGX云的基礎(chǔ)設(shè)施上，或者您可以使用它，將其部署在本地，您可以將其部署在任何您喜歡的地方。

一旦您開發(fā)了它，您就可以把它帶到任何地方。所以我們是一家有效的人工智能代工廠。我們將為您和人工智能行業(yè)做的事情，就像臺積電為我們制造芯片所做的那樣。因此，我們帶著我們的偉大想法去臺積電，他們制造，我們隨身攜帶。所以這里完全相同的事情，人工智能鑄造廠和三大支柱是NEMS，NEMO微服務(wù)和DGX云。

您可以做的另一件事是教導(dǎo)NEM要做的就是了解您的專有信息。請記住，在我們公司內(nèi)部，我們的絕大多數(shù)數(shù)據(jù)并不在云中，而是在我們公司內(nèi)部。您知道它一直坐在那里，并且一直在使用。天哪，我們想要獲取的數(shù)據(jù)基本上是NVIDIA的智能。了解其含義，就像我們了解了我們剛剛談到的幾乎所有其他內(nèi)容的含義一樣，然后將這些知識重新索引到一種稱為矢量數(shù)據(jù)庫的新型數(shù)據(jù)庫中。

所以您本質(zhì)上是采用結(jié)構(gòu)化數(shù)據(jù)或非結(jié)構(gòu)化數(shù)據(jù)，您了解它的含義，您編碼它的含義。所以現(xiàn)在這變成了一個人工智能數(shù)據(jù)庫和那個人工智能數(shù)據(jù)庫。將來，一旦您創(chuàng)建了它，您就可以與它交談。

讓我給您一個例子，說明您可以做什么。假設(shè)您創(chuàng)建了您得到的，您得到了一大堆多模態(tài)數(shù)據(jù)，其中一個很好的例子就是PDF。所以您將在所有的PDF中，將所有您最喜歡的您知道的東西都拿走。對您專有、對您公司至關(guān)重要的，您可以對其進(jìn)行編碼。就像我們對貓的像素進(jìn)行編碼一樣，它變成了貓這個詞。我們可以對您所有的PDF進(jìn)行編碼，然后它就會變成。

現(xiàn)在存儲在矢量數(shù)據(jù)庫內(nèi)的矢量將成為您公司的專有信息。一旦您擁有該專有信息，您就可以與它聊天。這是一個智能數(shù)據(jù)庫，您只需與數(shù)據(jù)聊天，您知道這有多有趣。

對于我們的軟件團(tuán)隊來說，他們只是與錯誤聊天數(shù)據(jù)庫。您知道昨晚有多少錯誤，我們是否取得了任何進(jìn)展。然后在您完成討論之后，Bug數(shù)據(jù)庫，您需要治療。所以我們?yōu)槟鷾?zhǔn)備了另一個聊天機(jī)器人。您是否在詢問我們的尼莫檢索器？這個工具的主要功能是快速檢索信息。您只需對它發(fā)出指令，例如：“嘿，檢索我這個信息”，它就會立即為您找到并返回所需的信息。這就是您想要了解的嗎？我們將其命名為Nemo檢索器。Nemo服務(wù)可以幫助您創(chuàng)建各種所需的工具。我們擁有各種不同的NIMS，甚至包括數(shù)字人類的NIMS。我是Rachel，您的人工智能護(hù)理經(jīng)理。

接下來，我要向您展示的是一個非常短的剪輯。我們有很多視頻和演示想要向您展示，所以我只能剪短這個片段。這是戴安娜，她是一個數(shù)字人類NIM。您只需與她交談，她就會在這種情況下，與希波克拉底人工智能的醫(yī)療保健大型語言模型相連接，這確實令人驚嘆。她在醫(yī)療保健方面非常聰明。所以在你完成與我的軟件工程副總裁Dwight和Chatbot討論Bug數(shù)據(jù)庫之后，你可以過來與Diane交談。Diane是完全由人工智能驅(qū)動的數(shù)字人類。

許多公司都希望能夠開發(fā)他們所擁有的金礦。企業(yè)IT行業(yè)就坐擁一座金礦，因為他們對此有深入的了解。他們擁有多年來創(chuàng)建的所有這些令人驚嘆的工具，以及大量的數(shù)據(jù)。如果他們能夠開發(fā)這個金礦并將其轉(zhuǎn)化為Copilot，這些Copilot可以幫助我們完成工作。

因此，世界上幾乎所有擁有人們使用的有價值工具的IT特許經(jīng)營IT平臺都坐在Copilot的金礦上。他們希望在自己的聊天機(jī)器人中建立自己的Copilot。因此，我們宣布NVIDIA AI Foundry正在與世界上一些偉大的公司合作。例如，SAP，它支撐了全球87%的全球商業(yè)，基本上世界都在SAP上運行。我們在SAP上運行。NVIDIA和SAP正在使用NVIDIA NEMO和DGX Cloud構(gòu)建SAP gem Co-pilots。

ServiceNow運營著85%的世界財富500強(qiáng)公司在ServiceNow上運行其人員和客戶服務(wù)業(yè)務(wù)。他們正在使用NVIDIA AI Foundry來構(gòu)建ServiceNow輔助虛擬助手。Cohesity備份世界數(shù)據(jù)。他們坐擁數(shù)據(jù)金礦，擁有超過10,000家公司的數(shù)百艾字節(jié)數(shù)據(jù)。NVIDIA AI Foundry正在與他們合作，幫助他們構(gòu)建Gaia生成式AI代理。

Snowflake是一家在云中存儲全球數(shù)字倉庫的公司，每天為10,000家企業(yè)客戶提供超過30億次查詢服務(wù)。Snowflake正在與NVIDIA AI Foundry合作打造Copilot。借助NVIDIA NEMO和NIMS，NetApp存儲了全球近一半的文件。NVIDIA AI Foundry正在幫助他們使用NVIDIA NEMO和NIMS構(gòu)建聊天機(jī)器人和Copilot，例如矢量數(shù)據(jù)庫和檢索器。我們與戴爾有著良好的合作伙伴關(guān)系。我們正在構(gòu)建聊天機(jī)器人和生成人工智能。當(dāng)你準(zhǔn)備好運行它時，你將需要一個人工智能工廠。沒有人比戴爾更擅長為企業(yè)構(gòu)建大規(guī)模的端到端系統(tǒng)，因此，無論是個人還是公司，都需要建立人工智能工廠。事實證明，邁克爾·戴爾非常樂意接受您的訂單。女士們、先生們，邁克爾·戴爾。

現(xiàn)在，我們來談?wù)剻C(jī)器人和人工智能的下一波浪潮，即機(jī)器人物理人工智能。到目前為止，我們談?wù)摰乃腥斯ぶ悄芏际且慌_計算機(jī)。數(shù)據(jù)進(jìn)入一臺計算機(jī)，世界上許多的數(shù)據(jù)都以數(shù)字文本的形式存在。人工智能模仿我們，通過閱讀大量的語言來預(yù)測下一個單詞，它正在模仿你通過研究所有的模式和所有其他前面的例子。當(dāng)然，它必須理解上下文等等，但是一旦它理解了上下文，它就本質(zhì)上是在模仿你。

我們獲取所有數(shù)據(jù)，將其放入像DGX這樣的系統(tǒng)中，將其壓縮為大型語言模型，數(shù)萬億個參數(shù)變成數(shù)十億個，數(shù)十億個Token變成數(shù)十億個參數(shù)，這些數(shù)十億個參數(shù)變成你的人工智能。為了讓我們進(jìn)入下一波人工智能浪潮，讓人工智能理解物理世界，我們將需要三臺計算機(jī)。

第一臺計算機(jī)仍然是同一臺計算機(jī)，它是人工智能計算機(jī)，現(xiàn)在它將觀看視頻，也許它正在進(jìn)行合成數(shù)據(jù)生成，也許有很多人類示例，就像我們有文本形式的人類示例一樣，我們將以清晰的形式提供人類的例子。人工智能會監(jiān)視我們，了解正在發(fā)生的事情，并嘗試將其適應(yīng)上下文。而且因為它可以推廣這些基礎(chǔ)模型，也許這些機(jī)器人也可以在物理世界中相當(dāng)普遍地執(zhí)行。

我只是用非常簡單的術(shù)語描述了大語言模型中剛剛發(fā)生的事情，除了機(jī)器人的ChatGPT時刻可能即將到來。因此，我們構(gòu)建機(jī)器人端到端系統(tǒng)已經(jīng)有一段時間了，我對這項工作感到非常非常自豪，我們擁有人工智能系統(tǒng)DGX。我們有較低的系統(tǒng)，稱為AGX對于自主系統(tǒng)，世界上第一個機(jī)器人處理器，當(dāng)我們第一次構(gòu)建這個東西時，人們在構(gòu)建什么它是一個SOC，它是一個芯片它被設(shè)計為非常低功耗但它是專為高速傳感器處理和人工智能而設(shè)計。

因此，如果您想在汽車中運行Transformer，或者您想在任何東西中運行Transformer，那么，我們?yōu)槟峁┝送昝赖挠嬎銠C(jī)，它被稱為Jetson。因此頂部的DGX用于訓(xùn)練AI，Jetson是自主處理器，中間我們需要另一臺計算機(jī)。而大型語言模型有好處。您提供示例，然后進(jìn)行強(qiáng)化學(xué)習(xí)人類反饋。

什么是機(jī)器人的強(qiáng)化學(xué)習(xí)人類反饋，這是強(qiáng)化學(xué)習(xí)物理反饋，這就是你如何調(diào)整機(jī)器人，這就是你的方式，這就是機(jī)器人在學(xué)習(xí)時知道這些關(guān)節(jié)能力和操縱能力，它將正確適應(yīng)物理定律，所以我們需要一個模擬引擎。以數(shù)字方式代表世界對于機(jī)器人來說，讓機(jī)器人有一個健身房去學(xué)習(xí)如何成為一個機(jī)器人我們稱之為虛擬世界。Omniverse和運行Omniverse的計算機(jī)稱為OVX，OVX，計算機(jī)本身托管在Azure云中。

所以基本上我們構(gòu)建了這三個東西，這三個系統(tǒng)，在這三個系統(tǒng)之上，我們?yōu)槊總€系統(tǒng)都有算法。現(xiàn)在我將向您展示人工智能和全宇宙如何協(xié)同工作的一個超級示例，我將向您展示的示例有點瘋狂，但它將非常非常接近明天。這是一座被稱為“倉庫”的機(jī)器人大樓。在這座大樓內(nèi)，將會有一些自治系統(tǒng)，其中一些將被稱為人類，另一些則被稱為叉車。這些自治系統(tǒng)將自動地相互交互，而倉庫將監(jiān)控并調(diào)整它們的行為，以確保每個人都免受傷害。

倉庫的角色可以被比喻為空中交通管制員，每當(dāng)有事情發(fā)生時，它將重定向交通并為機(jī)器人和人們提供新的路徑點，他們會確切地知道該怎么做。這個倉庫，或者說這個大樓，也具有交流的能力。您可以與它進(jìn)行對話，比如詢問SAP中心今天的感覺如何。

這個我剛才描述的系統(tǒng)將有Omniverse云，它托管在DGX云上運行的虛擬模擬和人工智能，所有這些都是實時運行的。重工業(yè)的未來始于數(shù)字孿生。人工智能代理，它們幫助機(jī)器人、工人和基礎(chǔ)設(shè)施應(yīng)對復(fù)雜工業(yè)空間中不可預(yù)測的事件，將首先在復(fù)雜的數(shù)字孿生中構(gòu)建和評估。

這個100,000平方英尺的倉庫的Omniverse數(shù)字孿生作為一個模擬環(huán)境運行，集成了數(shù)字工人、運行NVIDIA Isaac受體堆棧的AMR整個倉庫的集中活動地圖，由100個模擬吸頂式攝像機(jī)繪制。使用NVIDIA Metropolis并通過NVIDIA進(jìn)行AMR路線規(guī)劃合作軟件循環(huán)測試人工智能代理在這個物理上精確的模擬環(huán)境中使我們能夠評估和完善系統(tǒng)如何適應(yīng)現(xiàn)實世界的不可預(yù)測性。

在這里，當(dāng)一起事故沿著AMR計劃的路線發(fā)生時，其路徑被NVIDIA Metropolis更新，并將實時占用地圖發(fā)送到合作社，在那里計算出新的最佳路線。AMR能夠查看周圍的拐角處并通過生成人工智能驅(qū)動的Metropolis Vision基礎(chǔ)模型提高其任務(wù)效率。操作員甚至可以使用自然語言提出問題。視覺模型可以理解細(xì)致入微的活動，并可以提供即時見解以改進(jìn)操作。

所有傳感器數(shù)據(jù)均在模擬中創(chuàng)建，并傳遞給作為NVIDIA推理微服務(wù)或NEMS運行的實時AI。準(zhǔn)備部署在物理孿生中，即真正的倉庫中，我們將Metropolis和Isaac NEMS連接到真實的傳感器，能夠持續(xù)改進(jìn)數(shù)字孿生和人工智能模型。

未來的設(shè)施倉庫、工廠建筑將由軟件定義，因此軟件正在運行。那么，還有什么其他方式您會測試軟件，以便測試軟件以構(gòu)建倉庫、優(yōu)化系統(tǒng)呢？在數(shù)字孿生中，所有機(jī)器人都在運行自己的自主機(jī)器人堆棧，因此在未來機(jī)器人系統(tǒng)的CICD中集成軟件的方式是使用數(shù)字孿生。

我們已經(jīng)使全宇宙變得更容易訪問，我們將為簡單的Api和通道創(chuàng)建基本上全宇宙云api，您可以將您的應(yīng)用程序連接到它，這將是非常美麗的簡單。在未來全方位宇宙將成為現(xiàn)實，通過這些api，您將擁有我們也已經(jīng)轉(zhuǎn)變的神奇數(shù)字孿生功能。

我們已經(jīng)將全宇宙變成了人工智能，并將其與使用我們語言的語言聊天的能力集成起來。人類和全宇宙是語言，事實證明是通用的場景描述。所以這種語言是相當(dāng)復(fù)雜的，所以我們已經(jīng)教了我們的全宇宙這種語言。所以你可以用英語對它說話，它會直接生成美元，它會用美元回復(fù)，但會用英語跟你說話。你也可以尋找這個世界上的信息，語義上而不是世界被語義編碼，現(xiàn)在在語言中，它在場景中被語義編碼。在某些特定的物體、條件或場景下，人工智能可以幫助您找到相應(yīng)的場景，并在生成過程中與您協(xié)作。您可以在3D環(huán)境中設(shè)計一些東西，模擬一些東西，或者使用人工智能在3D環(huán)境中生成一些東西。讓我們一起探討這一切將如何進(jìn)行。

我們與西門子有著良好的合作伙伴關(guān)系。西門子是世界上最大的工業(yè)工程和運營平臺。在工業(yè)領(lǐng)域，有許多不同的公司，其中太空重工業(yè)是其最偉大的最終前沿之一?，F(xiàn)在，我們終于擁有了必要的技術(shù)，可以產(chǎn)生真正的影響。西門子正在構(gòu)建工業(yè)元宇宙。今天，我們宣布，西門子將他們的皇冠寶石加速器連接到Nvidia Omniverse。讓我們一起來看看。

西門子的技術(shù)每天都在發(fā)生變化。對于每個人，團(tuán)隊中心X的客戶每天都在使用來自西門子加速器平臺的領(lǐng)先產(chǎn)品生命周期管理軟件來開發(fā)和交付產(chǎn)品?，F(xiàn)在，我們正在通過集成Nvidia的技術(shù)，大規(guī)模地拉近真實世界和虛擬世界的距離，將AI和Omniverse技術(shù)引入團(tuán)隊中心。

Omniverse APIs實現(xiàn)了數(shù)據(jù)互操作性和基于物理的渲染。對于工業(yè)規(guī)模的設(shè)計和制造項目，我們的客戶HD和可持續(xù)船舶制造的市場領(lǐng)導(dǎo)者正在構(gòu)建氨和氫動力芯片，這些芯片通常包含超過700萬個分立零件。Omniverse APIs和團(tuán)隊中心X使HD和其他公司能夠以交互方式統(tǒng)一和可視化這些海量工程數(shù)據(jù)集，并集成生成式人工智能以生成3D對象或HDRI背景，以便在上下文中查看其項目。

這樣的結(jié)果是一個超直觀的、基于照片真實物理的數(shù)字孿生，消除了浪費和錯誤，大大節(jié)省了成本和時間。我們正在構(gòu)建這個系統(tǒng)，以便于協(xié)作，無論是跨越更多的西門子加速器工具，如西門子附件或Star CCM Plus，還是跨團(tuán)隊致力于他們最喜歡的工作，同一場景中的設(shè)備在一起。這只是與Nvidia合作的開始，我們將在整個西門子加速器產(chǎn)品組合中引入加速器計算生成人工智能和全方位集成。

我的好朋友，專業(yè)的配音演員羅蘭布什，恰好是西門子的CEO。一旦你將Omniverse連接到你的工作流程和生態(tài)系統(tǒng)，從你的設(shè)計開始，從工程設(shè)計到制造規(guī)劃，一直到數(shù)字孿生運營，一旦你把一切連接在一起，你可以獲得多少生產(chǎn)力，這真是太瘋狂了。突然間，每個人都在同一個基本事實上運作，這真是太棒了。

你不必交換數(shù)據(jù)和轉(zhuǎn)換數(shù)據(jù)犯錯誤，每個人都在同一個事實上工作，從設(shè)計部門到美術(shù)部門，從建筑部門一直到工程部門，甚至營銷部門。讓我們來看看Nissan是如何做到的，他們已經(jīng)將Omniverse集成到他們的工作流程中，這都是因為它通過所有這些出色的工具以及與我們合作的開發(fā)人員連接起來。

這不是動畫，這是全宇宙。今天我們宣布全宇宙云流至視覺專業(yè)人士。你在虛擬門周圍走動是非常非常奇怪的。當(dāng)我從那輛車?yán)锵聛淼臅r候，每個人都這樣做，這真的是非常驚人的。愿景Pro連接到全宇宙，帶你進(jìn)入全宇宙。

因為所有這些CAD工具和所有這些不同的設(shè)計工具現(xiàn)在都集成并連接到Omniverse，你可以擁有這種類型的工作流程，這真的令人難以置信。讓我們來談?wù)剻C(jī)器人技術(shù)，所有移動的東西都將是機(jī)器人，毫無疑問，它更安全，更方便。汽車行業(yè)將成為最大的行業(yè)之一。我們正在從頭開始構(gòu)建機(jī)器人堆棧，就像我在計算機(jī)系統(tǒng)中提到的那樣。對于自動駕駛汽車，包括今年年底的自動駕駛汽車應(yīng)用，我預(yù)測明年年初我們將開始使用梅賽德斯發(fā)貨，緊隨其后的是捷豹路虎。

這些自主機(jī)器人系統(tǒng)是由軟件定義的，它們需要進(jìn)行大量的工作，包括計算機(jī)視覺，人工智能控制，以及規(guī)劃各種非常復(fù)雜的技術(shù)。這需要數(shù)年時間來完善，我們正在構(gòu)建整個堆棧。

然而，我們將整個堆棧開放給所有汽車行業(yè)，這就是我們的工作方式。我們在每個行業(yè)都嘗試盡可能多地構(gòu)建，以便我們理解它，然后我們將其開放給每個人，無論您是否愿意購買我們的全球唯一的計算機(jī)，都可以訪問它。我們的全功能安全ACLD系統(tǒng)可以運行AI。這種功能安全的優(yōu)質(zhì)計算機(jī)或操作系統(tǒng)位于我們的數(shù)據(jù)中心之上。

基本上，不是所有的自動駕駛汽車公司都可以享受到這一點，但如果您想享受，我們會很高興。今天我們宣布，世界上最大的電動汽車公司比亞迪正在采用我們的下一代產(chǎn)品，它被稱為雷神。雷神是為Transformer雷神發(fā)動機(jī)而設(shè)計的，我們的下一代影音計算機(jī)將由比亞迪使用。

您可能不知道，我們擁有超過一百萬的機(jī)器人開發(fā)人員。我們創(chuàng)造了噴氣式飛機(jī)和這臺我們感到非常自豪的機(jī)器人計算機(jī)。它之上的軟件數(shù)量是瘋狂的，但我們之所以能做到這一點，完全是因為它百分百與CUDA兼容。我們所做的一切，我們在公司所做的一切，不是為了我們的開發(fā)人員的服務(wù)，而是為了我們能夠維護(hù)這個豐富的生態(tài)系統(tǒng)，并使其與您從我們訪問的所有內(nèi)容兼容。我們可以將所有這些令人難以置信的功能帶到這臺小小的計算機(jī)上，我們將Jetson稱為我們的機(jī)器人計算機(jī)。

我們今天還宣布了一個令人難以置信的高級新SDK，我們稱之為Isaac。Isaac感知器是今天大多數(shù)機(jī)器人的感知器，它們都是預(yù)先編程的，它們要么遵循地面數(shù)字軌道上的軌道，要么遵循四月的標(biāo)簽。但在未來，它們將具有感知能力，你可以輕松地對其進(jìn)行編程，你說我想要從A點到B點，它會找到一種導(dǎo)航方式。因此，只需對路點進(jìn)行編程，整個路線就可以自適應(yīng)整個環(huán)境?？梢灾匦戮幊蹋缥乙婚_始就向您展示的那樣，在倉庫中，您無法通過預(yù)編程的GV做到這一點，如果這些盒子掉下來，它們就會全部粘起來，然后就在那里等待有人來清理它。所以現(xiàn)在有了Isaac感知器，我們擁有令人難以置信的最先進(jìn)的視覺里程計，3D重建以及3D重建深度感知。

今天的機(jī)器人最常用的是機(jī)械手臂。制造手臂，它們還預(yù)先編程了計算機(jī)視覺算法、人工智能算法、控制和路徑規(guī)劃算法，這些算法是幾何感知的，計算量非常大。我們已經(jīng)使這些庫達(dá)到了加速，所以我們擁有世界上第一個加速運動規(guī)劃器，這是幾何感知的。你把它提出了一個新的計劃并圍繞它進(jìn)行了闡述，它對3D物體的姿勢估計具有出色的感知能力。它不僅不是2D的姿勢，而是3D的姿勢，所以它必須想象周圍有什么以及如何最好地抓住它，以便基金會擺出抓地力的姿勢。這種關(guān)節(jié)算法現(xiàn)在可用，我們稱之為Isaac操縱器，它們也可以在視頻計算機(jī)上運行。我們正在進(jìn)行一些真正偉大的工作，關(guān)于下一代機(jī)器人技術(shù)。下一代機(jī)器人技術(shù)可能會是人形機(jī)器人。我們現(xiàn)在擁有必要的技術(shù)，正如我之前所描述的。想象一下所需的技術(shù)。廣義的人類機(jī)器人技術(shù)在某種程度上可能更容易，原因是我們有更多的機(jī)器人技術(shù)。

我們可以為機(jī)器人提供模仿訓(xùn)練數(shù)據(jù)。因為我們是以非常相似的方式構(gòu)建的，所以人類機(jī)器人很可能在我們的世界中更加有用。我們創(chuàng)造了一個可以互操作并很好地工作的世界，我們建立工作站、制造和物流的方式是為人類設(shè)計的，因此這些人類或機(jī)器人的部署可能會更加高效。

我們正在創(chuàng)建整個堆棧，就像我們與其他人一樣。從頂部開始，從觀看視頻“Human”中學(xué)習(xí)的基礎(chǔ)模型。示例可以是視頻形式，也可以是虛擬現(xiàn)實形式，然后我們?yōu)槠鋭?chuàng)建了一個健身房，稱為艾薩克強(qiáng)化學(xué)習(xí)健身房。這使得人形機(jī)器人能夠?qū)W習(xí)如何適應(yīng)物理世界，然后是一臺令人難以置信的計算機(jī)，這臺計算機(jī)將進(jìn)入機(jī)器人汽車，這臺計算機(jī)將在人類或機(jī)器人體內(nèi)運行，稱為雷神，它是為Transformer引擎設(shè)計的。

我們將其中的幾個內(nèi)容合并到一個視頻中，您一定會喜歡看一下。這還不足以人類想象。我們必須發(fā)明、探索，并推動超出已完成的工作的相當(dāng)多的細(xì)節(jié)。我們創(chuàng)造更智能、更快的機(jī)器人。我們推動它失敗，所以它可以學(xué)習(xí)。我們教它然后幫助它自學(xué)。我們拓寬了它的理解，去迎接新的挑戰(zhàn)。具有絕對的精度，并成功。我們讓它感知、移動，甚至還有理由，所以它可以與我們分享我們的世界。這就是靈感引領(lǐng)我們下一個前沿的地方。

這是NVIDIA項目組，人形機(jī)器人學(xué)習(xí)的通用基礎(chǔ)模型。組模型將多模式指令和過去的交互作為輸入，并生成機(jī)器人要執(zhí)行的下一個動作。我們開發(fā)了Isaac實驗室，一個機(jī)器人學(xué)習(xí)應(yīng)用程序來訓(xùn)練Omniverse Isaac sim組。我們使用Osmo擴(kuò)展了一種新的計算編排服務(wù)，該服務(wù)可以協(xié)調(diào)用于訓(xùn)練的DGX系統(tǒng)和用于模擬的OVX系統(tǒng)之間的工作流程。

借助這些工具，我們可以在基于物理的模擬中訓(xùn)練團(tuán)隊，并將零射擊轉(zhuǎn)移到現(xiàn)實世界。團(tuán)體模型將使機(jī)器人能夠從少量人類演示中學(xué)習(xí)，因此它可以幫助完成日常任務(wù)。通過觀察我們來模仿人類的運動。這是通過NVIDIA的技術(shù)實現(xiàn)的，這些技術(shù)可以從視頻中理解人類，訓(xùn)練模型和模擬，并最終將它們直接部署到物理機(jī)器人上，將群組連接到大型語言模型，甚至允許它生成動作，通過遵循自然語言指令，你能給我一個高五嗎？讓我們高五。你能給我們一些很酷的動作嗎？看看這個。

所有這些令人難以置信的智能均由全新Jetson Thor機(jī)器人芯片提供支持，專為面向未來的團(tuán)隊而設(shè)計。通過Isaac lab, Osmo和Groot，我們正在為下一代人工智能提供構(gòu)建模塊。動力機(jī)器人。大小差不多。

NVIDIA的靈魂。計算機(jī)圖形學(xué)物理人工智能的交叉點。這一切都在此時產(chǎn)生了通用機(jī)器人項目的名稱。003。我知道超級好。超好。我想我們有一些特殊的客人。大家好，我知道你們都是由Jetson提供動力的，他們是由Jetsons提供動力的小Jetson機(jī)器人計算機(jī)，他們已經(jīng)學(xué)會了模擬行走。這是橙色的，這是著名的綠色，他們是迪士尼的BDX機(jī)器人，這是迪士尼研究的成果。現(xiàn)在，讓我們結(jié)束吧，我們走吧。

我想和你們分享五件事。首先，我想問你，你要去哪里？我就坐在這里。別害怕，綠色，你在說什么？不，還沒到吃飯的時間。我一會兒就給你吃零食，讓我快點吃完。來吧，綠燈快點停下來。我們不能浪費時間。

最后，五件事。

首先是新工業(yè)革命。每個數(shù)據(jù)中心都應(yīng)該加速價值萬億美元的已安裝數(shù)據(jù)中心。由于計算能力帶來了一種新的軟件制作方式，生成式人工智能（Generative AI）已經(jīng)出現(xiàn)，因此在未來幾年內(nèi)將變得現(xiàn)代化。這將創(chuàng)造新的基礎(chǔ)設(shè)施，這些基礎(chǔ)設(shè)施致力于做一件事且僅做一件事，它們不適用于多用戶數(shù)據(jù)中心，而是人工智能生成器。這些人工智能生成器將創(chuàng)造出極其有價值的軟件。

第二，這次革命的計算機(jī)。這一代的計算機(jī)，萬億參數(shù)的生成式AI。Blackwell，瘋狂數(shù)量的計算能力。

第三， Nims。新計算機(jī)創(chuàng)建新類型的軟件。新型軟件應(yīng)該以新的方式分發(fā)，以便它可以一方面成為云中的端點，易于使用，但仍然允許您隨身攜帶，因為它是你的智慧。你的智慧應(yīng)該以一種允許你隨身攜帶的方式打包，我們稱之為NIMS。

第四，Nemo and Nvidia AI Foundary。這些NIMS將幫助你為未來創(chuàng)建一種新型的應(yīng)用程序，而不是你完全從頭開始編寫的應(yīng)用程序，但您將像Teams一樣集成它們。這些應(yīng)用程序在NIMS、人工智能技術(shù)、工具Nemo和基礎(chǔ)設(shè)施DGX云之間擁有出色的能力。在我們的AI工廠里，幫助您創(chuàng)建專有應(yīng)用程序、專有聊天機(jī)器人。

最后，Omniverse and ISAAC 機(jī)器人。未來移動的一切都將是機(jī)器人，您不會是唯一的一個和這些機(jī)器人系統(tǒng)。無論它們是人形機(jī)器人、自動駕駛汽車、叉車還是操縱手臂，他們都需要一件事：巨型體育場倉庫、那里的工廠可以是工廠、機(jī)器人編排工廠、機(jī)器人生產(chǎn)線、制造機(jī)器人汽車。這些系統(tǒng)都需要一個東西，一個平臺，一個數(shù)字平臺，一個數(shù)字孿生平臺，我們稱之為全宇宙，機(jī)器人世界的操作系統(tǒng)。

這就是我們今天討論的五件事。

當(dāng)我們談?wù)揋PU時，Nvidia是什么樣子？當(dāng)人們首先問我有關(guān)GPU的問題時，我看到的是一堆軟件堆棧和類似的東西，然后我看到的是這個，這就是我們今天向您宣布的，這是Blackwell，這是平臺。令人驚嘆的處理器MV鏈路交換機(jī)網(wǎng)絡(luò)系統(tǒng)和系統(tǒng)設(shè)計，這是一個奇跡，這是Blackwell，這對我來說就是我心目中的GPU的樣子。

謝謝你們，祝你們GTC2024愉快，謝謝大家的光臨，謝謝。