Nemotron 3是英偉達(dá)（Nvidia）最新推出的開放推理模型，旨在支持跨長上下文和多個(gè)智能體運(yùn)行的自主智能體系統(tǒng)。該版本包括三種型號：Nano、Super和Ultra，以及新的開放數(shù)據(jù)集和強(qiáng)化學(xué)習(xí)工具，以幫助開發(fā)人員構(gòu)建用于生產(chǎn)的專用人工智能系統(tǒng)。Nvidia詳細(xì)介紹了這三種型號的尺寸和使用情況：

Nemotron 3 Nano是一個(gè)300億參數(shù)的小型模型，一次可激活多達(dá)30億個(gè)參數(shù)，用于有針對性的高效任務(wù)。

Nemotron 3 Super是一個(gè)高精度推理模型，具有大約1000億個(gè)參數(shù)，每個(gè)詞元（Token）可激活參數(shù)高達(dá)100億，適用于多智能體應(yīng)用程序。

Nemotron 3 Ultra是一個(gè)大型推理引擎，擁有約5000億個(gè)參數(shù)，每個(gè)詞元的活動量高達(dá)500億，適用于復(fù)雜的人工智能應(yīng)用。

Nvidia最初開發(fā)了Nemotron作為構(gòu)建和定制AI系統(tǒng)的開放基礎(chǔ)模型，同時(shí)為開發(fā)人員和企業(yè)提供了透明的模型、數(shù)據(jù)和訓(xùn)練技術(shù)，他們可以檢查和調(diào)整。該項(xiàng)目旨在支持推理能力和特定領(lǐng)域的專業(yè)化，使組織能夠根據(jù)自己的數(shù)據(jù)、工作流程和監(jiān)管約束調(diào)整模型。Nvidia發(fā)布了Nemotron模型權(quán)重以及數(shù)據(jù)集、數(shù)值精度方法和用于訓(xùn)練和推理的軟件。

Nemotron 3模型是圍繞混合專家架構(gòu)構(gòu)建的，每個(gè)詞元只激活總參數(shù)的一小部分，使模型能夠提供比早期版本更高的吞吐量和更低的推理成本。Nemotron 3 Nano是一個(gè)300億參數(shù)的模型，一次大約有30億個(gè)活動參數(shù)。Nvidia表示，其詞元吞吐量是Nemotron 2 Nano的四倍，并支持多達(dá)一百萬個(gè)詞元的上下文窗口。預(yù)計(jì)在2026年上半年，更大的Super和Ultra模型將相同的架構(gòu)擴(kuò)展到涉及更多智能體和更長推理鏈的更高精度用例。

除了這些模型，Nvidia還發(fā)布了3萬億個(gè)新的用于訓(xùn)練前、訓(xùn)練后和強(qiáng)化學(xué)習(xí)數(shù)據(jù)詞元，以及開源庫NeMo Gym和NeMo RL。這些工具提供了Nvidia內(nèi)部用于構(gòu)建Nemotron 3的訓(xùn)練環(huán)境和評估框架，旨在提高對模型訓(xùn)練和評估方式的可見性和控制。

在新聞發(fā)布會上，英偉達(dá)企業(yè)生成人工智能軟件副總裁Kari Briski被問及英偉達(dá)是否希望成為前沿模型構(gòu)建者并與專有模型競爭。

“我們不必與專有模型競爭，”她說，并指出Nvidia為開放的開發(fā)者生態(tài)系統(tǒng)構(gòu)建了Nemotron，“真正突破了我們系統(tǒng)在訓(xùn)練和推理方面的極限，我們正在為所有合作伙伴構(gòu)建最好的系統(tǒng)。我不會說這是在競爭。它將交給生態(tài)系統(tǒng)信任和開發(fā)?！?/p>

如果開發(fā)人員已經(jīng)在使用專有模型來構(gòu)建智能體，他們?nèi)绾问褂肗emotron。Briski表示，Nvidia不希望Nemotron取代已經(jīng)使用的專有模型。相反，她描述了一種新興模式，即開發(fā)人員正在使用隨時(shí)間演變的多個(gè)模型構(gòu)建智能體系統(tǒng)。團(tuán)隊(duì)可能從一個(gè)單一的模型開始，但隨著他們收集領(lǐng)域數(shù)據(jù)并完善他們的應(yīng)用程序，他們越來越多地為特定任務(wù)微調(diào)開放模型，并將這項(xiàng)工作跨專業(yè)智能體進(jìn)行路由。在這種情況下，像Nemotron這樣的開放模型用于優(yōu)化應(yīng)用程序中效率和控制最重要的部分，而專有模型則繼續(xù)用于其優(yōu)勢所在的部分。

Nvidia表示，Nemotron的早期采用者包括CrowdStrike、ServiceNow和Perplexity等公司，這些公司正在將這些模型集成到他們的人工智能平臺中。在人工智能搜索引擎Perplexity的案例中，該公司使用了一個(gè)智能體路由系統(tǒng)，該系統(tǒng)動態(tài)地將每個(gè)查詢定向到最適合該任務(wù)的模型。Nvidia表示，Perplexity使用Nemotron的開放模型和相關(guān)技術(shù)，以及其他開放和專有模型，使該平臺能夠優(yōu)化查詢的準(zhǔn)確性、效率和成本。

Nvidia押注智能體AI系統(tǒng)將依賴于多個(gè)模型協(xié)同工作，而不是單個(gè)基礎(chǔ)模型。隨著推理工作負(fù)載變得更加復(fù)雜，推理成本上升，該公司正在將其開放模型、開放數(shù)據(jù)集和高效架構(gòu)定位為尋求平衡成本和控制的生產(chǎn)系統(tǒng)的基本構(gòu)建塊。

與Ai時(shí)代前沿合作，將大門向更多普通用戶敞開！免費(fèi)課程限時(shí)領(lǐng)，還有好禮相送！無論你是對新技術(shù)充滿好奇心的愛好者，還是希望提升自己技能的職場人士，這里都有適合你的課程和資源。文章留言或私信小編拉您入群！