英偉達(dá)正在自主智能體基礎(chǔ)設(shè)施競(jìng)爭(zhēng)中發(fā)力，標(biāo)志著這家芯片巨頭在人工智能（AI）競(jìng)賽中從硬件供應(yīng)商向模型層深度延伸的戰(zhàn)略轉(zhuǎn)變。

美東時(shí)間11日周三，英偉達(dá)宣布推出新一代開源大語(yǔ)言模型Nemotron 3 Super，專為企業(yè)級(jí)多智能體系統(tǒng)設(shè)計(jì)，憑借全新的混合專家（MoE）架構(gòu)，將推理吞吐量提升至上一代模型的五倍以上。該模型的總參數(shù)量達(dá)1200億，推理時(shí)僅激活120億參數(shù)，原生支持100萬token上下文窗口。

英偉達(dá)表示，Nemotron 3 Super在效率與開放性方面已登頂Artificial Analysis榜首，同等規(guī)模模型中準(zhǔn)確率領(lǐng)先，并驅(qū)動(dòng)英偉達(dá)AI-Q研究智能體在DeepResearch Bench及DeepResearch Bench II兩大排行榜中位列第一。

英偉達(dá)披露了Nemotron 3 Super的首批合作伙伴。AI搜索公司Perplexity成為首家接入該模型執(zhí)行智能體任務(wù)的合作方，為用戶提供搜索及Computer產(chǎn)品中的多智能體編排服務(wù)。Palantir、西門子、Cadence、達(dá)索系統(tǒng)及Amdocs等企業(yè)軟件巨頭也已宣布將部署該模型，用于電信、網(wǎng)絡(luò)安全、半導(dǎo)體設(shè)計(jì)及制造等領(lǐng)域的工作流自動(dòng)化。

Nemotron 3 Super模型現(xiàn)已通過英偉達(dá)旗下build.nvidia.com、Hugging Face及OpenRouter等渠道向開發(fā)者開放。

兩大瓶頸催生新架構(gòu)

英偉達(dá)在博客中指出，企業(yè)從聊天機(jī)器人邁向多智能體應(yīng)用時(shí)，面臨兩項(xiàng)核心約束。

其一為"上下文爆炸"：多智能體工作流每次交互均需重新傳輸完整歷史記錄（含工具輸出和中間推理步驟），生成的token數(shù)量最高可達(dá)標(biāo)準(zhǔn)對(duì)話的15倍。隨著任務(wù)延伸，這一海量上下文不僅推高成本，還會(huì)導(dǎo)致"目標(biāo)漂移"——智能體逐漸偏離原始目標(biāo)。

其二為"思考稅"：復(fù)雜智能體須在每一步驟進(jìn)行推理，若每個(gè)子任務(wù)均調(diào)用大型模型，多智能體應(yīng)用將因成本高昂、響應(yīng)遲緩而難以落地。

Nemotron 3 Super通過100萬token原生上下文窗口直接回應(yīng)上下文爆炸問題，確保智能體在超長(zhǎng)任務(wù)中保持狀態(tài)連貫，防止目標(biāo)漂移。而混合架構(gòu)設(shè)計(jì)則針對(duì)性化解思考稅。

三重架構(gòu)創(chuàng)新支撐五倍提速

英偉達(dá)博客披露，Nemotron 3 Super的性能躍升來自三項(xiàng)架構(gòu)層面的核心創(chuàng)新。

• 混合Mamba-Transformer骨干網(wǎng)絡(luò)：模型交錯(cuò)部署Mamba-2層與Transformer注意力層。Mamba層處理大部分序列任務(wù)，以線性時(shí)間復(fù)雜度提供4倍內(nèi)存與計(jì)算效率提升，使百萬token上下文窗口具備實(shí)際可行性；Transformer層則在關(guān)鍵深度插入，保障精確的關(guān)聯(lián)召回能力。
• 潛在專家混合模型（latent MoE）：在路由決策前，將token嵌入壓縮至低秩潛空間，專家計(jì)算在該較小維度內(nèi)完成后再投影回全維度。英偉達(dá)表示，這一設(shè)計(jì)使模型以相同推理成本激活4倍數(shù)量的專家，實(shí)現(xiàn)更細(xì)粒度的專業(yè)化路由——例如針對(duì)Python語(yǔ)法與SQL邏輯分別激活不同專家。
• 多token預(yù)測(cè)（MTP）：模型在單次前向傳播中同步預(yù)測(cè)多個(gè)未來token，而非逐token生成。英偉達(dá)稱，這一設(shè)計(jì)在訓(xùn)練階段強(qiáng)化了模型對(duì)長(zhǎng)程邏輯依賴的內(nèi)化，在推理階段則內(nèi)置推測(cè)解碼能力，對(duì)代碼和工具調(diào)用等結(jié)構(gòu)化生成任務(wù)實(shí)現(xiàn)最高3倍的速度提升，且無需額外草稿模型。

在英偉達(dá)Blackwell平臺(tái)上，該模型以NVFP4精度運(yùn)行，相比英偉達(dá)Hopper平臺(tái)的FP8，推理速度最高提升至4倍，且據(jù)英偉達(dá)稱精度無損失。

開放權(quán)重疊加多層生態(tài)布局

與當(dāng)前主流前沿模型普遍采用API-only訪問方式不同，英偉達(dá)選擇以寬松許可協(xié)議開放Nemotron 3 Super的權(quán)重、數(shù)據(jù)集與訓(xùn)練方案，開發(fā)者可在工作站、數(shù)據(jù)中心或云端自由部署與定制。

英偉達(dá)同步公開了完整的訓(xùn)練與評(píng)估方案，涵蓋預(yù)訓(xùn)練至對(duì)齊的全流程，并發(fā)布超過10萬億token的預(yù)訓(xùn)練及后訓(xùn)練數(shù)據(jù)集、21個(gè)強(qiáng)化學(xué)習(xí)訓(xùn)練環(huán)境以及評(píng)估方案。預(yù)訓(xùn)練階段，模型在25萬億token上以NVFP4原生精度訓(xùn)練，從首次梯度更新起即在4位浮點(diǎn)運(yùn)算約束下學(xué)習(xí)準(zhǔn)確性，而非事后量化。

在生態(tài)層面，英偉達(dá)已與谷歌云Vertex AI、甲骨文云基礎(chǔ)設(shè)施、戴爾技術(shù)、HPE等主流云服務(wù)商及硬件廠商達(dá)成合作，亞馬遜AWS Bedrock及微軟Azure的接入亦在籌備中。CodeRabbit、Factory、Greptile等軟件開發(fā)智能體公司，以及生命科學(xué)機(jī)構(gòu)Edison Scientific和Lila Sciences，也已宣布將該模型整合至其智能體工作流。

"Super+Nano"組合部署

英偉達(dá)在博客中還闡述了Nemotron 3系列的協(xié)同部署邏輯。去年12月推出的Nemotron 3模型Nano版本適合處理智能體工作流中針對(duì)性的單步任務(wù)，Nemotron 3 Super則專為需要深度規(guī)劃與推理的復(fù)雜多步驟任務(wù)而設(shè)計(jì)。

以軟件開發(fā)場(chǎng)景為例，英偉達(dá)建議：簡(jiǎn)單的合并請(qǐng)求可由Nano處理，涉及對(duì)代碼庫(kù)深度理解的復(fù)雜編碼任務(wù)交由Super承擔(dān)，而專家級(jí)任務(wù)則可進(jìn)一步調(diào)用第三方專有模型。這一分層架構(gòu)旨在幫助企業(yè)在成本與能力之間尋求最優(yōu)平衡。

在具體應(yīng)用場(chǎng)景上，英偉達(dá)博客舉例稱，軟件開發(fā)智能體可將整個(gè)代碼庫(kù)一次性加載至上下文，實(shí)現(xiàn)端到端代碼生成與調(diào)試；金融分析場(chǎng)景下可將數(shù)千頁(yè)報(bào)告載入內(nèi)存，省去跨長(zhǎng)對(duì)話的重復(fù)推理；網(wǎng)絡(luò)安全中的自主安全編排場(chǎng)景則可受益于高精度工具調(diào)用，避免在高風(fēng)險(xiǎn)環(huán)境中出現(xiàn)執(zhí)行錯(cuò)誤。

硬件護(hù)城河的模型層延伸

英偉達(dá)此次開放模型策略背后是一套清晰的商業(yè)邏輯。此前，英偉達(dá)主要通過向OpenAI、谷歌等模型提供商出售GPU積累AI領(lǐng)域主導(dǎo)地位。如今，若Nemotron成為企業(yè)智能體AI的主流基礎(chǔ)模型，大規(guī)模運(yùn)行該模型所需的GPU基礎(chǔ)設(shè)施仍將倚重英偉達(dá)——在模型層推進(jìn)開放的同時(shí)，鞏固硬件層的需求鎖定。

目前，Nemotron 3 Super已通過英偉達(dá)NIM微服務(wù)打包交付，支持從本地到云端的靈活部署。性能數(shù)據(jù)能否在生產(chǎn)級(jí)工作負(fù)載下得到驗(yàn)證，以及企業(yè)客戶如何在開放靈活性與競(jìng)爭(zhēng)對(duì)手專有模型能力之間做出取舍，將是檢驗(yàn)這一戰(zhàn)略成效的關(guān)鍵變量。