英偉達(dá)整合LPU（語(yǔ)言處理單元）技術(shù)、OpenAI多線押注推理芯片，正在將AI算力競(jìng)爭(zhēng)的主戰(zhàn)場(chǎng)從訓(xùn)練切換至推理。申萬(wàn)宏源研究認(rèn)為，2026年算力產(chǎn)業(yè)的核心關(guān)鍵詞將是推理，Token消耗總量與技術(shù)范式均將圍繞這一主題深度重構(gòu)。

2月28日，據(jù)《華爾街日?qǐng)?bào)》報(bào)道，英偉達(dá)計(jì)劃在下月的GTC開(kāi)發(fā)者大會(huì)上發(fā)布一款整合了Groq“語(yǔ)言處理單元”（LPU）技術(shù)的全新推理芯片，英偉達(dá)首席執(zhí)行官黃仁勛稱其為“世界從未見(jiàn)過(guò)”的全新系統(tǒng)。OpenAI已同意成為該處理器的最大客戶之一，并將向英偉達(dá)購(gòu)買大規(guī)?！皩Ｓ猛评懋a(chǎn)能”。

與此同時(shí)，OpenAI上月還與初創(chuàng)公司Cerebras達(dá)成數(shù)十億美元計(jì)算合作，后者稱其推理芯片速度已超越英偉達(dá)GPU（圖形處理器）。這一系列動(dòng)向表明，AI巨頭正在從訓(xùn)練算力的軍備競(jìng)賽，轉(zhuǎn)向推理算力的多線布局。

申萬(wàn)宏源報(bào)告指出，Token經(jīng)濟(jì)時(shí)代，推理算力正迎來(lái)四大趨勢(shì)：一是純CPU（中央處理器）部署場(chǎng)景增多，低成本推理需求加速算力下沉；二是LPU等專用架構(gòu)崛起，挑戰(zhàn)GPU在推理環(huán)節(jié)的主導(dǎo)地位；三是國(guó)產(chǎn)算力芯片加速突破，供應(yīng)鏈多元化趨勢(shì)明確；四是推理算力的需求結(jié)構(gòu)從“單次訓(xùn)練”向“海量Token消耗”轉(zhuǎn)變，性價(jià)比成為核心競(jìng)爭(zhēng)要素。

報(bào)告表示，能夠提供充足、高性價(jià)比推理芯片的廠商將最為受益，而CPU、LPU及國(guó)產(chǎn)芯片的共同突破，正構(gòu)成這一輪算力格局重塑的核心線索。

推理需求全面爆發(fā)，Token消耗創(chuàng)歷史新高

申萬(wàn)宏源研究認(rèn)為，需求持續(xù)擴(kuò)張的背后是兩大結(jié)構(gòu)性驅(qū)動(dòng)力：一是大模型貨幣化加速，Claude等模型開(kāi)始向應(yīng)用端切入，發(fā)布多款行業(yè)插件；二是Agent落地提速，openclaw、千問(wèn)Agent等產(chǎn)品標(biāo)志著Agent正進(jìn)入真實(shí)的工作與生產(chǎn)場(chǎng)景，而每一次模型調(diào)用和Agent任務(wù)執(zhí)行，背后均需大量推理算力支撐。

申萬(wàn)宏源研究援引數(shù)據(jù)顯示，春節(jié)期間國(guó)內(nèi)頭部大模型推理量大幅增長(zhǎng)：豆包除夕當(dāng)天推理吞吐量達(dá)633億tokens，元寶月活躍用戶達(dá)1.14億，千問(wèn)“春節(jié)大免單”活動(dòng)參與人數(shù)超1.2億。

全球AI模型API聚合平臺(tái)OpenRouter的數(shù)據(jù)進(jìn)一步揭示了這一趨勢(shì)的量級(jí)。2月9日至15日當(dāng)周，中國(guó)模型以4.12萬(wàn)億Token的調(diào)用量首次超過(guò)美國(guó)模型的2.94萬(wàn)億Token；16日至22日當(dāng)周，中國(guó)模型調(diào)用量進(jìn)一步?jīng)_高至5.16萬(wàn)億Token，三周大漲127%，全球調(diào)用量前五的模型中中國(guó)占據(jù)四席。

LPU成新貴，訓(xùn)練與推理芯片走向分化

英偉達(dá)斥資200億美元獲取Groq核心技術(shù)許可，并在“核心聘用”交易中吸納了包括創(chuàng)始人Jonathan Ross在內(nèi)的高管團(tuán)隊(duì)。申萬(wàn)宏源研究認(rèn)為，這一交易標(biāo)志著純推理芯片的重要性已獲得頂級(jí)玩家的正式認(rèn)可。

LPU與傳統(tǒng)GPU的架構(gòu)差異，正是其在推理場(chǎng)景中具備效率優(yōu)勢(shì)的根本原因。AI推理分為預(yù)填充和解碼兩個(gè)階段，大型模型的解碼過(guò)程尤其緩慢，而LPU針對(duì)延遲和內(nèi)存帶寬這兩大推理瓶頸進(jìn)行了專項(xiàng)優(yōu)化。據(jù)華爾街見(jiàn)聞此前報(bào)道，英偉達(dá)即將發(fā)布的新品可能涉及下一代Feynman架構(gòu)，或采用更廣泛的SRAM集成方案，甚至通過(guò)3D堆疊技術(shù)將LPU深度整合其中。

申萬(wàn)宏源研究據(jù)此判斷，未來(lái)AI芯片將形成明確的技術(shù)分工格局：訓(xùn)練端繼續(xù)沿用GPU-HBM組合，推理端則演進(jìn)為ASIC+LPU-SRAM+SSD的組合方案。隨著算力需求從訓(xùn)練向推理切換，專注推理芯片的廠商將迎來(lái)發(fā)展機(jī)遇。

推理系統(tǒng)全面革新，CPU與網(wǎng)絡(luò)需求同步提升

從單一芯片到系統(tǒng)層面的革新，是本輪推理算力升級(jí)的另一重要維度。申萬(wàn)宏源研究指出，隨著應(yīng)用場(chǎng)景從chatbot轉(zhuǎn)向Agent，算力系統(tǒng)對(duì)延遲、吞吐與思考深度的要求同時(shí)提升，推動(dòng)系統(tǒng)架構(gòu)向三層網(wǎng)絡(luò)演進(jìn)。

第一層為快反應(yīng)層，由搭載SRAM的純推理芯片提供極致低延遲反饋；第二層為慢思考層，使用超大吞吐算力集群負(fù)責(zé)復(fù)雜邏輯推演，多核多線程CPU在此層的需求將顯著增加；第三層為記憶層，對(duì)應(yīng)英偉達(dá)發(fā)布的ContextMemory System，通過(guò)Bluefield4 DPU管理的SSD存儲(chǔ)Agent的長(zhǎng)期記憶與KV Cache。

英偉達(dá)在硬件層面也在調(diào)整策略。此前將Vera CPU與Rubin GPU捆綁部署的標(biāo)準(zhǔn)做法，在特定AI智能體工作負(fù)載下被證明成本過(guò)高。英偉達(dá)本月宣布擴(kuò)大與Meta Platforms的合作，完成首次大規(guī)模純CPU部署，以支持Meta的廣告定向AI智能體，標(biāo)志著公司正超越單一GPU銷售模式。

國(guó)產(chǎn)算力加速突破

申萬(wàn)宏源研究認(rèn)為，國(guó)產(chǎn)推理芯片的技術(shù)升級(jí)值得重點(diǎn)關(guān)注，且存在市場(chǎng)預(yù)期差。

在技術(shù)層面，新一代國(guó)產(chǎn)推理芯片實(shí)現(xiàn)了多項(xiàng)根本性提升：新增支持FP8/MXFP8/MXFP4等低精度數(shù)據(jù)格式，算力分別達(dá)到1P和2P；大幅提升向量算力，采用支持SIMD/SIMT雙編程模型的新同構(gòu)設(shè)計(jì)；互聯(lián)帶寬相比前代提升2.5倍，達(dá)到2TB/s。

尤為值得關(guān)注的是，芯片層面實(shí)現(xiàn)了PD分離：通過(guò)自研兩種不同規(guī)格的HBM，分別構(gòu)成面向Prefill和推薦場(chǎng)景的PR版本，以及面向Decode和訓(xùn)練場(chǎng)景的DT版本。其中PR版本采用低成本HBM，可大幅降低推理Prefill階段的投資成本，預(yù)計(jì)于2026年Q1推出。

供應(yīng)鏈層面，國(guó)產(chǎn)封測(cè)廠商的進(jìn)展提供了佐證。根據(jù)某頭部封測(cè)企業(yè)首輪問(wèn)詢答復(fù)函，其2.5D封裝業(yè)務(wù)收入主要來(lái)自高性能計(jì)算芯片封裝服務(wù)，該項(xiàng)收入從2022年的0.5億元快速增長(zhǎng)至2024年的18.2億元，側(cè)面印證國(guó)產(chǎn)算力芯片供給能力持續(xù)提升，供應(yīng)鏈國(guó)產(chǎn)化進(jìn)程加快。