百萬(wàn)Tokens推理成本降低100倍以上、DeepVerse技術(shù)路線圖重磅公開(kāi)、未來(lái)三年大算力戰(zhàn)略清晰錨定——這幅AI算力進(jìn)化的宏圖正徐徐展開(kāi)。

當(dāng)AI大模型從訓(xùn)練走向應(yīng)用，推理芯片的時(shí)代正在悄然來(lái)臨。2月3日，云天勵(lì)飛董事長(zhǎng)兼 CEO 陳寧在“大算力芯片戰(zhàn)略前瞻會(huì)”詮釋了一個(gè)清晰的信號(hào)：All in AI大算力推理芯片，打造“中國(guó)版TPU”。

這家2014年成立于深圳的AI公司，在過(guò)去十年里走過(guò)了從小模型到大模型、從感知智能到通用智能的完整歷程。

1

機(jī)遇

“從2025年開(kāi)始，接下來(lái)5～10年將是AI推理芯片的高光時(shí)刻?！标悓幗忉?zhuān)瑔我淮竽Ｐ偷乃懔π枨笳谝泽@人的速度增長(zhǎng)。

2024年下半年，豆包大模型的每日TOKEN數(shù)量為0.12萬(wàn)億；而到了2025年9月，這一數(shù)字已突破30萬(wàn)億；三個(gè)月后，再次攀升至50萬(wàn)億。

陳寧強(qiáng)調(diào)：“這些激增的TOKEN數(shù)量就是未來(lái)第四次工業(yè)革命的電和水，是真正的核心生產(chǎn)力”。而如此海量的TOKEN需要的不是訓(xùn)練，而是推理。

一個(gè)典型的例子，英偉達(dá)剛剛花了200億美元收購(gòu)了一家ASIC推理芯片公司Grok，在短短四個(gè)月內(nèi)，Grok的市值從70億美元飆升至200億美元，增長(zhǎng)速度已經(jīng)超越了英偉達(dá)。究其原因，陳寧認(rèn)為：“因?yàn)樵谶^(guò)去三年，推理芯片的增長(zhǎng)已經(jīng)潛移默化地超越了訓(xùn)練芯片的增長(zhǎng)?！?/p>

2

布局

云天勵(lì)飛的技術(shù)壁壘主要集中于兩方面：獨(dú)特的GPNPU芯片推理架構(gòu)和基于國(guó)產(chǎn)工藝的全面能力。

GPNPU并非單一概念，而是一個(gè)高度濃縮的名詞，包含了四個(gè)關(guān)鍵技術(shù)亮點(diǎn)：

首先是具有GPGPU級(jí)別的通用編程能力，實(shí)現(xiàn)CUDA兼容，讓客戶(hù)能夠在GPU上訓(xùn)練的模型“一行代碼”部署到云天勵(lì)飛芯片上。

其次是NPU帶來(lái)的推理效率提升，基于團(tuán)隊(duì)20年的NPU技術(shù)積累。由專(zhuān)用的指令集去實(shí)現(xiàn)單位硅芯片面積上更高效的計(jì)算密度，這也正是云天勵(lì)飛團(tuán)隊(duì)所擅長(zhǎng)。

第三個(gè)亮點(diǎn)是3D memory結(jié)構(gòu)的引入，能夠?qū)崿F(xiàn)10倍于當(dāng)前訓(xùn)練芯片HBM的超大帶寬。

最后是“算力積木”架構(gòu)，通過(guò)Chiplet技術(shù)將多個(gè)Die封裝在單一芯片內(nèi)，滿(mǎn)足萬(wàn)億級(jí)乃至十萬(wàn)億級(jí)MOE架構(gòu)大模型的推理需求。

由此得出：“GPNPU 是中國(guó)版TPU的最優(yōu)解。”今年，云天勵(lì)飛也將全面推出GPNPU的架構(gòu)，并且打造更加豐富的生態(tài)。

3

差異

“訓(xùn)練芯片和推理芯片對(duì)于算力的需求完全不同?！标悓幗忉屃藘烧叩母緟^(qū)別。

訓(xùn)練芯片需要復(fù)雜的精度（16比特、64比特），對(duì)成本并不敏感；而推理芯片則更關(guān)注成本、效率和市場(chǎng)經(jīng)濟(jì)學(xué)，通常采用量化、剪枝技術(shù)，將復(fù)雜度從32比特降至16比特、8比特甚至更低。

“推理我們關(guān)注極致的性?xún)r(jià)比，要把百萬(wàn)TOKEN的成本每年降低100倍，到2030年我們要實(shí)現(xiàn)百億TOKEN一分錢(qián)人民幣。”陳寧立下目標(biāo)。

這種對(duì)性?xún)r(jià)比的極致追求，也是云天勵(lì)飛選擇國(guó)產(chǎn)工藝的原因之一。早在2020年，他們就戰(zhàn)略性決定將工藝轉(zhuǎn)向國(guó)內(nèi)，全面擁抱國(guó)產(chǎn)工藝。云天勵(lì)飛CTO李?lèi)?ài)軍非常自豪：“五年的時(shí)間，我們從芯片的設(shè)計(jì)到先進(jìn)的制程、封裝，整個(gè)芯片的全流程都實(shí)現(xiàn)了全國(guó)產(chǎn)。”

4

戰(zhàn)略

會(huì)上，云天勵(lì)飛提出了明確的三年規(guī)劃：將不遺余力投入大算力芯片DeepVerse的研發(fā)，圍繞推理成本、時(shí)延與吞吐的核心矛盾持續(xù)迭代，并按產(chǎn)品節(jié)奏梯度覆蓋市場(chǎng)需求。

陳寧展現(xiàn)出極強(qiáng)的信心：“在訓(xùn)練芯片領(lǐng)域，我們努力的目標(biāo)是持續(xù)追趕，保持差距不被拉大。但是在推理芯片領(lǐng)域，中國(guó)完全有機(jī)會(huì)依托豐富的應(yīng)用場(chǎng)景、電網(wǎng)和基礎(chǔ)設(shè)施能力進(jìn)行超車(chē)?！?/p>

5

生態(tài)

云天勵(lì)飛的戰(zhàn)略不僅僅停留在芯片層面。陳寧在演講中詳細(xì)介紹了該公司的“1+4”組織架構(gòu)調(diào)整：聚焦AI大算力推理芯片的同時(shí)，打造了四個(gè)事業(yè)部。

這些事業(yè)部構(gòu)成了云天勵(lì)飛“把推理芯片不僅做出來(lái)，更要做好、賣(mài)出去”的完整生態(tài)。具體而言，政企事業(yè)部是公司的基石，在各個(gè)行業(yè)沉淀了大量knowhow；智算事業(yè)部面向互聯(lián)網(wǎng)大廠；此外，他們還孵化了面向兒童的AI原生硬件智能體“嚕咔”?！斑@四個(gè)事業(yè)部讓云天勵(lì)飛成為中國(guó)最懂AI的推理芯片領(lǐng)軍企業(yè)?！?/p>

6

中國(guó)正站在第四次工業(yè)革命的門(mén)口。陳寧在演講結(jié)束時(shí)描繪了一幅歷史畫(huà)卷：“中國(guó)四大發(fā)明曾經(jīng)領(lǐng)先全球一兩千年。今天在能源、開(kāi)源模型、應(yīng)用、基礎(chǔ)設(shè)施上，中國(guó)可以說(shuō)在全球領(lǐng)先，唯獨(dú)AI芯片還未實(shí)現(xiàn)領(lǐng)先?！?/p>

AI推理芯片，正成為各國(guó)能否搶占第四次工業(yè)革命先機(jī)的關(guān)鍵。我們相信，隨著云天勵(lì)飛在國(guó)產(chǎn)大算力推理芯片上的全面布局，中國(guó)在這場(chǎng)AI芯片競(jìng)賽中已經(jīng)找到了自己的跑道。

本文內(nèi)容資料源自公告及媒體公開(kāi)報(bào)道，不構(gòu)成任何投資建議，如有任何問(wèn)題，敬請(qǐng)讀者與我們聯(lián)系info@gsi24.com。

歡迎分享、點(diǎn)贊、在看，讓更多人看到中國(guó)“芯”突破！