芯東西（公眾號(hào)：aichip001）
作者 程茜
編輯 漠影

芯東西3月2日消息，近日，多家外媒報(bào)道，非GPU芯片應(yīng)用迎來(lái)爆發(fā)期，前有Meta傳已與谷歌簽署數(shù)十億美元合作，大規(guī)模租用TPU訓(xùn)練模型；后有OpenAI被曝計(jì)劃導(dǎo)入英偉達(dá)基于Groq技術(shù)的AI推理芯片。

這些重磅合作正是全球AI算力格局加速重構(gòu)的縮影。2026年伊始，摩根大通的一份產(chǎn)能報(bào)告流出：谷歌計(jì)劃在2027年部署600-700萬(wàn)顆TPU，大部分將供給Anthropic、OpenAI、Meta以及蘋(píng)果等外部客戶。

無(wú)獨(dú)有偶，2月13日，OpenAI上線GPT-5.3-Codex-Spark。這款模型選擇了一家特殊的芯片廠商來(lái)承接推理任務(wù)——Cerebras，一個(gè)以“晶圓級(jí)芯片”挑戰(zhàn)英偉達(dá)的“叛逆者”。這是OpenAI首次在主力模型上大規(guī)模采用非GPU芯片完成部署，背后原因在于Cerebras帶來(lái)的更低延遲與更低能耗，為實(shí)時(shí)編程帶來(lái)接近實(shí)時(shí)的響應(yīng)體驗(yàn)。

僅僅半年之前，全球AI產(chǎn)業(yè)的目光還牢牢鎖定在英偉達(dá)的財(cái)報(bào)和產(chǎn)能分配上，人們爭(zhēng)相與這家算力巨擘結(jié)成利益同盟。如今，全球頭號(hào)AI玩家們紛紛重新規(guī)劃未來(lái)幾年的芯片訂單。

IDC預(yù)測(cè)，到2028年，中國(guó)非GPU服務(wù)器市場(chǎng)規(guī)模占比將接近50%；高盛投資研究部的模型顯示，全球AI服務(wù)器中非GPU芯片出貨占比，將從2024年的36%增長(zhǎng)至2027年的45%。

▲全球AI芯片中GPU架構(gòu)和非GPU架構(gòu)比例（數(shù)據(jù)來(lái)源：高盛全球投資研究部，芯東西制圖）

面對(duì)日益清晰的算力變局，一個(gè)更深層的轉(zhuǎn)折正在發(fā)生：AI的競(jìng)爭(zhēng)焦點(diǎn)正從單純的算力規(guī)模，深刻轉(zhuǎn)向?qū)δ苄П扰c延遲的極致追求。

這一轉(zhuǎn)折，將GPU推向?qū)擂尉车兀河捎诿看斡?jì)算都需要在外部顯存和計(jì)算單元之間頻繁往返搬運(yùn)數(shù)據(jù)，這種冗長(zhǎng)的傳輸路徑讓GPU始終受困于高能耗和高延遲的先天缺陷。路透社爆料，OpenAI已多次表示對(duì)英偉達(dá)芯片的“不滿”——響應(yīng)速度未達(dá)預(yù)期，在代碼生成產(chǎn)品Codex上感受尤為明顯。

壓力迫使英偉達(dá)這條“巨龍”尋求改變。2025年底，英偉達(dá)不惜以近三倍溢價(jià)拿下Groq核心技術(shù)與團(tuán)隊(duì)。這家公司的創(chuàng)始人Jonathan Ross正是谷歌TPU核心設(shè)計(jì)者。被稱(chēng)為“TPU之父”的他，創(chuàng)立Groq的初衷就是要打造一款超越谷歌TPU的AI芯片。最終，英偉達(dá)以200億美元的天價(jià)，買(mǎi)下了這把“高階TPU”之劍。

去GPU化的趨勢(shì)仍在繼續(xù)。沒(méi)有人愿意把未來(lái)十年的基礎(chǔ)設(shè)施押注在一個(gè)能耗大、延遲高、系統(tǒng)封閉的技術(shù)上。但這場(chǎng)算力變局的核心懸念尚未解開(kāi)：TPU能否真正扛起對(duì)抗GPU的大旗？那個(gè)讓英偉達(dá)不惜押下重注的Groq，又藏著怎樣的技術(shù)底牌？

一、從自用到商用：谷歌TPU擾動(dòng)全球算力格局

一直以來(lái)，谷歌TPU都作為其內(nèi)部的核心算力支撐，專(zhuān)供自家大模型訓(xùn)練與推理使用。而去年至今，谷歌策略發(fā)生重大轉(zhuǎn)變，被曝要正式將TPU推向商用市場(chǎng)。

巨額訂單迅速涌向谷歌。

博通CEO透露，AI明星公司Anthropic下單了總額210億美元（約1486億元人民幣）的訂單，采購(gòu)基于谷歌TPU構(gòu)建的AI算力系統(tǒng)；與此同時(shí)，Meta被曝已與谷歌達(dá)成數(shù)十億美元的AI芯片交易。此外，潛在客戶還包括蘋(píng)果，以及已與SpaceX合并的xAI等，TPU市場(chǎng)規(guī)模持續(xù)擴(kuò)大。

這背后是雙重機(jī)遇的疊加。

一方面，大模型進(jìn)入規(guī)模化落地階段，全球算力需求爆發(fā)、成本壓力加劇，單一依賴(lài)GPU的架構(gòu)瓶頸日益凸顯。

另一方面，谷歌TPU的性能已具備與頂級(jí)GPU分庭抗禮的實(shí)力——2025年推出的第七代TPU，是谷歌迄今為止性能最高、可擴(kuò)展性最強(qiáng)的AI芯片：?jiǎn)涡酒逯邓懔?614 TFLOPS（FP8精度），最大集群9216顆芯片、總算力達(dá)42.5 EFLOPS。

TPU v7在同等算力輸出下功耗僅為英偉達(dá)B200的40%至50%。更為關(guān)鍵的是，依托自研光電路交換機(jī)（OCS）技術(shù)，其萬(wàn)卡級(jí)集群可實(shí)現(xiàn)近乎線性的加速比，顯著降低了傳統(tǒng)GPU集群在萬(wàn)卡規(guī)模下的通信效率損耗。

▲Google TPU v5e、v5p、v6、v7 芯片關(guān)鍵性能對(duì)比（圖片來(lái)源：SemiAnalysis）

谷歌TPU崛起還有更為直接的例證：在TPU上訓(xùn)練的Gemini 3，在多個(gè)權(quán)威基準(zhǔn)測(cè)試中位居榜首，為業(yè)界頂尖模型之一。

此外，對(duì)于大模型公司而言，算力成本是繞不開(kāi)的難題?！懊棵涝a(chǎn)生的Token數(shù)”正取代峰值算力，成為衡量芯片商業(yè)價(jià)值的標(biāo)尺。TPU憑借AI專(zhuān)用架構(gòu)帶來(lái)的2-4倍能效優(yōu)勢(shì)，以及萬(wàn)卡集群近乎線性的擴(kuò)展能力，將大模型推理的綜合成本相比GPU拉低50%以上——這正是Anthropic、Meta們用訂單投票的根本邏輯。

因此，當(dāng)下大多大模型企業(yè)會(huì)選擇采購(gòu)TPU+GPU多元算力來(lái)緩解成本壓力。去年11月，半導(dǎo)體研究機(jī)構(gòu)SemiAnalysis對(duì)比大模型公司的采購(gòu)成本后發(fā)現(xiàn)：與OpenAI相比，同時(shí)使用TPU與GPU的Anthropic，在與英偉達(dá)談判時(shí)擁有更強(qiáng)的議價(jià)權(quán)。這一事實(shí)表明：未來(lái)頭部AI公司，大概率都會(huì)轉(zhuǎn)向“多芯片并行”路線，以降低對(duì)單一架構(gòu)的依賴(lài)、提升成本競(jìng)爭(zhēng)力。

▲OpenAI與Anthropic購(gòu)買(mǎi)算力的成本對(duì)比（圖片來(lái)源：SemiAnalysis）

綜上，谷歌TPU的性能跨越式提升、頂尖大模型的規(guī)?；?yàn)證、頭部AI公司的主動(dòng)布局，這三重因素共同印證，TPU已從過(guò)去的全球算力產(chǎn)業(yè)補(bǔ)充路線，正式升級(jí)為全球算力競(jìng)爭(zhēng)中的主流路線。這不僅打破了長(zhǎng)期由英偉達(dá)絕對(duì)主導(dǎo)的AI芯片格局，也為國(guó)內(nèi)外算力芯片打開(kāi)了全新發(fā)展窗口。

二、不止于TPU：十年磨一劍，“TPU之父”探索更高階的可能

然而，谷歌TPU的成功并非終點(diǎn)。國(guó)內(nèi)外一批聚焦TPU芯片的創(chuàng)新企業(yè)快速崛起，它們擺脫復(fù)刻谷歌TPU的發(fā)展模式，逐步走出了一條差異化、多元化并行的發(fā)展之路。

這其中的代表玩家，就是被英偉達(dá)高價(jià)收購(gòu)的AI芯片創(chuàng)企Groq。這家公司的創(chuàng)始人，被稱(chēng)為“TPU之父”的Jonathan Ross，創(chuàng)立Groq的初衷就是要打造一款超越谷歌TPU的AI芯片。行業(yè)資深專(zhuān)家表示，二者的不同之處與芯片架構(gòu)密切相關(guān)。

谷歌TPU采用“固定架構(gòu)+集群擴(kuò)展”的設(shè)計(jì)思路：其芯片內(nèi)部搭載相對(duì)固定的計(jì)算單元，依托二維數(shù)據(jù)流模式開(kāi)展固定化的算力運(yùn)算；在芯片間互聯(lián)層面，則通過(guò)構(gòu)建3D Torus拓?fù)浣Y(jié)構(gòu)，實(shí)現(xiàn)多芯片間的高效數(shù)據(jù)流傳輸與協(xié)同計(jì)算。

▲谷歌TPU架構(gòu)（圖片來(lái)源：谷歌官網(wǎng)）

與谷歌TPU芯片的固定數(shù)據(jù)流不同，Groq的TSP（Tensor Streaming Processor）芯片是一種“軟件定義硬件”（Software Defined Hardware）的新型數(shù)據(jù)流處理器。

“通過(guò)構(gòu)建可重構(gòu)的軟硬件系統(tǒng)，使其在保持可編程性的同時(shí)，達(dá)到接近ASIC的極致性能。”美國(guó)DARPA“電子復(fù)興計(jì)劃”（ERI）高度看好“軟件定義硬件”技術(shù)，并將其作為國(guó)家級(jí)戰(zhàn)略布局的核心方向之一。

這也是Groq被稱(chēng)之為“高階TPU”的原因。通過(guò)芯片內(nèi)功能切片化微架構(gòu)的底層設(shè)計(jì)，結(jié)合軟件層面的靈活配置能力，TSP可根據(jù)不同任務(wù)場(chǎng)景和計(jì)算需求實(shí)現(xiàn)計(jì)算邏輯與數(shù)據(jù)流路徑映射。同時(shí)，該芯片依托大容量片上SRAM及靜態(tài)調(diào)度機(jī)制，在顯著提升數(shù)據(jù)訪存效率的同時(shí)還能有效降低數(shù)據(jù)搬運(yùn)能耗，實(shí)現(xiàn)計(jì)算效率的提升。

二者的性能表現(xiàn)對(duì)比，Groq的優(yōu)勢(shì)也已經(jīng)得到數(shù)據(jù)驗(yàn)證。公開(kāi)信息顯示，在相同推理任務(wù)中，Groq芯片的首token延遲比谷歌TPU v7芯片降低20%～50%，每token成本降低10%～30%。

架構(gòu)選擇的背后，折射出整個(gè)產(chǎn)業(yè)對(duì)計(jì)算效率瓶頸的重新審視。計(jì)算機(jī)體系結(jié)構(gòu)泰斗、圖靈獎(jiǎng)獲得者David Patterson教授在最新研究中指出，大模型每次生成都繞不開(kāi)數(shù)據(jù)搬運(yùn)，而搬運(yùn)能耗遠(yuǎn)高于計(jì)算本身，未來(lái)的核心命題是“讓數(shù)據(jù)離計(jì)算更近”。

為此，他提出了幾個(gè)AI芯片的演進(jìn)方向：近內(nèi)存處理、3D堆疊、低延遲互連。這些均指向同一個(gè)目標(biāo)——用架構(gòu)創(chuàng)新降低數(shù)據(jù)移動(dòng)的能耗與延遲。

David Patterson的洞察將AI規(guī)?；母?jìng)爭(zhēng)拉回最樸素的物理層面，誰(shuí)能用更低的能耗、更低的延遲跑通下一代模型，誰(shuí)就能在未來(lái)十年的算力牌桌上占得先機(jī)。

三、“高階TPU”含金量還在上升：三大創(chuàng)新將架構(gòu)優(yōu)勢(shì)發(fā)揮至極

相比于Groq所強(qiáng)調(diào)的確定性數(shù)據(jù)流能力，國(guó)內(nèi)的清微智能、海外的Cerebras等芯片企業(yè)在高效的多維度數(shù)據(jù)流動(dòng)態(tài)配置及先進(jìn)集成方式上，還在持續(xù)提升“高階TPU”的含金量。

主要表現(xiàn)為如下幾個(gè)方面：

其一，通過(guò)3D Chiplet技術(shù)構(gòu)建三維立體數(shù)據(jù)流架構(gòu)。依托“計(jì)算核心+3D DRAM芯粒”的組合，清微智能在“垂直+水平”兩個(gè)維度上形成高效數(shù)據(jù)流計(jì)算模式，核心目標(biāo)是突破傳統(tǒng)二維數(shù)據(jù)流架構(gòu)的效率局限。

具體而言，三維數(shù)據(jù)流計(jì)算架構(gòu)可依據(jù)計(jì)算任務(wù)核心需求以及數(shù)據(jù)特性，在水平維度與垂直維度上實(shí)現(xiàn)數(shù)據(jù)流的靈活調(diào)度，最大化縮短數(shù)據(jù)傳輸路徑、提升數(shù)據(jù)流周轉(zhuǎn)效率，顯著降低數(shù)據(jù)搬運(yùn)過(guò)程中的延遲與能耗，最終實(shí)現(xiàn)計(jì)算效率的進(jìn)一步提升。

其二，是依托算力網(wǎng)格技術(shù)構(gòu)建靈活數(shù)據(jù)流計(jì)算范式。該技術(shù)可突破傳統(tǒng)固定組網(wǎng)的擴(kuò)展性與語(yǔ)義適配瓶頸，通過(guò)靈活組網(wǎng)及Scale up與Scale out協(xié)同，能根據(jù)AI任務(wù)特性，實(shí)時(shí)下發(fā)數(shù)據(jù)流的動(dòng)態(tài)配置信息，實(shí)現(xiàn)在多種互聯(lián)拓?fù)浣Y(jié)構(gòu)間靈活切換和精準(zhǔn)調(diào)度，降低互聯(lián)延遲，充分釋放數(shù)據(jù)流架構(gòu)算力。

其三，通過(guò)前沿的晶圓級(jí)芯片技術(shù)，將數(shù)據(jù)流架構(gòu)的優(yōu)勢(shì)發(fā)揮到極致。具體而言，晶圓級(jí)芯片技術(shù)將數(shù)據(jù)流架構(gòu)思想從芯片內(nèi)部擴(kuò)展至整片晶圓尺度，在整片晶圓高密度集成大量計(jì)算核心，極大縮短計(jì)算核心間的互聯(lián)距離，實(shí)現(xiàn)數(shù)量級(jí)的互聯(lián)帶寬提升與通信延遲的降低，從而將數(shù)據(jù)流架構(gòu)的算力規(guī)模與計(jì)算效能發(fā)揮到極致，是數(shù)據(jù)流計(jì)算架構(gòu)的理想物理載體。

以Cerebras晶圓級(jí)芯片為例。實(shí)測(cè)數(shù)據(jù)顯示，Cerebras CS 3系統(tǒng)在推理性能上較英偉達(dá)旗艦DGX B200 Blackwell GPU快21倍，成本與功耗均降低 1/3，在算力、成本、能效上展現(xiàn)出顯著的綜合優(yōu)勢(shì)。

▲Cerebras CS-3 vs英偉達(dá)GPU：大模型推理速度對(duì)比（圖片來(lái)源：Cerebras官網(wǎng)）

結(jié)語(yǔ)：AI算力規(guī)則正在重構(gòu)

當(dāng)谷歌TPU走出圍墻、OpenAI擁抱晶圓級(jí)芯片、英偉達(dá)天價(jià)收編Groq，這些信號(hào)均指向同一個(gè)方向：TPU已變成巨頭們真金白銀押注的主戰(zhàn)場(chǎng)。

算力世界的單極時(shí)代，正在被多元架構(gòu)終結(jié)。決定下一代AI天花板的，不再是算力堆砌的軍備競(jìng)賽，而是能耗、延遲、確定性共同構(gòu)成的AI能力新指標(biāo)。

對(duì)于國(guó)產(chǎn)芯片而言，這場(chǎng)變局既是機(jī)遇也是挑戰(zhàn)。跟隨者只能瓜分殘羹，唯有走出自己的底層創(chuàng)新之路，才有資格參與下一輪全球算力洗牌。