新智元報(bào)道

編輯：好困 桃子

【新智元導(dǎo)讀】谷歌深夜掏家底！Gemma 4全系開(kāi)源，僅用31B越級(jí)斬殺20倍體量巨頭。數(shù)學(xué)能力暴漲68%，硬生生把前代打成計(jì)量單位，開(kāi)源界迎來(lái)終極大洗牌！

谷歌這次，把家底都掏了。

凌晨，谷歌DeepMind正式發(fā)布Gemma 4，一口氣放出四款開(kāi)源模型。

從能塞進(jìn)手機(jī)的2B，到可以單卡跑滿的31B，四個(gè)尺寸全覆蓋，全部基于Gemini 3同源打造。

時(shí)隔一年，Gemma 4終于來(lái)了，實(shí)力迎來(lái)史詩(shī)級(jí)躍遷。

最炸的一個(gè)數(shù)字，31B Dense在Arena AI文本榜單上拿下開(kāi)源第三，Elo評(píng)分1452。

排在它前面的，一個(gè)600多億參數(shù)，一個(gè)超過(guò)1000億。Gemma 4用31B的體量，硬生生擠進(jìn)了這個(gè)量級(jí)的牌桌。

26B MoE更離譜：260億參數(shù)，推理時(shí)只激活38億，Elo打到1441，排開(kāi)源第六。

看一眼成績(jī)單，Gemma 4幾乎沒(méi)有弱點(diǎn)，簡(jiǎn)直就是對(duì)上一代的「血脈壓制」——

• 數(shù)學(xué)（AIME 2026）：89.2% vs 21.2%，暴力拉升68個(gè)百分點(diǎn)；

• 編程（LiveCodeBench）：80% vs 29.1%，實(shí)力堪稱代際斷層；

• 智能體（t2-bench）：Gemma 4狂攬86.4%，Gemma 3僅有6.6%，差距大到「沒(méi)眼看」。

另外，在多語(yǔ)言推理、知識(shí)問(wèn)答的基準(zhǔn)測(cè)試中，Gemma 4均實(shí)現(xiàn)了40%性能飆升。

令全網(wǎng)背脊發(fā)涼的是，一個(gè)31B Gemma 4，越級(jí)斬殺體量是其20倍的模型。

一臺(tái)Mac mimi即可跑Gemma 4，還有人手機(jī)已經(jīng)用上了。

Hugging Face CEO Clément Delangue的評(píng)價(jià)只有一句話，「這是一個(gè)巨大的里程碑?！?/p>

四款模型，從口袋到工作站全覆蓋

先看Gemma 4「全家桶」具體成員——

每個(gè)尺寸都提供base和instruction-tuned兩個(gè)版本。

E2B和E4B負(fù)責(zé)端側(cè)，跟谷歌Pixel團(tuán)隊(duì)、高通、聯(lián)發(fā)科聯(lián)合優(yōu)化，能在手機(jī)、樹(shù)莓派、Jetson Orin Nano上離線運(yùn)行，延遲接近零。

31B和26B面向開(kāi)發(fā)者工作站和服務(wù)器，31B追求極致質(zhì)量，26B靠MoE架構(gòu)換取極致速度。

對(duì)開(kāi)發(fā)者來(lái)說(shuō)，31B的bfloat16權(quán)重可以塞進(jìn)一張80GB的H100；量化版本在消費(fèi)級(jí)顯卡上就能跑。

26B MoE因?yàn)橹患せ?.8B參數(shù)，出token速度極快，適合需要低延遲的Agent場(chǎng)景。

值得一提的是，Gemma 4還支持「被曝抄襲」的TurboQuant壓縮算法。

跑分碾壓，跨級(jí)暴打

看完定位看跑分。

31B在數(shù)學(xué)推理上的表現(xiàn)尤其驚人。AIME 2026拿到89.2%，對(duì)比Gemma 3 27B的20.8%，提升超過(guò)四倍。

GPQA Diamond（科學(xué)知識(shí)）84.3%，同樣把前代遠(yuǎn)遠(yuǎn)甩開(kāi)。

編程能力同樣炸裂。LiveCodeBench v6上31B拿到80%，Codeforces Elo達(dá)到2150，相當(dāng)于一個(gè)紫名選手的水平。26B MoE也不弱，LiveCodeBench 77.1%，Codeforces 1718。

多模態(tài)方面，MMMU Pro（多模態(tài)推理）31B拿到76.9%，26B拿到73.8%，都大幅領(lǐng)先前代的49.7%。

長(zhǎng)上下文能力同樣有質(zhì)的飛躍。MRCR v2 8-needle 128K測(cè)試中，31B拿到66.4%，26B拿到44.1%，Gemma 3 27B只有13.5%。

小尺寸也沒(méi)拉胯，E4B在AIME上42.5%，LiveCodeBench 52%，對(duì)一個(gè)只有45億有效參數(shù)的選手來(lái)說(shuō)，這個(gè)成績(jī)放在一年前是旗艦級(jí)的。

三個(gè)架構(gòu)設(shè)計(jì)

讓小模型打出大模型的牌

Gemma 4的架構(gòu)沒(méi)有堆砌花哨的新概念，反而是把幾個(gè)經(jīng)過(guò)驗(yàn)證的技術(shù)組合到了最優(yōu)狀態(tài)。

谷歌明確表示，他們?nèi)サ袅薃ltup等「效果不確定」的組件，只保留了真正有用的東西。

逐層嵌入（Per-Layer Embeddings，PLE）

傳統(tǒng)Transformer里，每個(gè)token在輸入層獲得一個(gè)嵌入向量，后面所有層都基于這個(gè)初始表示做計(jì)算。問(wèn)題在于，這要求嵌入層一次性把所有信息打包進(jìn)去，負(fù)擔(dān)很重。

PLE的做法是給每一層都配一個(gè)專屬的低維信號(hào)通道。

每個(gè)token在每一層都能收到一個(gè)定制化的向量，由token本身的身份信息和上下文信息共同生成。

打個(gè)比方，傳統(tǒng)做法像是出門(mén)前把一天要用的所有東西塞進(jìn)一個(gè)背包；PLE像是每到一個(gè)地方，都有人遞給你當(dāng)下最需要的工具。

因?yàn)镻LE的維度遠(yuǎn)小于主隱藏層，額外開(kāi)銷(xiāo)很小，但每一層都獲得了專屬的調(diào)節(jié)能力。這個(gè)設(shè)計(jì)在小模型上效果尤其明顯，是E2B和E4B能以極小體量跑出好成績(jī)的關(guān)鍵。

共享KV緩存

最后N層不再自己計(jì)算Key和Value投影，而是直接復(fù)用前面層的KV張量。同類型的注意力層（滑動(dòng)窗口或全局注意力）共享同一組KV狀態(tài)。

效果是推理時(shí)的顯存占用和計(jì)算量都下降了，長(zhǎng)上下文生成和端側(cè)部署尤其受益。谷歌稱這對(duì)質(zhì)量的影響「微乎其微」。

交替注意力機(jī)制

模型交替使用局部滑動(dòng)窗口注意力和全局全上下文注意力。

小模型用512 token的滑動(dòng)窗口，大模型用1024。全局層配合等比例RoPE拉長(zhǎng)上下文覆蓋范圍，滑動(dòng)層用標(biāo)準(zhǔn)RoPE保持局部建模效率。

這三個(gè)設(shè)計(jì)的共同目標(biāo)只有一個(gè)，讓每一個(gè)參數(shù)都盡可能高效地被利用。

看圖、聽(tīng)聲、讀視頻

一個(gè)Gemma全搞定

Gemma 4全系能處理圖像和視頻輸入，E2B和E4B還額外兼容音頻。

視覺(jué)編碼器相比Gemma 3做了兩個(gè)關(guān)鍵升級(jí)，一是可變寬高比（不再?gòu)?qiáng)制裁切），二是可配置的圖像token預(yù)算（70/140/280/560/1120五檔可選）

低預(yù)算適合分類和描述，高預(yù)算適合OCR和文檔解析。開(kāi)發(fā)者可以根據(jù)場(chǎng)景在速度和精度之間自由取舍。

GUI元素檢測(cè)。

給一張網(wǎng)頁(yè)截圖，問(wèn)「view recipe按鈕在哪」，四個(gè)尺寸都能以JSON格式返回精確的邊界框坐標(biāo)，不需要任何特殊提示詞。31B的定位最精準(zhǔn)，E2B稍有偏差但基本可用。

視頻理解。

用一段現(xiàn)場(chǎng)演唱會(huì)視頻做測(cè)試。E4B準(zhǔn)確描述了舞臺(tái)畫(huà)面，也從音軌中提取了歌詞主題。

26B和31B沒(méi)有音頻輸入能力，但對(duì)純視覺(jué)內(nèi)容的理解同樣到位，甚至識(shí)別出了屏幕上的贊助商品牌名。

音頻轉(zhuǎn)寫(xiě)。

E4B對(duì)一段英文演講的轉(zhuǎn)寫(xiě)幾乎完美，標(biāo)點(diǎn)和斷句都很自然。E2B偶爾會(huì)出現(xiàn)幻覺(jué)，但整體可用。

多模態(tài)函數(shù)調(diào)用。

給一張曼谷寺廟的照片，問(wèn)「這是哪個(gè)城市？幫我查一下當(dāng)?shù)靥鞖狻埂?/p>

四個(gè)尺寸都正確識(shí)別出曼谷，并自動(dòng)調(diào)用了get_weather工具。全程不需要額外的提示工程。

函數(shù)調(diào)用是從訓(xùn)練階段就內(nèi)置的，基于去年底發(fā)布的FunctionGemma研究成果，能處理多輪多工具的Agent工作流。這跟之前靠提示詞「哄」模型做工具調(diào)用的路線完全不同。

Apache 2.0，谷歌終于放手了

這次發(fā)布最大的非技術(shù)新聞，是Gemma 4首次采用Apache 2.0協(xié)議。

之前的Gemma系列用的是谷歌自定義許可證，里面有「有害使用」限制條款和歸屬要求，企業(yè)法務(wù)團(tuán)隊(duì)需要逐條審查才能確認(rèn)是否可以商用。

Apache 2.0一步到位，沒(méi)有自定義條款，沒(méi)有灰色地帶，修改、分發(fā)、商用完全自由。

自Gemma初代發(fā)布以來(lái)，累計(jì)下載量超過(guò)4億次，社區(qū)衍生版本超過(guò)10萬(wàn)個(gè)。Apache 2.0的加持下，這個(gè)數(shù)字大概率還會(huì)加速增長(zhǎng)。

開(kāi)源模型，規(guī)則變了

Gemma 4的發(fā)布，讓谷歌的雙線策略徹底成型。

頂層是Gemini系列閉源模型，占據(jù)榜單前列，通過(guò)API變現(xiàn)。底層是Gemma系列開(kāi)源模型，用同源技術(shù)喂養(yǎng)開(kāi)發(fā)者生態(tài)，搶占本地部署、端側(cè)推理、Agent開(kāi)發(fā)的入口。

一個(gè)做收入，一個(gè)做生態(tài)。彼此不沖突，反而互相放大。

對(duì)開(kāi)發(fā)者來(lái)說(shuō)，選擇已經(jīng)擺在面前。

一個(gè)31B的體量，能在單卡上跑出接近千億參數(shù)級(jí)別的效果，Apache 2.0隨便用，從手機(jī)到服務(wù)器全覆蓋，微調(diào)工具鏈完整。

參數(shù)效率這條路，谷歌跑在了最前面。31B打贏20倍體量的對(duì)手，2B塞進(jìn)手機(jī)口袋。

開(kāi)源模型的比賽，規(guī)則已經(jīng)變了。

參考資料：

https://blog.google/innovation-and-ai/technology/developers-tools/gemma-4/