本文由加州大學(xué)伯克利分校、德克薩斯大學(xué)奧斯汀分校、斯坦福大學(xué)、普林斯頓大學(xué)與 Together AI 的研究團(tuán)隊(duì)共同完成。研究團(tuán)隊(duì)致力于探索大語言模型推理優(yōu)化、多模型協(xié)同與高效計(jì)算等前沿方向。

本文作者Monishwaran 和 Leon Lakhani 來自 UC Berkeley，研究方向?yàn)榇笳Z言模型。指導(dǎo)教師是UT Austin 助理教授徐晨豐（研究方向?yàn)楦咝C(jī)器學(xué)習(xí)）和Stanford 教授 James Zou（研究方向?yàn)闄C(jī)器學(xué)習(xí)、計(jì)算生物學(xué)等）。

• 論文鏈接：https://arxiv.org/abs/2604.07725
• 項(xiàng)目主頁：https://squeeze-evolve.github.io
• 代碼倉(cāng)庫(kù)：https://github.com/squeeze-evolve/squeeze-evolve

每個(gè)大語言模型都有其能力天花板。增加推理預(yù)算、生成更多候選、運(yùn)行更多優(yōu)化循環(huán) —— 單個(gè)模型只是在重復(fù)同樣的先驗(yàn)知識(shí)、同樣的失敗模式、同樣的盲點(diǎn)。其生成的答案種群會(huì)逐漸收斂并停滯不前。

如果突破天花板的方法不是更大的模型，而是一套協(xié)同進(jìn)化的模型系統(tǒng)呢？

這就是 Squeeze Evolve 的核心理念：一個(gè)多模型進(jìn)化框架，通過編排具有不同優(yōu)勢(shì)、失敗模式和推理風(fēng)格的模型，在無需任何外部驗(yàn)證器的情況下，產(chǎn)生任何單一模型都無法單獨(dú)實(shí)現(xiàn)的能力。

研究背景

測(cè)試時(shí)擴(kuò)展（Test-time Scaling）通過生成多個(gè)候選答案并通過選擇和重組進(jìn)行迭代優(yōu)化，使模型能夠「更深入地思考」。當(dāng)與外部驗(yàn)證器配合使用時(shí)，這種進(jìn)化方法已在代碼生成和科學(xué)發(fā)現(xiàn)領(lǐng)域取得突破。

然而，在許多重要領(lǐng)域（例如等離子體模擬、濕實(shí)驗(yàn)室實(shí)驗(yàn)、開放式數(shù)學(xué)推理等），驗(yàn)證要么成本過高、速度過慢，要么根本不可用。進(jìn)化必須在沒有真實(shí)反饋的情況下進(jìn)行。

這就是無驗(yàn)證器進(jìn)化，它面臨一個(gè)根本性問題：單模型種群會(huì)崩潰。

沒有外部校正時(shí)，模型會(huì)放大它已經(jīng)知道如何識(shí)別和重現(xiàn)的軌跡。丟棄數(shù)量極少但正確的方案。因此，多樣性在進(jìn)化中至關(guān)重要。一旦多樣性喪失，就無法恢復(fù)，后續(xù)循環(huán)只能重組幸存軌跡的后代，陷入狹窄的解空間模式。

這就是為什么單純擴(kuò)大單個(gè)模型的推理預(yù)算會(huì)遇到收益遞減。瓶頸不是算力，而是多樣性。

方法概述

不同模型具有不同的先驗(yàn)知識(shí)、不同的訓(xùn)練數(shù)據(jù)分布、不同的失敗模式。當(dāng)它們參與同一個(gè)進(jìn)化過程時(shí)，能夠維持單一模型無法獨(dú)立保持的互補(bǔ)譜系。

一個(gè)推理模型可能擅長(zhǎng)多步邏輯推理，但在空間推理上表現(xiàn)不佳。一個(gè)指令微調(diào)模型可能整體較弱，但帶來不同的歸納偏置，保留了推理模型會(huì)剪枝的解決路徑。即使是一個(gè)小得多的模型也能做出有意義的貢獻(xiàn) —— 不是因?yàn)樗?individually 更強(qiáng)，而是因?yàn)樗?strong>以不同的方式犯錯(cuò)。

這就是 Squeeze Evolve 能夠超越任何單一模型能力的機(jī)制。多模型編排不僅僅是成本工程 —— 它是能力放大器。

研究團(tuán)隊(duì)發(fā)現(xiàn)了三個(gè)關(guān)鍵實(shí)證結(jié)果：

1. 初始化主導(dǎo)最終準(zhǔn)確性：Loop 0（初始種群）的質(zhì)量是最終性能的最強(qiáng)預(yù)測(cè)因子。在 AIME 2025 上，反轉(zhuǎn)初始化模型和重組模型的角色會(huì)導(dǎo)致準(zhǔn)確率下降高達(dá) 23 個(gè)百分點(diǎn)。最強(qiáng)模型必須錨定起始種群。
2. 當(dāng)候選集足夠強(qiáng)時(shí)，弱模型是強(qiáng)大的聚合器：當(dāng)一個(gè)組已經(jīng)包含正確軌跡時(shí)，即使小得多的模型也能有效聚合它們 —— 接近 100% 的準(zhǔn)確率。昂貴模型的優(yōu)勢(shì)集中在最難、最不確定的組上。在其他地方，便宜模型不僅足夠，而且充分。
3. 模型置信度預(yù)測(cè)哪里需要能力：從 token 對(duì)數(shù)概率導(dǎo)出的組置信度（Group Confidence, GC）能夠清晰地區(qū)分包含正確軌跡的組和不包含的組。這個(gè)信號(hào)是沒有任何成本的（在推理過程中產(chǎn)生），適用于不同模型家族，并直接告訴我們哪些組需要昂貴模型，哪些可以安全地交給便宜模型處理。

實(shí)驗(yàn)評(píng)估

研究團(tuán)隊(duì)在數(shù)學(xué)推理、視覺理解、科學(xué)發(fā)現(xiàn)等多個(gè)領(lǐng)域進(jìn)行了系統(tǒng)驗(yàn)證。相比單模型 RSA 基線：

• AIME 2025：GPT-OSS-20B 與 GPT-5 mini 組合后以 55% 成本超越 GPT-5 mini（95.4% vs 94.2%）

• MMMU-Pro：使用 Qwen3.5-35B-A3B 和 Kimi-2.5-Thingking 的組合以 43% 的成本超越 Kimi-2.5-Thingking 單模型（79.1% vs 78.6%）

• ARC-AGI-V2：使用 Gemini3 3.1 Pro 大幅超越此前的 RSA 方法 （3.7x 成本節(jié)約，93.3?97.5% 準(zhǔn)確率提升）

• 圓堆積問題：無需驗(yàn)證器的情況下使用開源模型（GPT-OSS 120B + 20B）效果匹配基于驗(yàn)證器的閉源 AlphaEvolve 基線方法（使用 Gemini-2.0 Pro + Flash）

• 在所有 8 個(gè)基準(zhǔn)測(cè)試上成本降低 1.4–3.3x，吞吐量提升 4–10x

總結(jié)與展望

Squeeze Evolve 的核心洞見是：單個(gè)模型的天花板不是模型系統(tǒng)的天花板。

通過將現(xiàn)有的測(cè)試時(shí)擴(kuò)展方法統(tǒng)一到共同的進(jìn)化框架中，研究團(tuán)隊(duì)揭示了一個(gè)設(shè)計(jì)空間，在這個(gè)空間中，模型根據(jù)它們的能力在何處具有最高邊際效用被分配到進(jìn)化角色。結(jié)果不僅僅是更便宜的推理 —— 而是真正更強(qiáng)的推理。協(xié)同進(jìn)化的模型產(chǎn)生它們單獨(dú)無法產(chǎn)生的解決方案。

這將測(cè)試時(shí)擴(kuò)展從「在更大的模型上花更多錢」重新定義為多模型系統(tǒng)優(yōu)化問題。前沿不是僅由單個(gè)模型能力推動(dòng)的 —— 而是由你如何智能地編排已有模型推動(dòng)的。