本項目由斯坦福大學(xué) CS 博士生 Jacky Kwok負(fù)責(zé)，主要貢獻者包括伯克利 EECS 博士生 Shulu Li。通訊作者為Ion Stoica（UC 伯克利教授、Databricks 創(chuàng)始人）、Azalia Mirhoseini（斯坦福教授，曾任職于 DeepMind 與 Anthropic）、以及 Marco Pavone（英偉達 AI 與自動駕駛研究總監(jiān)）。

斯坦福、伯克利與英偉達聯(lián)合提出 Agent 驗證框架 LLM-as-a-Verifier。該方法是一種通用的驗證機制，可與任意 Agent Harness 和模型結(jié)合。

研究表明，通過擴展驗證階段的計算量（scaling verification compute），可以顯著提升 agent 整體性能，并在最有影響力的 AI 編程基準(zhǔn) Terminal-Bench 上超越 GPT-5.5 和 Claude Mythos！

LLM-as-a-Verifier 在 AI Coding 基準(zhǔn) Terminal-Bench 和 SWE-Bench Verified 上均取得了當(dāng)前最優(yōu)（SOTA）性能。 Transformer 論文作者 Lukasz Kaiser 以及 GAN 作者 Bing Xu 也對該工作進行了轉(zhuǎn)發(fā)與關(guān)注。

• 博客地址：llm-as-a-verifier.notion.site
• 代碼地址：llm-as-a-verifier.github.io

方法概述

大多數(shù) Agent Harness 實際上已經(jīng)「具備」解決問題的能力 。當(dāng)我們多次運行同一個 Agent（例如運行 100 次），它往往能夠在某一次嘗試中生成正確答案。但問題在于，它們無法判斷哪一個才是正確的。這一問題在長時序任務(wù)（long-horizon tasks）中尤為嚴(yán)重。

LLM-as-a-Verifier 通過 scaling評分 token 的細粒度（score granularity）、多次評估（repeated verification）以及評價標(biāo)準(zhǔn)的分解（criteria decomposition），顯著提升了驗證能力，并進一步提高了下游任務(wù)的成功率。此外，團隊發(fā)現(xiàn)隨著評分 token 細粒度的提升，正負(fù)樣本之間的得分區(qū)分度會進一步拉大。

核心問題：LLM-as-a-Judge 的局限性

標(biāo)準(zhǔn)的 LLM-as-a-Judge 通過提示模型輸出一個評分結(jié)果（例如，1 到 8 之間的分?jǐn)?shù)），并選擇概率最高的評分作為最終的離散分?jǐn)?shù)。

然而，這種方法往往存在評分粒度過于粗糙的問題。在比較長時序 agent 軌跡（trajectories ）時，LLM-as-a-Judge 通常會為不同的軌跡分配相同的分?jǐn)?shù)（例如，兩條軌跡都被評為 4 分），從而導(dǎo)致平局，無法有效區(qū)分它們。

這種粗粒度的評分機制在 Terminal-Bench 上出現(xiàn)了27%的平局情況，限制了評判的精確性和區(qū)分能力。

LLM-as-a-Verifier: 從判分到驗證的范式轉(zhuǎn)變

從定義上講，judge（裁判者）是對整體情況形成總體判斷并給出結(jié)論的人；而 verifier（驗證者）則是對具體事項進行真實及正確性核驗的人，因此需要更細致、更具體的評估。

為此，團隊提出了 LLM-as-a-Verifier。它通過擴展以下三個維度來提供細粒度反饋：

1. 重復(fù)驗證的次數(shù)（repeated verifications）
2. 評分 token 的粒度（granularity of score tokens）
3. 評估標(biāo)準(zhǔn)的分解（decomposition of evaluation criteria）

LLM-as-a-Verifier 將軌跡的獎勵表示為：

其中：

在選擇最佳軌跡時，團隊采用循環(huán)賽（round-robin tournament）：對每一對候選軌跡 (i, j), 驗證器都會利用上述公式計算其 reward。獎勵更高的軌跡獲得勝利，而在全部比較中勝場數(shù)最多的軌跡，將被選為最終結(jié)果。

實驗結(jié)果

1.在 Terminal-Bench 2.0 和 SWE-Bench Verified 等復(fù)雜的長時序基準(zhǔn)任務(wù)中，LLM-as-a-Verifier 的表現(xiàn)全面超越了前沿模型并均取得了當(dāng)前最優(yōu)（SOTA）性能。所有實驗結(jié)果均來源于官方排行榜。

2.LLM-as-a-Verifier 能夠在不同的 Agent Harness 框架中實現(xiàn)無縫集成，其通用性驗證于以下三個基準(zhǔn)任務(wù)：

• ForgeCode：驗證準(zhǔn)確率提升至 86.4%
• Terminus-Kira：準(zhǔn)確率提升至 79.4%
• Terminus 2：準(zhǔn)確率增加至 71.2%

這表明，無論針對何種 Agent Harness 或模型，該驗證方法皆可高效兼容并提升性能。

3.LLM-as-a-Verifier 在驗證準(zhǔn)確率和消除平局方面全面領(lǐng)先于傳統(tǒng)的 LLM-as-a-Judge。即使在增加重復(fù)驗證次數(shù)的情況下（如 k = 16），Verifier 方法依然保持了至少 7% 的驗證準(zhǔn)確率優(yōu)勢。此外，它完全消除了平局現(xiàn)象。

4.試驗結(jié)果表明，增加評分 token 的粒度（granularity）以及提高重復(fù)驗證次數(shù)（repeated verifications）均顯著提高驗證準(zhǔn)確率。此外，在評分 token 維度的細化分級（1→20）中，量化誤差得到了極大降低，從而更接近真實獎勵。

5.LLM-as-a-Verifier 放棄傳統(tǒng)的單一評分機制，采用將軌跡驗證解構(gòu)為三個可組合的評估標(biāo)準(zhǔn)：

• 規(guī)范合規(guī)性 (Specification)：軌跡是否符合所有任務(wù)要求（路徑、命名等）；
• 輸出格式 (Output Format)：驗證輸出的格式是否符合預(yù)期結(jié)果；
• 錯誤檢測 (Error Checking)：軌跡中是否存在明顯的錯誤信號。

驗證計算作為新的擴展維度

「LLM-as-a-Verifier」是一種通用驗證機制，能夠顯著提升 Agent 的整體性能，并在多個 AI 編程基準(zhǔn)上取得當(dāng)前最優(yōu)（SOTA）表現(xiàn)，超越了其他前沿模型如 Claude Mythos。

相比傳統(tǒng)的「LLM-as-a-Judge」方法，該框架利用更細致的評分粒度、重復(fù)驗證，以及評估標(biāo)準(zhǔn)分解，實現(xiàn)更高的驗證準(zhǔn)確率和更精確的區(qū)分能力，消除了評分平局現(xiàn)象。

實驗結(jié)果表明，它能夠廣泛適配不同的 Agent Harness 和模型，提高多種基準(zhǔn)任務(wù)中的準(zhǔn)確率，同時通過評分機制的細化緩解量化誤差，使驗證結(jié)果更接近真實獎勵。

LLM-as-a-Verifier 不僅提升了 Agent 性能，還顯著增強了模型在長時序任務(wù)中的安全性和穩(wěn)定性。