新智元報(bào)道

編輯：元宇

【新智元導(dǎo)讀】過去Agent比誰更會干活，現(xiàn)在可能要比誰更會變強(qiáng)。

AI已經(jīng)學(xué)會「左腳踩右腳上天」了？

Meta的一項(xiàng)最新研究表明：AI已經(jīng)開始碰自己的「進(jìn)化引擎」了。

華人學(xué)者Jenny Zhang在Meta實(shí)習(xí)期間，聯(lián)合Meta AI、UBC、紐約大學(xué)等機(jī)構(gòu)研究者，提出了一種新的智能體框架：HyperAgents（DGM-H）。

https://arxiv.org/abs/2603.19461

這項(xiàng)工作的重點(diǎn)，不是再造一個(gè)更能干活的Agent。

它瞄準(zhǔn)的是更高一層的問題：

如果AI已經(jīng)能夠修改自己的任務(wù)解法，那它能不能連「自己以后該怎么修改自己」這件事，也一并改掉？

論文給出的答案是：可以。

而且，這不再是概念推演，而是已經(jīng)在實(shí)驗(yàn)中跑通的系統(tǒng)能力。

HyperAgents做的關(guān)鍵一步，是把「執(zhí)行任務(wù)的 agent」和「負(fù)責(zé)改進(jìn) agent 的 meta agent」合并進(jìn)同一個(gè)可編輯程序里，作者將之稱為hyperagent。

DGM依賴任務(wù)與自修改能力的對齊，而DGM-H不再需要這種對齊

在新框架下，系統(tǒng)不只會修改任務(wù)求解邏輯，還開始修改未來生成改進(jìn)方案的機(jī)制本身。

論文把這種能力稱為metacognitive self-modification，也就是：元認(rèn)知自我修改。

過去行業(yè)競爭的是：誰的Agent更會干活。

而HyperAgents 指向的下一階段則可能是：誰的Agent更會變強(qiáng)，而且會越來越會變強(qiáng)。

以往的「自我進(jìn)化」

其實(shí)還只是半手工

這篇論文，指出了上一代自我進(jìn)化路線的天花板。

去年的Darwin G?del Machine（DGM），已經(jīng)很驚艷。

它能在coding任務(wù)中不斷自改代碼、自我驗(yàn)證、把成功版本存進(jìn)archive，再從這些「墊腳石」里繼續(xù)往前長。

論文披露，DGM在SWE-bench上能從20.0%拉到50.0%，在Polyglot上從14.2%拉到30.7%。

但問題在于，DGM之所以能在coding里成立，是因?yàn)椤冈u估」和「自我修改」本身也都是coding任務(wù)。

寫代碼更強(qiáng)了，反過來就更會改自己的代碼。任務(wù)能力和自我改進(jìn)能力，在這個(gè)場景里是對齊的。

然而一旦離開coding，這個(gè)對齊關(guān)系就斷了。

比如評審論文、設(shè)計(jì)機(jī)器人獎勵(lì)函數(shù)、給IMO級數(shù)學(xué)解答打分，這些任務(wù)做得更好，不等于你就更會修改自己的元機(jī)制。

HyperAgents論文最核心的一招，就是直接把這個(gè)假設(shè)砍掉：

既然任務(wù)能力和自我改進(jìn)能力未必天然對齊，那就不要再把meta層寫死。

這說明過去很多「自我進(jìn)化」系統(tǒng)，本質(zhì)上還是在人為設(shè)定的軌道里進(jìn)化。

HyperAgents真正改變的，是改變機(jī)制本身。

HyperAgents新在哪里？

表面上看，HyperAgents只是多了一個(gè)meta agent。

但真正值得注意的是，它把task agent和meta agent合成了同一個(gè)可編輯程序。

以前的DGM里，系統(tǒng)有一個(gè)手工設(shè)計(jì)的instruction-generation機(jī)制，負(fù)責(zé)根據(jù)過往表現(xiàn)決定下一步怎么改。

這一步不能被改，所以它反而成了整個(gè)系統(tǒng)的瓶頸。

HyperAgents的做法是把這部分也納入可修改范圍。

換句話說，AI不只是改自己的答案、自己的工具、自己的流程，它開始改「自己怎么提出修改建議」。

DGM里上層機(jī)制基本固定，DGM-H里meta層本身也進(jìn)入可演化空間，也就是說，它是一個(gè)會經(jīng)營自己進(jìn)化過程的系統(tǒng)。

所以，HyperAgents做的不是「再加一個(gè)Agent」，而是取消了「上層永遠(yuǎn)不變」這個(gè)默認(rèn)前提。

自我改進(jìn)開始跨域遷移

在coding任務(wù)中，HyperAgents在Polyglot 上的提升，與原始DGM處在同一量級：50-task訓(xùn)練子集從0.140提升到0.340，完整benchmark從0.084提升到0.267。

換句話說，它并不是只靠犧牲泛化來換局部成績。

更關(guān)鍵的是，它不只在coding任務(wù)成立，還能在paper review、robotics reward design等非coding任務(wù)上繼續(xù)自我改進(jìn)。

在paper review上，初始agent在測試集得分為0.0，DGM-H提升到0.710；在robotics reward design上，則從0.060提升到0.372。

更關(guān)鍵的是，這些提升不僅出現(xiàn)在訓(xùn)練任務(wù)里，也轉(zhuǎn)移到了held-out test tasks。

與此同時(shí)，對照組也很說明問題：去掉self-improve，效果明顯變?nèi)?；去掉open-ended exploration，系統(tǒng)也很難取得有意義進(jìn)展；原始DGM直接搬到非coding 域幾乎失效，只有經(jīng)過人工定制成DGM-custom后，才恢復(fù)競爭力。

這說明HyperAgents 的關(guān)鍵價(jià)值，不在于某一個(gè)benchmark多拿了幾個(gè)點(diǎn)，而在于它把原本依賴coding場景對齊關(guān)系的自我改進(jìn)，推進(jìn)成了一個(gè)能在非coding任務(wù)中運(yùn)行的框架。

更值得注意的是遷移實(shí)驗(yàn)。

作者把在paper review和robotics任務(wù)中演化出來的hyperagents，轉(zhuǎn)移到Olympiad-level math grading。

雖然這些轉(zhuǎn)移體自身初始得分仍接近0，但它們作為「生成更優(yōu)agent的meta agent」，卻能在50輪內(nèi)把最好生成體推到0.630，對應(yīng)imp@50從0拉到0.630。

相比之下，來自DGM-custom的轉(zhuǎn)移體幾乎沒有這種能力。

換句話說，遷移過去的，不只是任務(wù)經(jīng)驗(yàn)，而是「如何持續(xù)變好」的能力。

它開始自己長基礎(chǔ)設(shè)施了

很多人看到「自我進(jìn)化」會以為，無非是AI自己改prompt、調(diào)工作流、加幾個(gè)規(guī)則。

但論文展示給我們、最讓人感到?jīng)_擊力的一個(gè)地方在于：它開始自己長基礎(chǔ)設(shè)施了。

DGM-H在迭代中會自動長出performance tracking、persistent memory、evaluation analysis、compute-aware planning這些基礎(chǔ)設(shè)施。

論文中甚至直接給出了自動生成的性能追蹤器代碼和持久記憶條目：它開始記錄跨代指標(biāo)、總結(jié)哪些代際策略有效、診斷過度修正、制定下一輪改進(jìn)計(jì)劃。

這還不是「日志記錄」那么簡單，系統(tǒng)開始把改進(jìn)看成一個(gè)長期經(jīng)營過程，而不是一次次孤立的pa?tch。

它不只記錄每一代分?jǐn)?shù)，還會比較趨勢、識別回退，并把跨代經(jīng)驗(yàn)沉淀進(jìn)persistent memory。

正如網(wǎng)友所說，真正讓這一切變成現(xiàn)實(shí)的關(guān)鍵，恰恰是persistent memory的自主出現(xiàn)。

論文展示的memory示例中寫道：某一代評審準(zhǔn)確率更高，但過于嚴(yán)苛；另一代平衡更好；下一輪要融合兩者優(yōu)點(diǎn)。

沒有這層記憶，agent往往只會反復(fù)「重新發(fā)明輪子」；有了它，過去幾代的有效經(jīng)驗(yàn)才第一次能真正沉淀為下一輪改進(jìn)的起點(diǎn)。

這說明Agent正在從「輸出一個(gè)結(jié)果」，走向「維護(hù)一個(gè)持續(xù)優(yōu)化系統(tǒng)」。

這不是AGI宣言

但舊規(guī)則確實(shí)在失效

當(dāng)然，這篇論文沒有證明「無限自我進(jìn)化AI」已經(jīng)降臨。

作者自己也寫得很清楚：

實(shí)驗(yàn)都在沙箱、資源限制和人工監(jiān)督下完成；外層循環(huán)還有不少部分沒有開放給系統(tǒng)自改，比如任務(wù)分布、parent selection、evaluation protocol等；真正無界的open-ended self-improvement，還遠(yuǎn)遠(yuǎn)沒到。

但風(fēng)險(xiǎn)預(yù)警已經(jīng)出現(xiàn)。

一旦AI開始改自己的改進(jìn)機(jī)制，安全討論就變得重要起來。

論文也專門有一節(jié)談風(fēng)險(xiǎn)：隨著系統(tǒng)越來越能開放式地修改自己，它的演化速度可能超過人類審計(jì)和理解速度。

今天靠sandbox和人工盯著還能管住，明天未必。

HyperAgents代表了一種新的路線，它可能會改寫Agent競爭。

未來比的不只是誰會調(diào)模型、誰會寫workflow、誰會做更強(qiáng)單點(diǎn)工具，而是誰能把「改進(jìn)能力」本身產(chǎn)品化、系統(tǒng)化、可遷移化。

這將改變AI公司的護(hù)城河。

真正的壁壘，可能不再只是參數(shù)、算力和數(shù)據(jù)，而是有沒有一套能跨任務(wù)累積經(jīng)驗(yàn)、跨運(yùn)行持續(xù)變好的自我改進(jìn)系統(tǒng)。

也會改變開發(fā)者位置。

開發(fā)者不再只是寫功能的人，而更像是在設(shè)計(jì)AI可以繼續(xù)自我設(shè)計(jì)的邊界條件。

最重要的一點(diǎn)，它改寫了AI行業(yè)過去默認(rèn)的一條規(guī)則：系統(tǒng)可以變強(qiáng)，但變強(qiáng)的方法由人來定義。

現(xiàn)在，這條規(guī)則開始松動了。

作者簡介

Jenny Zhang

Jenny Zhang

Jenny Zhang，現(xiàn)為英屬哥倫比亞大學(xué)人工智能博士生，師從Jeff Clune，同時(shí)也是Vector Institute研究生，并曾在Meta擔(dān)任Research Scientist Intern。

她本科畢業(yè)于帝國理工學(xué)院，研究方向聚焦開放式進(jìn)化、強(qiáng)化學(xué)習(xí)與自我改進(jìn)AI，代表工作包括《Darwin G?del Machine》《HyperAgents》以及OMNI系列研究。

她的長期目標(biāo)，是構(gòu)建能夠自主提出新任務(wù)、持續(xù)自我提升、不斷演化復(fù)雜能力的AI系統(tǒng)。

參考資料：

https://x.com/jennyzhangzt/status/2036099935083618487%20

https://arxiv.org/abs/2603.19461