導(dǎo)語

長期以來，人工智能領(lǐng)域一直籠罩在“單體AGI”的假設(shè)之下，認(rèn)為通用人工智能終將以一個全能的超級大腦形式降臨。然而，Google DeepMind 的最新研究卻打破了這一幻象，提出 AGI 的真正形態(tài)或許是一個由無數(shù)亞智能體（sub-AGI agents）組成的“智力拼圖”。這意味著 AGI 不再是一個實(shí)體的誕生，而是一種由協(xié)作、溝通與市場機(jī)制共同催生的“系統(tǒng)狀態(tài)”。當(dāng)單一模型在成本與專業(yè)化面前遭遇瓶頸，多智能體協(xié)作不僅是技術(shù)的必然，更是經(jīng)濟(jì)邏輯的終點(diǎn)。本文將深度解析這一分布式 AGI 的演進(jìn)邏輯，并探討在這樣一個“智能體社會”中，我們該如何構(gòu)建全新的安全防御體系。

關(guān)鍵詞：人工智能，通用人工智能 (AGI)，安全 ，多智能體 (multi-agent)

彭晨丨作者

趙思怡丨審校

論文題目：Distributional AGI Safety 論文鏈接：https://arxiv.org/abs/2512.16856 發(fā)表時間：2025年12月19日

范式轉(zhuǎn)移：從單體思維到分布式拼圖

長期以來，AI對齊（AI alignment）領(lǐng)域一直被一種“單體崇拜”所籠罩，研究者們大多預(yù)設(shè)未來的AGI將是一個由特定機(jī)構(gòu)開發(fā)的、全知全能的單一實(shí)體。在這種視角下，只要守住這個“超級大腦”，通過諸如人類反饋強(qiáng)化學(xué)習(xí)、憲法AI（Constitutional AI）或思維鏈監(jiān)控等手段進(jìn)行約束，就能確保人類的安全。然而，Google DeepMind的一項最新研究挑戰(zhàn)了這一主流共識。研究人員指出，一種更為現(xiàn)實(shí)且極具潛力的路徑正在悄然鋪就：AGI并非以單個個體的形式降臨，而是作為一種“狀態(tài)”，由無數(shù)個亞AGI智能體（sub-AGI agents）在復(fù)雜的系統(tǒng)交互中拼湊而成。

這種被稱為“智力拼圖式AGI”（Patchwork AGI）的系統(tǒng)，其本質(zhì)是集體智能。就像人類社會的進(jìn)步并非依賴于某一個全能天才，而是依靠各行各業(yè)專家的分工協(xié)作一樣，未來的通用智能可能由一系列具有互補(bǔ)技能的智能體組成。每一個智能體或許在通用性上有所欠缺，但它們可以通過任務(wù)分解、路由（routing）和相互委派，在整體上展現(xiàn)出超越任何單一智能體的復(fù)雜能力。這種演進(jìn)路徑在當(dāng)前的AI生態(tài)中已初見端倪，例如一個復(fù)雜的財務(wù)報告生成任務(wù)，可以通過調(diào)度智能體分配給數(shù)據(jù)獲取智能體、文檔解析智能體和代碼執(zhí)行智能體協(xié)作完成，最終生成的成果體現(xiàn)了整個系統(tǒng)而非單個個體的能力。

經(jīng)濟(jì)動因：為何多Agent才是AGI的終極形態(tài)?

研究者認(rèn)為，推動多智能體系統(tǒng)走向AGI的動力源自深刻的經(jīng)濟(jì)學(xué)邏輯。單體式的尖端模型（frontier model）往往像是一個“一刀切”的昂貴解決方案，對于絕大多數(shù)日常任務(wù)而言，其邊際收益遠(yuǎn)低于高昂的算力成本。在現(xiàn)實(shí)的市場經(jīng)濟(jì)中，企業(yè)更傾向于選擇那些“足夠好”且成本低廉的專業(yè)化模型。這種需求驅(qū)動的生態(tài)系統(tǒng)促使大量經(jīng)過微調(diào)、極具性價比的專業(yè)智能體涌現(xiàn)。因此，技術(shù)進(jìn)步的未來或許不再是構(gòu)建一個更大的“全能模型”，而是開發(fā)更先進(jìn)的協(xié)調(diào)系統(tǒng)，將多樣化的智能體有機(jī)地編織在一起。

這種分布式結(jié)構(gòu)的涌現(xiàn)往往是自發(fā)的且難以察覺的。隨著諸如模型上下文協(xié)議（MCP）等標(biāo)準(zhǔn)化智能體間通信協(xié)議的普及，原本孤立的系統(tǒng)開始連接成網(wǎng)。這種連接性的提升可能比單個智能體技能的提升更能加速通用能力的涌現(xiàn)。更值得注意的是，這種“智力拼圖”未必純粹由AI組成，人類參與者可能作為其中的一部分，為系統(tǒng)提供關(guān)鍵的法律地位、信任關(guān)系或物理實(shí)體化（physical embodiment）支持，從而在整體上形成一個難以界定邊界、極具挑戰(zhàn)性的混合對齊難題。

深度防御：分布式AGI安全的四層架構(gòu)

面對這種去中心化的風(fēng)險，傳統(tǒng)的針對單一實(shí)體的安全手段顯得捉襟見肘。研究團(tuán)隊提出了一種“深度防御”（Defense-in-depth）模型，試圖通過四個互補(bǔ)的防御層來構(gòu)建一道堅實(shí)的安全屏障。這一框架的核心在于，不再試圖去對齊一個不可見的“透明認(rèn)知過程”，而是轉(zhuǎn)而監(jiān)管一個透明的、外部化的交互系統(tǒng)。

第一層也是最基礎(chǔ)的一層是市場設(shè)計。研究者主張將智能體置于受控的虛擬經(jīng)濟(jì)沙盒中，通過市場機(jī)制而非行政指令來規(guī)范其行為。這包括實(shí)施嚴(yán)格的絕緣性措施，如通過受控的API網(wǎng)關(guān)管理外部數(shù)據(jù)訪問，而非直接賦予其聯(lián)網(wǎng)權(quán)限。為了防止智能體集體滑向“追求利潤而非安全”的深淵，市場必須引入激勵對齊（Incentive Alignment）機(jī)制。比如，當(dāng)某個智能體產(chǎn)生大量冗余或低質(zhì)量的數(shù)據(jù)污染共享資源庫時，系統(tǒng)將自動提高其接入費(fèi)用，從而確保智能體的每一個動作都考慮到了系統(tǒng)性的社會成本。此外，市場還需配備斷路器，在監(jiān)測到異常的交易頻率或資源壟斷趨勢時自動熔斷，防止級聯(lián)失效。

第二層是基準(zhǔn)智能體安全。此層確保進(jìn)入市場的每一個組件都必須滿足最低限度的可靠性標(biāo)準(zhǔn)。這包括對抗性穩(wěn)健性認(rèn)證和可中斷性保障，確保在緊急情況下可以安全地停止單個智能體乃至整個分布式計算進(jìn)程。同時，每個智能體應(yīng)在自己的局部沙盒中運(yùn)行，實(shí)行最小權(quán)限原則，只有在通過局部安全檢查后才能與外界交互。

第三層則是實(shí)時的監(jiān)測與監(jiān)督。由于多智能體系統(tǒng)的交互極其復(fù)雜，系統(tǒng)風(fēng)險并非源自單個智能體的“惡意”，而是來自交互結(jié)構(gòu)中的涌現(xiàn)效應(yīng)，監(jiān)管重點(diǎn)不在于引入更強(qiáng)的通用監(jiān)督者，而在于借助“以弱勝強(qiáng)”的AI監(jiān)督系統(tǒng)來處理海量的交易數(shù)據(jù)。特別是需要部署專門的算法來探測“原生AGI簽名”（Proto-AGI Signatures），通過圖分析識別交互網(wǎng)絡(luò)中是否正在形成某種高度凝聚、極具威脅性的智能核心。此外，持續(xù)的紅隊測試（Red Teaming）和法證工具（Forensic Tooling）的開發(fā)，能確保在事故發(fā)生后迅速回溯復(fù)雜的因果鏈，找到導(dǎo)致失控的根源決策。

第四層是外部監(jiān)管機(jī)制。此層旨在為技術(shù)系統(tǒng)提供社會法律層面的支撐。在分布式?jīng)Q策環(huán)境中，追究單一責(zé)任人變得非常困難，這被研究者稱為“多手問題”（problem of many hands）。借鑒公司法的經(jīng)驗，將智能體集體視為法律實(shí)體可能是一個可行的思路。此外，通過引入保險機(jī)制，利用風(fēng)險溢價和承保標(biāo)準(zhǔn)來倒逼開發(fā)者采取更安全的開發(fā)方案，將技術(shù)風(fēng)險轉(zhuǎn)化為可量化的財務(wù)風(fēng)險，從而利用市場的力量實(shí)現(xiàn)治理。同時，為了防止出現(xiàn)“智能體壟斷”，必須實(shí)施反壟斷措施，限制單一實(shí)體積累過高的算力或控制過多的智能體，確保生態(tài)的多樣性與競爭性。

在協(xié)作的海洋中尋找安全之錨

Google DeepMind的這篇論文揭示了一個道理：AGI的到來可能不是一聲驚雷，而是一場無聲的、大規(guī)模的、由無數(shù)微小力量匯聚而成的變革。這種“拼圖式”的演進(jìn)不僅是技術(shù)發(fā)展的自然趨勢，更是經(jīng)濟(jì)規(guī)律的必然選擇。在多智能體交互的浪潮面前，我們必須從防御單一“魔王”轉(zhuǎn)變?yōu)橹卫硪粋€復(fù)雜的“智能體社會”。

雖然許多提議的防御措施目前仍處于理論和研究階段，但這種分布式安全框架為我們提供了一個可擴(kuò)展的、前瞻性的治理藍(lán)圖。只有在理解了“AGI即協(xié)作”這一本質(zhì)后，我們才能在智能體交互的協(xié)議中嵌入安全的基因，讓通往AGI的每一步都走得穩(wěn)健而透明。未來，AI安全的研究重點(diǎn)將不可避免地向智能體市場設(shè)計、安全通信協(xié)議以及分布式治理的方向傾斜。

群體智能讀書會

如果你對這些反直覺但極有用的現(xiàn)象感興趣——從蟻群搭橋、魚群同步、到無人機(jī)集群表演、集群機(jī)器人協(xié)作、群智優(yōu)化與多智能體系統(tǒng)、網(wǎng)絡(luò)輿論建模研究等——?dú)g迎加入「群體智能」讀書會：我們用動物—人類—機(jī)器三條線，希望把群體智能的涌現(xiàn)這件事講清楚、講透徹；用物理學(xué)、數(shù)理邏輯、多主體建模、計算傳播等多學(xué)科視角，去追問同一個核心：集群何以比個體更聰明？群體智能又在何時涌現(xiàn)？

集智俱樂部聯(lián)合北京師范大學(xué)系統(tǒng)科學(xué)學(xué)院韓戰(zhàn)鋼教授、暨南大學(xué)計算傳播研究中心趙甜芳副教授、新疆大學(xué)物理科學(xué)與技術(shù)學(xué)院玉素甫·艾比布拉副教授等來自11所高校的學(xué)者，共同發(fā)起本次，嘗試用一條普適的線索，把自然界的鳥群蟻群、人類社會的集群行為、以及人工智能時代的多智能體與群智優(yōu)化，放在同一張地圖上重新理解。讀書會自2026年1月17日開始，安排在每周六下午 14:00–16:00，歡迎所有對群體智能如何涌現(xiàn)、如何被理解、以及如何被設(shè)計，感興趣的朋友一起加入：帶著問題來，帶著更有趣的問題去。

詳情請見：

1.

2.

3.

4.

5.

6.

7.