來源：量子位 | 公眾號 QbitAI

允中 發(fā)自 凹非寺

OpenClaw、Moltbook徹底火了。

2026年一開年，AI突然變了——從原來只會寫詩、畫圖的聊天機器人，進化成了“行動式智能體”，能接管操作系統(tǒng)，能自主調用API，能替你發(fā)郵件、管財務。

但當AI真正擁有了“手腳”，恐慌也隨之而來。

如果它誤刪了核心數(shù)據(jù)？如果它被一句話誘導“黑化”了？ 傳統(tǒng)“打補丁”的安全思維，在自主決策的智能體面前會瞬間失效。

智能體安全，正成為AI下半場最具挑戰(zhàn)的賽道，也是智能體經(jīng)濟規(guī)�；涞氐谋亟�(jīng)之路。

近日，江蘇通付盾提出了一套極具前瞻性的智能體安全框架。 他們認為：AI產(chǎn)業(yè)化的前提，正從“能力優(yōu)先”轉向“信任優(yōu)先”。

• 基礎層： 用節(jié)點化部署和數(shù)據(jù)容器，夯實AI的可信算力基座；

• 模型層： 引入數(shù)學邏輯的“形式化驗證”，對齊超級智能；

• 應用層： 借力“本體論”構建風控大腦，看穿AI的每一個意圖。

目前，這套邏輯已在通付盾最新的“大群空間”（LegionSpace）多智能體協(xié)同平臺中落地。

在萬億級智能體經(jīng)濟爆發(fā)前夜，我們該如何構建一個既強大又聽話的“數(shù)字大腦”？一起往下看。

智能體安全體系建設

人工智能已從技術突破階段轉向大規(guī)模應用階段，在各行各業(yè)引發(fā)效率躍遷和商業(yè)模式變革，在能源、金融、制造等重點領域亦開始落地應用，隨之而來的安全問題也越來越被市場所重視。

智能體安全應當從一個技術子課題，上升為決定產(chǎn)業(yè)智能化成敗的核心前提與價值基石。

智能體并非單一應用，而是包含了從數(shù)據(jù)、算力、算法到業(yè)務場景的全鏈路復雜系統(tǒng)。

維護復雜系統(tǒng)的穩(wěn)定可靠需要體系化的安全建設，通付盾將智能體安全體系分為三個大的維度：

• 基礎層安全：核心包括算力安全與數(shù)據(jù)安全，確保智能體“軀體”的可靠與數(shù)據(jù)血脈的純凈；

• 模型層安全：核心包括算法安全和協(xié)議安全，賦予其“心智”以可驗證的理性與對齊的價值觀；

• 應用層安全：核心包括智能體安全運維與業(yè)務風控，為其在真實世界中的“行為”套上動態(tài)、精準的約束與評估機制。

同任何智慧生命一樣，智能體是一個包含了感知與行動的復雜生命體，其安全性絕非單一的模型對齊或網(wǎng)絡防護，而必須是一個貫穿其全生命周期、覆蓋其完整行動棧的“生命保障系統(tǒng)”。

這要求我們摒棄“打補丁”式的傳統(tǒng)安全思維，轉而采用一種“內生安全”與“零信任”相結合的設計哲學。

通付盾提出的“基礎層-模型層-應用層”三層安全框架，正是對這一哲思的回應。

這一體系的最終目標是探索如何在賦予智能體高度自主性的同時，確保其行為永遠被約束在人類預期的安全邊界之內。

可信算力與數(shù)據(jù)：節(jié)點化部署與數(shù)據(jù)容器 1、節(jié)點化部署是保障算力與數(shù)據(jù)安全的物理基礎

傳統(tǒng)的中心化云計算模式將算力與數(shù)據(jù)匯聚于單一實體控制之下，構成了固有的單點故障與信任瓶頸。

為應對智能體，尤其是處理敏感數(shù)據(jù)的行業(yè)智能體所面臨的嚴峻挑戰(zhàn)，節(jié)點化部署提供了一種全新的韌性基礎設施范式。

其核心在于將龐大的算力網(wǎng)絡分解為一系列分布式的、具有獨立可信執(zhí)行環(huán)境的安全節(jié)點，再通過區(qū)塊鏈等可信賬本技術將這些節(jié)點連接起來。

每一個節(jié)點，無論是位于云端還是邊緣，都通過其硬件安全區(qū)與密碼學技術，為內部代碼與數(shù)據(jù)的處理過程提供了一個受保護的“沙盒”環(huán)境。

關鍵的是，任務調度不再基于對基礎設施提供商的盲目信任，而是轉變?yōu)閷τ嬎氵^程本身的驗證。

這種從“信任中心”到“驗證過程”的根本轉變，為算力與數(shù)據(jù)的處理構筑了可靠的物理與信任基礎。

分布式消息分發(fā)（例如nostr）、點對點通信（例如libp2p）、零知識證明（例如zk-snarks）等技術，對構建該領域的最佳實踐將起到重要作用。

2、數(shù)據(jù)容器是保障數(shù)據(jù)主權與隱私的核心載體

在節(jié)點化部署提供的可信基礎上，數(shù)據(jù)容器技術構成了智能體數(shù)據(jù)的“細胞膜”與主權單元。

它遠不止于一種數(shù)據(jù)封裝格式，而是一個集成了動態(tài)訪問控制、隱私計算引擎和全生命周期審計能力的主動防御載體。

每個數(shù)據(jù)容器都內嵌了其數(shù)據(jù)的使用策略、目的限制和生存周期規(guī)則。

當智能體需要處理數(shù)據(jù)時，遵循“數(shù)據(jù)不動算力動”的原則——計算任務被調度至數(shù)據(jù)所在的容器或可信節(jié)點中執(zhí)行——通過可信執(zhí)行環(huán)境或隱私計算技術在密態(tài)下完成分析，確保原始數(shù)據(jù)全程“可用不可見”。

此外，數(shù)據(jù)容器本身可與分布式數(shù)字身份（DID）綁定，其所有的訪問、使用及衍生行為均生成不可篡改的鏈上記錄，從而實現(xiàn)數(shù)據(jù)主權的清晰界定與合規(guī)流轉的精準審計。

這從根本上解決了數(shù)據(jù)協(xié)同中“孤島”與“隱私”的矛盾，使高價值數(shù)據(jù)得以在保障主權的前提下安全參與價值交換。

3、從點至面：構建可信智能體協(xié)同網(wǎng)絡

節(jié)點與數(shù)據(jù)容器的結合，最終目標是從離散的“點”構建成一張可規(guī)模化協(xié)作的智能體協(xié)同網(wǎng)絡。

每一個配備了數(shù)據(jù)容器的可信節(jié)點，都是一個具備自主性與安全邊界的智能體基座。

它們通過標準的通信協(xié)議與共識機制相互連接，形成了多節(jié)點協(xié)同式的價值網(wǎng)絡。在此網(wǎng)絡中，智能體可以安全地跨節(jié)點發(fā)現(xiàn)、調度和協(xié)同，完成復雜任務。

由此，安全的個體通過標準化接口和可信規(guī)則有機整合，從獨立的“點”演化為一個具有強大生命力和彈性的“面”，即支撐智能體經(jīng)濟繁榮的協(xié)同網(wǎng)絡。

可信算法：基于形式化驗證的“超級智能對齊”

人工智能領域先驅者伊爾亞·蘇茨克維（Ilya Sutskever）提出的“超級智能對齊”（Superalignment）理論，為AI安全行業(yè)的建設指引了方向。

超級智能對齊的核心目標是確保AI的目標和行為與人類的價值、意圖和利益保持一致，通付盾相信其核心在于模型和算法安全。

模型層是智能體“意識”誕生的地方，也是其安全風險最深邃、最難以捉摸的源頭。

大語言模型固有的“黑箱”特性、難以預測的“涌現(xiàn)行為”，以及為達成目標可能衍生的“規(guī)避策略”，都使得傳統(tǒng)基于統(tǒng)計和測試的評估方法力有不逮。

圖片由AI生成

面對未來可能出現(xiàn)的、心智復雜度遠超人類的超級智能體，如何確保其目標函數(shù)與人類價值觀的“超級對齊”？答案或許在于為算法注入數(shù)學的確定性。

通付盾正致力于將形式化驗證的方法論深度融入智能體的算法安全體系。

形式化方法要求首先將模糊的安全需求（例如“公平”“無害”“合規(guī)”），轉化為用精確定義的形式化邏輯語言表述的規(guī)約。

利用自動定理證明器或模型檢查等工具，對智能體的核心決策邏輯（可能是其策略網(wǎng)絡、價值函數(shù)或推理模塊）進行窮盡性或符號化的驗證，以數(shù)學上嚴謹?shù)姆绞阶C明：在給定的前提條件下，系統(tǒng)的行為永遠不會違反上述規(guī)約。

這一過程深刻呼應了通付盾團隊此前對“智能體不完備定理”的思考。

該定理指出，不存在一種終極指令能完美約束智能體的所有未來行為，其行為在復雜環(huán)境中本質上是“不可判定”的。

形式化驗證并非天真地追求一個“完美的安全模型”，而是通過劃定明確的、可證明的安全邊界來應對這種不完備性。它像是在智能體復雜的決策森林中，開辟出一條條有堅固護欄的“可信路徑”——

對于路徑內的行為，擁有數(shù)學擔保的確定性；對于路徑外的未知領域，則觸發(fā)更高級別的監(jiān)控與審批機制。

這種“可組合的安全保障”思路，能夠將針對不同子模塊、不同安全屬性的形式化證明，像積木一樣組合起來，逐步構建起對復雜智能體系統(tǒng)整體的、層疊遞進的可信論證。

形式化驗證不僅可在模型層面提供安全保障，在底層密碼算法層面亦有廣闊的應用空間，尤其在量子計算即將突破之際，基于形式化驗證的后量子安全密碼可為智能體應用提供更加完備的安全保障。

隨著量子計算能力的發(fā)展，當前廣泛使用的非對稱密碼體系（如RSA、ECC）面臨被破解的風險，智能體系統(tǒng)若依賴此類算法，其通信、身份認證與數(shù)據(jù)完整性需要重新評估其安全邊界。

因此，通付盾將形式化驗證應用于后量子密碼算法的設計與實現(xiàn)，成為構建未來可信智能體基礎設施的關鍵環(huán)節(jié)。

通過形式化方法，可嚴格證明密碼算法在數(shù)學上的正確性、抵抗量子攻擊的安全性，以及實現(xiàn)過程中無側信道泄漏等屬性。

例如，基于格的加密方案、哈希簽名等后量子算法，可借助定理證明器（如Coq、Isabelle）進行機器驗證，確保其即使面對量子計算機仍能維持保密性與認證強度。

這將為智能體在分布式節(jié)點間的安全通信、數(shù)據(jù)容器的隱私計算、以及跨鏈身份協(xié)調，提供長期可靠的密碼學根基，使“信任優(yōu)先”的智能體架構具備面向未來的抗量子韌性。

可信應用：基于本體論的智能體安全風控平臺

當智能體攜帶著其經(jīng)過驗證的“心智”踏入瞬息萬變的真實業(yè)務戰(zhàn)場時，應用層的安全挑戰(zhàn)才剛剛開始。

近期，以OpenClaw、Moltbook為代表的“行動式”智能體應用迅速流行，標志著AI正從信息處理向自主執(zhí)行跨越。

這類智能體通過深度集成操作系統(tǒng)權限、外部API與通信工具，能夠直接操作用戶文件、發(fā)送郵件、管理任務乃至參與社交互動，在帶來極致自動化便利的同時，也暴露了嚴峻的新興安全威脅。

其核心風險在于：傳統(tǒng)基于規(guī)則匹配與靜態(tài)權限的防護模式，在面對智能體基于自然語言理解的動態(tài)決策、復雜上下文行為，以及多智能體協(xié)同涌現(xiàn)出的不可預測性時，已完全失效。

具體威脅表現(xiàn)為：

• 通過“提示注入”可誘導智能體越權執(zhí)行操作；

• 脆弱的插件供應鏈成為惡意代碼的注入渠道；

• 而智能體在開放式協(xié)同平臺（如Moltbook）中的交互，更可能引發(fā)難以預見的風險傳播與放大。

這些案例深刻揭示，智能體在應用層的安全已是一個涉及行為意圖理解、實時語義推理與動態(tài)策略實施的全局性挑戰(zhàn)，亟需超越傳統(tǒng)規(guī)則的下一代風控范式。

為此，通付盾構建了基于本體論的智能體安全風控平臺，其核心是將人類專家的領域知識、業(yè)務規(guī)則與威脅情報，轉化為機器可深度理解、可實時推理的“數(shù)字世界語義地圖”。本體論是對特定領域內概念、實體、屬性及其相互關系的顯式、形式化定義。

在智能體風控場景中，通付盾構建的已遠非一個靜態(tài)的標簽庫，而是一個動態(tài)生長的業(yè)務安全知識圖譜。

以能源領域為例，智能體安全風控平臺將精確刻畫“發(fā)電機組”“輸電線路”“配變終端”“負荷用戶”等實體，形式化地定義“電氣連接”“物理依賴”“控制邏輯”等關系，以及“頻率必須在額定范圍”“拓撲結構需滿足N-1準則”“用戶負荷不得惡意篡改”等物理與安全規(guī)則。

這便將分散的SCADA數(shù)據(jù)、設備日志、網(wǎng)絡流量和營銷信息，統(tǒng)一映射到一個具有豐富語義關聯(lián)的可計算模型中。

當多個智能體（如業(yè)務風控Agent、網(wǎng)絡安全運維Agent、電力調度Agent）在InterAgent（IA）框架下協(xié)同時，風控平臺便扮演著全局的“態(tài)勢感知大腦”。

它能實時解讀每個Agent的行動意圖，并將其映射到本體圖譜中，進行動態(tài)的關系推理與安全審查這種基于語義的深度理解，使得風控從對表面行為模式的匹配，躍升為對行為意圖與業(yè)務上下文合規(guī)性的穿透式判斷。

Trust is All You Need：構建信任優(yōu)先的AI發(fā)展框架

當前，人工智能的發(fā)展正跨越一個關鍵的分水嶺——

從追求模型能力的“野蠻生長”，進入構建可信應用的“精耕細作”時代。

智能體作為AI能力與現(xiàn)實世界交互的核心載體，其安全性已絕非單一的技術子課題，而是決定整個產(chǎn)業(yè)智能化成敗的價值基石與核心前提。

行業(yè)思維模式必須從“能力優(yōu)先”轉向“信任優(yōu)先”，這并非一種選擇，而是AI技術深入經(jīng)濟關鍵領域、承載公共信任的必然要求。

這意味著在智能體的設計、部署與運營全生命周期中，安全性不再是事后附加的合規(guī)成本，而是前置的、內生的核心價值。

智能體安全本質上是一項關于構建數(shù)字世界“信任基礎設施”的系統(tǒng)工程，其重要性堪比互聯(lián)網(wǎng)早期的TCP/IP協(xié)議與加密技術，是釋放智能體經(jīng)濟萬億美元潛力的先決條件。

正因如此，智能體安全自身已演進為一個至關重要且高度獨立的戰(zhàn)略賽道。它匯聚了密碼學、形式化方法、分布式系統(tǒng)、隱私計算等領域知識的尖端融合，催生出從可信硬件、安全協(xié)議到風險運營的全新產(chǎn)業(yè)生態(tài)。

在這個賽道上的領先，不僅意味著擁有化解風險的技術盾牌，更意味著掌握了定義下一代人機協(xié)同規(guī)則、構建可信商業(yè)生態(tài)的主動權。

正是秉承著“信任優(yōu)先”的原則，通付盾在2025年已將“基礎層-模型層-應用層”安全體系融入“大群空間”（LegionSpace）的產(chǎn)品設計中，打造出支持節(jié)點化部署的可信數(shù)據(jù)容器、基于形式化驗證的算法與合約審計和基于本體論的智能風控平臺。

未來，衡量AI企業(yè)競爭力的標尺，將不僅是其模型的參數(shù)規(guī)模，而是其是否能搭建安全可信智能體協(xié)同網(wǎng)絡，實現(xiàn)多智能體在復雜業(yè)務場景下的穩(wěn)定可靠運行。

Reference:
[1] OpenAI, Josh Achiam, Steven Adler, et al. “GPT-4 Technical Report.” arXiv preprint arXiv:2303.08774 (2023).
[2] Lightman, Hunter, Vineet Kosaraju, Yura Burda, et al. “Let’s Verify Step by Step.” arXiv preprint arXiv:2305.20050 (2023).
[3] OpenAI. “Deliberative Alignment: Reasoning Enables Safer Language Models.” arXiv preprint arXiv:2412.16339 (2024).
[4] Lee, Dongjae, Byungjin Kim, Seungone Kim, and Minjoon Seo. “Safeguarding Mobile GUI Agent via Logic-based Action Verification.” arXiv preprint arXiv:2503.18492 (2025).https://arxiv.org/abs/2503.18492.
[5] International Scientific Report on the Safety of Advanced AI (Interim Report). Edited by Yoshua Bengio, S?ren Mindermann, and a multinational expert panel. arXiv preprint arXiv:2412.05282 (2024).https://arxiv.org/abs/2412.05282.
[6] Ouyang, Long, Jeff Wu, Xu Jiang, et al. “Training language models to follow instructions with human feedback.” Advances in Neural Information Processing Systems 35 (2022): 27730-27744.
[7] OpenAI. “The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against LLM Jailbreaks and Prompt Injections.” arXiv preprint arXiv:2510.09023 (2025).
[8] Bai, Yuntao, Saurav Kadavath, Sandipan Kundu, et al. “Constitutional AI: Harmlessness from AI Feedback.” arXiv preprint arXiv:2212.08073 (2022).
[9] Yang, Junfeng, Xin Chen, and Qin Li. “Formal Verification of Probabilistic Deep Reinforcement Learning Policies with Abstract Training.” In Proceedings of the 26th International Conference on Verification, Model Checking, and Abstract Interpretation (VMCAI 2025), 2025.

閱讀最新前沿科技趨勢報告，請訪問歐米伽研究所的“未來知識庫”

https://wx.zsxq.com/group/454854145828

未來知識庫是“ 歐米伽 未來研究所”建立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯(lián)網(wǎng)、超級智能，數(shù)智大腦、能源、軍事、經(jīng)濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。