核心提示：AI智能體迅速發(fā)展，但其在實(shí)際應(yīng)用中因技術(shù)邏輯變化引發(fā)的安全風(fēng)險(xiǎn)等問題不容忽視。對(duì)智能體的監(jiān)管和有效規(guī)制，應(yīng)在充分理解技術(shù)邏輯基礎(chǔ)上，結(jié)合具體技術(shù)特征設(shè)計(jì)與之相適應(yīng)的規(guī)制規(guī)則。

武丹/制圖

記者|任文岱

責(zé)編|薛應(yīng)軍

正文共2810個(gè)字，預(yù)計(jì)閱讀需9分鐘▼

過去幾個(gè)月，AI智能體迅速發(fā)展，大模型在應(yīng)用端已實(shí)現(xiàn)從“被動(dòng)交互對(duì)話”到“自主執(zhí)行任務(wù)”的進(jìn)階。2026年開年以來，一款名為OpenClaw的開源人工智能體（昵稱“龍蝦”）在全球科技圈迅速走紅，成為人工智能領(lǐng)域的新熱詞，引發(fā)社會(huì)廣泛關(guān)注。

與此同時(shí)，在AI智能體的實(shí)際應(yīng)用中，因技術(shù)邏輯變化引發(fā)的安全風(fēng)險(xiǎn)等問題同樣不容忽視。近期，針對(duì)國(guó)內(nèi)一些政企機(jī)構(gòu)及個(gè)人用戶的“養(yǎng)龍蝦”熱潮，工信部、國(guó)家安全部等監(jiān)管部門接連發(fā)出安全風(fēng)險(xiǎn)提示。

今年全國(guó)兩會(huì)期間，2026年政府工作報(bào)告明確提出“深化拓展‘人工智能+’，促進(jìn)新一代智能終端和智能體加快推廣，推動(dòng)重點(diǎn)行業(yè)領(lǐng)域人工智能商業(yè)化規(guī)?；瘧?yīng)用，培育智能原生新業(yè)態(tài)新模式”。作為“人工智能+”的重要實(shí)踐形態(tài)，AI智能體的快速落地既需要政策層面的鼓勵(lì)支持，更離不開法治框架的規(guī)范引導(dǎo)。

當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革加速演進(jìn)，人工智能已成為引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，正在深刻改變?nèi)蚪?jīng)濟(jì)格局和競(jìng)爭(zhēng)態(tài)勢(shì)。全球主要經(jīng)濟(jì)體都將人工智能視為重塑制造業(yè)競(jìng)爭(zhēng)力的關(guān)鍵抓手。在此背景下，我國(guó)應(yīng)如何應(yīng)對(duì)智能體發(fā)展帶來的法治難題？中國(guó)政法大學(xué)人工智能法研究院院長(zhǎng)張凌寒接受民主與法制社記者專訪時(shí)表示，智能體互聯(lián)網(wǎng)正在成為人工智能與網(wǎng)絡(luò)空間深度融合的重要趨勢(shì)，對(duì)智能體的監(jiān)管和有效規(guī)制，應(yīng)在充分理解技術(shù)邏輯的基礎(chǔ)上，結(jié)合具體技術(shù)特征設(shè)計(jì)與之相適應(yīng)的規(guī)制規(guī)則。

智能體改變現(xiàn)有互聯(lián)網(wǎng)生態(tài)

2025年1月，生成式人工智能DeepSeek在全球爆火。此后一年間，各類生成式人工智能應(yīng)用迅速走入大眾市場(chǎng)，與人類生活、辦公等應(yīng)用場(chǎng)景深度融合。AI公司競(jìng)相追逐誰(shuí)的模型更強(qiáng)、更“聰明”，并在產(chǎn)品數(shù)量、模型性能及用戶規(guī)模等方面持續(xù)向好發(fā)展。

智能體到來后，AI不再靠“死記硬背”被動(dòng)執(zhí)行指令，而是開始自主去理解任務(wù)目標(biāo)、與環(huán)境交互、進(jìn)行深度推理、調(diào)用外部工具與服務(wù)、與其他智能體協(xié)作以完成各項(xiàng)任務(wù)。

OpenClaw作為開源模型，由用戶自主安裝部署、自行配置權(quán)限功能，在用戶授權(quán)下可以直接操作電腦，自主執(zhí)行包括讀寫本地文件、整理文檔、安裝軟件、發(fā)送郵件等任務(wù)。這對(duì)以往互聯(lián)網(wǎng)生態(tài)中的系統(tǒng)安全架構(gòu)、數(shù)據(jù)流轉(zhuǎn)、責(zé)任鏈條等都產(chǎn)生了沖擊。

有觀點(diǎn)認(rèn)為，互聯(lián)網(wǎng)的下一站是從“信息互聯(lián)”邁向“智能體互聯(lián)”，AI智能體將成為網(wǎng)絡(luò)的“原生公民”。

張凌寒表示，智能體互聯(lián)網(wǎng)的確正在成為人工智能與網(wǎng)絡(luò)空間深度融合的重要趨勢(shì)。智能體互聯(lián)網(wǎng)的核心在于，從當(dāng)前以信息傳遞與呈現(xiàn)為主的信息互聯(lián)網(wǎng)，轉(zhuǎn)變?yōu)橐宰灾鹘换ヅc任務(wù)協(xié)同為特征的行為互聯(lián)網(wǎng)。這意味著過往的“人找信息、人操作應(yīng)用”變?yōu)椤皺C(jī)器主動(dòng)理解需求、自主完成調(diào)度服務(wù)”，這將顯著提升社會(huì)整體的智能化水平。

AI智能體的迅猛發(fā)展，引發(fā)社會(huì)各界對(duì)其中的安全治理、人機(jī)關(guān)系、技術(shù)路徑等問題的關(guān)注。

張凌寒說：“智能體帶來的影響更多來自其與現(xiàn)有應(yīng)用平臺(tái)生態(tài)、風(fēng)控策略及用戶習(xí)慣之間的碰撞。智能體的操作過程涉及多個(gè)應(yīng)用與數(shù)據(jù)接口的調(diào)用，如何確保所有操作均符合用戶真實(shí)意圖并在法律法規(guī)與授權(quán)范圍內(nèi)進(jìn)行，需要持續(xù)關(guān)注?！?/p>

在技術(shù)設(shè)計(jì)、協(xié)議標(biāo)準(zhǔn)與制度安排等方面進(jìn)行審慎平衡

3月10日，國(guó)家互聯(lián)網(wǎng)應(yīng)急中心發(fā)布關(guān)于OpenClaw安全應(yīng)用的風(fēng)險(xiǎn)提示稱，由于其默認(rèn)的安全配置極為脆弱，攻擊者一旦發(fā)現(xiàn)突破口，便能輕易獲取系統(tǒng)的完全控制權(quán)。

該風(fēng)險(xiǎn)提示指出，由于OpenClaw智能體的不當(dāng)安裝和使用，已經(jīng)出現(xiàn)一些嚴(yán)重的安全風(fēng)險(xiǎn)：網(wǎng)絡(luò)攻擊者通過在網(wǎng)頁(yè)中構(gòu)造隱藏的惡意指令，誘導(dǎo)OpenClaw讀取該網(wǎng)頁(yè)，可能導(dǎo)致用戶系統(tǒng)密鑰泄露；由于錯(cuò)誤理解用戶操作指令和意圖，OpenClaw可能會(huì)將電子郵件等重要信息徹底刪除；多個(gè)適用于OpenClaw的功能插件已被確認(rèn)為惡意插件，或存在潛在的安全風(fēng)險(xiǎn)，安裝后可執(zhí)行竊取密鑰等惡意操作。

“智能體自主操作與用戶自行操作相比，主要體現(xiàn)在執(zhí)行主體和交互方式的不同?！睆埩韬硎荆^去用戶需要在不同平臺(tái)間手動(dòng)切換，現(xiàn)在AI智能體可以理解指令，并跨應(yīng)用平臺(tái)自動(dòng)調(diào)用功能，跳過了應(yīng)用界面限制。這種互操作性的增強(qiáng)可能促進(jìn)數(shù)據(jù)與資源的流動(dòng)，有利于創(chuàng)新與協(xié)作，但也確實(shí)會(huì)對(duì)企業(yè)現(xiàn)有競(jìng)爭(zhēng)優(yōu)勢(shì)格局產(chǎn)生一定影響。同時(shí)，還可能引發(fā)用戶隱私、安全及權(quán)益保護(hù)等問題。

張凌寒認(rèn)為，要綜合考慮市場(chǎng)實(shí)際與監(jiān)管要求，在技術(shù)設(shè)計(jì)、協(xié)議標(biāo)準(zhǔn)與制度安排等方面進(jìn)行審慎平衡，才能促進(jìn)智能體向善發(fā)展。

張凌寒表示，在獲得手機(jī)或電腦系統(tǒng)、用戶及各應(yīng)用軟件等授權(quán)的前提下，可以通過多種技術(shù)途徑增強(qiáng)智能體操作的安全性，進(jìn)一步保障智能體在實(shí)際應(yīng)用中的合規(guī)性與可靠性。例如，實(shí)施關(guān)鍵操作前的動(dòng)態(tài)確認(rèn)機(jī)制、建立全流程可追溯的操作日志、用戶實(shí)時(shí)干預(yù)與任務(wù)終止、持續(xù)關(guān)注補(bǔ)丁和安全更新、版本更新等功能。這些措施有助于提高智能體行為的可控性與透明度，推動(dòng)智能體在安全性和用戶體驗(yàn)方面不斷改進(jìn)。

結(jié)合技術(shù)特征設(shè)計(jì)不同的規(guī)制規(guī)則

智能體給法治監(jiān)管層面帶來的挑戰(zhàn)是多方面的。張凌寒表示，從法律與監(jiān)管視角看，AI智能體的發(fā)展對(duì)現(xiàn)有規(guī)范與技術(shù)的結(jié)合提出了新的要求。隨著智能體技術(shù)的發(fā)展與應(yīng)用，需重點(diǎn)適應(yīng)以下幾個(gè)方面的變化：一是需進(jìn)一步研究如何在智能體參與的多方協(xié)作場(chǎng)景中，合理明確各相關(guān)方的權(quán)責(zé)關(guān)系，以支持法律體系的持續(xù)完善。二是智能體具備跨應(yīng)用調(diào)度與執(zhí)行能力，這對(duì)行為可追溯性與系統(tǒng)可控性提出了更高的技術(shù)要求，相關(guān)機(jī)制有待在實(shí)踐中逐步建立與驗(yàn)證。三是如何在智能體運(yùn)行過程中持續(xù)落實(shí)個(gè)人信息保護(hù)法、網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等相關(guān)法律法規(guī)，值得研究。比如，如何在動(dòng)態(tài)、連續(xù)的交互場(chǎng)景中落實(shí)用戶知情同意機(jī)制，確保用戶知情同意與數(shù)據(jù)安全等。

以智能體運(yùn)行中的授權(quán)機(jī)制為例，張凌寒表示，目前，我國(guó)尚未專門針對(duì)智能體的授權(quán)機(jī)制進(jìn)行立法規(guī)制。在現(xiàn)有法律框架下，涉及用戶授權(quán)、數(shù)據(jù)調(diào)用及跨應(yīng)用操作等行為，仍屬于行業(yè)實(shí)踐與自律探索階段。

“AI智能體的授權(quán)機(jī)制是一個(gè)多元化、多層次的復(fù)雜系統(tǒng)，不同授權(quán)模式對(duì)應(yīng)著差異化的技術(shù)實(shí)現(xiàn)路徑，而這些技術(shù)路徑又需要匹配相應(yīng)的法律規(guī)制框架，需要結(jié)合具體技術(shù)特征再去設(shè)計(jì)不同的規(guī)制規(guī)則。換句話說，有效規(guī)制必須建立在充分理解技術(shù)邏輯的基礎(chǔ)上，這需要足夠的耐心與系統(tǒng)性的工作，無法簡(jiǎn)單地一概而論，也不能一蹴而就?！睆埩韬硎荆傮w而言，法律與監(jiān)管需要持續(xù)探索適應(yīng)性治理路徑，這一過程既需要理論層面的深入研究，也離不開在實(shí)踐中的持續(xù)試錯(cuò)與機(jī)制完善。

在促進(jìn)產(chǎn)業(yè)生態(tài)發(fā)展方面，張凌寒認(rèn)為，智能體的部署與應(yīng)用涉及多方協(xié)作，需在鼓勵(lì)創(chuàng)新與促進(jìn)公平競(jìng)爭(zhēng)之間尋求平衡，可推動(dòng)建立適應(yīng)智能體發(fā)展的數(shù)據(jù)使用與互聯(lián)互通規(guī)范，鼓勵(lì)在合規(guī)前提下開展技術(shù)協(xié)作與生態(tài)建設(shè)。通過行業(yè)標(biāo)準(zhǔn)引導(dǎo)、技術(shù)測(cè)試驗(yàn)證與持續(xù)評(píng)估改進(jìn)，也可以推動(dòng)智能體在法律框架內(nèi)穩(wěn)步發(fā)展，實(shí)現(xiàn)安全與創(chuàng)新的協(xié)同推進(jìn)。