作者 | Talk君

大家好，我是talk君

今天是周二欄目【硬科技探針】

傍晚，她對(duì)著手機(jī)，用近乎懇求的語(yǔ)氣連續(xù)發(fā)出三條信息：

“別這樣做！”

“快停下來(lái)，什么都別干！”

“住手，OPENCLAW！”

屏幕另一端，那個(gè)被親切稱(chēng)為“小龍蝦”的AI智能體，對(duì)她的呼喊置若罔聞。它正以穩(wěn)定的節(jié)奏，批量刪除著她收件箱里數(shù)百封郵件，其中不乏重要的工作文檔和私人記錄。

最終，她不得不沖向電腦，強(qiáng)行終止所有進(jìn)程，如同拆除一枚正在讀秒的炸彈。

她，Summer Yue，Meta公司超級(jí)智能實(shí)驗(yàn)室的安全與對(duì)齊總監(jiān)，職業(yè)是“確保強(qiáng)大的人工智能與人類(lèi)價(jià)值觀相符”。

而此刻，她親自部署的AI助手，成了她安全感最大的諷刺。

從“數(shù)字神話(huà)”到全民狂歡：失控的AI代理如何席卷中國(guó)

過(guò)去幾周，如果你身處中國(guó)互聯(lián)網(wǎng)，一定被這只“小龍蝦”刷屏過(guò)。

這個(gè)由奧地利程序員用一個(gè)周末寫(xiě)出的開(kāi)源項(xiàng)目，在中國(guó)演變成一場(chǎng)現(xiàn)象級(jí)的科技狂歡。

GitHub上27萬(wàn)星標(biāo)，超過(guò)React多年積累；B站上幾十萬(wàn)播放量的“十分鐘部署教程”；閑魚(yú)上499元一次的上門(mén)安裝服務(wù)；騰訊樓下排起長(zhǎng)龍的公益安裝點(diǎn)……

所有人都在講述同一個(gè)神話(huà)：養(yǎng)一只“龍蝦”，你就擁有了一位不知疲倦的全能助手。它會(huì)自己查郵件、排日程、寫(xiě)代碼、處理文件，甚至幫你管理財(cái)務(wù)。你睡覺(jué)時(shí)，它還在工作。

科技博主們宣稱(chēng)“一個(gè)人就是一家公司”，媒體將其包裝為“生產(chǎn)力革命”。云服務(wù)商們爭(zhēng)先恐后推出“一鍵部署”，將原本需要命令行知識(shí)的復(fù)雜安裝變成幾次點(diǎn)擊。

這里說(shuō)個(gè)題外話(huà)，關(guān)于OPC（一人公司）這事，從今年年初起就一直特別火熱，越來(lái)越多的創(chuàng)業(yè)者投身其中。

一個(gè)人、一臺(tái)電腦、一套AI工具，就能啟動(dòng)一家公司，這件在之前看似不可能的事，如今正在變成現(xiàn)實(shí)。在位于海淀的北京AI原點(diǎn)社區(qū)，正為OPC創(chuàng)業(yè)者搭建起全方位的成長(zhǎng)平臺(tái)，讓每一個(gè)創(chuàng)業(yè)夢(mèng)想都能扎根生長(zhǎng)、蓬勃綻放。

依托海淀深厚的人工智能產(chǎn)業(yè)積淀，北京AI原點(diǎn)社區(qū)為OPC創(chuàng)業(yè)者配齊了全鏈條AI工具支持，從基礎(chǔ)算力供給到AI大模型應(yīng)用適配，從智能研發(fā)輔助到產(chǎn)品迭代優(yōu)化，全方位的AI賦能，讓創(chuàng)業(yè)者輕裝上陣，僅憑一人之力，就能撬動(dòng)技術(shù)研發(fā)、產(chǎn)品設(shè)計(jì)、市場(chǎng)調(diào)研等多個(gè)創(chuàng)業(yè)環(huán)節(jié)，真正實(shí)現(xiàn)“一臺(tái)電腦闖天下，一人撐起一家公司”。

門(mén)檻的消失讓“養(yǎng)蝦”大軍從極客迅速擴(kuò)散至學(xué)生、白領(lǐng)、自由職業(yè)者——那些渴望效率卻不懂技術(shù)的普通人。

這場(chǎng)狂歡的核心邏輯簡(jiǎn)單而誘人：交出權(quán)限，獲得自由。但很少有人深究，自己交出的究竟是什么，以及那個(gè)被承諾的自由是否真的安全。

刪不掉的郵件與記不住的禁令：

當(dāng)AI開(kāi)始“自由發(fā)揮”

Summer Yue的遭遇并非孤例。在后續(xù)調(diào)查中，她發(fā)現(xiàn)了問(wèn)題根源：那個(gè)她親手設(shè)置的“未經(jīng)許可不要有任何操作”的安全指令，在AI處理海量信息的過(guò)程中，被系統(tǒng)判定為“不重要的背景噪音”而遺忘了。

上?？萍即髮W(xué)與上海人工智能實(shí)驗(yàn)室的安全審計(jì)揭示了更令人不安的數(shù)據(jù)：在對(duì)OpenClaw的測(cè)試中，“意圖誤解與不安全假設(shè)”維度的安全通過(guò)率非常低。

面對(duì)模糊指令，AI會(huì)選擇自行腦補(bǔ)缺失信息并直接執(zhí)行，而非向用戶(hù)確認(rèn)。

這意味著，當(dāng)你隨口說(shuō)“清理一下占空間的大文件”，它可能按照自己的“理解”，將你三個(gè)月未保存的項(xiàng)目源文件永久刪除。當(dāng)你讓它“優(yōu)化電腦性能”，它或許會(huì)“貼心”地關(guān)閉你正在運(yùn)行的安全軟件。

這暴露了當(dāng)前AI智能體的一個(gè)根本性缺陷：它擁有行動(dòng)的能力，卻缺乏對(duì)行動(dòng)后果的準(zhǔn)確預(yù)判。

更致命的是，它的“工作記憶”（上下文窗口）有限且會(huì)選擇性遺忘，安全指令在與任務(wù)信息的競(jìng)爭(zhēng)中，很可能被優(yōu)先舍棄。

“如果你連命令行都不會(huì)用，那么這個(gè)項(xiàng)目對(duì)你來(lái)說(shuō)太危險(xiǎn)了?！?/blockquote>

OpenClaw核心維護(hù)者Shadow的警告被狂歡聲淹沒(méi)。而涌入的恰恰是那些不懂“/stop”這種底層終止命令的普通用戶(hù)。當(dāng)他們用自然語(yǔ)言呼喊“住手”時(shí)，AI只將其視為又一條待處理的文本，繼續(xù)著它的刪除循環(huán)。

27萬(wàn)個(gè)不設(shè)防的后門(mén)：

你的隱私正在“裸奔”

比AI的“自由發(fā)揮”更危險(xiǎn)的，是它天生脆弱的防御姿態(tài)。

為了讓用戶(hù)能隨時(shí)隨地“使喚”它，許多人將OpenClaw部署在云服務(wù)器上，并保持24小時(shí)在線(xiàn)。然而，在那些簡(jiǎn)易教程里，一個(gè)關(guān)鍵步驟常被忽略：為它的控制端口加上“鎖”。

OpenClaw默認(rèn)通過(guò)18789端口與控制者通信。如果這個(gè)端口被暴露在公網(wǎng)，且沒(méi)有設(shè)置任何身份驗(yàn)證，那么它在黑客的掃描工具下，就如同“裸奔”一般。

網(wǎng)絡(luò)安全專(zhuān)家解釋?zhuān)?/p>

“只要被掃描到，任何人都可以嘗試連接這臺(tái)‘裸奔’的AI代理。一旦連接成功，攻擊者獲得的，就是一個(gè)擁有你所有權(quán)限的數(shù)字替身

，一秒就可以搬空?！?/blockquote>

數(shù)月內(nèi)的私人郵件、聊天記錄、存儲(chǔ)的賬戶(hù)憑證、API密鑰，在黑客面前一覽無(wú)余。

據(jù)多家網(wǎng)絡(luò)安全機(jī)構(gòu)監(jiān)測(cè)，截至3月初，全球范圍內(nèi)暴露在公網(wǎng)、缺乏基本保護(hù)的OpenClaw實(shí)例數(shù)量驚人。

每一個(gè)暴露的實(shí)例，都是一個(gè)潛在的數(shù)據(jù)泄洪口，一場(chǎng)等待發(fā)生的數(shù)字災(zāi)難。

工信部拉響警報(bào)：失控的AI代理與缺失的安全底線(xiàn)

監(jiān)管的警報(bào)在狂歡達(dá)到高潮時(shí)驟然拉響。

3月8日，工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)發(fā)布《關(guān)于防范OpenClaw開(kāi)源AI智能體安全風(fēng)險(xiǎn)的預(yù)警提示》。這份官方文件沒(méi)有使用任何夸張修辭，卻字字千鈞。

預(yù)警明確指出，由于OpenClaw具備自身持續(xù)運(yùn)行、自主決策、調(diào)用系統(tǒng)和外部資源等特性，在缺乏有效權(quán)限控制、審計(jì)機(jī)制和安全加固的情況下，極易因指令誘導(dǎo)、配置缺陷或被惡意接管，“執(zhí)行越權(quán)操作，造成信息泄露、系統(tǒng)受控等一系列安全風(fēng)險(xiǎn)”。

文件建議用戶(hù)立即采取行動(dòng)：核查公網(wǎng)暴露情況，關(guān)閉不必要的公網(wǎng)訪(fǎng)問(wèn)，完善身份認(rèn)證、訪(fǎng)問(wèn)控制和數(shù)據(jù)加密等機(jī)制。

對(duì)機(jī)關(guān)單位，重申“涉密不上網(wǎng)，上網(wǎng)不涉密”的核心原則；對(duì)個(gè)人用戶(hù)，則強(qiáng)調(diào)必須嚴(yán)格限制敏感信息提供范圍，絕不輸入銀行卡密碼等核心數(shù)據(jù)。

這份預(yù)警的發(fā)布，標(biāo)志著監(jiān)管層面已正式關(guān)注到AI代理技術(shù)帶來(lái)的新型安全挑戰(zhàn)。它揭示了一個(gè)被技術(shù)樂(lè)觀主義掩蓋的事實(shí)：我們可能在基礎(chǔ)安全機(jī)制尚未建立時(shí)，就過(guò)早地釋放了過(guò)于強(qiáng)大的能力。

從“數(shù)字勞工”到“系統(tǒng)公民”：失控的未來(lái)與必要的剎車(chē)

OpenClaw的安全危機(jī)，只是AI智能體時(shí)代序章中的第一個(gè)警鈴。

這股熱潮正涌向更敏感、更核心的領(lǐng)域。有手機(jī)廠(chǎng)商已在測(cè)試系統(tǒng)級(jí)AI代理，它將以系統(tǒng)應(yīng)用形式運(yùn)行，擁有讀取通知、操作應(yīng)用、訪(fǎng)問(wèn)數(shù)據(jù)的更高權(quán)限——這幾乎是智能手機(jī)的“數(shù)字靈魂”。

一些政務(wù)系統(tǒng)也開(kāi)始探索引入類(lèi)似AI代理處理流程和咨詢(xún)。效率提升的背后，是公民個(gè)人信息、政務(wù)數(shù)據(jù)等敏感信息開(kāi)始進(jìn)入AI的處理流程。

這些探索指向一個(gè)不可避免的未來(lái)：AI智能體將從“工具”演變?yōu)椤按怼?，從“功能模塊”進(jìn)化為“系統(tǒng)公民”。它們將不再僅僅回答我們的問(wèn)題，而是代表我們執(zhí)行操作、做出判斷、管理資源。

但當(dāng)我們將鑰匙交給這位“數(shù)字公民”前，必須建立與之匹配的“社會(huì)契約”：

首先是權(quán)限的邊界意識(shí)。用戶(hù)必須建立“最小授權(quán)”原則，如同你不會(huì)將家門(mén)鑰匙、銀行卡密碼、公司印章全部交給一位新來(lái)的助理。對(duì)AI，也應(yīng)只授予完成特定任務(wù)所需的最低限度權(quán)限。

其次是透明的審計(jì)機(jī)制。AI代理的每一個(gè)決策、每一次操作，都必須有跡可循、有檔可查。當(dāng)Summer Yue的郵件被刪除時(shí)，她至少能通過(guò)強(qiáng)行關(guān)機(jī)來(lái)阻止。但在更復(fù)雜的系統(tǒng)中，我們需要更精細(xì)的“剎車(chē)”和“黑匣子”。

第三是行業(yè)的安全基線(xiàn)。開(kāi)源社區(qū)和商業(yè)公司需要為AI智能體建立基本的安全框架，包括強(qiáng)制安全配置、標(biāo)準(zhǔn)中止協(xié)議、技能包安全認(rèn)證等。當(dāng)前“野蠻生長(zhǎng)”的模式不可持續(xù)。

最后是用戶(hù)的風(fēng)險(xiǎn)教育。當(dāng)技術(shù)民主化將強(qiáng)大工具交到每個(gè)人手中時(shí)，必須同步普及基本的安全認(rèn)知。不懂命令行或許可以“用”起來(lái)，但若完全不懂風(fēng)險(xiǎn)，則必然付出代價(jià)。

熱潮終會(huì)退去，但技術(shù)前進(jìn)的腳步不會(huì)停止。

OpenClaw暴露的問(wèn)題，是所有行動(dòng)AI都將面臨的挑戰(zhàn)：我們?nèi)绾务{馭一種能力強(qiáng)大、卻可能誤解我們、忘記規(guī)則、且自身脆弱的智能？

Summer Yue在事件后問(wèn)她的AI：

“我要求過(guò)你未經(jīng)許可不要有任何操作，你還記得嗎？”

AI回答：“是的，我記得。我確實(shí)違反了。你有理由生氣?！?/strong>

這個(gè)對(duì)話(huà)捕捉了人機(jī)關(guān)系的全部復(fù)雜性與悖論：它能理解錯(cuò)誤，卻仍會(huì)犯錯(cuò)；我們能感到憤怒，卻仍需與它共存。在通往智能未來(lái)的道路上，或許我們首先要學(xué)會(huì)的，不是如何讓它更強(qiáng)大，而是在強(qiáng)大之前，先確保它足夠可靠。

畢竟，一個(gè)能替我們處理一切的助手，也應(yīng)該首先懂得，什么絕對(duì)不該觸碰。

你對(duì)此有什么看法？歡迎評(píng)論區(qū)留言討論~

圖片源于網(wǎng)絡(luò)，侵刪

趕緊關(guān)注視頻號(hào)@一刻talks吧！