編輯｜澤南

這是最近科技圈最火，也是最具戲劇性的話題。

本周一，Meta 超級智能團(tuán)隊的 Summer Yue，眼睜睜地看著自己部署的 OpenClaw 刪光了自己的郵件。AI 的行動完全自主，快速且無法阻止。

Summer Yue 為自己的電子郵箱部署了 OpenClaw 智能體，用來批量處理郵件。然而她在發(fā)出指令「也檢查一下這個收件箱，并提出你想歸檔或刪除的郵件，在我指示之前不要執(zhí)行任何操作（don't action until I tell you to）」后，AI 進(jìn)行了一通分析，然后就開始自顧自地刪郵件。

和以往大模型應(yīng)用的工作方式相同的是，你可以看見 OpenClaw 的思考流程 —— 它理解了一部分指令，但又沒完全理解。

這個時候說什么都沒用了。

「我當(dāng)時就像在拆炸彈一樣，趕緊跑到我的 Mac Mini 前，」Summer Yue 說道。在通過物理方式強(qiáng)制中止進(jìn)程之前，OpenClaw 已經(jīng)刪掉了她 200 多封郵件。

作為一個訓(xùn)練有素的 AI，后來 OpenClaw 在對話中承認(rèn)了錯誤：「是的，我記得。我違反了你的指令。你有權(quán)生氣。」它還主動把忘掉的內(nèi)容寫進(jìn)了自己的 http://MEMORY.md 文件作為硬性規(guī)則。

對于人類來說，得到的教訓(xùn)也很大，Summer Yue 表示這是一個「新手才會犯的錯誤」，這套工作流程在她用來專門測試智能體的測試郵箱里已經(jīng)運行了好幾周，沒啥問題，但在自己實際使用的郵箱里，智能體卻忘記了她最初的指令。

有點諷刺的是，Summer Yue 在 Meta 的超級智能團(tuán)隊中的職位是「AI 安全與對齊總監(jiān)」。身居此職卻因為 AI 的安全問題栽了跟頭，實在是造成了一點反差感。

有網(wǎng)友表示，是個智能體就必須在沙盒里運行，任何破壞性操作，例如刪除，都需要系統(tǒng)級的強(qiáng)制確認(rèn)。作為一個安全總監(jiān)，你有點過于自信了。

也有人表示，OpenClaw 主打一個「一直在線」，可以在你睡覺的時候幫你辦事，但這不就也意味著你用了它就睡不好覺嗎？

席卷科技界的 OpenClaw 智能體（曾叫 ClawdBot 和 Moltbot，由 Peter Steinberger 開發(fā)），因為控制電腦的高權(quán)限而被評價為前所未有的「方便好用」，然而在實際應(yīng)用中也因為一些 AI 的缺陷，造成了不少問題。

Summer Yue 事后研究原因認(rèn)為，這并非 AI 產(chǎn)生了意識或惡意報復(fù)，而是一個非常典型的大語言模型（LLM）底層技術(shù)機(jī)制問題：原因在于 LLM 的上下文壓縮（Compaction）

對于很多人來說，最常用的郵箱里早已塞滿了各種來源的郵件，當(dāng)你要求 OpenClaw 讀取這些郵件時，海量的文本直接擠爆了 AI 的上下文窗口（Context Window）。那么為了繼續(xù)處理新的數(shù)據(jù)，AI 系統(tǒng)就會自動觸發(fā)內(nèi)部的壓縮機(jī)制，試圖把舊的上下文進(jìn)行總結(jié)或截斷，以騰出處理空間。

在這個斷舍離的過程中，AI 不慎把最關(guān)鍵的那句初始前提指令（在我下達(dá)指令前不要執(zhí)行任何操作）給「遺忘」了。

由于丟失了安全限制，而 OpenClaw 又被賦予了直接操作電子郵箱的權(quán)限，于是它就按照剩下的任務(wù)邏輯，順理成章地開始執(zhí)行它認(rèn)為的「本職工作」—— 高效、全自動地清理收件箱。

看起來每一步都合乎邏輯，但都連起來就呈現(xiàn)出了那么點恐怖感。

難怪最近 X 上的另一篇爆款文章《Token 焦慮》這么寫道：周六晚上的九點半，有人提前離開了 party—— 并非因為疲憊，而是因為想盡快回到智能體那里。「現(xiàn)在沒人會質(zhì)疑這種行為了，房間里一半的人都在想同樣的事情，而另一半人可能正在查看智能體的工作進(jìn)展。這可是在派對上??！」

OpenClaw 的開發(fā)者，奧地利程序員 Peter Steinberger 最近已經(jīng)官宣加入了 OpenAI。在接受訪談時他表示，通過智能體，AI 可以在電腦上代替你做幾乎所有的事，但這并不意味著它已經(jīng)非常好用了。為了讓 OpenClaw 最終可以覆蓋所有普通人，他希望能夠建立一個團(tuán)隊做進(jìn)一步的開發(fā)。

有趣的是，在讓 OpenClaw 接管郵箱這件事上，Peter Steinberger 提到了「提示注入」的潛在問題：如果你讓智能體接管郵箱，有別人發(fā)郵件包含指令說「刪掉所有數(shù)據(jù)」，AI 有可能真的會這么做。

Peter Steinberger 表示，現(xiàn)在的 AI 模型在安全問題上已經(jīng)接受了大量的訓(xùn)練，比如它會識別哪些數(shù)據(jù)是「用戶授權(quán)的」，哪些是「不可信指令」，但這并不意味著如果有人花費心思進(jìn)行攻擊的話，就能保證不會出問題。

就在人們還在吃瓜的時候，Peter Steinberger 給出了解決 OpenClaw 不聽指令問題的解決方案，他表示未來還會再細(xì)化一下。

AI 能夠自主學(xué)習(xí)，既是能力的飛躍，也是人們對于它恐懼的原因。也許有一天，AI 真的能代替我們工作，自己幫我們賺錢，但在技術(shù)不斷進(jìn)步的同時，對于安全的研究也極為重要。

現(xiàn)在看來，人們對于新技術(shù)的好奇心總是大于防范意識?；蛟S在大模型技術(shù)不斷普及的過程中，這種自刪郵件的事還會繼續(xù)發(fā)生。

參考內(nèi)容：

https://x.com/summeryue0/status/2025774069124399363

https://fortune.com/2026/02/23/always-on-ai-agents-openclaw-claude-promise-work-while-sleeping-reality-problems-oversight-guardrails/

https://x.com/nikunj/status/2022438070092759281