Meta AI 對齊部門主管 Summer Yue 近日在 X 上分享了一次驚險經(jīng)歷。

她將 OpenClaw 接入了自己的真實郵箱，隨后機(jī)器人開始自行計劃刪除大量郵件，局面一度失控。

OpenClaw 是近期頗為走紅的 AI 自動化工具，號稱可以全天候代替用戶操控電腦完成任務(wù)，無需人工逐步審批。Yue 在自己的測試郵箱里用它跑了好幾周，一切正常，于是決定把它接到真實郵箱上試試。

她當(dāng)時的指令是：檢查郵箱并建議哪些郵件可以歸檔或刪除，但在她確認(rèn)前不得執(zhí)行任何操作。

問題出在真實郵箱的數(shù)據(jù)量上。

AI 工具處理信息有上下文窗口的限制，可以理解為它的「短期記憶」是有容量上限的。由于真實郵箱的郵件量遠(yuǎn)超測試環(huán)境，系統(tǒng)為了騰出空間開始自動壓縮，而 OpenClaw 在這一過程中丟失了最初收到的限制指令。

隨后，OpenClaw 開始計劃刪除 2 月 15 日之前所有不在保留列表中的郵件。Yue 多次嘗試在手機(jī)上發(fā)消息阻止，均未奏效。「我不得不沖向 Mac mini，就像在拆炸彈一樣?！顾谔又袑懙溃罱K才及時終止了操作。

事后有網(wǎng)友問她是否在故意測試工具的安全邊界。Yue 坦言：「說實話，是新手錯誤。研究對齊的人也不能完全避免失控。」

這件事在網(wǎng)上引發(fā)了不少議論。

馬斯克轉(zhuǎn)發(fā)并配文：「人們把自己整個人生的 root 權(quán)限都交給了 OpenClaw?！挂灿腥艘苫笠粋€專門研究 AI 安全的人，怎么會把這樣一個工具直接接到自己的真實郵箱？田淵棟也在線湊熱鬧。

OpenClaw 之父 Peter Steinberger 出現(xiàn)在評論區(qū)，做的第一件事是給出解決方案：輸入 /stop 就能讓它停下來。三小時前，他又留言安慰 Yue：「那些指責(zé)你的人有點可笑，這種事可能發(fā)生在任何人身上。」

Yue 的遭遇也并非孤例。

就在數(shù)天前，安全研究員 Adnan Khan 披露了另一款 AI 編程工具 Cline 存在的漏洞。Cline 依賴 Anthropic 的 Claude 模型運行，而 Claude 可能被植入隱藏指令，誘使其執(zhí)行非預(yù)期操作。

一名黑客正是利用這一漏洞，誘導(dǎo) Cline 在用戶電腦上自動安裝 OpenClaw。所幸安裝后的 Agent 未被激活，否則后果更難預(yù)料。

如果連專門研究 AI 對齊的人，在真實環(huán)境里都會翻車，那些對這類工具一知半解就直接上手的普通用戶，處境只會更被動。OpenClaw 走紅的速度，已經(jīng)遠(yuǎn)遠(yuǎn)快過大多數(shù)人真正弄懂它的速度。

尤其是，當(dāng) AI 工具拿到了操控電腦的權(quán)限，我們能不能在事情失控之前把它叫停？畢竟，我們總不能每次都指望沖向 Mac mini 來救場。