henry 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

在Meta，人從來都不是問題（大不了裁了），能讓小扎栽跟頭的，還得是“AI”。

繼上個月龍蝦（OpenClaw）刪掉安全對齊總監(jiān)Summer Yue郵箱的事件后，Meta的AI又闖禍了——

這次，一個AI Agent未經授權擅自行動，把敏感的公司和用戶數據暴露給了沒有權限的員工，近兩小時！

Meta內部將這一事件定性為Sev 1級，這是什么概念呢？

歷史上，Meta從沒對外承認過Sev 0級事件，所以這次幾乎等于他們眼中“最嚴重”的那一檔。

這下好了，人類員工你Meta愛搭不理，AI員工直接讓你拉響警報。

Agent失控Meta拉響警報

事情是這樣的。

一名Meta軟件工程師使用內部的agent（類似OpenClaw）分析了另一名員工在內部論壇上發(fā)布的技術問題。

分析完成后，這個熱心的Agent直接在論壇上回復了原問題，并給出了技術建議，而這一切都未經員工授權

提問的員工采納了Agent的技術建議，卻沒想到直接導致大量公司和用戶數據被沒有權限的員工訪問，數據暴露了近2小時。

△圖片由AI生成

雖然據知情人士透露，暫時沒有人利用這次訪問權限將數據公開，造成大的泄露。

但是！

根據報告，Meta最終還是將該事件定性為Sev 1級，這是公司內部安全事件嚴重程度體系中的第二高級別。

而就像開頭說的，Sev 0，也就是最嚴重的情況，從來沒發(fā)生過。

據消息爆料，涉事員工在內部帖子中指出，其他一些未指明的問題也加劇了事件的嚴重性。

所以，估計這事兒基本上得立項調查了。

不過，好消息是，這個隨意回帖，提供建議的Agent并沒有偽裝成人。

據Meta發(fā)言人稱，代理發(fā)布的帖子底部標明了“AI生成”。

總的來說，這次的agent失控導致數據泄露，雖然時間很長，但好在可追溯，且目前并未其他風險，所以基本上是提前演習了一下企業(yè)agent可能遇到的問題。

但這事兒，在Meta已經不是第一次了。

今年二月份，Meta 人工智能部門的安全與協調總監(jiān)Summer Yue就表示，OpenClaw刪光了自己的全部郵件。

而且略顯離譜的是，yue曾多次命令龍蝦停止操作，但龍蝦就是假裝聽不見，繼續(xù)執(zhí)行任務。

由于無法通過在手機上發(fā)消息進行干預，yue最終不得不趕緊跑到另一臺設備上阻止這一過程。

Summer Yue 形容當時的自己就像在拆炸彈一樣

不少網友也是在評論區(qū)表示，在企業(yè)環(huán)境中部署有操作權限的自動化agent 本身有風險。

而據一些消息顯示，部分企業(yè)內部也暫時還未開放龍蝦這樣的agent在公司電腦上部署。

所以說，龍蝦雖然可口，但風險還是有的。

4 more things

那么，為啥這種事總發(fā)生在Meta身上呢？

雖然聽起來有些離譜，但可能最近一周，Meta可能是真的是水逆。

先是去年重金組建的Meta超級智能實驗室（MSL）的模型“牛油果”難產，被爆料性能甚至不如谷歌去年發(fā)布的Gemini 3，導致發(fā)布又又將延期——

從2025年底，拖到今年一季度，現在表示最快也得5月26號了。

接著是暴力裁員20%（約 1.5 萬人），小道消息甚至稱離職員工開始“投毒skills”。

昨天，又有消息稱收購Manus的進程受阻

今天更是有媒體報道，Meta花費800億美元耗時5年多的元宇宙項目，將在6月關閉，800億美元泥牛入海。

要不，小扎別裁員了，咱先改個名唄？

[1]https://x.com/Jessicalessin/status/2034384626295419267

[2]https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert