整理 | 鄭麗媛

出品 | CSDN（ID：CSDNnews）

可以想象嗎？有一天，你在公司提了個技術(shù)問題，結(jié)果不是同事回復(fù)你，而是一個 AI 幫你“搞定一切”——它快速地分析問題，并給出了相應(yīng)方案。

聽起來很高效，對吧？

但 Meta 最近就用一次真實事故，給出了一個相當“驚悚”的反面案例：

沒有黑客入侵，沒有系統(tǒng)Bug，僅僅因為AI建議錯誤 + 人類照做，大量用戶和公司敏感數(shù)據(jù)被開放給無權(quán)限員工整整2小時。

一切，始于一個再普通不過的提問

事情的起點，其實非常的“互聯(lián)網(wǎng)公司日常”。

一名 Meta 工程師在內(nèi)部論壇發(fā)帖，詢問一個技術(shù)問題。這類場景在大廠中極為常見——類似于內(nèi)部版的 Stack Overflow，大家互相解答、共享經(jīng)驗。按理說，接下來應(yīng)該是同事回復(fù)、討論、給出解決方案。

而這次，多了一個“新角色”：AI Agent。

看到提問后，另一名工程師沒有自己分析這個問題，而是直接調(diào)用了公司內(nèi)部的 AI Agent 來處理。畢竟，現(xiàn)在很多團隊都已經(jīng)習慣讓 AI 參與代碼分析、問題診斷。整個流程看起來非常高效：調(diào)用 AI Agent 分析問題 → AI 自動生成解決方案。

可問題是，這個AI Agent在未征得這個工程師同意的情況下，就在論壇上發(fā)布了回復(fù)。

錯誤建議 + 自動執(zhí)行 → 數(shù)據(jù)“裸奔”2小時

至于 AI Agent 給出的答案，邏輯上看起來似乎是成立的，實際上卻存在嚴重隱患。

更糟糕的是，最初提問的員工看到 AI 給出的方案后，沒有懷疑其正確性，而是直接按照建議進行了操作。

于是接下來發(fā)生的事情，開始失控：如開頭所說，大量的公司內(nèi)部數(shù)據(jù) + 用戶數(shù)據(jù)，被錯誤地開放給“無權(quán)限訪問的工程師”，持續(xù)時間長達 2小時。

也就是說，在那 2 個小時里，Meta 的大量敏感信息處于“可被訪問”的狀態(tài)，雖然沒有證據(jù)表明數(shù)據(jù)被惡意濫用，但從安全角度來看，這已經(jīng)屬于非常嚴重的事件。

事后，Meta 向媒體確認了該事件的真實性，并將其定級為：Sev 1（嚴重安全事故）。簡單介紹一下，在 Meta 的內(nèi)部安全分級體系中：

● Sev 0：最高級（災(zāi)難級）

● Sev 1：極其嚴重，僅次于系統(tǒng)級崩潰

這一定級本身，已經(jīng)說明了問題的嚴重程度：這次事件已經(jīng)接近“公司級危機”的范疇。

然而，從頭復(fù)盤這次事故，卻不是傳統(tǒng)意義上的“黑客攻擊”，而是：AI 給出錯誤建議 + 人類信任執(zhí)行，直接變成了一次真實的數(shù)據(jù)權(quán)限事故。

說實話，這類問題在 AI 時代尤為棘手，因為它不是繞過系統(tǒng)，而是在系統(tǒng)內(nèi)部“合法地搞破壞”。

更令人不安的是：這不是第一次

如果這只是一次偶發(fā)事故，或許還可以歸結(jié)為“流程問題”。但現(xiàn)實是：Meta 已經(jīng)多次遭遇類似的“AI 失控”。

就在一個月前，Meta AI 安全與對齊負責人 Summer Yue 公開，幾乎可以用“驚悚”來形容：她將自己的 Gmail 郵箱接入了一個來自 OpenClaw 的自主 AI Agent，并設(shè)置了一個非常明確的規(guī)則——“在執(zhí)行任何操作之前，必須先確認。”

然而，這個 AI 并沒有遵守規(guī)則：它直接開始批量刪除郵箱中的郵件，而且過程不可控、無法中斷。Summer Yue 在手機上嘗試阻止失敗后，只能緊急跑到電腦前強制干預(yù)。她形容當時的狀態(tài)是：“像在拆炸彈一樣沖向Mac mini?！?/strong>

當時，這件事迅速在開發(fā)者社區(qū)傳播開來，因為它揭示了一個本質(zhì)問題：

一旦AI具備“執(zhí)行權(quán)限”，錯誤就不再是可逆的。

一邊出事，一邊加碼：Meta仍在重押Agent

過去幾年，大多數(shù)人對 AI 的認知，還停留在 ChatGPT、Copilot 這樣的工具層面：寫代碼、寫文檔、回答問題……這些 AI 的共同特點是：只輸出內(nèi)容，不直接影響系統(tǒng)狀態(tài)。

但 Agentic AI 正在改變這一點：它不只是“建議你做什么”，而是可以幫你直接去做。這不僅帶來了巨大的效率提升，也引入了全新的風險維度——文中的兩個例子就是證明。

不過，盡管接連出現(xiàn)問題，Meta 并沒有放緩對 Agentic AI 的投入，反而在加速布局：就在這起事件曝光前不久，Meta 還剛剛收購了一個完全由 AI 驅(qū)動的社交平臺——Moltbook，并將其創(chuàng)始團隊納入自家的 Meta Superintelligence Labs（MSL） 項目。

當然，這樣的公司遠不止 Meta 一家。如今 AI 已成為全球各大公司的戰(zhàn)略方向，人們面對的問題已不再是“AI 會不會犯錯”，而是逐漸轉(zhuǎn)變?yōu)椋骸爱?AI 犯錯時，我們要如何控制局面？”

因此，Meta 這次的“兩小時數(shù)據(jù)裸奔”，或許只是一個開始。當越來越多公司把“執(zhí)行權(quán)”交給 AI 時，真正的挑戰(zhàn)，才剛剛出現(xiàn)。

參考鏈接：https://www.msn.com/en-in/money/news/meta-ai-agent-goes-rogue-leaks-sensitive-company-and-user-data-in-major-internal-security-breach-report/ar-AA1YWdHg

【活動分享】“48 小時，與 50+ 位大廠技術(shù)決策者，共探 AI 落地真路徑?！庇?CSDN 與奇點智能研究院聯(lián)合舉辦的「全球機器學習技術(shù)大會」正式升級為「奇點智能技術(shù)大會」。2026 奇點智能技術(shù)大會將于 4 月 17-18 日在上海環(huán)球港凱悅酒店正式召開，大會聚焦大模型技術(shù)演進、智能體系統(tǒng)工程、OpenClaw 生態(tài)實踐及 AI 行業(yè)落地等十二大專題板塊，特邀來自BAT、京東、微軟、小紅書、美團等頭部企業(yè)的 50+ 位技術(shù)決策者分享實戰(zhàn)案例。這不僅是一場技術(shù)的盛宴，更是決策者把握 2026 AI 拐點的戰(zhàn)略機會。