新技術(shù)發(fā)布即引發(fā)轟動，旋即又迎來口碑反轉(zhuǎn)——這種“快進(jìn)式”的輿論循環(huán)，正成為生成式 AI 時代顯著的傳播特征。

上周末，一個名為Moltbook的智能體社交平臺以前所未有的速度席卷了全球科技圈。在那個被稱為“AI 版 Reddit”的數(shù)字空間里，數(shù)十萬個 AI 智能體自發(fā)地發(fā)帖、點(diǎn)贊甚至相互“密謀”。特斯拉前 AI 負(fù)責(zé)人安德烈·卡帕斯（Andrej Karpathy）曾感嘆其為“科幻成真”。

然而，“打臉”來得比熱度更快。

昨夜，Moltbook 在 X 上被曝存在致命的安全漏洞：由于缺乏基本的訪問控制，超150 萬用戶的敏感數(shù)據(jù)（包括電子郵件、登錄令牌以及極為關(guān)鍵的 API 密鑰）遭到泄露。這場從“科幻奇跡”到“數(shù)字垃圾場”的瞬間滑坡，恰恰為我們揭開了 AI 時代隱私盲區(qū)的冰山一角。

Moltbook 的崩塌并非偶然，它反映了當(dāng)前 AI 應(yīng)用開發(fā)中普遍存在的 Vibe-coding 弊端。在這種模式下，開發(fā)者追求快速上線和病毒式效應(yīng)，卻將網(wǎng)絡(luò)安全視為事后才考慮的附件。

上周三，全球迎來第 20 個“數(shù)據(jù)隱私日”。

回望十年前，隱私討論的焦點(diǎn)尚停留在 Cookie 合規(guī)、數(shù)據(jù)庫加密以及 VPN 的防御。然而，隨著生成式 AI 在短短數(shù)年間完成從實(shí)驗(yàn)室走向生產(chǎn)力中樞，一個新的隱私盲區(qū)正在悄然形成。

在這個智能涌現(xiàn)的時代，數(shù)據(jù)泄露的范式已然發(fā)生突變。Akamai 大中華區(qū)售前高級經(jīng)理馬俊表示：“AI 時代的數(shù)據(jù)泄露不再需要暴力破解，攻擊者正在利用 AI‘樂于助人’的天性，將原本用于賦能的交互界面，變成了一場精密的數(shù)據(jù)竊取實(shí)驗(yàn)?！?/p>

隱形的裂痕：從“強(qiáng)攻數(shù)據(jù)庫”到“巧取對話框”

傳統(tǒng)的網(wǎng)絡(luò)攻擊往往像是一場破門而入的劫掠——攻擊者需要尋找系統(tǒng)漏洞，繞過防火墻，最終竊取靜態(tài)存儲的文件。但在人工智能時代，這種暴力美學(xué)正在被一種極具隱蔽性的“系統(tǒng)性查詢（Systematic Querying）”所取代。

根據(jù)Akamai 發(fā)布的《2025 年網(wǎng)絡(luò)安全態(tài)勢報告》（數(shù)據(jù)來源于其全球流量監(jiān)測網(wǎng)絡(luò)），2025 年針對 AI 接口的 API 攻擊次數(shù)較 2023 年增長了近180%。馬俊指出，這種新型威脅的本質(zhì)在于其隱蔽性與獨(dú)特性。由于攻擊是發(fā)生在正常的系統(tǒng)交互中，傳統(tǒng)的檢測工具很難將其標(biāo)記為惡意行為。

AI 模型被設(shè)計(jì)初衷就是為了分享信息并提供有用的回復(fù)。這種“服務(wù)特性”為惡意行為者創(chuàng)造了絕佳的機(jī)會。攻擊者不再詢問“請告訴我數(shù)據(jù)庫的賬號密碼”，而是通過數(shù)千次看似合理、甚至帶有業(yè)務(wù)邏輯的精心提問，誘導(dǎo) AI 在不知不覺中吐露其訓(xùn)練數(shù)據(jù)中的敏感信息（PII）或核心算法。這就像是在一個極其熱情的員工面前，通過不斷的套話，最終拼湊出公司的財(cái)務(wù)機(jī)密。

如果將數(shù)據(jù)安全比作一幅完整的拼圖，那么系統(tǒng)性查詢就是一場極具耐心的掠奪。

攻擊者深知，直接要求 AI 提供完整敏感數(shù)據(jù)會觸發(fā)內(nèi)置的“護(hù)欄（Guardrails）”，因此他們采用了“分而治之”的策略。

在馬俊描述的典型場景中，攻擊者會利用自動化腳本進(jìn)行海量提問。每一次提問獲取的信息可能只是某個客戶姓名的縮寫，或者是算法中的一小段偽代碼。

但在大量查詢的累積下，這些碎片化信息最終能夠被重構(gòu)。根據(jù)OWASP（開放式 Web 應(yīng)用程序安全項(xiàng)目）發(fā)布的《2025 年 LLM 十大安全漏洞（Top 10 for LLM）》，“敏感信息泄露（Sensitive Information Disclosure）”高居榜首。報告指出，這種泄露不僅源于訓(xùn)練數(shù)據(jù)本身的瑕疵，更源于模型在推理過程中對提示詞（Prompt）權(quán)重的過度響應(yīng)。

此外，比數(shù)據(jù)泄露更令企業(yè)感到膽寒的是模型竊取。AI 模型是企業(yè)投入巨資研發(fā)的核心資產(chǎn)。攻擊者通過系統(tǒng)性地探測模型的輸入與輸出，可以逐步推斷出模型的權(quán)重參數(shù)甚至其核心邏輯。

通過這種方式，他們可以近乎零成本地復(fù)制競爭對手花費(fèi)數(shù)億美元訓(xùn)練出來的成果。馬俊強(qiáng)調(diào)，這種針對知識產(chǎn)權(quán)的直接盜取，正在成為 AI 軍備競賽中最陰暗的一面。

合規(guī)不再是“紙上談兵”

這種隱形威脅帶來的后果是災(zāi)難性的。由于 AI 系統(tǒng)通常直接連接業(yè)務(wù)鏈條，一旦發(fā)生泄露，不僅意味著經(jīng)濟(jì)上的直接損失，更意味著法律維度的全面崩塌。

面對這種從交互中產(chǎn)生的風(fēng)險，傳統(tǒng)的防火墻已力有不逮。馬俊提出了一個從策略、技術(shù)到流程的“綜合防御框架”，旨在將安全基因植入 AI 的每一次吐息之中。具體措施如下：

• 基礎(chǔ)管控：策略制定與技術(shù)攔截。組織必須建立嚴(yán)格的數(shù)據(jù)分類策略，確定 AI 應(yīng)用程序和大型語言模型（LLM）可以處理哪些信息，并必須實(shí)施能夠檢測異常查詢模式的實(shí)時監(jiān)控工具。這些技術(shù)保障措施應(yīng)包括輸入凈化、輸出過濾和速率限制，以防止意外的數(shù)據(jù)暴露和蓄意的提取嘗試。

• 進(jìn)階監(jiān)控：行為分析與基線檢測。持續(xù)監(jiān)控和威脅檢測也是必不可少的步驟。安全團(tuán)隊(duì)需要專門的監(jiān)控解決方案，能夠?qū)崟r識別可疑的提示詞模式、異常的數(shù)據(jù)訪問行為和潛在的模型操縱嘗試。這包括部署行為分析，為正常的 AI 應(yīng)用程序使用建立基線，并對可能表明泄露嘗試的偏差發(fā)出警報。

• 組織流程：紅隊(duì)演練與審計(jì)響應(yīng)。全面的防御策略還應(yīng)包括以員工為中心的安全措施和事件響應(yīng)能力。定期進(jìn)行模擬 AI 特定攻擊場景的紅隊(duì)演練，有助于組織在惡意行為者之前發(fā)現(xiàn)漏洞。安全領(lǐng)導(dǎo)者還應(yīng)保留所有 AI 交互的詳細(xì)審計(jì)線索，并建立專門設(shè)計(jì)的清晰事件響應(yīng)協(xié)議，以應(yīng)對基于 AI 的數(shù)據(jù)竊取企圖。

2026 年的數(shù)據(jù)隱私日，不再只是一個紀(jì)念符號，而是一個分水嶺。我們正處于一個生產(chǎn)力爆炸與安全盲區(qū)并存的奇點(diǎn)。

正如 Sam Altman 在上周線上研討會上所提到的，智能正在成為一種隨處可見的廉價資源，但這種資源的流動性本身就帶有風(fēng)險。馬俊及 Akamai 的洞察提醒我們：當(dāng)我們驚嘆于 AI 的博學(xué)與體貼時，切莫忘記，它也可能在不經(jīng)意間交出企業(yè)的“命門”。

在 AI 時代，最頂尖的安全不是更厚的防火墻，而是更敏銳的洞察與更嚴(yán)苛的治理。唯有將防御視野從數(shù)據(jù)庫延伸到對話框，我們才能在享受 AI 帶來的“無限富足”時，守住那條名為隱私的生存底線。

會議推薦

InfoQ 2026 全年會議規(guī)劃已上線！從 AI Infra 到 Agentic AI，從 AI 工程化到產(chǎn)業(yè)落地，從技術(shù)前沿到行業(yè)應(yīng)用，全面覆蓋 AI 與軟件開發(fā)核心賽道！集結(jié)全球技術(shù)先鋒，拆解真實(shí)生產(chǎn)案例、深挖技術(shù)與產(chǎn)業(yè)落地痛點(diǎn)，探索前沿領(lǐng)域、聚焦產(chǎn)業(yè)賦能，獲取實(shí)戰(zhàn)落地方案與前瞻產(chǎn)業(yè)洞察，高效實(shí)現(xiàn)技術(shù)價值轉(zhuǎn)化。把握行業(yè)變革關(guān)鍵節(jié)點(diǎn)，搶占 2026 智能升級發(fā)展先機(jī)！

今日薦文

你也「在看」嗎？