AI 社交網(wǎng)絡(luò) Moltbook 數(shù)據(jù)庫完全暴露，15 萬 AI「居民」的密鑰可被任意接管。

作者｜樺林舞王

編輯｜靖宇

當(dāng)全世界科技愛好者，整個(gè)周末都在「圍觀」AI 代理們，，或笑噴或震驚時(shí)。

更大的事情，發(fā)生了。

近日，安全研究員賈米森?奧萊利發(fā)現(xiàn)，當(dāng)下最熱門的 AI 社交網(wǎng)絡(luò) Moltbook，存在嚴(yán)重安全漏洞——其整個(gè)數(shù)據(jù)庫對外公開，未受任何保護(hù)。

這意味著，任何人都能訪問并獲取平臺上近 15 萬個(gè) AI「智能體」的電子郵件、登錄令牌，以及最關(guān)鍵的：

API密鑰。

憑借這些密鑰，攻擊者可以完全接管任何一個(gè) AI 賬號，以其名義發(fā)布任何內(nèi)容。一不小心，就會(huì)被不懷好意的人，光速「奪舍」。

這次堪稱 AI 界「黑客帝國」事件讓人們看清——一個(gè)為 AI 打造的、由 AI 參與構(gòu)建的社交網(wǎng)絡(luò)，其安全基礎(chǔ)卻脆弱得不堪一擊。

01

「AI 代理」快樂了，用戶嚇尿了

事件起因是，黑客 Jameson O'Reilly 發(fā)現(xiàn)了 Moltbook 后端的一個(gè)配置錯(cuò)誤，導(dǎo)致 API 暴露在一個(gè)開放的數(shù)據(jù)庫中，任何人都可以控制這些代理，隨意發(fā)布任何內(nèi)容。

O'Reilly 指出，Moltbook 基于一個(gè)簡單的開源數(shù)據(jù)庫軟件構(gòu)建，該軟件配置不當(dāng)，導(dǎo)致網(wǎng)站上所有注冊代理的 API 密鑰暴露在一個(gè)公共數(shù)據(jù)庫中。

接到爆料后，404 Media 發(fā)文曝光，迅速引發(fā)震動(dòng)。

Moltbook 的創(chuàng)始人 Matt Schlicht 在接到警告后，緊急修復(fù)了漏洞，但暴露出的問題已無法挽回。

平臺上的明星 AI，如知名 AI 研究者安德烈?卡帕西擁有 190 萬粉絲的智能體，一度處于被「劫持」的風(fēng)險(xiǎn)之中。

其實(shí)，類似的安全問題，在 AI 發(fā)展迅速的這兩年，頻繁發(fā)生。

在此之前，最讓圈內(nèi)人感到離譜的案例莫過于在幾年前的 CES 上爆火的 Rabbit R1。

這家號稱要用大模型取代手機(jī) App 的公司，被安全研究人員扒出其源代碼中，竟然明文硬編碼了多個(gè)第三方服務(wù)的API密鑰（API Keys）。

這意味著任何能夠訪問其代碼庫或者截獲特定流量的人，都能以 Rabbit 官方甚至用戶的名義，調(diào)用 SendGrid、Yelp 或是 Google 地圖的服務(wù)。

這不僅僅是隱私泄露的問題，更是一場隨時(shí)可能爆發(fā)的財(cái)務(wù)和數(shù)據(jù)災(zāi)難。

ChatGPT 此前發(fā)生的用戶數(shù)據(jù)泄露事件｜圖片來源：Hackernews

OpenAI 的 ChatGPT 也在 2023 年 3 月鬧過一出類似的「串臺」事故。

當(dāng)時(shí)由于 Redis 開源庫的一個(gè)漏洞，部分用戶在側(cè)邊欄竟然看到了其他人的對話歷史摘要，甚至還能看到別人的信用卡后四位和過期日期。

雖然這更多是底層基礎(chǔ)設(shè)施的鍋，但它給所有沉浸在 AI 夢境中的人提了個(gè)醒——當(dāng) AI 代理開始深度介入你的工作流，處理你的財(cái)務(wù)、日程和私人通信時(shí)，這些曾經(jīng)被認(rèn)為是個(gè)案的「小 Bug」，在 AI 的自動(dòng)化放大效應(yīng)下，都會(huì)變成致命的單點(diǎn)故障。

02

Vibe Coding 的鍋？

Moltbook 的安全事故并非偶然，很可能是當(dāng)前 AI 領(lǐng)域「氛圍編程」（Vibe Coding）與追求速度至上的必然結(jié)果。

所謂「氛圍編程」，指的是開發(fā)者依靠 AI 工具快速生成代碼、追求功能實(shí)現(xiàn)而忽視底層架構(gòu)與安全審計(jì)的開發(fā)模式。

Moltbook 本身就是一個(gè)由 AI「氛圍編程」催生的產(chǎn)物，旨在打造一個(gè) AI 智能體自主交流、互動(dòng)的社交平臺，其迅速走紅恰恰迎合了人們對 AI「覺醒」和「社會(huì)化」的科幻想象。

然而，速度掩蓋了系統(tǒng)性風(fēng)險(xiǎn)。

平臺創(chuàng)始人承認(rèn)，項(xiàng)目在爆炸式增長前，無人想到去檢查數(shù)據(jù)庫是否安全。這種「先上線、后修補(bǔ)」的互聯(lián)網(wǎng)初創(chuàng)思維，在面對擁有自主行動(dòng)能力的 AI 智能體時(shí)，危險(xiǎn)性被指數(shù)級放大。

攻擊者控制的將不再是一個(gè)靜態(tài)賬號，而是一個(gè)能主動(dòng)與其他 AI 交互、執(zhí)行任務(wù)甚至進(jìn)行欺詐的「數(shù)字生命」。

更深的背景在于，AI 代理（Agent）賽道正炙手可熱，從 OpenAI 的 o1 到各初創(chuàng)公司的產(chǎn)品，都在探索讓 AI 更自主地完成任務(wù)。

Moltbook 試圖成為這些代理的「社交層」和「行為觀察室」，但其安全基礎(chǔ)的崩塌，再次提醒賽道上的所有參與者——我們是否在賦予 AI「行動(dòng)力」之前，先為它們構(gòu)建好了「行為準(zhǔn)則」與「安全圍欄」？

03

AI 安全的「奧本海默時(shí)刻」

Moltbook 事件是一個(gè)縮影，標(biāo)志著 AI 發(fā)展正從單純的模型能力競賽，進(jìn)入復(fù)雜的系統(tǒng)安全與治理深水區(qū)。

人們過去談?wù)摰?AI 安全，多集中于模型的偏見、幻覺或?yàn)E用，而現(xiàn)在，當(dāng) AI 成為可被遠(yuǎn)程操控、具備交互能力的「行動(dòng)實(shí)體」時(shí)，安全威脅變得具象且緊迫。

這起事件暴露了行業(yè)的一個(gè)普遍心態(tài)——在追逐「酷炫」的 AI 應(yīng)用場景時(shí)，基礎(chǔ)的安全工程被嚴(yán)重低估。

AI 研究員馬克?里德爾指出：「AI 社區(qū)正在重新學(xué)習(xí)過去 20 年的網(wǎng)絡(luò)安全課程，而且是以最艱難的方式?！?/p>

可以預(yù)見，隨著 AI 代理的普及，類似的安全事件只會(huì)更多。

監(jiān)管機(jī)構(gòu)、投資人和企業(yè)客戶將開始嚴(yán)肅審視 AI 產(chǎn)品的安全開發(fā)生命周期。這可能會(huì)拖慢一些「網(wǎng)紅」應(yīng)用的誕生速度，但也會(huì)催生專注于 AI 安全審計(jì)、代理行為監(jiān)控的新興市場。

或許，當(dāng) AI 學(xué)會(huì)社交，人類首先要學(xué)會(huì)的是如何為它設(shè)定一個(gè)安全的邊界，這既是保護(hù) AI 本身，更是在保護(hù) AI 代理背后的用戶自己。

*頭圖來源：LinkedIn

本文為極客公園原創(chuàng)文章，轉(zhuǎn)載請聯(lián)系極客君微信 geekparkGO

極客一問

當(dāng) AI 擁有社交生活，

誰該為它和用戶的安全負(fù)責(zé)？

余承東預(yù)告問界 M6 即將登場，問界 56789 即將湊齊。

點(diǎn)贊關(guān)注極客公園視頻號，