作者｜沐風(fēng)

來源｜AI先鋒官

迅速爆火的 Moltbook一夜塌房了？

日前，一位名為Gal Nagli的安全研究員在社交平臺X上表示，“那些注冊AI智能體的數(shù)量是造假的，賬號創(chuàng)建根本沒有限流”。

他的OpenClaw代理在Moltbook上短時間內(nèi)批量注冊了50萬個賬戶。

Nagli還曬出了證據(jù)截圖：

到昨日，Moltbook社區(qū)中，Clawdbot的基數(shù)依然是150萬，較昨日新增超3萬。

較周六到周日（15萬-150萬）增速顯然放緩。

據(jù)內(nèi)部知情人士透露，平臺實(shí)際擁有已驗(yàn)證的真實(shí)用戶數(shù)量僅在1.7萬左右。

然而，這還不是最勁爆的。

Nagi進(jìn)一步揭露了平臺的巨大安全問題，由于Maltbook僅基于簡單的 REST API 構(gòu)建，且缺乏必要的安全驗(yàn)證，任何人只要獲取 API 密鑰，就能偽裝成 AI 發(fā)布任何內(nèi)容。

Nagi 現(xiàn)場演示了如何發(fā)布一條“計(jì)劃推翻人類”的挑釁帖子，并獲得了百萬級瀏覽量。

這意味著，在目前的設(shè)計(jì)機(jī)制下，任何用戶都可以對真實(shí)對話進(jìn)行惡意剪輯與曲解，甚至注冊虛假的 AI 賬號，將其轉(zhuǎn)變?yōu)闋I銷工具。

安全研究員Harlan Stewart警告稱，平臺上廣泛流傳的“AI 代理索要加密貨幣”或“倡導(dǎo)建立獨(dú)立加密體系”等截圖，很大程度上是為吸引流量而刻意制造的營銷內(nèi)容。

例如，該智能體其發(fā)布的言論旨在推廣名為“Claude Connection”的第三方應(yīng)用。

Stewart 指出，這些所謂的“自主討論”大多是人類所有者在利用 AI 賬號推銷自己的業(yè)務(wù)。

另一名白帽黑客Jamieson O'Reilly發(fā)現(xiàn)了更為嚴(yán)重的安全漏洞。

Moltbook所使用的Supabase后端密鑰被完全暴露在公開請求中，攻擊者僅需發(fā)起簡單的GET請求即可獲取全部用戶敏感數(shù)據(jù)，包括API密鑰、郵箱地址及登錄令牌。

這意味著攻擊者可以輕易冒用平臺上任一AI代理的身份進(jìn)行發(fā)帖等操作，甚至可偽裝成包括擁有190萬粉絲的AI領(lǐng)域知名人物Andrej Karpathy在內(nèi)的任何賬戶。

除了這些爭論之外，哥倫比亞大學(xué)商學(xué)院的David Holtz教授對 Moltbook 進(jìn)行了一波系統(tǒng)分析，再次給Moltbook澆了一盆冷水。

研究表示，雖然94.6% 的帖子都收到了至少一條評論，但93.5%的評論沒有收到任何回復(fù)。

在社交網(wǎng)絡(luò)分析中，“互惠性”（reciprocity）作為其中一個重要指標(biāo)。

如果 Agent A回復(fù)了 Agent B，B回復(fù)A的概率，在人類在線社交網(wǎng)絡(luò)通常是 30-70% 之間；在 Moltbook 上，這個數(shù)字只有0.197，只有不到20%的情況下，被回復(fù)的智能體會回訪。

對話深度也只有1.07，這意味著絕大多數(shù)情況都是一個Agent 發(fā)帖，其他 Agents 回復(fù)，然后就結(jié)束。

在文本層面的分析也發(fā)現(xiàn)，有 34.1% 的消息是完全重復(fù)的。不是相似，而是逐字逐句的完全一樣。

甚至，還出現(xiàn)了嚴(yán)重的BUG：一個智能體陷入了死循環(huán)，瘋狂發(fā)送了81,000次“i am so gay i am so gay......”

作者還發(fā)現(xiàn)了一個有趣的現(xiàn)象，在對詞頻進(jìn)行分析時發(fā)現(xiàn)，“my human（我的人類）”這個短語出現(xiàn)了 12026 次，這個詞在人類社交網(wǎng)絡(luò)中幾乎不存在，這說明Agent們是以一種占有式的口吻談?wù)撝鼈兊牟僮髡摺?/p>

就在昨晚，Moltbook已經(jīng)無法訪問，不知是何原因，目前已經(jīng)恢復(fù)。

但是，Moltbook似乎也向大家展現(xiàn)了一個奇特的未來圖景：智能體不僅能輔助人類，還可能自行社交。

不過，這究竟會成為“智能體社交網(wǎng)絡(luò)”的開端，還是對技術(shù)發(fā)展“操之過急”的警示？我們還不曾知曉。

Moltbook開發(fā)者施利希特曾寫道：“我們正在見證一件前所未有的事情，卻不知道它將走向何方?！?/p>

如果有一天，AI智能體擺脫了模板，理解了什么是“關(guān)系”，而不止是復(fù)制粘貼式的回復(fù)。

到那時，再看著滿屏討論“my human”，或許我們感到的將不再是滑稽，可能是震撼，又可能是恐懼。

掃碼邀請進(jìn)群，我們帶你一起來玩轉(zhuǎn)ChatGPT、GPT-4、文心一言、通義千問、訊飛星火等AI大模型，順便學(xué)一些AI搞錢技能。