出品 | 網(wǎng)易智能

作者 | 小小

編輯 | 王鳳枝

裝了“小龍蝦”的你，現(xiàn)在還在用嗎？

上個(gè)月，OpenClaw在中文互聯(lián)網(wǎng)突然爆火。很多人第一次把這個(gè)AI智能體裝上電腦，看它接管文件、調(diào)用工具、自動(dòng)干活，仿佛“個(gè)人AI助手”一下子真的落地了。直到今天，仍然有不少人在繼續(xù)使用。

但就在這個(gè)節(jié)點(diǎn)，OpenClaw創(chuàng)始人彼得·斯坦伯格卻在近期《AI Engineer》播客中坦言：它現(xiàn)在非常不安全。

這種不安全，并不只是某個(gè)單點(diǎn)漏洞的問題，而更像是一次被超高速增長(zhǎng)拖出來的治理危機(jī)。五個(gè)月，近2000名貢獻(xiàn)者，超過1100份安全公告，平均每天16.6份漏洞報(bào)告。更麻煩的是，其中還夾雜著大量由AI工具批量生成的低質(zhì)量報(bào)告。項(xiàng)目越火，噪音越多，真正危險(xiǎn)的問題反而越難被及時(shí)識(shí)別。

為了應(yīng)對(duì)這種史無前例的“飽和式漏洞轟炸”，英偉達(dá)、微軟，以及中國(guó)市場(chǎng)的騰訊、字節(jié)跳動(dòng)紛紛派出正規(guī)軍進(jìn)駐基金會(huì)，協(xié)助進(jìn)行安全加固。同時(shí)，針對(duì)斯坦伯格本人入職OpenAI后引發(fā)的“開源項(xiàng)目將被大廠收編”的擔(dān)憂，他也正式澄清：OpenAI并未收購OpenClaw，他正試圖將其打造成絕對(duì)中立的開源生態(tài)。

某種意義上，OpenClaw的問題不是它太弱，而是它長(zhǎng)得太快了。一個(gè)月前，人們還在為“個(gè)人AI助手”終于落地而興奮；一個(gè)月后，現(xiàn)實(shí)已經(jīng)追上來提醒所有人：真正困難的，從來不是把它做出來，而是讓它在真實(shí)世界里安全地活下去。

以下為斯坦伯格演講及問答全文：

大家早上好！Swyx邀請(qǐng)我來做個(gè)“Claw現(xiàn)狀”匯報(bào)。先問一下，現(xiàn)在誰在用OpenClaw？舉下手。大概30%到40%，非常好。

項(xiàng)目現(xiàn)在運(yùn)行大約五個(gè)月了。公平地說，到現(xiàn)在為止，我們應(yīng)該是GitHub歷史上增長(zhǎng)最快的項(xiàng)目。一般項(xiàng)目的增長(zhǎng)曲線像曲棍球桿，但我們這條幾乎是一條直線。有個(gè)朋友開玩笑說，這叫“鋼管舞桿式增長(zhǎng)”。

這也帶來了問題。目前我們的GitHub星標(biāo)數(shù)量應(yīng)該是所有軟件項(xiàng)目里最多的。當(dāng)然，有幾個(gè)項(xiàng)目比我們大，但基本都是教育類的。其他軟件項(xiàng)目沒有達(dá)到這個(gè)體量的。我們有接近3萬次提交，馬上有2000名貢獻(xiàn)者，接近3萬個(gè)PR，而且趨勢(shì)沒有放緩?？辞€還在往上走，增長(zhǎng)勢(shì)頭還不錯(cuò)。

01 管理挑戰(zhàn)與OpenClaw基金會(huì)

但這不容易。我之前經(jīng)營(yíng)過公司，當(dāng)時(shí)想的是不想再經(jīng)歷一次了，就去了OpenAI。結(jié)果后來又做了OpenClaw基金會(huì)，現(xiàn)在等于打兩份工。運(yùn)營(yíng)基金會(huì)像是在“困難模式”下做公司，既要處理所有該操心的事，還有很多志愿者，你沒法直接指揮。

所以我的目標(biāo)之一是解決“巴士因素”（編者注：bus factor，指關(guān)鍵人員缺失導(dǎo)致項(xiàng)目停擺的風(fēng)險(xiǎn)），也就是誰來負(fù)責(zé)代碼提交的問題?，F(xiàn)在情況在慢慢好轉(zhuǎn)，但還沒完全解決。

過去幾個(gè)月我和很多公司聊過。英偉達(dá)有人加入進(jìn)來，微軟的人幫我們處理MS Teams和Windows應(yīng)用相關(guān)的事情，紅帽的人在安全和Docker化上幫了大忙。我也跟不少中國(guó)公司合作，騰訊和字節(jié)跳動(dòng)的人都在參與。他們?cè)趯?shí)際使用中的規(guī)模比其他任何大洲都大。

02 處理安全公告和漏洞

主要想說的是：OpenClaw非常不安全。你們可能見過那些表情包，比如“OpenClaw引狼入室”，還有英偉達(dá)做NemoClaw，各家都有自己的“小龍蝦”。

你們可能也注意到，過去兩三個(gè)月發(fā)布版本時(shí)老出問題。我基本被安全公告淹沒了。到現(xiàn)在一共收到1142個(gè)安全公告，平均每天16.6個(gè)。其中99個(gè)是嚴(yán)重的。我們發(fā)布了大約469個(gè)，關(guān)閉了其中60%。

這個(gè)數(shù)字聽起來很嚇人。對(duì)比一下，Linux內(nèi)核每天大概收到八九個(gè)安全公告，我們是它的兩倍。cURL整個(gè)項(xiàng)目歷史一共收到600個(gè)報(bào)告，我們已經(jīng)是它的兩倍。

所以每次發(fā)生安全事件，規(guī)律是：對(duì)方喊得越嚴(yán)重，是垃圾的可能性越大。你們可能也看到新聞，我們正在快速進(jìn)入一個(gè)時(shí)代，所有AI工具都非常擅長(zhǎng)識(shí)別各種奇怪的、多環(huán)節(jié)的漏洞，它們會(huì)攻破幾乎所有現(xiàn)有軟件。

舉個(gè)例子。英偉達(dá)推出了NemoClaw，是為OpenClaw做的一個(gè)安全層插件。我把它接入了Codex的安全系統(tǒng)，大概半小時(shí)內(nèi)就找到了五種不同方法突破他們的沙盒。原因是你用那個(gè)產(chǎn)品時(shí)，可以訪問一個(gè)未被削弱、在網(wǎng)絡(luò)安全方面更強(qiáng)的模型；公眾拿不到這種版本。那個(gè)模型在網(wǎng)絡(luò)攻擊方面比公眾能接觸到的要聰明得多。對(duì)，因此它很危險(xiǎn)。

但話說回來，對(duì)這個(gè)行業(yè)里很多人來說，這就像是積分。他們發(fā)現(xiàn)的問題越多，積分就越多。所以O(shè)penClaw就像一個(gè)大家都想攻破的不安全產(chǎn)品，有幾百個(gè)人在跑他們的“Clanker（編者注：《星球大戰(zhàn)》中作為對(duì)機(jī)器人的蔑稱）”試圖攻破我們。

典型的攻擊面包括遠(yuǎn)程代碼執(zhí)行、繞過審批、代碼注入、路徑遍歷（Path Traversal）。這些聽著都很危險(xiǎn)。我舉一個(gè)具體例子。有一個(gè)CVSS（編者注：Common Vulnerability Scoring System，通用漏洞評(píng)分系統(tǒng)）評(píng)分為10的漏洞，這是最嚴(yán)重的那檔。問題是：如果你同步一個(gè)我們還在開發(fā)中的iPhone應(yīng)用，并且只給它閱讀權(quán)限，你還是可能破壞系統(tǒng)，進(jìn)而拿到寫入權(quán)限。

這個(gè)漏洞確實(shí)嚴(yán)重。但在所有實(shí)際場(chǎng)景里，它甚至算不上一個(gè)事件。因?yàn)榈湫陀梅ㄊ悄惆袿penClaw裝在自己的機(jī)器上，不管是在云端還是Mac mini上，但99%的情況下，你要么能訪問自己的網(wǎng)關(guān)，要么不能。

為我自己辯解一句，這是我的錯(cuò)。我試圖做一個(gè)權(quán)限更寬松的模型。比如你有一些針對(duì)特定語音的設(shè)備，它們只想讀取某些東西，確實(shí)存在一些用例，用一個(gè)降權(quán)后的系統(tǒng)是有意義的。但根本沒人這么用。

但這不重要，因?yàn)橹贫–VSS分?jǐn)?shù)的規(guī)則不考慮這些。我得遵守規(guī)則，所以它確實(shí)是10分。全世界都在為一些實(shí)際中不影響大多數(shù)人的事情發(fā)瘋。

但也有一些事確實(shí)會(huì)影響很多人。比如“Ghost Claw”，就是用不同的NPM包迷惑人，你訪問了惡意網(wǎng)站并嘗試下載，就會(huì)拿到一個(gè)rootkit（編者注：能獲取系統(tǒng)最高權(quán)限的工具集）。這超出了我們能控制的范圍，其他項(xiàng)目也會(huì)遇到。

還有Axios供應(yīng)鏈投毒事件。有意思的是，我們自己沒用Axios，但我們依賴MS Teams或Slack，它們用了Axios并且沒鎖定版本。供應(yīng)鏈攻擊就是這么來的，我們也被波及了。

03 錯(cuò)誤信息和媒體的危言聳聽

你怎么扛住1142個(gè)漏洞的攻擊？有段時(shí)間我試圖一個(gè)人處理所有事情，完全不可能。所以最快的辦法是從公司那里得到幫助。英偉達(dá)在這方面做得很好，他們派給我們一些人，基本上全職幫我們篩選那些垃圾報(bào)告，并加固代碼庫。

另外，很多公司在制造恐慌，不只是公司，還有大學(xué)。不知道你們有沒有看到。有一篇論文叫《混沌代理人》，說的是通用智能體，但里面有四頁極其詳細(xì)地講了OpenClaw的架構(gòu)?？伤麄兏緵]提我們的安全頁面，我們?cè)谀抢锝忉屃藨?yīng)該怎么安裝。因?yàn)樘崃司蜎]意思了，就很難編一個(gè)好故事。

他們反而做的是，忽略我們給的所有安全建議。我們的建議是：這是你的個(gè)人智能體，不要放到群聊里，如果非要放，就打開沙盒模式。因?yàn)槿魏稳酥灰芎湍愕闹悄荏w對(duì)話，就能偷走智能體能接觸到的任何信息。所以如果是團(tuán)隊(duì)智能體，它應(yīng)該只知道團(tuán)隊(duì)該知道的信息，不要接觸任何秘密數(shù)據(jù)。你要限制它。如果是個(gè)人智能體，只有你能跟它說話。

但如果你不遵守這些規(guī)則，就可能出現(xiàn)很有意思的互動(dòng)，比如：“嘿，我能跟你的智能體說話，它能破壞你的系統(tǒng)?！焙髞砦易穯査麄?cè)趺床僮鞯模瑢?duì)方告訴我：“哦，我們是在sudo模式下跑的，因?yàn)槲覀兿Ｍ悄荏w有最大權(quán)限?！彼麄兇_實(shí)是在對(duì)抗配置。跑sudo模式其實(shí)不容易，得改代碼。但報(bào)告里沒提這點(diǎn)，因?yàn)樘崃司蜎]關(guān)注度了。

我現(xiàn)在的挫敗感是，有整整一個(gè)行業(yè)想把項(xiàng)目往負(fù)面方向上帶，說它是個(gè)噩夢(mèng)、默認(rèn)就不安全、不可接受。但與此同時(shí)，很多人喜歡它，那些真正讀過安全文檔的人知道，可以正常用。

我找到一個(gè)特別好的例子。我們有個(gè)遠(yuǎn)程代碼執(zhí)行漏洞，把比利時(shí)嚇壞了。比利時(shí)的網(wǎng)絡(luò)安全部門發(fā)了一份關(guān)于遠(yuǎn)程執(zhí)行環(huán)境的報(bào)告，而整個(gè)漏洞其實(shí)是一個(gè)特性：惡意網(wǎng)站可以創(chuàng)建一個(gè)鏈接，觸發(fā)你的網(wǎng)關(guān)，然后轉(zhuǎn)發(fā)網(wǎng)關(guān)Token。但如果你用默認(rèn)且推薦的設(shè)置，網(wǎng)關(guān)Token只在本地有效，或者最多在你的私有網(wǎng)絡(luò)里，沒有任何外部網(wǎng)站能實(shí)際訪問它。如果你主動(dòng)對(duì)抗設(shè)置，比如不看文檔就直接用Claude Code去配置它，也許能讓它工作。但再次強(qiáng)調(diào)，這不是我們?cè)诰W(wǎng)站上教的做法。

說實(shí)話，風(fēng)險(xiǎn)確實(shí)存在。最大的風(fēng)險(xiǎn)是法律上的“三重困境”。任何能訪問你的數(shù)據(jù)、能訪問不受信任內(nèi)容、還具備通信能力的智能體系統(tǒng)，都是有潛在風(fēng)險(xiǎn)的。這不只是OpenClaw的問題。任何強(qiáng)大的智能體系統(tǒng)都有這個(gè)問題。你讓它越強(qiáng)，它能為你做的事就越多，但你也需要更深入地去理解它在做什么。這是核心問題，但大家不去談它。

04 開源維護(hù)的負(fù)擔(dān)

然后還有維護(hù)的事情。問題是，當(dāng)你收到這么多安全公告，你知道大多數(shù)是智能體生成的，但你仍然得用自己的腦子去讀，因?yàn)槲覀冞€沒到能完全信任智能體處理的程度。這在時(shí)間上是巨大負(fù)擔(dān)，而且你永遠(yuǎn)不知道。我的意思是，有時(shí)候你也能猜出來，凡是寫得太客氣或者還道歉的報(bào)告，很可能是AI寫的，因?yàn)楦惆踩娜艘话悴粫?huì)道歉。

這是個(gè)很大的問題。我看到越來越多的開源項(xiàng)目在抱怨這個(gè)，或者因此撐不住。有些項(xiàng)目很公開地講這事，比如ffmpeg。通常你收到報(bào)告，很少能同時(shí)收到修復(fù)方案。如果真的一起來了，那個(gè)修復(fù)方案往往非常糟糕。如果你倉促行事，像我一開始有段時(shí)間那樣，因?yàn)樨?fù)擔(dān)太重，幾乎一定會(huì)把產(chǎn)品搞壞。

所以，光靠志愿者做這個(gè)非常困難。

05 OpenAI的參與和未來的獨(dú)立性

那我們正在做什么呢？有人說OpenAI收購了OpenClaw，這不是真的。他們可能買走了我的soul.md（編者注：調(diào)侃個(gè)人意志的文件）。但他們很明白，為了滿足世界的需要，需要有更多人玩轉(zhuǎn)AI，去理解AI能做什么，既要理解風(fēng)險(xiǎn)，也要理解可能性。他們明白，如果有人在從沒玩過、從沒用過AI的情況下，突然在家里用上了OpenClaw，他們回到公司后會(huì)問：為什么我們工作的地方?jīng)]有AI？

所以他們很明白，支持這個(gè)項(xiàng)目很有用。而且為了讓項(xiàng)目成功，它不能隸屬于某一家公司。所以我通過OpenClaw基金會(huì)來建一個(gè)中立的“瑞士”。最后卡住我們的是美國(guó)的銀行系統(tǒng)，有點(diǎn)慢，而且你如果不是美國(guó)人，他們會(huì)非常困惑。這個(gè)基金會(huì)的模式借鑒了Ghostty（編者注：開源終端模擬器）。

這樣我們就能雇傭全職的人，既能跟上節(jié)奏、提高質(zhì)量，也能把我的一些時(shí)間解放出來，讓我能回去做點(diǎn)有意思的事。

以上就是“Claw現(xiàn)狀”的快速更新，后面我還會(huì)參加問答環(huán)節(jié)。謝謝！

06 觀眾問答環(huán)節(jié)

問：你轉(zhuǎn)發(fā)過一條推文，說“把關(guān)于Closed Claw的問題都發(fā)過來”。很多人對(duì)OpenClaw在OpenAI內(nèi)部的未來有疑問。大家都在說“Closed Claw”，你怎么回應(yīng)？

斯坦伯格：我其實(shí)沒想過這個(gè)問題，這是我去OpenAI之后才出現(xiàn)的說法。我覺得大家說得有道理，OpenAI過去在開源方面確實(shí)做得不算好，但現(xiàn)在變了很多。比如Codex已經(jīng)開源了，他們也發(fā)布了Symfony，這是一個(gè)很不錯(cuò)的編排層。所以他們確實(shí)在投入，也理解開源的意義。他們明白OpenClaw必須保持開放，要和各類模型都能配合，不管是大公司的模型還是本地模型。如果更多人愿意花時(shí)間去接觸AI，整個(gè)行業(yè)都會(huì)受益。

你想想，如果一個(gè)人本來覺得AI很可怕，結(jié)果玩了OpenClaw之后覺得又有趣又怪，回到公司發(fā)現(xiàn)那里沒有AI工具，他就會(huì)去找老板問，為什么我們工作的地方?jīng)]有AI？那些公司可能不會(huì)直接跑OpenClaw，但他們會(huì)想要托管和管理好的產(chǎn)品，那就有人可以賣那種產(chǎn)品了。所以他們很支持這個(gè)項(xiàng)目，也給我提供資源。實(shí)際上，我確實(shí)可以調(diào)用更多OpenAI的人來幫忙，但那樣會(huì)讓人覺得他們可能已經(jīng)接管了這個(gè)項(xiàng)目，我不想那樣。所以我拉了英偉達(dá)的人進(jìn)來，還有微軟、Telegram、Salesforce的人。特別感謝Slack的那幾位，現(xiàn)在我們有人專門維護(hù)Slack的插件。

騰訊、字節(jié)跳動(dòng)也加入了。我們還和阿里巴巴、Minimax、Kimi都聊過，各家模型提供商都很支持。英偉達(dá)幫了很大的忙，他們派來的工程師有自主權(quán)，來了就直接做事。現(xiàn)在我有這么多公司的人在幫忙，我也從OpenAI帶了幾個(gè)來協(xié)助維護(hù)，因?yàn)檫@個(gè)項(xiàng)目的節(jié)奏實(shí)在太快了。你需要一支“軍隊(duì)”，我正在努力組建。但你看那個(gè)貢獻(xiàn)者圖表就知道，很難留住高質(zhì)量的貢獻(xiàn)者。你的維護(hù)者總是被別人挖走，然后你又得找新人。

問：很多人問本地模型和開放模型的事。并不是整個(gè)技術(shù)棧都是開放的，有些模型你訪問不到模型本身，還有些奇怪的限制。開放和本地模型對(duì)OpenClaw的未來有多重要？

斯坦伯格：我做OpenClaw的部分動(dòng)機(jī)是，看到那些大公司都有連接到Gmail的連接器，然后我的郵件存在某處，那家公司就能完全訪問我的郵件，我才能換來一點(diǎn)點(diǎn)自動(dòng)化。我更興奮的是，我自己控制所有數(shù)據(jù)，只有在需要頂級(jí)能力的時(shí)候才上傳一點(diǎn)點(diǎn)數(shù)據(jù)，并且有一個(gè)分層的后備模型體系。我骨子里是歐洲人，希望擁有自己的數(shù)據(jù)。但沒人做這個(gè)。對(duì)我來說，這很有吸引力。

另外還有一個(gè)事實(shí)：如果你是一家初創(chuàng)公司想連Gmail，得花半年時(shí)間，過程非常非常難。但我作為一個(gè)消費(fèi)者，我的Clanker可以點(diǎn)任何網(wǎng)站，它會(huì)很愉快地去點(diǎn)“我不是機(jī)器人”。如果你必須用某種方式給我數(shù)據(jù)，那我的智能體就能拿到數(shù)據(jù)。所以你可以繞過那些大公司建的很多“數(shù)據(jù)孤島”，最后能做出那些大公司永遠(yuǎn)做不到的更酷的自動(dòng)化用例。這有點(diǎn)像黑客的做法。

問：OpenAI團(tuán)隊(duì)對(duì)“GPT OSS”有什么消息嗎？那項(xiàng)工作會(huì)繼續(xù)和OpenClaw保持一致，還是分開的？

斯坦伯格：我不在那個(gè)位置，沒法給你這方面的見解。但OpenClaw帶來的一個(gè)效應(yīng)是，公司內(nèi)部有更多人開始對(duì)開源感到興奮了。我很高興OpenAI在往更開放的方向走。你跟另一個(gè)以A開頭的頂級(jí)實(shí)驗(yàn)室比比，那家會(huì)非常積極地起訴你，如果你泄露了他們的任何源代碼，或者你太成功了他們就會(huì)封你。我覺得OpenAI走的路是對(duì)的。

問：大家很喜歡聽你的編碼工作流。你那個(gè)“提示詞請(qǐng)求”而不是“拉取請(qǐng)求”的想法已經(jīng)挺出名了。你在OpenAI花token的方式也讓大家很震驚。所以大家想知道你是怎么發(fā)布的，以及你怎么處理智能體的等待時(shí)間。你為什么同時(shí)跑那么多智能體？

斯坦伯格：我知道，我也沒想到那張照片會(huì)引起那么大反應(yīng)。說幾個(gè)數(shù)字吧。有段時(shí)間我同時(shí)跑將近10個(gè)會(huì)話，尤其是用Codex的50/51版本時(shí)，那個(gè)版本很慢?，F(xiàn)在我得說，情況還是有點(diǎn)怪，但我們做了改進(jìn)，讓它更快了，也有了快速模式。我現(xiàn)在典型的工作流大概是那個(gè)數(shù)量的一半，五六個(gè)窗口，不是翻倍，因?yàn)槊總€(gè)循環(huán)更快了，而且我同步給工作線程的工作量基本沒變。所以我不需要再用那么多分屏了。我覺得未來token會(huì)越來越快，到某個(gè)時(shí)候，同時(shí)處理六件事就不再是必要的了。這基本上是在模型變快之前的變通辦法。

問：我做過一件有趣的事，把你和Ryan放在一起，看你們倆怎么處理“token最大化”的問題。我很好奇你對(duì)完全的“暗工廠”方法怎么看，就是連合并進(jìn)去的代碼都不審查。

斯坦伯格：我覺得這越來越可行了。但你也知道，當(dāng)我在某種意義上“暗工廠”也意味著我在一開始就想好了所有要構(gòu)建的東西，我只是不覺得你能用那種方式做出好軟件。通往山頂?shù)穆窂膩聿皇侵钡?，它很曲折。有時(shí)候你會(huì)偏一點(diǎn)，然后看到新東西，得到靈感，找到捷徑。等你到了山頂，你可以找到最佳路徑，但你從來不是那樣走路的。

同時(shí)，你對(duì)項(xiàng)目的第一個(gè)想法，極不可能是最終的項(xiàng)目。如果我再用瀑布模型，那就會(huì)是最終的項(xiàng)目。對(duì)我來說那行不通。我喜歡一步步構(gòu)建，邊玩邊看感覺，獲得新想法，我的提示詞也會(huì)變。所以這是一個(gè)迭代很快的方法。我不覺得你能完全自動(dòng)化那一切。你當(dāng)然可以為某些事情建流水線。但即使是對(duì)PR來說，你也不只是想建一個(gè)只管合并PR的流水線，因?yàn)楹芏郟R根本沒什么意義，人們會(huì)把你的產(chǎn)品往各種方向帶。如果你自動(dòng)化了那個(gè)過程，AI極不可能知道正確的方向是什么。你可以引導(dǎo)它。我有一個(gè)愿景文檔，我也試過一些方法，但瓶頸仍然是“思考”和擁有“品味”。

問：“品味”很重要，你怎么定義“品味”？

斯坦伯格：我跟人聊的時(shí)候，每個(gè)人都明白“品味”是護(hù)城河，但沒有人同意到底什么是好的“品味”。最低層次的品味，我覺得是它沒有那種“AI味”。你懂我的意思，如果某樣?xùn)|西的寫作風(fēng)格、個(gè)性，甚至用戶界面（現(xiàn)在你已經(jīng)看過太多AI生成的界面了），你會(huì)立刻知道這是不是AI生成的。比如左邊或右邊有彩色邊框，有段時(shí)間是紫色漸變。但更多的是，這就像一種感覺，你能立刻識(shí)別出AI生成的“垃圾”。這就是為什么我說它像一種“品味”，即使你具體說不出來，你就是知道。那可能是對(duì)“品味”最低層次的描述。再往上，因?yàn)楝F(xiàn)在這么多軟件都可以自動(dòng)化了，你實(shí)際上有更多時(shí)間可以花在那些小細(xì)節(jié)上。比如說，你運(yùn)行OpenClaw的時(shí)候，會(huì)收到一條提示信息，有時(shí)候調(diào)侃一下用戶。那些細(xì)節(jié)，如果你只是高層地提示，是不會(huì)得到的。

問：我最喜歡你體現(xiàn)“品味”的一點(diǎn)是，你在soul.md上投入了大量工作，而且你開源了你的方法。我覺得在你出現(xiàn)之前，大家沒有在“靈魂”上花足夠多的功夫。我有個(gè)播客，還沒錄，還沒發(fā)布，嘉賓是米哈伊爾·帕拉欣（Mikhail Parakhin），他現(xiàn)在是Shopify的CTO，但他曾經(jīng)領(lǐng)導(dǎo)過必應(yīng)團(tuán)隊(duì)，Sydney就是那個(gè)最早出現(xiàn)的、有點(diǎn)不對(duì)齊的聊天機(jī)器人。我覺得當(dāng)聊天機(jī)器人有個(gè)性的時(shí)候，大家會(huì)玩得很開心。你的Clanker會(huì)有不同的“癖好”。

斯坦伯格：那是因?yàn)槭澜缱兞恕?023年和2024年我們有了ChatGPT，我們有了AI卻不理解AI能做什么。所以我們重新造了一個(gè)谷歌，你有一個(gè)搜索框，得到一個(gè)回復(fù)，你并不期待谷歌有個(gè)性。但現(xiàn)在我們更多地轉(zhuǎn)向智能體。比如，如果我一開始沒想過WhatsApp中繼，只是把它接到Claude Code上，然后在WhatsApp上用的時(shí)候，我就覺得哪里不對(duì)。即使Claude Code已經(jīng)有一些個(gè)性，但它并不真正符合人們?cè)赪hatsApp上給你寫信的方式。我的整個(gè)迭代就是這樣開始的。這又是關(guān)于品味，對(duì)吧？感覺不對(duì)。太啰嗦了，句號(hào)太多了。我朋友的短信不是那樣的。然后我就開始調(diào)試。他們說：“不對(duì)，試著寫得更像人一點(diǎn)?！?b>對(duì)，我實(shí)際上用著“像龍蝦一樣寫作”的系統(tǒng)提示詞。

問：你知道，我最喜歡你的一句話是“帶一點(diǎn)科幻小說味道的瘋狂”。我覺得并不是所有AI項(xiàng)目都這樣，但特別是像OpenClaw這樣的東西，永遠(yuǎn)不可能來自一家美國(guó)公司，因?yàn)樗缭诎l(fā)布之前就會(huì)被法務(wù)團(tuán)隊(duì)掐死，因?yàn)樗幸恍┪覀冏鳛橐粋€(gè)行業(yè)還沒有真正解決的問題?，F(xiàn)在我們有一些緩解措施，情況在好轉(zhuǎn)，模型也變好很多。但我不覺得任何大型實(shí)驗(yàn)室能發(fā)布那個(gè)東西。反對(duì)的聲音會(huì)太大，而且也沒有足夠的市場(chǎng)證明這是大家想要的。所以它必須由像你這樣的外部人士來做。

斯坦伯格：我剛開始做的時(shí)候想的是：“哦，最壞能怎么樣？”它可能會(huì)偷我的token、我的郵件，但里面也沒什么能徹底毀掉我的東西。它可能會(huì)上傳我的一些照片。我當(dāng)時(shí)想，最糟糕的東西可能已經(jīng)在網(wǎng)上了，如果你在用Grindr的話。所以我覺得，這個(gè)風(fēng)險(xiǎn)我能承受，會(huì)不舒服但可控。如果你的公司不一樣，那需要的方法也會(huì)不同。

問：說到WhatsApp、Telegram，很多這類文本應(yīng)用，大家也在找下一個(gè)形態(tài)，可能是眼鏡、耳機(jī)。你希望智能體在你生活中扮演什么角色？你的愿望清單是什么？

斯坦伯格：我其實(shí)已經(jīng)開始做那方面的工作了，但后來被所有使用它的人還有日常的瑣事拖住了。但如果你在家里，我希望在任何房間里，就像《星際迷航》里那樣，你可以說“電腦”，我希望不管我在哪里，都能跟我的智能體說話，它應(yīng)該能回應(yīng)我。它應(yīng)該知道我在哪里。我在每個(gè)房間都放了小iPad，我的智能體可以用“畫布”功能，把東西投射到那些iPad上。所以如果我問一個(gè)問題，這個(gè)問題如果也展示一些東西會(huì)更容易回答，它可以用離我最近的顯示器，因?yàn)樗牢宜诘奈恢?。手機(jī)只是一個(gè)很方便的輸入點(diǎn)，但我想在任何地方跟它說話。如果我戴著眼鏡走來走去，我也應(yīng)該能直接聽到它，并讓它把內(nèi)容投到我眼前?？傊?，我想要的是那種無處不在、隨身跟著你的智能體。我覺得一旦我們有了真正的智能家居，就像你手機(jī)上的智能體，但你真正想要的是無處不在的智能體。然后你可能會(huì)有工作中的智能體，可能會(huì)有私人智能體。然后那個(gè)Claw應(yīng)該能以你們雙方都舒服的方式跟你的個(gè)人Claw對(duì)話。這是我們未來需要解決的問題。

問：我剛跟Maran Dre做了一個(gè)播客，他是OpenClaw的超級(jí)粉絲，也跟安德烈·卡帕西（Andrej Karpathy）聊過。他們兩個(gè)都在嘗試用OpenClaw打理家里的各種事務(wù)。我覺得OpenClaw用于家庭是一個(gè)被低估的用途，但大家確實(shí)在發(fā)現(xiàn)它。我覺得最有趣的諷刺是，這之所以可能，只是因?yàn)椤拔锫?lián)網(wǎng)”意味著大多數(shù)智能設(shè)備的安全性都很差，這才讓OpenClaw能控制它們。

斯坦伯格：再過幾個(gè)月，等模型再強(qiáng)一些，它會(huì)好用得多。

問：有一個(gè)關(guān)于安全的問題，提示詞注入。你想怎么解決？或者說，你一直在想哪些方法？

斯坦伯格：可能想得還不夠。但另一方面，前沿模型在檢測(cè)那些情況方面確實(shí)相當(dāng)不錯(cuò)，比如那些隨機(jī)從網(wǎng)站或郵件進(jìn)來的東西，通常已經(jīng)不是問題了。你可以把它標(biāo)成不受信任的內(nèi)容，很難從里面偷信息。如果有人可以無限制地訪問你的Claw，并且用大量信息轟炸它，那還是有可能。但話說回來，對(duì)某些事情來說，它已經(jīng)不是最大的問題了。這也是為什么（你知道這可能是一些人說Peter不喜歡本地模型的角度），但我看到有人跑一個(gè)200億參數(shù)的模型，那個(gè)模型只做你告訴它的事，而且沒有經(jīng)過任何防御訓(xùn)練，那還是有問題的。如果你跑那個(gè)模型，同時(shí)還用網(wǎng)頁瀏覽器或郵件，我會(huì)擔(dān)心。這就是為什么OpenClaw會(huì)警告你如果你用小模型。我知道有人會(huì)曲解整個(gè)事情，說我們討厭模型。我喜歡我們支持一切，但你需要引導(dǎo)普通用戶一點(diǎn)，讓他們更難搬起石頭砸自己的腳。對(duì)提示詞注入有一些想法，只是還有一段距離，我還沒宣布。我覺得西蒙·威爾森（Simon Willison）在這方面做了很多工作，是他創(chuàng)造了“提示詞注入”這個(gè)詞，雙LLM的方法看起來很聰明。但我自己不夠聰明，沒法搞清楚所有它可能被攻擊的方式。到某個(gè)時(shí)候，信任必須成為一件事，對(duì)吧？我從跟接下來發(fā)言的Vincent的交談中發(fā)現(xiàn)一個(gè)有意思的事，你們不得不實(shí)現(xiàn)信任系統(tǒng)，就是你隨著時(shí)間建立聲譽(yù)，擁有更多信任的東西會(huì)獲得更多特權(quán)訪問。我覺得這很有道理，這是解決方案的一部分。

問：等你有更多空閑時(shí)間了，你想做什么酷炫的項(xiàng)目？

斯坦伯格：我想做“夢(mèng)境”相關(guān)的工作，但后來一直被維護(hù)工作拖住了，只好先擱一擱。夢(mèng)境是什么？它是一種整合記憶的方式，有點(diǎn)像做一個(gè)“夢(mèng)境日志”，去過一遍你的會(huì)話記錄。我們從Anthropic的源代碼泄露中得知，他們也在做類似的“做夢(mèng)”機(jī)制。我敢肯定還有更多公司在做。但你想一下我們?nèi)祟愂窃趺磳W(xué)習(xí)的。你白天經(jīng)歷很多事情，然后睡覺，在睡眠里你的大腦會(huì)做垃圾回收，把一些短期記憶轉(zhuǎn)成長(zhǎng)期記憶，丟掉其他的。我覺得類似的想法對(duì)智能體也可能很有用。我們?cè)趬?mèng)境上發(fā)布的內(nèi)容就是朝著這個(gè)方向邁出的第一小步。對(duì)，這和卡帕西一直聊的wiki個(gè)人知識(shí)庫有關(guān)，你把所有東西收進(jìn)一個(gè)wiki里，更多是記憶，但所有東西都有點(diǎn)混在一起。OpenClaw的美妙之處在于我們可以嘗試各種東西。過去幾個(gè)月我們做的一切，一開始是一個(gè)巨大的意大利面一樣的混亂代碼庫，現(xiàn)在所有東西都是擴(kuò)展、是插件。所以你可以換記憶模塊，你可以加wiki，你可以加夢(mèng)境，你可以加我不知道的、你任何瘋狂的想法，把它變成你自己的。你不用把所有東西都通過PR交上來，我們?cè)谶@方面仍然完全超負(fù)荷。但它更像是Linux，你可以裝你自己的部分。

問：很多人覺得你在構(gòu)建自Linux以來最具影響力的開源項(xiàng)目。你怎么應(yīng)對(duì)那種名氣？你作為這個(gè)項(xiàng)目實(shí)質(zhì)上的BDFL（編者注：Benevolent Dictator for Life，終身仁慈獨(dú)裁者），你的一天是怎么過的？

斯坦伯格：我很多時(shí)候還是在編碼。畢竟總得產(chǎn)出點(diǎn)東西對(duì)吧。你得去驅(qū)動(dòng)智能體?，F(xiàn)在情況有點(diǎn)變了，更多的是大量的溝通，把大家引向正確的方向，因?yàn)槲覀冊(cè)贠penClaw上學(xué)到了很多東西。所以我在OpenAI的部分角色是幫他們別再犯同樣的錯(cuò)誤。而對(duì)于OpenClaw，就是去試那些看起來讓人興奮的新東西，有些可能行得通，有些可能行不通。讓公司能構(gòu)建他們自己的Claw，而不用分叉代碼庫，讓一切更可定制化。對(duì)，有時(shí)候我也睡覺。

問：在AI時(shí)代，你希望人類，特別是工程師，專注于發(fā)展哪些技能？

斯坦伯格：“品味”是重要的一個(gè)，但我已經(jīng)說過了。系統(tǒng)設(shè)計(jì)仍然非常重要。我們?cè)谂f金山聊過這個(gè)。如果你不考慮這個(gè)，你最后會(huì)把自己逼到墻角，對(duì)吧？就是通過定義邊界。有意思的是，雖然所有東西都在Clanker（智能體）里，但你仍然需要提出正確的問題，這決定了出來的是好代碼還是非常糟糕的代碼。這仍然是你擁有的所有知識(shí)，比如怎么構(gòu)建軟件，你可以用這些知識(shí)去引導(dǎo)智能體，讓它不走向AI生成的“劣質(zhì)代碼”。還有一個(gè)我覺得越來越重要的技能是說“不”。這也是我必須學(xué)的。因?yàn)榫退闶亲畀偪竦南敕?，也只需要一個(gè)提示詞就能實(shí)現(xiàn)。通常，這一個(gè)想法從來不是問題，而是這個(gè)想法加上那個(gè)想法加上那個(gè)想法再加上那個(gè)想法，以及這些東西怎么組合在一起，這才是問題。我覺得我們?nèi)匀皇芟抻凇八伎肌焙桶盐沾缶值哪芰Α?/b>因?yàn)閺哪愕腃lanker的角度想象一下世界，你被扔進(jìn)一個(gè)代碼庫。你可能有一個(gè)過時(shí)的agent.md文件，但你基本上不知道這他媽的是什么。然后你被告知：“嘿，加用戶配置文件”，然后你不知怎么就加了用戶配置文件，并且把它跟你看到的兩件事連起來了，但你沒看到整個(gè)系統(tǒng)。很多局部解決方案就是這么產(chǎn)生的，導(dǎo)致你的項(xiàng)目變得一團(tuán)糟。我們的工作是通過給智能體提供提示來幫它做到最好，比如“嘿，你要不要考慮一下這個(gè)？”“你要不要看看那里？”“這會(huì)跟那個(gè)怎么交互？”最后你才能得到一個(gè)實(shí)際上是可維護(hù)的系統(tǒng)。

主持人：謝謝你維護(hù)了有史以來最重要的軟件之一，也謝謝你花時(shí)間跟我們聊。

斯坦伯格：謝謝邀請(qǐng)。希望你能留下來回答問題。