出品｜搜狐科技

作者｜梁昌均

編輯| 楊 錦

“它是歷史上規(guī)模最大、最受歡迎、最成功的開源項目，絕對會是下一個ChatGPT?！秉S仁勛最近對流行的“龍蝦”（OpenClaw）盛贊道。

這波“龍蝦”熱潮已持續(xù)月余，似乎并沒有停下來的趨勢。到底要不要養(yǎng)、養(yǎng)了有啥用、如何安全地養(yǎng)，制造了大眾的AI焦慮情緒。

在搜狐科技《AI十二談》最新一期直播中，兩位“養(yǎng)蝦”人——快思慢想研究院院長田豐和隆安律所全國合規(guī)委副主任陳煥，分享了如何安全養(yǎng)好“龍蝦”的經(jīng)驗。

田豐認為，AI安全或智能體安全，和傳統(tǒng)的網(wǎng)絡安全、數(shù)據(jù)安全完全不一樣，“龍蝦”帶來了提示詞注入、技能污染、用戶誤授權等新風險。

陳煥還提醒道，如果“龍蝦”闖禍了，目前大概率還是需要使用者擔責?！暗荒芤驗檎f很危險就不用，或者圖便利就不管安全。”

兩位嘉賓還給出實用性的安全“養(yǎng)蝦”指南。

首先，非技術用戶沒有必要本地部署原裝“龍蝦”，如果確需本地部署優(yōu)先用備用機，并做好“龍蝦”衛(wèi)士、安全插件、文件備份等防護，建議優(yōu)先選擇相對安全的云端“龍蝦”。

同時，要有數(shù)據(jù)分類分級的觀念，無論本地云端，都不要把敏感數(shù)據(jù)（如賬戶密碼、個人隱私、商業(yè)秘密等）給“龍蝦”，需要給的數(shù)據(jù)提前做好脫敏。

此外，要堅持最小權限和分權制衡原則。任何時候都不要給出全部的系統(tǒng)權限，尤其是刪除權限等不能給；要了解清楚權限對應的功能，避免超越必要范圍去申請權限。

面對“龍蝦”帶來的AI焦慮，兩位嘉賓都鼓勵擁抱新事物，以builder的心態(tài)去學習。

“不要覺得它是高高在上的東西，要邁出去用的第一步?！标悷ū硎荆m然現(xiàn)在還有門檻，但可以等產(chǎn)品技術越來越簡單后再去嘗試。

田豐認為，“龍蝦”帶來了技術平權，不用損失更大。“3到5年之后，不會用龍蝦或智能體，相當于文盲，相當于不會用手機?！?/p>

“焦慮和害怕都來自未知，當你開始去學習去用的時候，就沒有那么害怕了?！碧镓S表示，未來所有人都會是構建者，用自然語言將創(chuàng)意想法轉(zhuǎn)化為軟硬件產(chǎn)品，這也將是文字能力更強的文科生的重大紅利。

以下是此次直播探討的十個核心問題：

搜狐科技：兩位平常都用“龍蝦”做什么？如何挖掘它的能力？

田豐：目前市面上的多數(shù)“龍蝦”我都在養(yǎng)，每天幫我搜集AI新聞、做AI研究和日常生活衣食住行提醒、股票投資分析等，還開發(fā)了科技產(chǎn)業(yè)研究skill，建立了我以往文章的知識庫，讓它模仿我的文筆寫作。

“龍蝦”采取的是Agentic workflow（代理式工作流），把原來沒有長期記憶、沒有連續(xù)工作能力的大模型串起來，它相當于指揮官，不僅可以自動化執(zhí)行很多任務，還有海量的skill技能庫，可以挖掘出更多的能力。

怎么用好“龍蝦”？要把你腦子里的知識變成知識庫接到智能體，要把你所有做事的經(jīng)驗、方法、工作流寫成skill，讓智能體能隨時調(diào)用。

陳煥：我養(yǎng)了三只“龍蝦”，備用機養(yǎng)的原生“龍蝦”，云電腦有一只，還花錢買了KimClaw。常用場景是做日報等信息獲取，包括飛書辦公，還有外接第三方skill去做法律案例檢索等。

如果想用好，再往下看是能不能通過某種自動化的腳本或工作流，去構建新的東西。對很多人來說，現(xiàn)在跟風部署后要拿它來干嘛，這可能是要想清楚的問題。

搜狐科技：市面上有各種“龍蝦”，如何看待現(xiàn)在的門檻？它們的能力差異大嗎？

陳煥：我有編程基礎，但不太懂復雜的命令行和架構等。部署中遇到的問題，如調(diào)試或出現(xiàn)格式錯誤等問題，也可以靠AI去解決。

但現(xiàn)在的云端“龍蝦”對很多人來講，即便教程寫得很清楚，依舊部署不了。這需要慢慢等待產(chǎn)品和技術越來越簡單，不用著急。

田豐：現(xiàn)在門檻已經(jīng)越來越低，像Workbuddy，基本一兩步就能接入微信?！褒埼r”背后95%的能力還是在大模型身上，誰的大模型強，誰的“龍蝦”自然會更強。

搜狐科技：國內(nèi)大廠春節(jié)還在撒紅包搶AI入口，現(xiàn)在重心都轉(zhuǎn)向了“龍蝦”，為什么這么積極？

田豐：一類是賣算力的云廠商，另一類是賣Tokens的AI模型公司。原來智能體解決不了workflow的閉環(huán)，但“龍蝦”可以直接本地部署，且開源，AI企業(yè)也愿意跟自己的大模型去結(jié)合，賣出更多token，都對商業(yè)價值有正向幫助。

陳煥：現(xiàn)在全球為AI付費的人可能不到5%，很多人覺得免費用AI，就可以搞定很多問題。但真正用了“龍蝦”的人，會感受到這是一次很大的飛躍。

這波讓很多模型廠商或做應用的人，看到了希望，就是通過這種超級應用、超級Agent可以讓老百姓為AI掏錢，這對整個產(chǎn)業(yè)發(fā)展非常重要。

搜狐科技：能養(yǎng)起來是基礎，如何安全養(yǎng)可能更重要，“龍蝦”帶來了哪些安全風險？

田豐：AI安全或者智能體安全，和傳統(tǒng)的網(wǎng)絡安全、數(shù)據(jù)安全完全不一樣，總體有三類新風險。

第一類是提示詞注入風險，“龍蝦”分不清哪些是內(nèi)容，哪些是命令，可能就會泄密。

第二種是技能污染。現(xiàn)在SkillHub上技能的增長速度遠遠快于安全審核的速度，很多skill被黑客放了木馬，“龍蝦”用了之后甚至能把安全日志刪掉。

第三種是應用端和用戶端的風險。很多用戶覺得要想讓“龍蝦”干更多活兒，得給足夠的權限，甚至是系統(tǒng)權限，過度放權很危險，如重要文件被批量刪除等。

搜狐科技：Meta對齊總監(jiān)發(fā)現(xiàn)“龍蝦”在刪除郵件后，發(fā)了停止指令依然停不下來，感覺“龍蝦”失控了，這是為什么？

田豐：智能體是有上下文的，上下文有范圍。Meta對齊總監(jiān)發(fā)了三次停止指令，但是“龍蝦”還在繼續(xù)刪，其實就是上下文窗口已經(jīng)溢出了，顧不上新的命令，只能拔掉服務器的電源線。

搜狐科技：國內(nèi)推出的各種“龍蝦”足夠安全嗎？業(yè)內(nèi)在做哪些安全的探索？

田豐：大廠的“龍蝦”安全，我認為做得比較好。如如何避免skill污染？騰訊是直接把外網(wǎng)的skill鏡像到本地，而且經(jīng)過安全過濾，相對安全很多。

現(xiàn)在還出現(xiàn)了AI寫的安全審計skill，就是在裝任何新的skill前，都用安全skill去審核。還有監(jiān)控“龍蝦”的技能，檢查它到底有沒有過度占用空間或越權?；糜X是大模型固有的，但也可以編skill，讓它去檢查真實性。

我認為最好能形成社會公共的“龍蝦”防護社區(qū)，比如skill每個人都可以提交，審計之后形成黑名單、白名單，開放給所有“龍蝦”，形成立體監(jiān)護網(wǎng)。企業(yè)再強，也不可能診斷出所有漏洞，需要白帽、開發(fā)者、使用者等各方一起努力。

陳煥：有朋友在做開源智能體的安全方案，如發(fā)現(xiàn)“龍蝦”在瘋狂刪郵件，連續(xù)幾分鐘就會觸發(fā)安全閾值，然后提醒人類玩家，終止進程。安全問題不可能完全杜絕，但一定會被控制在相對可控的范疇內(nèi)。

搜狐科技：我的“龍蝦”闖禍了，如在社區(qū)罵人、泄露秘密，引發(fā)侵權糾紛，應該誰來負責？

陳煥：法律向來有滯后性，新興事物出來不可能馬上立法，只能從現(xiàn)有法律體系里面去進行法律解釋，然后去適用法律。目前“龍蝦”如果出了問題，極有可能是使用者承擔責任，大家在使用過程中還是要有這個意識。

搜狐科技：很多安全建議非常技術，能否提供些實用性的安全“養(yǎng)蝦”建議？

田豐：不管本地云端，都不要把敏感的數(shù)據(jù)，尤其是支付有關信息，如銀行賬號、密碼給“龍蝦”。任何時候都不要給它全部的系統(tǒng)權限，尤其刪除權限、系統(tǒng)根管理權限不能給。

個人日常用，建議用大廠的云端“龍蝦”。大廠的安全防護機制相對較好，權限安全配置等方面都有做，模型的安全漏洞也相對少。

本地部署如果連入公網(wǎng)，要裝“龍蝦”衛(wèi)士、安全插件等，而且最好用舊設備，本機所有東西要做好備份?，F(xiàn)在“龍蝦”也在接入硬件，不要把攝像頭接進去，可能會侵犯隱私。

陳煥：如果零技術基礎，沒有必要用本地部署。如果非要，一定要用備用機，可以先考慮在云電腦、云服務器部署，就是在沙盒環(huán)境中去用。這也能發(fā)揮很大部分能力，只不過不像本地有那么多的文件去調(diào)用。

從使用層面講，要有數(shù)據(jù)分類分級的觀念。無論本地云端，個人隱私、密碼密鑰、商業(yè)秘密等一定不能給。當猶豫該不該給的時候，通常就是不應該。但如果還想這么做，那就做好脫敏工作。不能因為說很危險就不用，或者圖便利就不管安全，不要有這種二元對立的思維。

搜狐科技：要想發(fā)揮出“龍蝦”的能力，可能就需要給更高的權限，如何確認是給還是不給呢？

田豐：總體堅持最小權限原則。每只“龍蝦”只給這個場景或任務的限定權限，就像三權分立。大廠也在研發(fā)“龍蝦”的權限管理系統(tǒng)、龍蝦邊緣防火墻系統(tǒng)，目前開源龍蝦的命令行手動設置權限對很多用戶還是不友好。

陳煥：不要為圖方便，給“龍蝦”很多權限甚至全部權限，要有分權制衡的原則。當它申請權限時，要了解是什么功能。如果不懂，可以問AI，避免它超越必要范圍去申請權限。

搜狐科技：有人認為“龍蝦”就是病毒，也有人認為是生產(chǎn)力革命，如何看待它的價值？

陳煥：學任何東西都一樣，要有builder的心態(tài)，不要覺得它是高高在上的東西?？梢酝ㄟ^教程，去問AI，邁出用的第一步。

現(xiàn)在不少機構禁用，可以理解，但不符合趨勢。禁令只是階段產(chǎn)物，就像ChatGPT出來后也被禁用過，但技術浪潮不會因此被阻擋。

田豐：“龍蝦”就像是福特T型車的自動化生產(chǎn)線，而且開源免費，每個人都能玩，帶來了平權，會逐步成為智能體物聯(lián)網(wǎng)中真正的生產(chǎn)力革命。

我預計今年下半年將會出現(xiàn)更令人震驚的模型，未來還會指數(shù)級發(fā)展，再過三四年就會出現(xiàn)各個領域都是博士水平的大模型。套殼變成“龍蝦”后，會比大部分人都要聰明。

要盡早去用“龍蝦”、AI編程等，不用損失更大。3到5年之后，不會用“龍蝦”或智能體，相當于文盲，相當于不會用手機。

未來每一個人都是builder，只要有想法，就可以構建起想要的應用?，F(xiàn)在寫程序就跟說話一樣，對文科生來說，AI時代會是一個重大紅利。

運營編輯 |曹倩審核｜孟莎莎