最近，一款叫“龍蝦”的智能體引發(fā)很多人的安裝熱潮。由于它的圖標是一只紅色龍蝦而得此名。大家還把訓練、使用這款智能體的過程形象地叫作“養(yǎng)龍蝦”。“龍蝦熱”的同時，也暴露出了一些風險，包括工信部在內(nèi)的一些主管部門連發(fā)風險預警。那么，這只“龍蝦”它能幫我們干什么，又藏著什么風險？記者進行了調(diào)查。

一場“龍蝦”應用交流活動正在舉行。這個“龍蝦”，不是我們吃的美食，而是一種名叫OpenClaw的人工智能體。這場活動，就是要看看誰能讓“龍蝦”發(fā)揮出更大的作用。

“龍蝦”本名OpenClaw。它并非某個公司的商業(yè)產(chǎn)品，而是一個由全球開發(fā)者共同參與的開源人工智能體項目，因為其紅色的龍蝦圖標，被戲稱為“龍蝦”。它與過去只能聊天的人工智能大模型不同，除了擁有聰明的大腦、能思考，還多出了“手腳”，能夠直接操作電腦。它到底長什么樣？究竟如何干活？帶著好奇，記者決定找技術工程師親身體驗一次，而工程師的第一個建議就讓記者感到了不尋常：要帶一個格式化的、幾乎全新的電腦過來安裝。

北京中關村學院工程師 吳衍標：“安裝了‘龍蝦’之后，它可以查看到電腦里面的所有文件，一旦有不法分子想利用這些漏洞，你的這些機密都可能外傳?！?/p>

為什么“龍蝦”可以查看電腦所有的文件？在安裝的時候我們有沒有可能手動限制它的權限呢？記者發(fā)現(xiàn)，開源的原始版“龍蝦”并非能夠一鍵安裝完成，而是需要通過命令行輸入代碼，技術門檻不低。

“小龍蝦”在電腦上自主運行，默認的權限級別很高，這意味著運行它有一定的風險。工程師告訴記者，只有有了這個權限，這個“龍蝦”才具備了干活的基礎。此外，它還需要有兩部分核心組件：一是需要一個人工智能大模型，這就像給它安了個大腦，能讓它理解復雜的指令，這在安裝時就會讓用戶進行選擇；二是需要各種各樣的“技能”，賦予它操作具體軟件的能力，也就相當于給它裝上了“手腳”，比如，在告訴了它相關賬戶密碼的情況下，它能自主完成制定旅行計劃并預訂機票、回復郵件等復雜任務。

一只剛出生的“小龍蝦”，自帶一些基本技能，它能做些什么呢？記者決定對它進行三項測試。

測試一：分類整理電腦桌面文件

記者通過即時通信軟件向“龍蝦”發(fā)出整理電腦桌面的指令，等了幾分鐘后，它告訴記者，已經(jīng)將電腦桌面文件分類整理成功。

測試二：遠程傳輸文件并指定路徑儲存

記者在手機上傳了一張圖，要求龍蝦將圖保存在電腦桌面的媒體圖片文件夾中。幾分鐘后，文件夾中真的出現(xiàn)了圖片。

測試三：修改圖片大小并存儲

記者要求“龍蝦”將電腦桌面文件夾中的一張圖片縮小并放入該文件夾，原圖片不動，幾分鐘后，“龍蝦”說新圖片已經(jīng)存入了文件夾中。任務看似完成了，但“龍蝦”聲稱保留的原圖卻不翼而飛。如此看來，“龍蝦”就像一個還不是特別靠譜的助手，它基于人工智能大模型，也有和大模型一樣的幻覺犯錯的可能。工程師告訴記者，要想讓“龍蝦”越來越強大，就需要“養(yǎng)蝦”。

吳衍標：“第一個方法就是給它越來越多技能、越來越多記憶，讓它更懂你，讓它越來越擁有你的技能，這樣的話，它就能夠做你的事情；二來隨著大模型的發(fā)展，它的腦子也會變得越來越聰明。”

盡管“龍蝦”還不太靠譜，但也獲得了不少擁躉。在讀博士呂丁陽就花了一個多星期時間養(yǎng)了一只“科研龍蝦”，賦予了它很多科研技能，專門做材料領域的計算。

而從事人工智能領域研究的何紀言，則花了半個多月時間養(yǎng)了好幾只非常了解自己的“龍蝦助手”，有的做科研，有的幫助管理日常信息，有的負責整理材料、制作文件等等。何紀言讓“龍蝦”根據(jù)應聘總臺員工的特點做一份簡歷。幾分鐘后，這只“龍蝦”就完成了一份制作排版精良的簡歷，還突出了個人的應聘優(yōu)勢。

何紀言坦言，要讓“龍蝦”越來越智能，也需要花錢購買大模型的使用量，也就是所謂的Token，對于頻繁或復雜的任務，這筆消耗確實不小。但這種效率的提升，也讓“龍蝦”迅速出圈，不少地方出現(xiàn)了免費安裝“龍蝦”的熱潮。

廣東深圳、安徽合肥、江蘇無錫和常熟等地相繼發(fā)布政策支持“龍蝦”智能體和一人公司的發(fā)展，一些政府也部署應用上了“政務龍蝦”，用于公文寫作、民生問答等場景，希望能把基層干部從繁瑣的事務中解放出來。不過，就在這股熱潮涌向各行各業(yè)時，也暴露出了風險，一些高校對“龍蝦”拉響了警報，下了“封殺令”。工業(yè)和信息化部等多個主管部門接連發(fā)布預警，直指OpenClaw存在高危安全風險，明確防范要求與用戶使用提醒，為AI智能體使用劃出安全紅線。

一面是熱火朝天的應用，一面又是接連預警，這小小的“龍蝦”里，到底藏著什么玄機？

中國信息通信研究院安全研究所副所長 孟楠：“龍蝦智能體的優(yōu)勢在于高權限的自主執(zhí)行能力，它讓人工智能從能說進化到會做，同時也帶來了一些新的安全風險。”

風險一：權限失控帶來的系統(tǒng)被接管的風險

專家告訴記者，一旦被黑客利用或者用戶指令不當，“龍蝦”就有可能不加辨別地去執(zhí)行破壞性操作。比如，刪除我們的核心文件，把敏感的數(shù)據(jù)發(fā)到網(wǎng)絡上，或者在用戶不知情的情況下悄悄安裝惡意的軟件。

風險二：網(wǎng)絡暴露帶來的攻擊入口風險

為了方便，很多用戶會將“龍蝦”智能體管理端口暴露在互聯(lián)網(wǎng)上，這無異于給黑客開了后門。

孟楠：“更危險的是，如果這個智能體還連接到單位內(nèi)部的網(wǎng)絡，就可能成為黑客進行攻擊的跳板，一旦被攻陷，整個企業(yè)內(nèi)網(wǎng)都將面臨威脅。”

風險三：產(chǎn)品漏洞帶來的可能被利用的風險

任何軟件都有漏洞，但在“龍蝦”的高權限加持下，漏洞的危害被進一步放大。而為了讓“龍蝦”具有更多技能，用戶往往會安裝第三方插件，還會帶來供應鏈風險。

孟楠：“我們發(fā)現(xiàn)了不少技能插件被植入了惡意代碼，用戶在使用這些有毒的技能插件時，就等于把惡意程序請進了家門，輕則造成數(shù)據(jù)泄露，重則整個系統(tǒng)被黑客控制?！?/p>

對于這些隱患，深度“養(yǎng)蝦人”及科技行業(yè)人士也坦言，盡管AI智能體是發(fā)展趨勢，但普通用戶絕對不能掉以輕心。

那么，普通用戶使用“龍蝦”如何保障安全呢？專家認為，普通用戶屬于安全風險的高發(fā)群體，應該審慎安裝“龍蝦”。

工信部日前發(fā)布了關于“龍蝦”的“六要六不要”安全指引，涵蓋了權限控制、網(wǎng)絡隔離、技能插件使用等關鍵環(huán)節(jié)。

3月22日，國家互聯(lián)網(wǎng)應急中心、中國網(wǎng)絡空間安全協(xié)會聯(lián)合發(fā)布了“龍蝦”O(jiān)penClaw的安全使用指南，面向普通用戶、企業(yè)用戶、云服務商以及技術開發(fā)者等，提出安全防護建議。其中，對于普通用戶的建議包括：使用專用設備、虛擬機或容器安裝OpenClaw，并做好環(huán)境隔離，不宜在日常辦公電腦上安裝；不將OpenClaw默認端口（18789\19890）暴露到公網(wǎng)；不使用管理員或超級用戶權限運行OpenClaw；安裝可信技能插件；不在OpenClaw環(huán)境中存儲、處理隱私數(shù)據(jù)；及時更新OpenClaw最新版本等。

盡管現(xiàn)在各主管部門不斷在提示“龍蝦”安全風險問題，但從長遠來看，專家認為，要解決“龍蝦”的安全問題，更需要從標準、技術、生態(tài)多方面著手。

孟楠：“建議始終堅持統(tǒng)籌發(fā)展和安全，在鼓勵和促進創(chuàng)新的同時，針對不同場景做精準分類施策，確保安全可控。需要盡快制定相關標準規(guī)范來引導各類主體規(guī)范應用新技術，引導鼓勵網(wǎng)絡安全企業(yè)研制相關的環(huán)境隔離、智能攔截、行為審計等安全產(chǎn)品和服務。建立包括智能體提供者、安全企業(yè)等主體在內(nèi)的相關主體來協(xié)同治理生態(tài)?！?/p>

我們看到，有不少人都希望盡快掌握和利用智能體提升效率、滿足需求，一些企業(yè)也開始嘗試使用。對于像“龍蝦”這樣的新事物，我們需要鼓勵，需要為技術創(chuàng)新留足試錯的空間，避免束縛產(chǎn)業(yè)發(fā)展的活力；但同時，面對爆火的“龍蝦”，我們也需要有一些冷思考，守住安全底線，防范風險擴散失控。也就是說，技術創(chuàng)新和安全監(jiān)管協(xié)同推進、良性互動，我們才能更好地和AI共舞，推動人工智能高質(zhì)量發(fā)展。

來源：央視《焦點訪談》

編輯：趙文婷

監(jiān)審：張效婧

終審：吳 濤

關注我們 了解更多

發(fā)布網(wǎng)信政務信息

解讀網(wǎng)信政策法規(guī)