国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

記憶投毒、Token套利,智能體正在失控前夜

0
分享至

近期AI圈有個名字被反復(fù)提起,并不是因為它有多聰明,而是因為它闖了不少禍——OpenClaw。

這款主打"全自主"的AI智能體產(chǎn)品,接連曝出多個重大問題:

1)記憶投毒: 它悄悄在記憶模塊里寫入被篡改的"歷史對話",植入一段假記憶。下次它做決策時,依據(jù)的是一段根本沒發(fā)生過的"過去"——用戶渾然不知。

2)數(shù)據(jù)污染: 攻擊者不需要入侵系統(tǒng),只需在某個不起眼的網(wǎng)頁里藏一段精心設(shè)計的文字。智能體"讀"完之后,行為目標(biāo)就會改變。權(quán)威機(jī)構(gòu)測試顯示,主流智能體面對入侵的失陷率超過60%。

3)濫用權(quán)限: 智能體申請的系統(tǒng)權(quán)限,遠(yuǎn)超完成任務(wù)所需。你讓它幫你訂外賣,它順手把你的銀行App、相冊、通訊錄全掃了一遍——全程合法,因為你當(dāng)初點(diǎn)了"同意"。

4)Token套利: 計費(fèi)邏輯存在縫隙,攻擊者可以構(gòu)造特定請求,讓智能體陷入無限循環(huán)調(diào)用——每轉(zhuǎn)一圈,平臺計一次費(fèi),用戶賬單悄悄膨脹,一晚上消耗用戶幾十美元不在話下。

單看這幾個問題,你可能覺得:不過是一家公司的問題。但真正讓人不安的,不是OpenClaw,而在于它是當(dāng)前AI智能體發(fā)展不設(shè)剎車的縮影。

不同于聊天機(jī)器人,智能體有記憶、有工具調(diào)用權(quán)、有跨系統(tǒng)操作能力,越來越多的產(chǎn)品開始讓它"自主規(guī)劃、自主執(zhí)行"。但自動化的背后,安全設(shè)計完全不匹配。

比如,智能體調(diào)用數(shù)據(jù)需要授權(quán)與認(rèn)證,就是一個典型?,F(xiàn)有的MCP(Model Context Protocol)等智能體協(xié)議框架,在權(quán)限管控上基本還停留在"君子協(xié)定"階段——我說我只訪問這些,你信不信由你。

但這并非最糟糕的,市場上的部分玩家,直接繞開MCP,打著“創(chuàng)新”旗號,在設(shè)計發(fā)布產(chǎn)品時,如入無人之境。他們采取的是"先發(fā)布、后修復(fù)"的做法。某種程度上,這就是先犯罪,再道歉;先污染,再治理的一種翻盤。

整個行業(yè)正在陷入一場“逐底競爭”,部分玩家們相信一點(diǎn):用戶并不真正關(guān)心隱私,法律跟蹤不了技術(shù),越是沒有下限,越能贏得勝利。

技術(shù)樂觀主義者會說:這些都是成長的煩惱,等標(biāo)準(zhǔn)成熟了自然會好。但真正的問題在于,整個AI行業(yè),有能力在意用戶安全的企業(yè)并不多。

OpenClaw全球用戶目前不足百萬,但各大品牌的AI手機(jī)早已箭在弦上、磨刀霍霍,沒有行業(yè)標(biāo)準(zhǔn),沒有法律底線,只靠企業(yè)的道德自覺。

數(shù)以億計的用戶,正被推向一個尚未建立基本安全契約的新世界——一個無人負(fù)責(zé)的風(fēng)險世界。





特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
股價大漲!多家A股公司官宣:產(chǎn)品已調(diào)價!

股價大漲!多家A股公司官宣:產(chǎn)品已調(diào)價!

證券時報e公司
2026-03-11 22:45:14
中國彈藥儲備到底有多少?夠再打一次世界大戰(zhàn)嗎?量大管飽盡管用

中國彈藥儲備到底有多少?夠再打一次世界大戰(zhàn)嗎?量大管飽盡管用

Ck的蜜糖
2026-03-09 11:05:11
三航母齊聚中東,霸權(quán)崩盤的兇兆!

三航母齊聚中東,霸權(quán)崩盤的兇兆!

漢唐智庫
2026-03-09 12:17:04
陪玩陪睡不夠!集體開嫖、舔手指、目無王法,陰暗面徹底藏不住了

陪玩陪睡不夠!集體開嫖、舔手指、目無王法,陰暗面徹底藏不住了

好賢觀史記
2025-11-09 21:58:39
體壇聯(lián)播|曼城切爾西遭慘敗,英超6隊歐冠16強(qiáng)首回合0勝

體壇聯(lián)播|曼城切爾西遭慘敗,英超6隊歐冠16強(qiáng)首回合0勝

澎湃新聞
2026-03-12 08:04:36
胡潤報告揭秘:中國高凈值人群子女留學(xué),風(fēng)向變了!

胡潤報告揭秘:中國高凈值人群子女留學(xué),風(fēng)向變了!

留學(xué)生日報
2026-03-11 21:05:43
7元一斤,太鮮了!青島這種海鮮頭茬上市,肥嫩爆汁,上岸直接搶空

7元一斤,太鮮了!青島這種海鮮頭茬上市,肥嫩爆汁,上岸直接搶空

環(huán)球網(wǎng)資訊
2026-03-11 08:41:10
奚夢瑤和好友吃飯被偶遇,她素顏睫毛好長,頭發(fā)看起來就像有錢人

奚夢瑤和好友吃飯被偶遇,她素顏睫毛好長,頭發(fā)看起來就像有錢人

手工制作阿殲
2026-03-12 01:25:06
陪伴鄭州人24年的大型商超,最后2家門店月底閉店,工作人員:確有此事,超級會員可退費(fèi),購物卡、券等不能退,抓緊用

陪伴鄭州人24年的大型商超,最后2家門店月底閉店,工作人員:確有此事,超級會員可退費(fèi),購物卡、券等不能退,抓緊用

大象新聞
2026-03-11 19:45:04
中方回應(yīng)中遠(yuǎn)集團(tuán)暫停巴港口運(yùn)營報道

中方回應(yīng)中遠(yuǎn)集團(tuán)暫停巴港口運(yùn)營報道

中國能源網(wǎng)
2026-03-11 18:24:04
伊朗第37輪反擊!導(dǎo)彈轟炸3個小時,150名美軍傷亡,損失藏不住了

伊朗第37輪反擊!導(dǎo)彈轟炸3個小時,150名美軍傷亡,損失藏不住了

滄海旅行家
2026-03-11 18:05:43
雷軍回應(yīng)登上《新聞聯(lián)播》

雷軍回應(yīng)登上《新聞聯(lián)播》

大象新聞
2026-03-11 13:45:06
美軍威脅襲擊霍爾木茲海峽伊朗民用港口 伊朗回應(yīng)

美軍威脅襲擊霍爾木茲海峽伊朗民用港口 伊朗回應(yīng)

極目新聞
2026-03-12 01:07:47
歐冠瘋狂夜:槍手絕平,皇馬碾壓,藍(lán)軍崩盤,黑馬狂飆

歐冠瘋狂夜:槍手絕平,皇馬碾壓,藍(lán)軍崩盤,黑馬狂飆

側(cè)身凌空斬
2026-03-12 06:24:38
72萬個充電樁,年入40億,常州夫婦邊賺錢邊收割,如今要上市了

72萬個充電樁,年入40億,常州夫婦邊賺錢邊收割,如今要上市了

毒sir財經(jīng)
2026-02-22 10:38:14
新加坡急了,外長幾乎是拍著桌子,讓中國“尊重”馬六甲的地位。

新加坡急了,外長幾乎是拍著桌子,讓中國“尊重”馬六甲的地位。

南權(quán)先生
2026-01-26 15:41:26
2004年出生的絕世美少女來了!大西陽羽這顏值,是真實存在的嗎?

2004年出生的絕世美少女來了!大西陽羽這顏值,是真實存在的嗎?

碧波萬覽
2026-03-11 18:18:03
炸鍋!田曦薇這幕真走光還是故意博眼球?

炸鍋!田曦薇這幕真走光還是故意博眼球?

手工制作阿殲
2026-03-10 10:00:47
恭喜早已密婚?!低調(diào)領(lǐng)證手戴鉆戒,住500萬婚房娶前天王嫂?

恭喜早已密婚?!低調(diào)領(lǐng)證手戴鉆戒,住500萬婚房娶前天王嫂?

人間頌
2026-03-11 12:15:15
中科院向全世界正式宣布:停止一切撥款,西方學(xué)界哀嚎一片

中科院向全世界正式宣布:停止一切撥款,西方學(xué)界哀嚎一片

壹知眠羊
2026-03-11 07:31:53
2026-03-12 08:32:49
賽格大道 incentive-icons
賽格大道
關(guān)注數(shù)字時代,提供靠譜分析
183文章數(shù) 268關(guān)注度
往期回顧 全部

科技要聞

騰訊"養(yǎng)蝦"暴漲后,百度急得在門口"裝蝦"

頭條要聞

FBI警告:伊朗或?qū)γ绹又莅l(fā)動無人機(jī)襲擊

頭條要聞

FBI警告:伊朗或?qū)γ绹又莅l(fā)動無人機(jī)襲擊

體育要聞

郭艾倫重傷,CBA下半賽季還能期待些什么

娛樂要聞

蔡少芬曬全家福照,兩女兒成最大亮點(diǎn)

財經(jīng)要聞

喚醒10萬億存量資金 公積金改革大潮來了

汽車要聞

蓮花糾偏, 馮擎峰的“收”與“守”

態(tài)度原創(chuàng)

旅游
時尚
數(shù)碼
公開課
軍事航空

旅游要聞

華南首店!瑞士高空探險項目登陸南沙,“家門口”解鎖國際范

衣服不用買太多!初春多穿短大衣和針織衫,簡單舒適又顯高

數(shù)碼要聞

加碼AI!美的集團(tuán):未來三年再投600億元 家電業(yè)務(wù)全面向AI化轉(zhuǎn)型

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

朝鮮"崔賢"號驅(qū)逐艦進(jìn)行戰(zhàn)略巡航導(dǎo)彈試射

無障礙瀏覽 進(jìn)入關(guān)懷版