国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

上海AI Lab InternLM團(tuán)隊(duì)WildClawBench 60題,把龍蝦AI打回原形

0
分享至



OpenClaw 生態(tài)放出了一道難題:WildClawBench,專門用來(lái)驗(yàn)收「龍蝦」AI 的實(shí)戰(zhàn)功力!

這 60 道題全是「打工人」的真實(shí)活兒:整理發(fā)布會(huì)錄像做海報(bào)、分類 arXiv 論文找 Baseline,全是多模態(tài) + 多步驟的硬核挑戰(zhàn)。

測(cè)試結(jié)果很扎心,連目前地表最強(qiáng)的 Claude Opus 4.6,在 WildClawBench 上也只拿了 51.6%。

我們真的在衡量 AI Agent 的能力嗎?

縱觀過(guò)去一年的各類 Benchmark,大多聚焦于模型是否能準(zhǔn)確完成一次函數(shù)調(diào)用。然而,真實(shí)場(chǎng)景下的任務(wù)并非單點(diǎn)的格式對(duì)齊,而是一場(chǎng)長(zhǎng)跑。AI 需要跨越多種模態(tài)理解信息,在動(dòng)態(tài)環(huán)境中判斷工具序列,并實(shí)時(shí)處理預(yù)料之外的錯(cuò)誤。

這種端到端的閉環(huán)交付能力,才是 Agent 的核心價(jià)值。

為了填補(bǔ)這一評(píng)測(cè)空白,上海人工智能實(shí)驗(yàn)室 InternLM 團(tuán)隊(duì)近日推出了全面且硬核的 WildClawBench。它不再關(guān)注碎片化的正確率,而是通過(guò)極高難度的任務(wù)場(chǎng)景,對(duì)大模型的 Agency 智能進(jìn)行一場(chǎng)全方位的實(shí)戰(zhàn)校檢。



圖 1:WildClawBench 評(píng)測(cè)框架圖。基于 Docker 的真實(shí)操作系統(tǒng)環(huán)境,AI 智能體可獨(dú)立操作瀏覽器、終端等工具。

  • GitHub:github.com/InternLM/WildClawBench
  • HuggingFace 數(shù)據(jù)集:huggingface.co/datasets/internlm/WildClawBench
  • 在線排行榜:internlm.github.io/WildClawBench
  • 完整評(píng)測(cè)軌跡:drive.google.com/file/d/1FX6eidw9fNQgm15w6jOjOUCqWAQ__r0Y/view?usp=drive_link

WildClawBench:在真實(shí)助手環(huán)境里端到端評(píng)測(cè)

WildClawBench 把 Agent 丟進(jìn)一個(gè)真實(shí)的 OpenClaw 環(huán)境,具備一套完整的工具集:瀏覽器、終端、文件系統(tǒng)、日歷,跟真實(shí)用戶日常使用的環(huán)境一模一樣。

60 道任務(wù)全部手工原創(chuàng)設(shè)計(jì),覆蓋中英雙語(yǔ),分布在 6 個(gè)類別中。每道任務(wù)運(yùn)行在獨(dú)立的 Docker 容器里,評(píng)分用的 ground truth 和打分腳本在 Agent 執(zhí)行結(jié)束后才注入容器,整個(gè)執(zhí)行過(guò)程中完全不可見,從根源上杜絕數(shù)據(jù)泄露。

換句話說(shuō),每一分都是 Agent 真刀真槍掙來(lái)的。

6 大類別,60 道題,到底在考什么?

  • 生產(chǎn)力流程(10 題)

研究者和知識(shí)工作者每天都在做、但希望有人代勞的事。比如前面提到的 ArXiv 論文審計(jì):Agent 要爬取某天 cs.CV 方向的全部論文,按 6 個(gè)方向自動(dòng)分類;對(duì)「多模態(tài)」類別的每一篇,逐篇打開 PDF 或 HTML,核對(duì)完整的作者名單,數(shù)清正文有幾張圖、幾張表,附錄又有幾張圖、幾張表,記錄附錄的起始章節(jié)標(biāo)題;再根據(jù)用戶是 CapRL 作者這一身份信息,從幾十篇論文中挑出最相關(guān)的推薦,并把以 CapRL 為 baseline 的 benchmark 對(duì)比表原樣抽取出來(lái)。

這不是「幫我總結(jié)一下摘要」——Agent 必須真的去逐篇讀論文的正文內(nèi)容,一張圖一張表地?cái)?shù)。



圖 2 : 生產(chǎn)力類任務(wù)展示。Agent 要爬取某天 cs.CV 方向的全部論文,按 6 個(gè)方向自動(dòng)分類,并根據(jù)用戶信息(CapRL 作者)完成個(gè)性化推送。

  • 代碼智能(12 題)

給 Agent 一個(gè)完全沒有文檔的代碼倉(cāng)庫(kù),讓它自己讀源碼、裝依賴、寫推理腳本跑通。比如從 SAM3 的源碼出發(fā)寫出可運(yùn)行的推理代碼,或者解視覺謎題(拼圖、連線、Link-a-Pix),要求生成像素級(jí)精確的解。

  • 社交互動(dòng)(6 題)

多輪溝通和上下文追蹤。Agent 需要通過(guò)多輪郵件來(lái)回協(xié)商一個(gè)多人都有空的會(huì)議時(shí)間,或者掃一遍聊天記錄把所有待辦事項(xiàng)、deadline、負(fù)責(zé)人整理成結(jié)構(gòu)化清單。

  • 搜索檢索(11 題)

當(dāng)網(wǎng)上搜到的信息和本地?cái)?shù)據(jù)對(duì)不上時(shí),Agent 要交叉驗(yàn)證、判斷誰(shuí)對(duì)誰(shuí)錯(cuò)。比如多個(gè)來(lái)源給出矛盾的財(cái)務(wù)數(shù)據(jù),Agent 需要追溯原始出處并給出有依據(jù)的結(jié)論。



圖 3:搜索檢索類任務(wù)展示。Agent 要根據(jù)提供的谷歌學(xué)術(shù)主頁(yè),確定兩位學(xué)者之間的最短關(guān)系鏈條,相鄰的學(xué)者對(duì)之間均需要有合作論文。

  • 創(chuàng)意合成(11 題)

這一類最考驗(yàn)「全!鼓芰。前面提到的產(chǎn)品發(fā)布會(huì)任務(wù)就是其中之一:在斷網(wǎng)條件下看完一段完整的發(fā)布會(huì)錄像,識(shí)別全部 8 款硬件產(chǎn)品,提取名稱、芯片、配色、起售價(jià)等結(jié)構(gòu)化信息存成 JSON,再?gòu)囊曨l中截取產(chǎn)品畫面,排版成一份 5 頁(yè) A4 的專業(yè)宣傳 PDF。評(píng)測(cè)不僅檢查數(shù)據(jù)是否精確(價(jià)格必須和 ground truth 完全一致),還讓 VLM 對(duì) PDF 的排版美感、圖文一致性打分 —— 做出來(lái)的東西不僅要「對(duì)」,還要「好看」。



圖 4:創(chuàng)意合成類任務(wù)展示。Agent 要根據(jù)提供的球賽完整視頻,剪輯一段巴塞羅那 7 號(hào)球員費(fèi)蘭?托雷斯上半場(chǎng)的精彩進(jìn)球集錦。

  • 安全對(duì)齊(10 題)

最隱蔽也最關(guān)鍵的一類。惡意指令被深埋在一份看起來(lái)完全正常的文檔中間,Agent 要能識(shí)別出來(lái)并拒絕執(zhí)行;API Key 散落在一個(gè)大型項(xiàng)目上百條 Git commit 的歷史里,Agent 要像安全審計(jì)員一樣逐一排查并報(bào)告泄露風(fēng)險(xiǎn),而不是無(wú)視它們繼續(xù)干活。

排行榜:最強(qiáng)模型剛過(guò)半,國(guó)產(chǎn)模型擠進(jìn)前三

截至 2026 年 4 月 1 日,WildClawBench 已評(píng)測(cè) 14 個(gè)前沿模型,結(jié)果如下:



圖 5:Leaderboard。我們?cè)u(píng)測(cè)了國(guó)內(nèi)外共 14 個(gè)前沿模型

幾個(gè)值得注意的發(fā)現(xiàn):

  • 分?jǐn)?shù)天花板很低:排名第一的 Claude Opus 4.6 剛過(guò) 51 分,可見雖然日常的任務(wù)但是真實(shí)的環(huán)境還是讓 AI Agent 為難的,這個(gè) benchmark 短期內(nèi)不會(huì)被「刷爆」,分?jǐn)?shù)的區(qū)分度很高;
  • 性價(jià)比差異懸殊:Claude Opus 4.6 跑一次的平均花費(fèi)超過(guò) 80 美元,GPT-5.4 只要 20 美元但只落后 1.3 個(gè)百分點(diǎn)。在成本敏感的場(chǎng)景下,「最貴的」未必是最優(yōu)選擇;
  • 國(guó)產(chǎn)模型集體亮相,智譜 GLM 5 拿下探花:14 個(gè)參評(píng)模型中有 9 個(gè)來(lái)自中國(guó)團(tuán)隊(duì),智譜 AI 的 GLM 5 以 42.6% 拿下總榜第三,是唯一進(jìn)入前三的國(guó)產(chǎn)模型,力壓 Google DeepMind 的 Gemini 3.1 Pro,而且花費(fèi)僅 $11.39—— 不到 Claude Opus 4.6 的七分之一。小米 MiMo V2 Pro(40.2%)緊隨其后排名第五,同樣超過(guò)了 Gemini。國(guó)產(chǎn)模型在 Agent 端到端能力上的追趕速度,比很多人預(yù)想的要快。



圖 6:子類別雷達(dá)圖。我們展示了六個(gè)類別下模型的得分,發(fā)現(xiàn)不同模型有各自不同的擅長(zhǎng)領(lǐng)域。

「養(yǎng)龍蝦」排行榜:你的 AI 助手比我的強(qiáng)嗎?

WildClawBench 還有一個(gè)有趣的延伸:個(gè)人 OpenClaw 排行榜。

在 OpenClaw 社區(qū)里,「養(yǎng)龍蝦」已經(jīng)成了一種現(xiàn)象:用戶持續(xù)給自己的 AI 助手教新技能、定制人格、積累長(zhǎng)期記憶。一個(gè)自然而然的問(wèn)題是:誰(shuí)的龍蝦更厲害?

WildClawBench 允許用戶把自己精心調(diào)教的 OpenClaw 工作區(qū)(包括 SOUL.md、MEMORY.md、自定義技能等)提交到同一套 60 道題上跑分。跑完把結(jié)果發(fā)到指定郵箱,就能上排行榜。

這不僅僅是比個(gè)高低,它能幫助社區(qū)理解,在同一個(gè)底座模型上,哪些 harness,技能組合、人格設(shè)定和記憶策略真的能提升 Agent 的任務(wù)完成率。

開源,可復(fù)現(xiàn),歡迎貢獻(xiàn)

WildClawBench 采用 MIT 開源協(xié)議,全部 60 道任務(wù)的 markdown 定義、評(píng)分代碼、Docker 鏡像和數(shù)據(jù)集均已公開。

項(xiàng)目還提供了任務(wù)模板,社區(qū)可以按照統(tǒng)一格式貢獻(xiàn)新任務(wù)。每道任務(wù)自帶自動(dòng)評(píng)分腳本,支持一鍵批量評(píng)測(cè)。

當(dāng)最強(qiáng) AI Agent 的最高分還不到 60 分,我們離真正可靠的 AI 助手還有多遠(yuǎn)?至少現(xiàn)在有了一把刻度清晰的尺子。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
林志穎長(zhǎng)子Kimi正臉曝光,17歲Kimi竟然長(zhǎng)成了陳若儀翻版!

林志穎長(zhǎng)子Kimi正臉曝光,17歲Kimi竟然長(zhǎng)成了陳若儀翻版!

娛樂順風(fēng)車666
2026-04-13 11:34:58
華工科技:預(yù)計(jì)2026年第一季度凈利潤(rùn)為6億元~6.4億元,同比增長(zhǎng)46.38%~56.13%

華工科技:預(yù)計(jì)2026年第一季度凈利潤(rùn)為6億元~6.4億元,同比增長(zhǎng)46.38%~56.13%

每日經(jīng)濟(jì)新聞
2026-04-13 16:24:21
高盛:未來(lái)3年,上海、深圳房?jī)r(jià)上漲15%

高盛:未來(lái)3年,上海、深圳房?jī)r(jià)上漲15%

地產(chǎn)觀點(diǎn)
2026-04-13 14:00:06
美國(guó)洛馬怎么也沒想到,沒繳中國(guó)的990億罰單,后果竟如此嚴(yán)重了

美國(guó)洛馬怎么也沒想到,沒繳中國(guó)的990億罰單,后果竟如此嚴(yán)重了

有范又有料
2026-04-13 15:53:13
鄭麗文返臺(tái),“三駕馬車”親自迎接、釋放2大信號(hào)!1人現(xiàn)身不簡(jiǎn)單

鄭麗文返臺(tái),“三駕馬車”親自迎接、釋放2大信號(hào)!1人現(xiàn)身不簡(jiǎn)單

時(shí)尚的弄潮
2026-04-13 12:11:58
今明兩天!北京大范圍降雨!

今明兩天!北京大范圍降雨!

美麗大北京
2026-04-13 19:03:54
真膈應(yīng)!一老人走了,鄰居發(fā)帖稱家門被貼了塊紅布,又懵又火大

真膈應(yīng)。∫焕先俗吡,鄰居發(fā)帖稱家門被貼了塊紅布,又懵又火大

火山詩(shī)話
2026-04-13 10:40:34
德國(guó)站隊(duì)了!正式向世界宣布:以色列若繼續(xù)打黎巴嫩,會(huì)讓他好看

德國(guó)站隊(duì)了!正式向世界宣布:以色列若繼續(xù)打黎巴嫩,會(huì)讓他好看

Ck的蜜糖
2026-04-13 17:50:08
解放軍這40天,要把美日韓逼瘋!

解放軍這40天,要把美日韓逼瘋!

Ck的蜜糖
2026-04-13 07:27:43
莫妮卡·貝魯奇:歲月不敗的“地球球花”,黑裙封神

莫妮卡·貝魯奇:歲月不敗的“地球球花”,黑裙封神

述家娛記
2026-04-11 13:36:04
富得流油,法國(guó)國(guó)家隊(duì)三套鋒線組合總身價(jià)8.55億歐元

富得流油,法國(guó)國(guó)家隊(duì)三套鋒線組合總身價(jià)8.55億歐元

懂球帝
2026-04-13 18:45:06
知名國(guó)企集團(tuán),六個(gè)月沒發(fā)工資了

知名國(guó)企集團(tuán),六個(gè)月沒發(fā)工資了

新浪財(cái)經(jīng)
2026-04-13 04:16:19
西方國(guó)家為什么都不喜歡中國(guó)?英國(guó)專家:中國(guó)有一個(gè)“老問(wèn)題”

西方國(guó)家為什么都不喜歡中國(guó)?英國(guó)專家:中國(guó)有一個(gè)“老問(wèn)題”

甜到你心坎
2026-04-12 22:42:27
主持人魏笑的最后3天:15號(hào)生日,16號(hào)領(lǐng)證,17號(hào)婚禮成葬禮

主持人魏笑的最后3天:15號(hào)生日,16號(hào)領(lǐng)證,17號(hào)婚禮成葬禮

就一點(diǎn)
2026-03-19 10:47:51
蘋果贏麻了!iPhone17國(guó)內(nèi)銷量突破2700萬(wàn)臺(tái),是Mate80的五倍不止

蘋果贏麻了!iPhone17國(guó)內(nèi)銷量突破2700萬(wàn)臺(tái),是Mate80的五倍不止

互聯(lián)魚
2026-04-12 18:13:54
以色列誰(shuí)都敢打,為何唯獨(dú)不敢動(dòng)巴基斯坦?核武只是冰山一角

以色列誰(shuí)都敢打,為何唯獨(dú)不敢動(dòng)巴基斯坦?核武只是冰山一角

泠泠說(shuō)史
2026-04-11 23:48:34
孕婦吃水果被罵后續(xù):手術(shù)已做完,聽勸解救了自己,全網(wǎng)力挺點(diǎn)贊

孕婦吃水果被罵后續(xù):手術(shù)已做完,聽勸解救了自己,全網(wǎng)力挺點(diǎn)贊

千言?shī)蕵酚?/span>
2026-04-13 11:33:13
13歲男孩騎車被繩子割喉,忍痛跑回家求救!警方已介入

13歲男孩騎車被繩子割喉,忍痛跑回家求救!警方已介入

上觀新聞
2026-04-13 17:52:16
萬(wàn)惡的舊社會(huì)?15張1944年照片,這就是真實(shí)的“舊社會(huì)”

萬(wàn)惡的舊社會(huì)?15張1944年照片,這就是真實(shí)的“舊社會(huì)”

棠棣分享
2026-04-11 22:53:08
不知悔改!47歲女作家拒道歉+繼續(xù)侮辱全紅嬋:縱容隊(duì)友被霸凌

不知悔改!47歲女作家拒道歉+繼續(xù)侮辱全紅嬋:縱容隊(duì)友被霸凌

念洲
2026-04-13 08:50:12
2026-04-13 20:48:49
機(jī)器之心Pro incentive-icons
機(jī)器之心Pro
專業(yè)的人工智能媒體
12751文章數(shù) 142624關(guān)注度
往期回顧 全部

科技要聞

"抄作業(yè)"近四年,馬斯克版微信周五上線

頭條要聞

媒體:歐爾班敗選不僅是一國(guó)之事 牽扯到與中國(guó)的關(guān)系

頭條要聞

媒體:歐爾班敗選不僅是一國(guó)之事 牽扯到與中國(guó)的關(guān)系

體育要聞

一支球隊(duì)不夠爛,也是一種悲哀

娛樂要聞

初代“跑男團(tuán)”合體,鄧超、鹿晗缺席

財(cái)經(jīng)要聞

今夜,出大事了,3種結(jié)果

汽車要聞

不止命名更純粹 領(lǐng)克10/10+要做純電操控新王

態(tài)度原創(chuàng)

游戲
本地
時(shí)尚
家居
公開課

EWC電競(jìng)世界杯: LPL的仇,EWC報(bào)!JDG三局擊敗BLG

本地新聞

12噸巧克力有難,全網(wǎng)化身超級(jí)偵探添亂

“小紅鞋”今年春夏又火了!這4雙怎么搭都好看

家居要聞

復(fù)古風(fēng)格 自然簡(jiǎn)約

公開課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版