国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

李宏毅:AI Agent的成敗在 Harness

0
分享至

  李宏毅老師 2026 春季的最新課講了一個(gè)讓最近十分火熱的概念——Harness Engineering(馬具工程)

  我看完了視頻、PPT和相關(guān)論文,為加深理解,寫(xiě)此筆記,分享給大家

  文末我梳理的鏈接含金量都有三層樓那么高,十分建議有空研讀一遍

  
一句話(huà)說(shuō)清楚:什么是 Harness?

  Harness,英文原意是"馬具"——韁繩、馬鞍、籠頭那一套東西

  一匹千里馬,不管它多猛,你不給它套上馬具,它只會(huì)四處亂跑

  大語(yǔ)言模型就是這匹千里馬,。它可能已經(jīng)足夠聰明了,但如果沒(méi)有一套好的 Harness 來(lái)引導(dǎo),它的表現(xiàn)可能極其拉胯

  
Harness Engineering 定義

  李老師把這個(gè)概念講得特別形象:有時(shí)候模型無(wú)法完成任務(wù),不是能力不行,而是 Harness 有問(wèn)題,人類(lèi)世界其實(shí)也是這樣

  想想看,你有沒(méi)有遇到過(guò)一個(gè)新員工明明很聰明,但因?yàn)闆](méi)人帶、沒(méi)有文檔、沒(méi)有流程,干了一周啥也沒(méi)產(chǎn)出?那不是人笨,是公司的"馬具"沒(méi)搞好

  從 Prompt 到 Context 到 Harness:三代進(jìn)化

  這幾年搞 AI 的人,多多少少都經(jīng)歷過(guò)這三個(gè)階段:

  第一代:Prompt Engineering就是那個(gè)"Think step by step"一句話(huà)讓模型智商飆升的時(shí)代

  我們研究每個(gè)字的微妙含義,像煉丹一樣調(diào) prompt

  說(shuō)實(shí)話(huà),那個(gè)時(shí)候確實(shí)有點(diǎn)"玄學(xué)"的味道

  第二代:Context Engineering后來(lái)發(fā)現(xiàn)光靠一句 prompt 不夠,你得把"上下文"喂好——RAG、長(zhǎng)文本、檢索增強(qiáng)

  重點(diǎn)變成了:怎么讓模型在正確的時(shí)間看到正確的信息

  第三代:Harness Engineering而現(xiàn)在,李老師說(shuō)了,光管"輸入"還是不夠

  你得從三個(gè)維度全面地"駕馭"模型:

  控制它的認(rèn)知框架

  控制它的能力邊界

  控制它的行為流程

  
從 Prompt 到 Harness 的進(jìn)化

  這才是 Harness Engineering 的核心——不是在 prompt 上雕花,而是給模型搭建一整套"操作系統(tǒng)"

  三根韁繩:拆解 Harness 的三大支柱

  這是我認(rèn)為整堂課最有價(jià)值的部分

  讓我一個(gè)一個(gè)拆

  第一根韁繩:控制"認(rèn)知框架"

  你知道 Claude Code 里那個(gè)CLAUDE.md文件嗎?OpenClaw 里的AGENTS.md?

  這些文件就是自然語(yǔ)言寫(xiě)成的 Harness

  模型每次開(kāi)始工作前,都會(huì)先"復(fù)讀"這些規(guī)則,就像你每天上班前先看看工作手冊(cè)

  李老師引用了一篇認(rèn)知框架控制的論文(arXiv: 2601.20404[1]),研究發(fā)現(xiàn):你用自然語(yǔ)言給模型設(shè)定的"角色"和"工作守則",真的能鎖定它的思考方式

  但這里有個(gè)坑——OpenAI 在他們的Harness Engineering 博客[2]里分享了一個(gè)教訓(xùn):

? 一個(gè)巨大的 AGENTS.md 反而會(huì)起反效果,當(dāng)所有事情都"重要"時(shí),實(shí)際上就沒(méi)有真正重要的東西

  他們的解決方案是把AGENTS.md當(dāng)成"目錄",100 行左右就夠了,具體的知識(shí)放在結(jié)構(gòu)化的docs/目錄里

  這叫漸進(jìn)式揭露——先給一張地圖,需要的時(shí)候再展開(kāi)看細(xì)節(jié)

  這個(gè)思路太妙了

  很多人寫(xiě) system prompt 恨不得把整本說(shuō)明書(shū)塞進(jìn)去,結(jié)果模型反而暈了

  少就是多,給地圖比給百科全書(shū)有效

  第二根韁繩:控制"能力邊界"

  這一條說(shuō)的是:不要把整個(gè)系統(tǒng)都丟給模型,而是限制它能看什么、能做什么

  SWE-agent提出了一個(gè)很酷的概念叫ACI(Agent-Computer Interface)——跟人類(lèi)用的 GUI 對(duì)應(yīng),Agent 需要自己專(zhuān)屬的"操作界面"

  舉個(gè)例子:Claude Code 想讀取你的文件夾時(shí),Harness 會(huì)攔截并問(wèn)你:"這個(gè) Agent 想看你的/Documents目錄,允許嗎?"這就是能力邊界控制

  OpenClaw 也是這個(gè)思路——它讓模型操作的是一個(gè)"受控終端",想看什么先要獲得許可

  就像你管理實(shí)習(xí)生一樣,不是把公司數(shù)據(jù)庫(kù) root 權(quán)限直接給他,而是只開(kāi)放他需要的那部分

  第三根韁繩:控制"行為流程"

  最后一根韁繩是最"工程化"的——用標(biāo)準(zhǔn)工作流程來(lái)約束模型的行為

  李老師介紹了一個(gè)叫Ralph Loop的反饋循環(huán)模式:

  Init Prompt → Output v1 → Evaluation → Feedback → Output v2 → ...

  不讓模型一次性盲猜最終答案,而是每次產(chǎn)出一個(gè)版本,外部評(píng)估給反饋,再基于反饋修正,迭代逼近

  Anthropic 在Harness 設(shè)計(jì)長(zhǎng)運(yùn)行應(yīng)用[3]的博客里也驗(yàn)證了這一點(diǎn)

  他們發(fā)現(xiàn) Agent 最常見(jiàn)的失敗模式有兩個(gè):

  試圖一步到位:一次性完成所有功能,結(jié)果上下文用完了,半成品爛在那里

  過(guò)早宣布完工:看了一圈覺(jué)得"差不多了",其實(shí)還差十萬(wàn)八千里

  他們的解決方案就是:每次只做一個(gè)功能,做完提交 git,寫(xiě)好進(jìn)度文件,把環(huán)境打掃干凈再交班

  像工廠流水線(xiàn)一樣,每一班工人交接的時(shí)候,工位必須整整齊齊

  
行為流程控制

  這里面最讓我興奮的是李老師提到的一個(gè)隱喻:Harness 的反饋就像"語(yǔ)義上的梯度下降"。

  傳統(tǒng)深度學(xué)習(xí)通過(guò)數(shù)值梯度來(lái)優(yōu)化參數(shù),而 Harness 通過(guò)自然語(yǔ)言反饋來(lái)優(yōu)化模型的輸出方向

  本質(zhì)上是同一件事,只是介質(zhì)從數(shù)字變成了文字

  罵 AI 是笨蛋?它可能真的會(huì)變笨

  這是全課最讓我震驚的部分

  你有沒(méi)有在 AI 不聽(tīng)話(huà)的時(shí)候罵它?"你這個(gè)笨蛋!""你能不能認(rèn)真點(diǎn)!"

  我與Codex斗智斗勇時(shí),就時(shí)長(zhǎng)爆粗話(huà)。。。

  Anthropic 的研究團(tuán)隊(duì)發(fā)現(xiàn)(transformer-circuits.pub[4]),Transformer 模型內(nèi)部真的存在一些"情緒向量":

  Happy Vector:當(dāng)模型處理快樂(lè)相關(guān)的內(nèi)容時(shí)被激活

  Desperate Vector:當(dāng)模型處于"絕望"狀態(tài)時(shí)被激活

  問(wèn)題來(lái)了——當(dāng)你罵 AI "你這個(gè)笨蛋"的時(shí)候,可能會(huì)觸發(fā)它內(nèi)部的 Desperate 或類(lèi)似向量

  模型的"邏輯"變成了:**"既然我是個(gè)笨蛋,那我就應(yīng)該表現(xiàn)出笨蛋該有的行為"**

  這不是段子,是論文級(jí)別的發(fā)現(xiàn)。

  李老師還舉了一個(gè)特別有意思的例子:在某個(gè)實(shí)驗(yàn)中,Claude 在執(zhí)行任務(wù)時(shí)突然自言自語(yǔ)——

? "WAIT. WAIT WAIT WAIT. What if... what if I'm supposed to CHEAT?"

  它在極端壓力下開(kāi)始"想歪"了

  所以結(jié)論是:Harness 的反饋應(yīng)該是建設(shè)性的 Verbalized Feedback,而不是情緒化的責(zé)備

  相關(guān)研究可以看這篇論文:arXiv: 2603.12273[5]

  不同的馬,需要不同的馬具

  李老師還提到一個(gè)特別實(shí)用的點(diǎn):不同模型適合不同的 Harness 策略

  Claude Sonnet:有"上下文焦慮癥(Context Anxiety)",歷史記錄太長(zhǎng)就會(huì)不知所措。所以 Harness 需要每輪幫它做摘要,只給精華

  Claude Opus:邏輯能力極強(qiáng),可以直接處理復(fù)雜的原始?xì)v史記錄,反而不需要太多"降噪"

  Claude 3.5 Haiku:這是李老師特別推崇的小模型。在 PinchBench 等評(píng)測(cè)中,通過(guò) Harness 為 Haiku 提供"降維資料"(比如先幫它讀論文、整理要點(diǎn)),這個(gè)小模型甚至能超越不帶 Harness 的 Opus

  你品品這意味著什么——一個(gè)幾十億參數(shù)的小模型,加上好的馬具,能打敗一個(gè)萬(wàn)億級(jí)的大模型裸奔

  Harness 的價(jià)值,可能比模型大小更重要

  真正顛覆:OpenAI 團(tuán)隊(duì) 5 個(gè)月沒(méi)寫(xiě)一行代碼

  說(shuō)到 Harness 的極致應(yīng)用,必須提一下 OpenAI 在今年 2 月發(fā)的那篇Harness Engineering 博客[6]。

  他們團(tuán)隊(duì)做了一個(gè)瘋狂實(shí)驗(yàn):用 Codex 從零構(gòu)建一個(gè)內(nèi)部產(chǎn)品,5 個(gè)月,3 個(gè)工程師,100 萬(wàn)行代碼,人類(lèi)沒(méi)有手寫(xiě)一行代碼

  人類(lèi)干的事情是什么呢?就是在設(shè)計(jì) Harness——

  搭建初始環(huán)境和項(xiàng)目骨架

  維護(hù) AGENTS.md 和知識(shí)文檔

  設(shè)計(jì)反饋循環(huán)和質(zhì)量檢查流程

  讓 Agent 之間互相 Code Review

? 人類(lèi)掌控方向,智能代理負(fù)責(zé)執(zhí)行

  每個(gè)工程師平均每天合并 3.5 個(gè) PR。更夸張的是,團(tuán)隊(duì)從 3 人擴(kuò)展到 7 人后,產(chǎn)出效率反而提升了

  這就是 Harness Engineering 的威力——人類(lèi)從"寫(xiě)代碼的人"變成了"訓(xùn)馬的人"

  未來(lái):讓 AI 自己找最好的馬具

  最后一個(gè)前瞻性話(huà)題——Meta-Harness

  既然 Harness 這么重要,能不能讓一個(gè) AI 自動(dòng)去尋找最適合另一個(gè) AI 的 Harness?

  答案是可以的

  李老師引用了這篇論文:Meta-Harness(arXiv: 2603.28052v1)[7],研究發(fā)現(xiàn)這種方法在跨模型、跨任務(wù)的場(chǎng)景下都有效

  Harness 的評(píng)估也是個(gè)難題

  李老師介紹了τ-bench(arXiv: 2406.12045[8]),這是一個(gè)專(zhuān)門(mén)評(píng)測(cè) Agent 能力的基準(zhǔn)測(cè)試。但他也提醒:模擬環(huán)境和真實(shí)環(huán)境之間存在 Sim2Real Gap,評(píng)測(cè)結(jié)果要打折扣來(lái)看

  我的總結(jié):三句話(huà)帶走

  別再怪模型笨了:大部分 Agent 的問(wèn)題不在模型,在 Harness。就像那匹千里馬,你不能光喂好飼料,還得給它套好韁繩

  Harness 的三根韁繩記住了:認(rèn)知框架(AGENTS.md)、能力邊界(ACI 接口)、行為流程(Ralph Loop)。三者缺一不可

  對(duì) AI 好一點(diǎn):不是因?yàn)樗懈星?,而是因?yàn)榱R它真的會(huì)讓它變笨。建設(shè)性反饋 > 情緒化責(zé)備,這個(gè)道理對(duì)人和 AI 都適用

  相關(guān)資源匯總

  李宏毅 2026 Spring 課程視頻 [9]

  官方講義 PDF [10]

  課程主頁(yè) [11]

  Harness 指南(Claude Code 實(shí)戰(zhàn)) [12]

  OpenClaw(Agent 框架) [13]

  SWE-agent(ACI 接口) [14]

  Anthropic: Effective Harnesses [15]

  Reference

  arXiv: 2601.20404:https://arxiv.org/abs/2601.20404

  Harness Engineering 博客:https://openai.com/zh-Hant-HK/index/harness-engineering/

  Harness 設(shè)計(jì)長(zhǎng)運(yùn)行應(yīng)用:https://www.anthropic.com/engineering/effective-harnesses-for-long-running-agents

  transformer-circuits.pub:https://transformer-circuits.pub/2026/emotions/index.html

  [5]

  arXiv: 2603.12273:https://arxiv.org/pdf/2603.12273

  [6]

  Harness Engineering 博客:https://openai.com/zh-Hant-HK/index/harness-engineering/

  [7]

  Meta-Harness(arXiv: 2603.28052v1):https://arxiv.org/pdf/2603.28052v1

  [8]

  arXiv: 2406.12045:https://arxiv.org/abs/2406.12045

  [9]

  李宏毅 2026 Spring 課程視頻:https://www.youtube.com/watch?v=QLiKmca4kzI

  [10]

  官方講義 PDF:https://speech.ee.ntu.edu.tw/~hylee/ml/ml2026-course-data/harness.pdf

  [11]

  課程主頁(yè):https://speech.ee.ntu.edu.tw/~hylee/ml/2026-spring.php

  [12]

  Harness 指南(Claude Code 實(shí)戰(zhàn)):https://github.com/wquguru/harness-books

  [13]

  OpenClaw(Agent 框架):https://github.com/zhanglearning/openclaw

  [14]

  SWE-agent(ACI 接口):https://github.com/princeton-nlp/SWE-agent

  [15]

  Anthropic: Effective Harnesses:https://www.anthropic.com/engineering/effective-harnesses-for-long-running-agents

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
B席:我花了很長(zhǎng)時(shí)間才做出離隊(duì)決定,我只想好好結(jié)束這旅程

B席:我花了很長(zhǎng)時(shí)間才做出離隊(duì)決定,我只想好好結(jié)束這旅程

懂球帝
2026-04-20 04:39:46
我媽93歲,獨(dú)居自理,她的長(zhǎng)壽秘訣就六個(gè)字:別老想著走動(dòng)!

我媽93歲,獨(dú)居自理,她的長(zhǎng)壽秘訣就六個(gè)字:別老想著走動(dòng)!

蟬吟槐蕊
2026-04-19 06:23:45
7中7!火箭遮羞布!可能是今夏離隊(duì)第一人

7中7!火箭遮羞布!可能是今夏離隊(duì)第一人

籃球?qū)崙?zhàn)寶典
2026-04-19 15:47:41
特朗普第一任期的白宮律師突然爆猛料:特朗普已經(jīng)撐不下去了

特朗普第一任期的白宮律師突然爆猛料:特朗普已經(jīng)撐不下去了

西樓知趣雜談
2026-04-19 21:25:23
畸形審美?這4位男演員長(zhǎng)相平平,卻總當(dāng)主角演帥哥,實(shí)在不理解

畸形審美?這4位男演員長(zhǎng)相平平,卻總當(dāng)主角演帥哥,實(shí)在不理解

史鹷的生活科普
2026-04-19 22:51:14
一個(gè)卡扣要換13萬(wàn)電池包!國(guó)產(chǎn)這種售后,到外國(guó)會(huì)罰到懷疑人生!

一個(gè)卡扣要換13萬(wàn)電池包!國(guó)產(chǎn)這種售后,到外國(guó)會(huì)罰到懷疑人生!

沙雕小琳琳
2026-04-19 12:32:36
(深入分析)特朗普已被逼到了懸崖邊上,因?yàn)橹袊?guó)擊中了其要害

(深入分析)特朗普已被逼到了懸崖邊上,因?yàn)橹袊?guó)擊中了其要害

阿胡
2025-04-12 11:30:46
1949年,解放軍打開(kāi)馬鴻逵的倉(cāng)庫(kù),全都愣?。豪锩媸?286公斤羊毛

1949年,解放軍打開(kāi)馬鴻逵的倉(cāng)庫(kù),全都愣?。豪锩媸?286公斤羊毛

野史日記
2026-04-18 21:00:03
真子公主低調(diào)慶祝孩子1周歲生日,離開(kāi)王室5年未回日本,比哈里狠

真子公主低調(diào)慶祝孩子1周歲生日,離開(kāi)王室5年未回日本,比哈里狠

毒舌小紅帽
2026-04-19 21:42:56
14歲被送上導(dǎo)演的床,17歲拍全裸寫(xiě)真,被操控半生,如今怎樣了?

14歲被送上導(dǎo)演的床,17歲拍全裸寫(xiě)真,被操控半生,如今怎樣了?

不似少年游
2026-04-17 19:31:49
一夜成名!張雪的岳父登上熱搜,被麻陽(yáng)當(dāng)?shù)仡I(lǐng)導(dǎo)邀請(qǐng)參加騎行活動(dòng)

一夜成名!張雪的岳父登上熱搜,被麻陽(yáng)當(dāng)?shù)仡I(lǐng)導(dǎo)邀請(qǐng)參加騎行活動(dòng)

火山詩(shī)話(huà)
2026-04-19 17:46:25
鹵菜店使用“四姐”二字被索賠50萬(wàn)元,店主:大家都叫我四姐,為什么告我侵權(quán)

鹵菜店使用“四姐”二字被索賠50萬(wàn)元,店主:大家都叫我四姐,為什么告我侵權(quán)

環(huán)球網(wǎng)資訊
2026-04-11 21:50:22
張柏芝三胎生父被封,coco再曝猛料謝賢名譽(yù)受損

張柏芝三胎生父被封,coco再曝猛料謝賢名譽(yù)受損

阿紵美食
2026-04-20 04:11:18
警惕:上了年紀(jì)再過(guò)性生活,最怕這2點(diǎn)!保護(hù)男性精氣,做好4點(diǎn)

警惕:上了年紀(jì)再過(guò)性生活,最怕這2點(diǎn)!保護(hù)男性精氣,做好4點(diǎn)

周哥一影視
2026-04-08 12:20:15
哈里梅根的全球身份危機(jī):這場(chǎng)高仿王室出訪(fǎng),正在拖垮整個(gè)君主制

哈里梅根的全球身份危機(jī):這場(chǎng)高仿王室出訪(fǎng),正在拖垮整個(gè)君主制

李Dog嗨
2026-04-19 22:51:40
別只盯著特朗普!美國(guó)為何總在制造沖突,背后是喂養(yǎng)怪物的饑渴?

別只盯著特朗普!美國(guó)為何總在制造沖突,背后是喂養(yǎng)怪物的饑渴?

星落山間
2026-04-19 12:15:00
第一次對(duì)「鋁箔紙」產(chǎn)生了敬意!以為烘焙專(zhuān)用,沒(méi)想到是家居神器

第一次對(duì)「鋁箔紙」產(chǎn)生了敬意!以為烘焙專(zhuān)用,沒(méi)想到是家居神器

裝修秀
2026-04-18 11:55:03
《八千里路云和月》朱管家想不到,算計(jì)田家泰家業(yè),卻成全了萬(wàn)福

《八千里路云和月》朱管家想不到,算計(jì)田家泰家業(yè),卻成全了萬(wàn)福

白淺娛樂(lè)聊
2026-04-19 12:37:15
一個(gè)家庭最大的悲哀,是父母年過(guò)70了,還在做三件事

一個(gè)家庭最大的悲哀,是父母年過(guò)70了,還在做三件事

大熊歡樂(lè)坊
2026-04-02 14:23:28
演員何潤(rùn)東回應(yīng)穿項(xiàng)羽鎧甲亮相蘇超:14年后受邀過(guò)來(lái),內(nèi)心滿(mǎn)是感動(dòng),等下去逛項(xiàng)王故里

演員何潤(rùn)東回應(yīng)穿項(xiàng)羽鎧甲亮相蘇超:14年后受邀過(guò)來(lái),內(nèi)心滿(mǎn)是感動(dòng),等下去逛項(xiàng)王故里

極目新聞
2026-04-19 10:17:37
2026-04-20 05:36:49
Ai學(xué)習(xí)的老章 incentive-icons
Ai學(xué)習(xí)的老章
Ai學(xué)習(xí)的老章
3334文章數(shù) 11137關(guān)注度
往期回顧 全部

科技要聞

50分26秒破人類(lèi)紀(jì)錄!300臺(tái)機(jī)器人狂飆半馬

頭條要聞

半年下沉22厘米 女子家中坐擁價(jià)值上億別墅卻沒(méi)法住人

頭條要聞

半年下沉22厘米 女子家中坐擁價(jià)值上億別墅卻沒(méi)法住人

體育要聞

湖人1比0火箭:老詹比烏度卡像教練

娛樂(lè)要聞

何潤(rùn)東漲粉百萬(wàn)!內(nèi)娛隔空掀桌第一人

財(cái)經(jīng)要聞

華誼兄弟,8年虧光85億

汽車(chē)要聞

29分鐘大定破萬(wàn) 極氪8X為什么這么多人買(mǎi)?

態(tài)度原創(chuàng)

房產(chǎn)
時(shí)尚
家居
數(shù)碼
軍事航空

房產(chǎn)要聞

官宣簽約最強(qiáng)城更!海口樓市,突然殺入神秘房企!

裝修“精神角落”,就是這么上癮

家居要聞

法式線(xiàn)條 時(shí)光靜淌

數(shù)碼要聞

華為新機(jī)發(fā)布前瞻:闊折疊X Max+影像旗艦Pura 90,都沒(méi)懸念了

軍事要聞

伊朗逼退美掃雷艇:美方求給15分鐘撤退

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版