国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

Anthropic給Claude Code開(kāi)了"自動(dòng)駕駛"

0
分享至


Claude Code用戶去年平均每天要點(diǎn)擊47次權(quán)限確認(rèn)彈窗——這個(gè)數(shù)字來(lái)自Anthropic內(nèi)部統(tǒng)計(jì),相當(dāng)于每寫(xiě)20分鐘代碼就要被打斷一次?,F(xiàn)在這家公司決定讓AI自己拿主意。

3月25日發(fā)布的auto mode(自動(dòng)模式),把權(quán)限審批從"人工窗口"改成了"AI安檢門(mén)"。

Claude Code是Anthropic去年推出的編程助手,能直接操作終端、讀寫(xiě)文件、運(yùn)行測(cè)試。但保守的默認(rèn)權(quán)限設(shè)計(jì)讓它像個(gè)過(guò)度謹(jǐn)慎的實(shí)習(xí)生:每動(dòng)一個(gè)文件都要問(wèn)"可以嗎",長(zhǎng)任務(wù)經(jīng)常跑到一半卡住等人批復(fù)。

「Claude Code的默認(rèn)權(quán)限故意設(shè)計(jì)得很保守,」Anthropic在公告里寫(xiě)道,「大型任務(wù)因此耗時(shí)超出預(yù)期?!?/p>

公司還發(fā)現(xiàn)更麻煩的事:部分開(kāi)發(fā)者干脆關(guān)掉了所有權(quán)限確認(rèn),讓Claude在裸奔狀態(tài)下操作代碼庫(kù)。這對(duì)數(shù)據(jù)安全是顆定時(shí)炸彈。

Auto mode想走中間路線。它用分類(lèi)器(classifier)預(yù)審每個(gè)動(dòng)作——安全操作自動(dòng)放行,風(fēng)險(xiǎn)操作彈窗攔截。文件刪除、向外發(fā)送數(shù)據(jù)這類(lèi)高危行為,AI會(huì)乖乖停下來(lái)問(wèn)人;讀配置、跑測(cè)試這類(lèi)常規(guī)動(dòng)作,3秒內(nèi)直接執(zhí)行。

分類(lèi)器是怎么做安檢的

技術(shù)細(xì)節(jié)Anthropic沒(méi)全公開(kāi),但核心邏輯不難理解:每個(gè)動(dòng)作先過(guò)一道風(fēng)險(xiǎn)評(píng)分模型,分?jǐn)?shù)低于閾值就綠燈,高于閾值就轉(zhuǎn)人工。

這有點(diǎn)像機(jī)場(chǎng)安檢的預(yù)檢通道。常旅客(低風(fēng)險(xiǎn)操作)走快速通道,陌生面孔(非常規(guī)請(qǐng)求)進(jìn)人工審查。區(qū)別是Claude Code的"安檢員"是個(gè)神經(jīng)網(wǎng)絡(luò),判斷依據(jù)是動(dòng)作類(lèi)型、目標(biāo)路徑、歷史行為模式。

但Anthropic自己承認(rèn),現(xiàn)在的分類(lèi)器還會(huì)犯兩類(lèi)錯(cuò):該攔的沒(méi)攔住,不該攔的攔下了。

「它可能在上下文模糊時(shí)允許風(fēng)險(xiǎn)操作,也可能不必要地阻止安全操作?!构胬锏倪@句話,等于給auto mode貼了張"實(shí)驗(yàn)品"標(biāo)簽。

目前只有Teams訂閱用戶能試用,個(gè)人版還得等等。

為什么偏偏是現(xiàn)在推這個(gè)功能

時(shí)間線值得細(xì)品。Anthropic去年12月剛發(fā)布Claude 3.5 Sonnet的編程能力迭代,今年2月又推出Remote Control——手機(jī)端遙控Claude Code的工具。不到一個(gè)月,auto mode跟進(jìn)。

節(jié)奏很緊。競(jìng)爭(zhēng)對(duì)手也沒(méi)閑著:OpenAI的Codex、GitHub Copilot都在往"更少打斷、更多自動(dòng)"的方向走。

但Anthropic有個(gè)獨(dú)特的數(shù)據(jù)籌碼。公司2月披露,Claude Code的工具調(diào)用里,50%集中在軟件工程場(chǎng)景——開(kāi)發(fā)者是真把這東西當(dāng)生產(chǎn)工具用,不是玩票。

高頻使用意味著高頻摩擦。47次彈窗/天的數(shù)據(jù)背后,是真實(shí)的用戶流失風(fēng)險(xiǎn):要么被煩到關(guān)掉權(quán)限裸奔,要么被慢到棄用工具。

Auto mode是Anthropic對(duì)"信任悖論"的回應(yīng)。AI編程助手要足夠有用,就得深入工作流;要足夠安全,就得處處設(shè)限。兩個(gè)目標(biāo)天然打架。

競(jìng)品在怎么解決同一個(gè)問(wèn)題

GitHub Copilot走的是另一條路。它的代理模式(Agent Mode)同樣能自動(dòng)執(zhí)行多步驟任務(wù),但權(quán)限粒度更粗——用戶一次性授權(quán)某個(gè)工作流,AI在流程內(nèi)自主決策,而不是每個(gè)動(dòng)作都預(yù)審。

區(qū)別在于信任假設(shè)。Copilot假設(shè)"用戶授權(quán)了=用戶負(fù)責(zé)",Anthropic則堅(jiān)持"AI判斷+人工兜底"的雙層結(jié)構(gòu)。

這符合兩家公司的基因差異。OpenAI和GitHub更激進(jìn),Anthropic更謹(jǐn)慎——從Claude一貫的"憲法AI"訓(xùn)練方法就能看出來(lái),安全約束是寫(xiě)進(jìn)模型底層的。

但謹(jǐn)慎有代價(jià)。Copilot的代理模式已經(jīng)全量開(kāi)放,Claude Code的auto mode還縮在Teams版里做研究預(yù)覽。

「改進(jìn)會(huì)隨時(shí)間推出,讓系統(tǒng)更可靠?!笰nthropic的承諾很標(biāo)準(zhǔn),但沒(méi)給時(shí)間表。

開(kāi)發(fā)者實(shí)際會(huì)怎么選

三類(lèi)用戶畫(huà)像已經(jīng)浮現(xiàn)。

第一類(lèi)是"關(guān)彈窗派"。他們?cè)缇徒脵?quán)限確認(rèn),auto mode對(duì)他們沒(méi)吸引力——反正都是自動(dòng),不如徹底自動(dòng)。

第二類(lèi)是"保守派"。他們寧可慢點(diǎn)也要確認(rèn)每一步,auto mode的"AI代審"反而增加不確定感:我憑什么相信它的判斷?

第三類(lèi)是"中間派",也是auto mode的目標(biāo)用戶。他們想提速,但不敢裸奔。分類(lèi)器提供的"弱保證"——比純自動(dòng)安全,比全人工快——?jiǎng)偤每ㄔ谶@個(gè)需求縫隙里。

問(wèn)題是,弱保證夠不夠?

一個(gè)具體場(chǎng)景:Claude Code在重構(gòu)代碼時(shí),把配置文件里的數(shù)據(jù)庫(kù)密碼當(dāng)成了普通字符串要?jiǎng)h除。分類(lèi)器會(huì)不會(huì)識(shí)別出這是敏感操作?如果上下文模糊,它可能放行——而Anthropic已經(jīng)承認(rèn)這種可能性存在。

反過(guò)來(lái),它也可能在批量重命名測(cè)試文件時(shí)頻繁彈窗,因?yàn)槁窂侥J接|發(fā)了風(fēng)險(xiǎn)預(yù)警。這時(shí)候用戶又得回到手動(dòng)點(diǎn)確認(rèn)的老路上。

Auto mode的真正考驗(yàn),是這兩類(lèi)錯(cuò)誤的實(shí)際發(fā)生率。Anthropic沒(méi)公布分類(lèi)器的準(zhǔn)確率數(shù)據(jù),研究預(yù)覽的標(biāo)簽意味著他們自己也沒(méi)把握。

更大的圖景:AI代理的權(quán)限邊界在哪

Claude Code的auto mode是個(gè)微觀樣本,映射的是整個(gè)AI行業(yè)的宏觀焦慮:當(dāng)AI從"回答問(wèn)題"進(jìn)化到"執(zhí)行動(dòng)作",控制權(quán)怎么分配?

完全人工審批,AI淪為高級(jí)搜索;完全自主決策,人類(lèi)承擔(dān)不可控風(fēng)險(xiǎn)。中間的灰度地帶,每家公司都在摸索自己的平衡點(diǎn)。

Anthropic的選擇是"模型分層":底層LLM負(fù)責(zé)生成方案,上層分類(lèi)器負(fù)責(zé)風(fēng)險(xiǎn)評(píng)估,人類(lèi)保留最終否決權(quán)。三層結(jié)構(gòu),兩道保險(xiǎn)。

但這道保險(xiǎn)的成本是延遲。每個(gè)動(dòng)作過(guò)分類(lèi)器,哪怕只要3秒,累積起來(lái)也是可觀開(kāi)銷(xiāo)。Anthropic沒(méi)提具體延遲數(shù)字,只強(qiáng)調(diào)"減少中斷"——暗示分類(lèi)器判斷比人工點(diǎn)擊快,但比純自動(dòng)慢。

另一個(gè)隱藏成本是誤傷。被錯(cuò)誤攔截的安全操作,用戶可能根本不知道AI本可以自動(dòng)完成。這種"沉默的減速"很難被感知和投訴。

更深層的問(wèn)題是信任機(jī)制。人類(lèi)為什么愿意把部分決策權(quán)交給分類(lèi)器?因?yàn)锳nthropic的品牌?因?yàn)榧夹g(shù)白皮書(shū)?還是因?yàn)閯e無(wú)選擇?

「Claude Code的默認(rèn)權(quán)限故意設(shè)計(jì)得很保守」——這句話換個(gè)角度讀,是Anthropic對(duì)用戶的不信任:我不相信你知道自己在做什么,所以我要設(shè)卡。

Auto mode是信任的升級(jí):Anthropic開(kāi)始相信,自己的分類(lèi)器能比用戶更準(zhǔn)確地判斷風(fēng)險(xiǎn)。這是一種傲慢,還是一種進(jìn)步?

取決于分類(lèi)器的實(shí)際表現(xiàn)。而表現(xiàn)數(shù)據(jù),Anthropic還沒(méi)公布。

目前唯一確定的是:47次彈窗/天的折磨,Teams用戶可以先告別一部分了。至于告別的是麻煩還是保障,得等更多人踩過(guò)坑才知道。

你更愿意相信AI的判斷,還是自己的每次點(diǎn)擊?如果分類(lèi)器誤判導(dǎo)致代碼丟失,責(zé)任算誰(shuí)的——Anthropic,還是點(diǎn)過(guò)"啟用auto mode"的你?

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
遼寧隊(duì)為何輸給吉林?賽后烏戈怒批球隊(duì),直指三問(wèn)題,一針見(jiàn)血

遼寧隊(duì)為何輸給吉林?賽后烏戈怒批球隊(duì),直指三問(wèn)題,一針見(jiàn)血

南海浪花
2026-03-25 23:18:59
41歲張雪峰離世,峰學(xué)蔚來(lái)接班人正式浮出水面

41歲張雪峰離世,峰學(xué)蔚來(lái)接班人正式浮出水面

秋姐居
2026-03-25 17:02:04
你在無(wú)意中發(fā)現(xiàn)別人什么秘密?網(wǎng)友爆料,電視劇都不敢這樣演

你在無(wú)意中發(fā)現(xiàn)別人什么秘密?網(wǎng)友爆料,電視劇都不敢這樣演

夜深?lèi)?ài)雜談
2026-03-16 22:21:03
掛斷王毅電話后,伊朗向全球發(fā)出"照會(huì)",把小薩拉曼鼻子都?xì)馔崃?>
    </a>
        <h3>
      <a href=聞香閣
2026-03-25 22:48:26
國(guó)民黨大亂!馬英九緊急發(fā)聲,鄭麗文下場(chǎng)開(kāi)罵:扯破臉、斗到底

國(guó)民黨大亂!馬英九緊急發(fā)聲,鄭麗文下場(chǎng)開(kāi)罵:扯破臉、斗到底

小小科普員
2026-03-25 19:25:13
張雪峰現(xiàn)任妻子遭扒,曝其去年再婚有兒子,年輕漂亮還很清純

張雪峰現(xiàn)任妻子遭扒,曝其去年再婚有兒子,年輕漂亮還很清純

古希臘掌管松餅的神
2026-03-25 14:28:44
張雪峰:如果你不好好學(xué)習(xí),一旦掉入社會(huì)底層,和一群沒(méi)有素質(zhì)的人混在一起.....

張雪峰:如果你不好好學(xué)習(xí),一旦掉入社會(huì)底層,和一群沒(méi)有素質(zhì)的人混在一起.....

山東教育
2026-01-27 11:38:18
寫(xiě)小說(shuō)判十年,把生殖器放女孩嘴巴里判兩年九個(gè)月

寫(xiě)小說(shuō)判十年,把生殖器放女孩嘴巴里判兩年九個(gè)月

昊軒看世界
2026-03-24 19:56:42
老人雨天河邊洗拖把墜河身亡 家屬起訴河道管理部門(mén)索賠91萬(wàn)余元,一審二審均被駁回

老人雨天河邊洗拖把墜河身亡 家屬起訴河道管理部門(mén)索賠91萬(wàn)余元,一審二審均被駁回

紅星新聞
2026-03-25 18:49:38
“建議把中國(guó)分成7國(guó)、愿為美國(guó)死”,這位北大教授如今怎樣了?

“建議把中國(guó)分成7國(guó)、愿為美國(guó)死”,這位北大教授如今怎樣了?

近史閣
2026-03-24 22:26:15
足壇1夜3重磅:薩拉赫宣布離隊(duì),瓜帥離開(kāi)曼城,格列茲曼簽新約!

足壇1夜3重磅:薩拉赫宣布離隊(duì),瓜帥離開(kāi)曼城,格列茲曼簽新約!

郝小小看體育
2026-03-25 09:05:25
突然宣布:將關(guān)停Sora!

突然宣布:將關(guān)停Sora!

中國(guó)基金報(bào)
2026-03-25 11:46:03
突發(fā)!上海最大商場(chǎng)砸的62億懸了!

突發(fā)!上海最大商場(chǎng)砸的62億懸了!

新浪財(cái)經(jīng)
2026-03-26 00:14:57
日媒:闖中國(guó)大使館的日本人身份被曝光,高市十天前的話細(xì)思極恐

日媒:闖中國(guó)大使館的日本人身份被曝光,高市十天前的話細(xì)思極恐

諦聽(tīng)骨語(yǔ)本尊
2026-03-25 13:28:36
東航昨夜一北京飛上海航班,落地后艙內(nèi)現(xiàn)火情,官方通報(bào):系旅客手機(jī)掉落座椅縫隙受擠壓冒煙

東航昨夜一北京飛上海航班,落地后艙內(nèi)現(xiàn)火情,官方通報(bào):系旅客手機(jī)掉落座椅縫隙受擠壓冒煙

縱相新聞
2026-03-26 01:52:05
人民日?qǐng)?bào)痛批大學(xué)生 “沉睡” 現(xiàn)象:躺平四年,畢業(yè)真的會(huì)失業(yè)!

人民日?qǐng)?bào)痛批大學(xué)生 “沉睡” 現(xiàn)象:躺平四年,畢業(yè)真的會(huì)失業(yè)!

復(fù)轉(zhuǎn)這些年
2026-03-25 10:02:32
張雪峰去世,開(kāi)啟天花板悼念模式,官媒、AC米蘭、鄭大、大V在列

張雪峰去世,開(kāi)啟天花板悼念模式,官媒、AC米蘭、鄭大、大V在列

好賢觀史記
2026-03-25 18:14:26
比勞斯萊斯庫(kù)里南還大 全新蔚來(lái)ES9實(shí)車(chē)曝光:氣場(chǎng)太強(qiáng)

比勞斯萊斯庫(kù)里南還大 全新蔚來(lái)ES9實(shí)車(chē)曝光:氣場(chǎng)太強(qiáng)

快科技
2026-03-25 10:14:04
伊朗新最高領(lǐng)袖莫賈塔巴哈梅內(nèi)伊已同意與美國(guó)進(jìn)行談判并達(dá)成協(xié)議

伊朗新最高領(lǐng)袖莫賈塔巴哈梅內(nèi)伊已同意與美國(guó)進(jìn)行談判并達(dá)成協(xié)議

深度報(bào)
2026-03-25 22:47:08
20分32分42分!上海全員殺瘋,一夜爆3門(mén)慘案,3-12名亂成一鍋粥

20分32分42分!上海全員殺瘋,一夜爆3門(mén)慘案,3-12名亂成一鍋粥

后仰大風(fēng)車(chē)
2026-03-26 06:05:05
2026-03-26 07:52:49
灰度測(cè)試中
灰度測(cè)試中
生活正在重構(gòu),目前還在灰度測(cè)試階段,暫不全量發(fā)布。
59文章數(shù) 1關(guān)注度
往期回顧 全部

科技要聞

紅極一時(shí)卻草草收?qǐng)?,Sora宣布正式關(guān)停

頭條要聞

伊朗軍方稱擊落美軍F-18戰(zhàn)機(jī) 現(xiàn)場(chǎng)畫(huà)面披露

頭條要聞

伊朗軍方稱擊落美軍F-18戰(zhàn)機(jī) 現(xiàn)場(chǎng)畫(huà)面披露

體育要聞

35歲替補(bǔ)門(mén)將,憑什么入選英格蘭隊(duì)?

娛樂(lè)要聞

張雪峰遺產(chǎn)分割復(fù)雜!是否立遺囑成關(guān)鍵

財(cái)經(jīng)要聞

管濤:中東局勢(shì)如何影響人民幣匯率走勢(shì)?

汽車(chē)要聞

智己LS8放大招 30萬(wàn)內(nèi)8系旗艦+全線控底盤(pán)秀實(shí)力

態(tài)度原創(chuàng)

本地
數(shù)碼
教育
藝術(shù)
公開(kāi)課

本地新聞

來(lái)永泰同安 赴一場(chǎng)春天的約會(huì)

數(shù)碼要聞

3999元!蘋(píng)果AirPods Max 2耳機(jī)開(kāi)始接受訂購(gòu):4月1日發(fā)貨

教育要聞

中考數(shù)學(xué),幾何求面積,學(xué)霸的方法想不到

藝術(shù)要聞

原來(lái)唐朝貴婦的生活,比我們還會(huì)享受!

公開(kāi)課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版