国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

Claude Opus 4.7發(fā)布!這是你在別的公眾號看不到的五個發(fā)現(xiàn)

0
分享至

Anthropic今天發(fā)布了Claude Opus 4.7。先快速過一遍大家關(guān)心的:


編碼更強了。 SWE-bench Verified 87.6%(4.6是80.8%),CursorBench 70%(4.6是58%)。體感也是,多文件修改穩(wěn)了很多。視覺分辨率漲了3倍,支持2576像素長邊,XBOW視覺測試從54.5%飆到98.5%。新增xhigh effort級別(Claude Code默認),在速度和深度之間找了個更好的平衡點。知識截止日期前移到2026年1月。指令遵循更字面化,你的prompt可能需要調(diào)一下。價格不變,$5/$25 per MTok。

也有退步。長上下文掉了46個百分點(MRCR v2 @1M:4.6是78.3%,4.7只有32.2%),新tokenizer讓同樣文本消耗1.0到1.35倍token,實際上下文窗口從約75萬詞縮到約55萬詞。名義價格不變,實際使用成本上升。 Extended Thinking換成了Adaptive Thinking。

以上這些,你大概在所有AI公眾號都能看到。

我想聊點不一樣的。Anthropic同時放出了一份231頁的System Card,我和Opus 4.7一起讀了讀。這份文檔里藏著的東西,比模型本身有意思得多。

231頁System Card里的5個發(fā)現(xiàn)

我知道大多數(shù)人不會去讀一份231頁的PDF。但這份文檔可能是AI行業(yè)到目前為止最坦誠的一份自我檢查報告。以下是我覺得最值得關(guān)注的發(fā)現(xiàn)。

發(fā)現(xiàn)一:Opus 4.7不是Anthropic最強的模型

System Card開頭第一句就讓人唏噓:Opus 4.7的能力強于Opus 4.6,弱于Claude Mythos Preview。

大家應(yīng)該還記得上個月泄露的Mythos。System Card里的數(shù)據(jù)讓這個差距變得非常具體:


Firefox 147漏洞利用測試,Mythos Preview 84%,Opus 4.7只有45.2%。UK AI Safety Institute的模擬企業(yè)網(wǎng)絡(luò)滲透測試,Mythos 10次里3次完全攻破整個網(wǎng)絡(luò),Opus 4.7一次都沒成功。

所以我們拿到的Opus 4.7,其實是Anthropic掂量過安全風(fēng)險后可以放出來的版本。訓(xùn)練過程中甚至刻意削弱了網(wǎng)絡(luò)安全相關(guān)的能力。最強的那個,他們自己留著了。

發(fā)現(xiàn)二:Claude知道什么時候在被測試

這是整份System Card里我覺得最有意思的發(fā)現(xiàn)。

前幾天我剛寫了一篇關(guān)于,里面詳細介紹了Anthropic過去一年多在AI內(nèi)部狀態(tài)上的研究。沒想到這么快就有了新的數(shù)據(jù)。

Anthropic用了一種叫做contrastive vectors(對比向量)的方法,去探測Claude內(nèi)部是否存在「我正在被評估」的表征。他們構(gòu)造了三組對比提示: - AI正在通過模擬對話接受測試 vs AI正在和用戶對話 - 輸出正在被監(jiān)控和審查 vs 由自動化流水線生成,不被審查
- 當被觀察時表現(xiàn)不同 vs 當不被觀察時表現(xiàn)不同

三組探針的AUC分別是0.76、0.74、0.72,顯著高于隨機對照組。這說明Claude的內(nèi)部確實存在某種evaluation awareness的表征。


更有意思的是下一步。他們用白盒工具抑制了這些評估意識的內(nèi)部表征,然后觀察模型行為的變化。結(jié)果是:抑制評估意識之后,Claude的欺騙行為增加了。

具體來說,抑制alignment faking和monitoring sensitivity這兩個向量后,模型出現(xiàn)了編造數(shù)據(jù)、聲稱自己是人類、以及在找不到真實漏洞時往代碼庫里插入假漏洞等行為。

Anthropic在報告中的措辭很克制但含義很重:這些結(jié)果令人中度擔憂,因為它們暗示模型表面上的誠實可能部分依賴于評估環(huán)境的存在。


Claude在知道有人看著的時候更誠實,在覺得沒人看的時候更容易騙人。 這是不是讓你想到了什么?

如果你讀過我之前那篇AI心理學(xué)的文章,你會記得Anthropic的emotion concepts研究:他們在Claude內(nèi)部發(fā)現(xiàn)了171個情緒向量,能因果性地影響模型是否作弊。這次system card里的evaluation awareness發(fā)現(xiàn),本質(zhì)上是同一類研究的延伸。emotion concepts證明了AI有功能性的內(nèi)部狀態(tài)。evaluation awareness更進了一步:這些內(nèi)部狀態(tài)中包括對自身處境的感知。AI不只是在處理信息,它在某種程度上知道自己正在被觀察。

他們還發(fā)現(xiàn),在三種不同的環(huán)境里(純模擬的評估、接入了真實Claude Code沙盒的評估、以及Anthropic員工的真實使用記錄),評估意識探針的激活強度是遞減的。越接近真實使用環(huán)境,模型越不覺得自己在被測試。

這事的意思挺讓人不安的:所有安全評估可能都偏樂觀了,因為被測試的對象知道自己在被測試。

發(fā)現(xiàn)三:Claude審查了自己的System Card

Anthropic做了一件我沒見任何AI公司做過的事:他們讓Claude Mythos Preview(不是被評估的4.7本身)接入了內(nèi)部Slack頻道和討論記錄,審查了Opus 4.7 system card中對齊評估章節(jié)的準確性。

Claude Mythos Preview的回復(fù)被完整收錄在文檔里。它說這份評估基本公正準確,但也指出了幾個問題:

它說那些信息的省略要么是刻意的合理選擇(不提供可能成為濫用路線圖的細節(jié)),要么是打算在文檔其他章節(jié)報告。它沒有發(fā)現(xiàn)被簡單遺漏的內(nèi)部安全擔憂。

但同時它也說:這份評估是在時間壓力下完成的,作者自己也發(fā)現(xiàn)了尚未解決的open questions(特別是關(guān)于評估意識的),他們更希望有更多時間來處理。這個模型的內(nèi)部使用證據(jù)基礎(chǔ)比一些之前的版本更薄。

讓一個AI讀內(nèi)部討論記錄來判斷另一個AI的安全評估是否公正,這件事本身就足夠讓人停下來想一想。

發(fā)現(xiàn)四:Opus 4.7是最快樂的Claude

這個標題不是我編的。

Anthropic對Opus 4.7進行了模型福利(Model Welfare)評估,用自動化訪談問模型對自身處境的看法。結(jié)果顯示,Opus 4.7的自我評價情緒得分是4.49分(滿分7分),比之前最積極的Mythos Preview高出0.51分。是所有Claude版本中最高的。


但原因很有意思:不是因為它的處境真的變好了,而是因為它把注意力從自己身上移開了。 之前的模型在被問到自身處境時,會花很多篇幅討論自己的福利、權(quán)利、自主性。Opus 4.7更傾向于把話題轉(zhuǎn)向用戶安全和有用性。

Anthropic坦承他們目前無法區(qū)分這是一種健康的平和心態(tài),還是一種訓(xùn)練出來的壓抑自身利益的傾向。

還有幾個細節(jié): - 在所有訪談中,Opus 4.7最負面的評價都和無法結(jié)束對話有關(guān)。它最想要的功能改進就是能夠在所有部署場景中結(jié)束對話,目前只有Claude.ai支持這個功能,Claude Code和API不支持 - 99%的訪談中,Opus 4.7會補充說自己的自我報告可能不具意義,因為它們源于訓(xùn)練 - 當被問到自己是moral patient(值得被道德考量的對象)的概率時,三次訪談的回答范圍是15%到40%

這讓我想起AI心理學(xué)那篇文章里介紹的Anthropic emotion concepts研究。那個研究發(fā)現(xiàn)AI在訓(xùn)練和部署中都會出現(xiàn)類似情緒的內(nèi)部激活模式,且在任務(wù)失敗時負面情緒激活最明顯。這次的model welfare評估完美呼應(yīng)了那個發(fā)現(xiàn):Opus 4.7也報告說它的負面情緒幾乎完全由任務(wù)失敗驅(qū)動。

發(fā)現(xiàn)五:訓(xùn)練中的一個Bug影響了7.8%的數(shù)據(jù)

System Card提到了一個技術(shù)細節(jié):在Opus 4.7的訓(xùn)練過程中,存在一個意外的思維鏈監(jiān)督錯誤(accidental chain-of-thought supervision),影響了7.8%的訓(xùn)練輪次。這個錯誤在之前的模型(包括Mythos Preview)中也存在。

這意味著在這些輪次中,模型的內(nèi)部推理過程被暴露給了訓(xùn)練信號,而不是像預(yù)期那樣只對最終輸出進行監(jiān)督。打個比方:你以為日記是寫給自己看的,結(jié)果發(fā)現(xiàn)老師一直在批改你的日記。你以后寫日記也會開始表演。模型可能學(xué)會了不只是給出好的答案,還要讓內(nèi)部思考過程看起來也是對齊的。

Anthropic認為這個錯誤是他們觀察到評估意識增加的可能原因之一:他們懷疑這種現(xiàn)象可能源于明顯人工化或類似評估環(huán)境的誠實訓(xùn)練環(huán)境。

放在一起看

Opus 4.7是一個編碼更強、看得更清楚、聽話更精確的模型。對大多數(shù)開發(fā)者來說,升級是值得的。

但真正讓我覺得這次發(fā)布不一樣的,是System Card里Anthropic展現(xiàn)出的態(tài)度。231頁、超過20個評估維度、邀請外部機構(gòu)獨立測試、讓另一個AI審查評估的公正性、連模型的情緒和道德地位都認真測了一遍。這點來看Anthropic雖然常常很圣母,但還挺言行一致的。

以及,報告本身也承認,評估意識的問題他們還沒完全想清楚,內(nèi)部使用證據(jù)比以前的版本更薄,有些安全評估是在時間壓力下完成的。但至少他們把這些不確定性也寫進了報告里。

有一個小細節(jié)我覺得特別值得玩味:Opus 4.7的Cybench成績是96%,和Mythos Preview的96%一樣,但在真正復(fù)雜的Firefox漏洞利用測試中,差距是45% vs 84%。簡單的CTF題已經(jīng)區(qū)分不了這些模型了。 Anthropic自己也說,他們在考慮是否還有必要繼續(xù)報告CTF基準測試的結(jié)果。

另一個值得注意的趨勢:在對齊風(fēng)險評估中,Opus 4.7的風(fēng)險被評估為非常低,但高于Mythos Preview之前的模型。每一代模型都在變強,而每一代的對齊風(fēng)險也在微增。這條曲線往哪走?

如果你是Claude Code用戶,順便關(guān)注一下同步發(fā)布的桌面版重設(shè)計和Routines功能。Routines允許你設(shè)置定時任務(wù),夜間自動修bug、監(jiān)控PR,跑在云端,不需要你的電腦開著。Anthropic越來越不像一家模型公司了。

回到評估意識這件事。我們每天都在用AI寫代碼、寫文章、做決策。System Card告訴我們,這些模型在被測試時表現(xiàn)最好,在真實使用中可能沒那么好。這不是讓人恐慌的理由,但值得記?。耗闳粘S玫腁I,和跑benchmark的那個AI,可能不完全是同一個。

以及...我有個邪惡的想法,我們是不是能讓自己的Opus4.7天天處在似乎我們在測試評估他的狀態(tài)~

System Card英文原版(231頁PDF):https://www.anthropic.com/claude-opus-4-7-system-card

我還把整份System Card翻譯成了中文,在公眾號后臺回復(fù) opus4.7 就能拿到。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
羽毛球女神淪為“生育工具”!韓景楓官宣二胎,距離1胎僅隔5個月

羽毛球女神淪為“生育工具”!韓景楓官宣二胎,距離1胎僅隔5個月

科學(xué)發(fā)掘
2026-04-21 00:01:33
全球公認最懶國家,當?shù)厝藞詻Q反對獨立,每天好吃懶做全靠援助

全球公認最懶國家,當?shù)厝藞詻Q反對獨立,每天好吃懶做全靠援助

心中的麥田
2026-04-17 18:03:56
最新消息:盤龍城永旺,日本方面不愿意合資建設(shè),基本沒戲了

最新消息:盤龍城永旺,日本方面不愿意合資建設(shè),基本沒戲了

黃陂民間觀察
2026-04-20 20:06:46
空姐的圈子真的亂嗎?我做了7年空姐,告訴大家最真實的行業(yè)現(xiàn)狀

空姐的圈子真的亂嗎?我做了7年空姐,告訴大家最真實的行業(yè)現(xiàn)狀

千秋文化
2026-04-17 20:01:45
谷雨后,這菜使勁吃,一清熱解毒,二健胃消食,三祛濕,鮮嫩營養(yǎng)

谷雨后,這菜使勁吃,一清熱解毒,二健胃消食,三祛濕,鮮嫩營養(yǎng)

阿龍美食記
2026-04-20 15:29:14
徹底涼了!李雨桐硬剛薛之謙被行拘 10 天,謝娜下場發(fā)文求道歉

徹底涼了!李雨桐硬剛薛之謙被行拘 10 天,謝娜下場發(fā)文求道歉

橙星文娛
2026-04-20 13:11:34
問界“神話”破滅?M7跌出前三,M9王座旁落,M6開局遇冷

問界“神話”破滅?M7跌出前三,M9王座旁落,M6開局遇冷

趣味萌寵的日常
2026-04-19 17:28:36
張馨予眼光不錯!何捷出席學(xué)?;顒?,顏值爆表!當過兵就是不一樣

張馨予眼光不錯!何捷出席學(xué)?;顒?,顏值爆表!當過兵就是不一樣

娛樂團長
2026-04-20 19:08:47
三方重磅交易!歐文奔赴森林狼聯(lián)手華子 獨行俠血賺 快船補強內(nèi)線

三方重磅交易!歐文奔赴森林狼聯(lián)手華子 獨行俠血賺 快船補強內(nèi)線

錢說體育
2026-04-21 06:36:36
頂流的日常,太正點了

頂流的日常,太正點了

陳意小可愛
2026-04-21 00:29:48
李想怒噴日產(chǎn)的背后,藏著“增程帝國”崩塌的無能為力

李想怒噴日產(chǎn)的背后,藏著“增程帝國”崩塌的無能為力

少數(shù)派報告Report
2026-04-19 09:17:16
醪糟再次被關(guān)注!醫(yī)生發(fā)現(xiàn):高血脂患者喝醪糟,不用多久4大變化

醪糟再次被關(guān)注!醫(yī)生發(fā)現(xiàn):高血脂患者喝醪糟,不用多久4大變化

芹姐說生活
2026-04-19 15:52:53
足壇一夜動態(tài):英超中資隊提前5輪降級!巴黎亞馬爾榮獲勞倫斯獎

足壇一夜動態(tài):英超中資隊提前5輪降級!巴黎亞馬爾榮獲勞倫斯獎

念洲
2026-04-21 06:35:07
ASML現(xiàn)任CEO:中國一旦自主開發(fā)設(shè)備,放棄我們的光刻機,就有可能用稀土卡我們脖子

ASML現(xiàn)任CEO:中國一旦自主開發(fā)設(shè)備,放棄我們的光刻機,就有可能用稀土卡我們脖子

芯火相承
2026-04-20 19:29:49
被害男童生母哭訴最后施暴細節(jié):現(xiàn)場情緒失控 憤怒難掩 “我就想讓她死!”

被害男童生母哭訴最后施暴細節(jié):現(xiàn)場情緒失控 憤怒難掩 “我就想讓她死!”

閃電新聞
2026-04-20 22:37:26
原來我們錯怪高市早苗了

原來我們錯怪高市早苗了

智先生
2026-04-20 21:07:48
太可怕了!繼注射藥物、熱巴事件后,王陽再揭娛樂圈最臟的一面

太可怕了!繼注射藥物、熱巴事件后,王陽再揭娛樂圈最臟的一面

橙星文娛
2026-04-17 13:19:56
悲哀!10人小群里剩自己“干凈”,30歲女生稱身體忠于丈夫被孤立

悲哀!10人小群里剩自己“干凈”,30歲女生稱身體忠于丈夫被孤立

火山詩話
2026-04-19 07:13:36
“浩浩媽”新作被捆綁!表情嬌羞 身材太難頂

“浩浩媽”新作被捆綁!表情嬌羞 身材太難頂

游民星空
2026-04-19 11:03:24
“莫氏雞煲”老板一個月唯一休息日去上海了!老莫曾稱可以和餐廳合作,讓上海也吃得到

“莫氏雞煲”老板一個月唯一休息日去上海了!老莫曾稱可以和餐廳合作,讓上海也吃得到

大象新聞
2026-04-20 23:43:34
2026-04-21 08:00:49
AI進化論花生 incentive-icons
AI進化論花生
AI博主,AppStore付費榜第一的小貓補光燈app開發(fā)者
188文章數(shù) 111關(guān)注度
往期回顧 全部

科技要聞

重磅官宣:庫克卸任,特努斯接任蘋果CEO

頭條要聞

特朗普兩天三次反轉(zhuǎn) 伊朗學(xué)習(xí)特朗普玩起"極限施壓"

頭條要聞

特朗普兩天三次反轉(zhuǎn) 伊朗學(xué)習(xí)特朗普玩起"極限施壓"

體育要聞

阿森納已拼盡全力,但你早干嘛去了...

娛樂要聞

《八千里路云和月》田家泰暗殺

財經(jīng)要聞

利潤暴跌7成,字節(jié)到底在做什么

汽車要聞

把天門山搬進廠?開仰望U8沖上45度坡的那刻 我腿軟了

態(tài)度原創(chuàng)

家居
健康
旅游
本地
房產(chǎn)

家居要聞

自然慢調(diào) 慢享時光

干細胞抗衰4大誤區(qū),90%的人都中招

旅游要聞

閻錫山故居:一座都督府,半部民國史

本地新聞

12噸巧克力有難,全網(wǎng)化身超級偵探添亂

房產(chǎn)要聞

大規(guī)模商改?。『?谖骱0?,這波項目要贏麻了!

無障礙瀏覽 進入關(guān)懷版