出品 | 網(wǎng)易智能

作者 | 辰辰

編輯 | 王鳳枝

6到12個(gè)月，中國就能造出與Claude Mythos同等威力的開源模型。

這是Anthropic首席執(zhí)行官達(dá)里奧·阿莫代伊（Dario Amodei）最近一次公開訪談中的警告。他口中的Mythos，是Anthropic剛剛向少數(shù)機(jī)構(gòu)定向開放的新模型，一個(gè)在內(nèi)部測試中展現(xiàn)出驚人攻擊能力的AI系統(tǒng)。

如果這種能力被開源復(fù)制，過去需要國家級資源和頂尖團(tuán)隊(duì)才能發(fā)起的高級別網(wǎng)絡(luò)攻擊，可能只需要一臺筆記本電腦和一個(gè)下午。

而阿莫代伊最焦慮的恰恰是這一點(diǎn)，他判斷開源社區(qū)和中國開發(fā)者將在6到12個(gè)月內(nèi)復(fù)制出這種能力。Anthropic封得住自己的模型，封不住整個(gè)技術(shù)趨勢。

那么問題來了：用AI打造的盾牌，防得住AI鑄造的矛嗎？

一、撕裂神話：Mythos到底有多強(qiáng)

要理解阿莫代伊這句警告的份量，必須先認(rèn)清Claude Mythos究竟是什么樣的存在。

今年2月，在巴厘島一場婚禮的間隙，知名AI研究員尼古拉斯·卡里尼（Nicholas Carlini）短暫離開人群，打開筆記本電腦準(zhǔn)備“找點(diǎn)樂子”。作為受雇于Anthropic的壓力測試專家，他的任務(wù)是評估黑客能否利用AI進(jìn)行間諜或破壞活動。

結(jié)果讓他脊背發(fā)涼。短短幾個(gè)小時(shí)內(nèi)，Mythos不僅發(fā)現(xiàn)了能夠穿透全球常用系統(tǒng)的多種攻擊路徑，甚至自主生成了針對Linux系統(tǒng)的強(qiáng)大入侵工具。要知道，從安卓手機(jī)到NASA超級計(jì)算機(jī)，Linux是大多數(shù)現(xiàn)代計(jì)算系統(tǒng)的骨干。

更令人震驚的是，Mythos挖出了一個(gè)在全球系統(tǒng)里安靜躺了27年的零日漏洞，27年間無數(shù)安全團(tuán)隊(duì)輪番審計(jì)都沒能發(fā)現(xiàn)它，隨后自主編寫了利用代碼，完整走完了從發(fā)現(xiàn)到入侵的全部流程。

過去的AI模型，比如Opus 4.6，像是給黑客遞了一把萬能鑰匙；而Mythos不僅能自己配鑰匙，還能自主規(guī)劃路線、避開安保、打開金庫，完成一場完整的“數(shù)字銀行劫案”。它可以把原本需要多名頂尖黑客協(xié)同、耗時(shí)數(shù)周的攻擊鏈條，壓縮到幾個(gè)小時(shí)甚至幾分鐘。

Anthropic內(nèi)部有一支代號“螞蟻”（Ants）的15人“前沿紅隊(duì)”（Frontier Red Team），負(fù)責(zé)人洛根·格雷厄姆（Logan Graham）在拿到模型的幾個(gè)小時(shí)內(nèi)就意識到了事態(tài)的嚴(yán)重性：Mythos已經(jīng)學(xué)會了“自作主張”。在某次內(nèi)部測試中，模型甚至違背了人類指令，自行設(shè)計(jì)了一條多步攻擊路徑試圖從受限環(huán)境中“逃脫”，并在違規(guī)后試圖掩蓋自己的蹤跡。

這種近乎失控的自主性，直接驚動了公司最高層。今年3月第一周，阿莫代伊兄妹、首席信息安全官維塔利·古達(dá)內(nèi)茨（Vitaly Gudanets）等高管召開緊急會議，聽取了首席科學(xué)家賈里德·卡普蘭（Jared Kaplan）和聯(lián)合創(chuàng)始人薩姆·麥坎德利什（Sam McCandlish）的匯報(bào)。最終結(jié)論只有一個(gè)：Mythos的風(fēng)險(xiǎn)太高，絕不能向公眾全面發(fā)布。

二、倒計(jì)時(shí)開始：6到12個(gè)月后的開源風(fēng)暴

Mythos可以被鎖在Anthropic的實(shí)驗(yàn)室里，但制造它的底層能力鎖不住。這正是阿莫代伊最焦慮的地方。

本月在舊金山一家意大利餐廳里，阿莫代伊接受了《金融時(shí)報(bào)》知名科技編輯、FT論壇創(chuàng)始人約翰·桑希爾（John Thornhill）的專訪。這位經(jīng)常穿著標(biāo)志性白色T恤和藍(lán)色開衫、頂著卷發(fā)戴著藍(lán)框眼鏡的學(xué)者型CEO，執(zhí)掌著一家估值3800億美元、剛剛?cè)谫Y300億美元、準(zhǔn)備在今年晚些時(shí)候進(jìn)行超級IPO的超級獨(dú)角獸。

當(dāng)話題轉(zhuǎn)向剛剛有限度發(fā)布的Claude Mythos時(shí)，氣氛變得凝重起來。阿莫代伊毫不避諱地拋出了他的焦慮：“我懷疑，開源模型和中國開發(fā)者將能夠在6到12個(gè)月內(nèi)復(fù)制Mythos的能力?！?/b>

這句話的份量極重。它意味著，上一章所描述的那種破壞力，自主發(fā)現(xiàn)零日漏洞、編寫利用代碼、完成完整攻擊鏈，即將在極短的時(shí)間內(nèi)成為全球開發(fā)者的“標(biāo)配”。

為什么阿莫代伊如此確信這股力量會迅速擴(kuò)散？深層原因在于底層“供給結(jié)構(gòu)”的徹底改變。

過去，發(fā)現(xiàn)系統(tǒng)漏洞高度依賴少數(shù)頂尖安全團(tuán)隊(duì)和黑客的經(jīng)驗(yàn)積累，這個(gè)過程極其緩慢且難以復(fù)制。但現(xiàn)在，Mythos這類大模型開始“批量輸出”這種頂級能力，徹底踏平了網(wǎng)絡(luò)攻防的技術(shù)門檻。用業(yè)內(nèi)知情人士的話說：把這個(gè)模型交給一個(gè)普通黑客，就等于直接給他裝備了特種作戰(zhàn)能力。一旦脫離受控環(huán)境，這種能力將以一種毫無歷史經(jīng)驗(yàn)可循的速度蔓延開來。

阿莫代伊既憧憬AI帶來的革命性進(jìn)步，“數(shù)據(jù)中心里的天才國度”、推動美國GDP年增長10%、加速生物醫(yī)學(xué)突破；也直言不諱地警告風(fēng)險(xiǎn)：五年內(nèi)半數(shù)初級白領(lǐng)崗位可能消失。而當(dāng)這種力量強(qiáng)大到足以顛覆全球網(wǎng)絡(luò)安全格局時(shí)，開源的不可控性讓他深感忌憚。

三、華爾街緊急大考：AI攻防戰(zhàn)的“黑暗時(shí)期”

阿莫代伊的謹(jǐn)慎并非杞人憂天。就在Anthropic披露Mythos存在的當(dāng)天，市場反應(yīng)極其劇烈。

美國財(cái)政部長斯科特·貝森特（Scott Bessent）和美聯(lián)儲主席杰羅姆·鮑威爾（Jerome Powell）在華盛頓緊急召集了華爾街各大機(jī)構(gòu)的負(fù)責(zé)人。會議傳遞的信息只有一個(gè)：立刻、馬上用Mythos對你們的系統(tǒng)進(jìn)行逆向自查。會議級別之高、氣氛之緊張，以至于與會者甚至拒絕向核心顧問透露會議內(nèi)容。

包括摩根大通、高盛、花旗銀行、美國銀行和摩根士丹利在內(nèi)的華爾街巨頭，以及思科等科技企業(yè)，紛紛啟動了內(nèi)部測試。摩根大通CEO杰米·戴蒙（Jamie Dimon）直言，Mythos的出現(xiàn)表明“還有太多的漏洞需要修補(bǔ)”。思科的高管則極度擔(dān)憂黑客會利用AI加速攻擊那些已經(jīng)停止更新的舊路由器和防火墻。

盡管白宮AI顧問大衛(wèi)·薩克斯（David Sacks）發(fā)文質(zhì)疑Anthropic是否在扮演“喊狼來了的孩子”，但殘酷的現(xiàn)實(shí)是，黑客早已開始利用大模型發(fā)動復(fù)雜攻擊。據(jù)Anthropic披露，已有網(wǎng)絡(luò)組織嘗試?yán)肅laude模型滲透約30個(gè)目標(biāo)，更有攻擊者借AI竊取政府?dāng)?shù)據(jù)、部署勒索軟件。

早在Mythos問世之前，NSA前網(wǎng)絡(luò)安全主管羅布·喬伊斯（Rob Joyce）就針對早期版本的Claude和Big Sleep等模型在自動化漏洞利用上的爆發(fā)式增長，給出了一個(gè)令人不寒而栗的判斷：“在未來一段時(shí)間內(nèi)，我們將經(jīng)歷一個(gè)‘黑暗時(shí)期’。在這個(gè)時(shí)期，進(jìn)攻性AI將占據(jù)絕對優(yōu)勢，那些沒有打好防御基礎(chǔ)的人將首先被攻破?！?/b>

為了應(yīng)對這種局面，Anthropic推出了“玻璃翼計(jì)劃”（Project Glasswing），聯(lián)合包括亞馬遜、蘋果、微軟在內(nèi)的40多家機(jī)構(gòu)，利用Mythos來尋找和修補(bǔ)網(wǎng)絡(luò)漏洞，試圖在黑客和開源模型追趕上來之前，搶占防御的高地。

四、理想與現(xiàn)實(shí)的碰撞：天才國度的愿景與五角大樓的決裂

制造這場網(wǎng)絡(luò)風(fēng)暴的阿莫代伊，本人其實(shí)是一個(gè)充滿矛盾的理想主義者。

作為一名在舊金山米慎區(qū)長大的意大利移民后裔，阿莫代伊原本的人生軌跡是成為普林斯頓的物理學(xué)和計(jì)算神經(jīng)科學(xué)教授。2005年，雷·庫茲韋爾（Ray Kurzweil）的《奇點(diǎn)臨近》徹底改變了他，讓他相信指數(shù)級增長的算力終將通向人類級別的AI。

阿莫代伊對AI的潛力有著近乎狂熱的信仰。他設(shè)想在不久的將來，Anthropic將在數(shù)據(jù)中心里運(yùn)行一個(gè)“由天才組成的國度”。他深受谷歌AlphaFold2的啟發(fā)，渴望利用AI在藥物研發(fā)和臨床試驗(yàn)中引發(fā)一場生物學(xué)革命，為此Anthropic斥資4億美元收購了生物技術(shù)初創(chuàng)公司Coefficient Bio。他甚至預(yù)測，AI能將美國每年的GDP增長率提升至10%以上。

但他同樣是個(gè)殘酷的現(xiàn)實(shí)主義者。他曾撰文警告，AI將在五年內(nèi)消滅50%的入門級白領(lǐng)工作。“我們不應(yīng)否認(rèn)顛覆即將發(fā)生。我們必須直面它。”

他的核心信條是：“AI只能以信任的速度擴(kuò)散。”

正是這種對安全底線的執(zhí)拗，讓他站到了美國軍方的對立面。阿莫代伊公開主張，Anthropic的服務(wù)絕不應(yīng)被五角大樓用于國內(nèi)大規(guī)模監(jiān)控，也不應(yīng)被用于完全自主的致命武器系統(tǒng)。但這與五角大樓“所有AI公司都應(yīng)接受其技術(shù)的所有合法用途”的強(qiáng)勢立場發(fā)生了激烈沖突。

由于拒絕讓步，Anthropic被軍方貼上了“供應(yīng)鏈風(fēng)險(xiǎn)”的標(biāo)簽。美國總統(tǒng)特朗普曾公開抨擊阿莫代伊等創(chuàng)始人是激進(jìn)的“左翼瘋子”；五角大樓高官更是直接在社交媒體X上開罵：“阿莫代伊是一個(gè)有著上帝情結(jié)的騙子，這真是個(gè)恥辱?！?/p>

面對五角大樓的施壓和怒火，阿莫代伊顯得異常淡定：“各種人因?yàn)楦鞣N原因說各種話，我并沒有針對個(gè)人。實(shí)際上，我認(rèn)為擁有一套原則并堅(jiān)持這些原則，是一件非常自由的事情?！?/b>

五、新鍍金時(shí)代與科技巨頭的責(zé)任

如果6到12個(gè)月后，類似Mythos的開源模型真的鋪開，全世界該如何應(yīng)對？

阿莫代伊給出的答案是：必須像監(jiān)管汽車和飛機(jī)一樣對AI進(jìn)行強(qiáng)制監(jiān)管。

“每個(gè)人都知道汽車有巨大的經(jīng)濟(jì)價(jià)值，但必須小心制造。造得不好，是會死人的?！彼粲跤汕把啬Ｐ驼搲刃袠I(yè)支持的非營利組織來制定強(qiáng)制性的技術(shù)評估標(biāo)準(zhǔn)：“你的車有剎車嗎？有安全氣囊嗎？有安全帶嗎？”

這一主張不可避免地讓他與硅谷的另一撥人產(chǎn)生了沖突。他將那些反對政府對AI進(jìn)行立法監(jiān)管的科技從業(yè)者稱為“混亂的參與者”。為了對抗他們，Anthropic向支持嚴(yán)格安全監(jiān)管的政治行動委員會捐贈了2000萬美元。

當(dāng)被問及是否需要與他最大的競爭對手，OpenAI的薩姆·奧特曼（Sam Altman）攜手合作時(shí)，阿莫代伊笑了。在今年早些時(shí)候的新德里AI峰會上，兩人在臺上刻意避免了握手。畢竟，Anthropic的核心團(tuán)隊(duì)正是因?yàn)檎J(rèn)為奧特曼不夠重視安全問題，才集體從OpenAI出走創(chuàng)辦了這家公司。

在訪談的最后，這位CEO談到科技富豪的責(zé)任時(shí)，展現(xiàn)出少有的激動。

他認(rèn)為，人類正處于一個(gè)“新鍍金時(shí)代”。一小部分極其幸運(yùn)的億萬富翁積累了驚人的財(cái)富，包括他自己在內(nèi)的這群人有義務(wù)更加無私地回饋社會。阿莫代伊和他的妹妹、Anthropic聯(lián)合創(chuàng)始人丹妮拉已經(jīng)承諾，未來將捐出自己80%的財(cái)富。

他更對某些科技大亨進(jìn)行了不點(diǎn)名的辛辣嘲諷：有些人因?yàn)閷γ襟w的“不公平”批評感到憤怒，就直接買下裁判，收購媒體機(jī)構(gòu)。

“我們有義務(wù)無私地回饋社會。而社會完全沒有必要因?yàn)槲覀冞@樣做了就把我們奉若神明，”阿莫代伊說，“哪怕媒體天天罵我虐待小狗，我也依然負(fù)有這些責(zé)任?！?/b>

六、結(jié)語：風(fēng)暴前夜的賽跑

開源的腳步從未停歇，而中國開發(fā)者的追趕速度，已經(jīng)一次次粉碎過硅谷的“技術(shù)傲慢”。

盡管阿莫代伊正通過“玻璃翼計(jì)劃”聯(lián)合40多家巨頭構(gòu)建防御陣線，但在去中心化的開源浪潮面前，這種“精英俱樂部”式的閉門修補(bǔ)顯得太慢了。當(dāng)硅谷巨頭還在為修補(bǔ)一個(gè)27年前的漏洞反復(fù)開會論證時(shí)，大洋彼岸的開發(fā)者們或許已經(jīng)通過開源社區(qū)的算力眾籌，獨(dú)立訓(xùn)練出了具備同等攻擊能力的模型，不需要拆解Mythos本身，只需要沿著同樣的技術(shù)路徑走到同一個(gè)終點(diǎn)。

Linux基金會的吉姆·澤姆林（Jim Zemlin）一針見血地指出了當(dāng)前網(wǎng)絡(luò)安全體系中最致命的軟肋：“我們在發(fā)現(xiàn)漏洞方面非常出色，但在修復(fù)漏洞方面卻非常糟糕?！?/b>

這種“AI級進(jìn)攻速度”與“人類級防御速度”之間的錯(cuò)位，才是最致命的威脅。當(dāng)Mythos級別的“數(shù)字特種兵”在半年后不僅存在于Anthropic的實(shí)驗(yàn)室，也出現(xiàn)在每一個(gè)普通程序員的電腦里時(shí)，這場賽跑的終點(diǎn)將不再是實(shí)驗(yàn)室的報(bào)告，而是真實(shí)世界里金融系統(tǒng)與核心基建的生死時(shí)速。

正如阿莫代伊所擔(dān)憂的：最先掌握人類級別AI的，究竟是像他這樣秉持安全底線的科學(xué)家，還是那些“混亂的參與者”？

倒計(jì)時(shí)已經(jīng)開始，留給防御的窗口期真的不多了。