AI開發(fā)商Anthropic表示，其最新的Claude AI模型在發(fā)現(xiàn)網(wǎng)絡(luò)安全漏洞方面表現(xiàn)極為出色，強(qiáng)大到無(wú)法向公眾開放。該公司目前正將這一工具提供給大型科技基礎(chǔ)設(shè)施服務(wù)商，以便修復(fù)其發(fā)現(xiàn)的安全漏洞。

今年3月下旬，有消息開始流傳，稱Anthropic最新的AI模型——代號(hào)Claude Mythos——將成為該公司AI技術(shù)的一次重大飛躍。如今，該公司已公布了這一模型的部分能力，并發(fā)出警告：Mythos在發(fā)現(xiàn)和利用網(wǎng)絡(luò)安全漏洞方面的能力代表著跨越式的進(jìn)步，構(gòu)成重大網(wǎng)絡(luò)安全威脅。

"AI模型的編碼能力已經(jīng)達(dá)到了一個(gè)新的高度，除最頂尖的人類專家外，它們已能在發(fā)現(xiàn)和利用軟件漏洞方面超越絕大多數(shù)人。"Anthropic在周二發(fā)布的一篇博文中如此表示。Anthropic稱，尚未對(duì)外發(fā)布的Mythos Preview版本已發(fā)現(xiàn)了數(shù)千個(gè)嚴(yán)重安全漏洞，涵蓋"所有主流操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器"。針對(duì)媒體的置評(píng)請(qǐng)求，Anthropic的一位發(fā)言人將采訪方向引至該公司官方博客。

為應(yīng)對(duì)上述網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，Anthropic宣布成立一個(gè)名為"Glasswing計(jì)劃"的聯(lián)盟，成員包括蘋果、亞馬遜云服務(wù)（AWS）、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金會(huì)、微軟、英偉達(dá)和帕洛阿爾托網(wǎng)絡(luò)。Anthropic表示，這些機(jī)構(gòu)及另外40余家組織將獲得Mythos的使用權(quán)限，以便著手推進(jìn)針對(duì)AI攻擊與漏洞利用的防御工作。Anthropic還承諾為Mythos提供價(jià)值1億美元的使用額度，并向開源安全組織捐款400萬(wàn)美元。

"如果我們應(yīng)對(duì)失當(dāng)，風(fēng)險(xiǎn)顯而易見；但如果我們處理得當(dāng)，就有真正的機(jī)會(huì)在AI網(wǎng)絡(luò)能力興起之前，為互聯(lián)網(wǎng)乃至整個(gè)世界構(gòu)建一個(gè)從根本上更加安全的體系。"Anthropic首席執(zhí)行官達(dá)里奧·阿莫代（Dario Amodei）在X平臺(tái)上發(fā)帖寫道。

在YouTube上發(fā)布的一段關(guān)于Glasswing計(jì)劃的視頻中，來(lái)自微軟、Linux基金會(huì)和Anthropic等公司的高管就軟件漏洞可能造成的危害展開了討論。

大型云計(jì)算公司已率先與這一新模型展開合作，共同排查安全漏洞。"目前的發(fā)現(xiàn)頗具啟發(fā)性，"思科首席安全與信任官安東尼·格里科（Anthony Grieco）在一篇博文中寫道，"真正的工作才剛剛開始。AI驅(qū)動(dòng)的分析能夠以傳統(tǒng)框架無(wú)法承載的規(guī)模和深度挖掘數(shù)據(jù)。"

亞馬遜云服務(wù)表示，該模型已在其經(jīng)過(guò)最嚴(yán)格測(cè)試的系統(tǒng)中發(fā)現(xiàn)了可進(jìn)一步加固代碼的方法。AWS副總裁兼首席信息安全官埃米·赫爾佐格（Amy Herzog）將Claude Mythos Preview稱為"網(wǎng)絡(luò)安全推理與AI能力的階躍式突破"。

這一新模型的意義究竟有多重大

AI能夠發(fā)現(xiàn)乃至潛在地利用軟件漏洞，這本身并非新鮮事物。殺毒軟件廠商諾頓的威脅情報(bào)總監(jiān)米哈爾·薩拉特（Michal Salát）指出，DARPA網(wǎng)絡(luò)超級(jí)挑戰(zhàn)賽中已出現(xiàn)多個(gè)AI在該領(lǐng)域引發(fā)關(guān)注的案例。

但如今，具備這類能力的AI技術(shù)已有可能被任何人獲取。"Anthropic的Glasswing計(jì)劃專注于保護(hù)這項(xiàng)強(qiáng)大技術(shù)的安全，它既能變革漏洞研究領(lǐng)域，也會(huì)在被惡意利用時(shí)帶來(lái)嚴(yán)重風(fēng)險(xiǎn)，"薩拉特在郵件中表示，"盡管與當(dāng)前Opus 4.6等頂級(jí)模型相比，這代表著重大進(jìn)步，但相關(guān)底層能力已經(jīng)存在，漏洞研究正迅速成為AI在網(wǎng)絡(luò)安全領(lǐng)域最主要的現(xiàn)實(shí)應(yīng)用場(chǎng)景之一。"

一直在聯(lián)邦A(yù)I監(jiān)管問(wèn)題上來(lái)回博弈的國(guó)家政策制定者，或?qū)⒚芮嘘P(guān)注這一聯(lián)盟的進(jìn)展。

參議員馬克·華納（Mark Warner）就此發(fā)表聲明表示贊許："我對(duì)這些領(lǐng)先企業(yè)認(rèn)識(shí)到這一威脅、主動(dòng)共享信息、能力與計(jì)算資源以更好保護(hù)關(guān)鍵基礎(chǔ)設(shè)施的舉措表示肯定，"這位弗吉尼亞州民主黨參議員說(shuō)，"隨著AI大幅加速新漏洞的發(fā)現(xiàn)，我希望業(yè)界能夠相應(yīng)地加快補(bǔ)丁修復(fù)步伐，并將其列為優(yōu)先事項(xiàng)。"

華納所在的弗吉尼亞州是AI數(shù)據(jù)中心的重要聚集地，他近期將一項(xiàng)暫停數(shù)據(jù)中心建設(shè)的提案稱為"愚蠢之舉"，但同時(shí)也對(duì)AI快速發(fā)展可能導(dǎo)致大規(guī)模失業(yè)所帶來(lái)的社會(huì)風(fēng)險(xiǎn)發(fā)出了警告。

Q&A

Q1：Claude Mythos是什么？它有什么特別之處？

A：Claude Mythos是Anthropic開發(fā)的最新AI模型，其最突出的能力是發(fā)現(xiàn)軟件安全漏洞。據(jù)Anthropic介紹，該模型已在所有主流操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器中發(fā)現(xiàn)了數(shù)千個(gè)嚴(yán)重漏洞，其編碼與漏洞挖掘能力已超越絕大多數(shù)人類專家。正因能力過(guò)于強(qiáng)大，該模型目前不對(duì)公眾開放，僅限受信任機(jī)構(gòu)使用。

Q2：Glasswing計(jì)劃具體是做什么的？

A：Glasswing計(jì)劃是由Anthropic發(fā)起的安全聯(lián)盟，成員包括蘋果、微軟、谷歌、亞馬遜云服務(wù)、思科、英偉達(dá)等超過(guò)50家機(jī)構(gòu)。該聯(lián)盟的目標(biāo)是讓受信任的合作伙伴使用Claude Mythos來(lái)排查和修復(fù)軟件漏洞，提升關(guān)鍵基礎(chǔ)設(shè)施的網(wǎng)絡(luò)安全防護(hù)能力。Anthropic還為此承諾提供1億美元使用額度及400萬(wàn)美元開源安全捐款。

Q3：Claude Mythos為什么不向公眾開放？

A：因?yàn)镃laude Mythos在發(fā)現(xiàn)和利用軟件漏洞方面能力極強(qiáng)，一旦被惡意行為者獲取，可能被用于大規(guī)模網(wǎng)絡(luò)攻擊，造成嚴(yán)重安全威脅。Anthropic認(rèn)為，在建立足夠的防護(hù)機(jī)制之前，將該模型限制在可信的大型機(jī)構(gòu)范圍內(nèi)使用，是更為負(fù)責(zé)任的做法。