關(guān)鍵詞

供應(yīng)鏈安全

美國(guó)政府正計(jì)劃授權(quán)主要聯(lián)邦機(jī)構(gòu)使用Anthropic公司Claude Mythos模型的修改版本。該AI模型能夠快速識(shí)別網(wǎng)絡(luò)安全漏洞并具備漏洞利用能力，引發(fā)了廣泛關(guān)注。

白宮管理與預(yù)算辦公室（OMB）聯(lián)邦首席信息官Gregory Barbaccia周二向內(nèi)閣部門(mén)官員表示，OMB正在建立防護(hù)措施，允許聯(lián)邦機(jī)構(gòu)開(kāi)始使用該模型。備忘錄未指定具體部署機(jī)構(gòu)或提供時(shí)間表。

"我們正與模型供應(yīng)商、行業(yè)合作伙伴及情報(bào)機(jī)構(gòu)密切合作，確保在向各機(jī)構(gòu)發(fā)布修改版模型前建立適當(dāng)?shù)姆雷o(hù)欄和安全措施，"Barbaccia在郵件中寫(xiě)道。

防護(hù)措施界定

備忘錄提及的"修改版本"引發(fā)了關(guān)于實(shí)際部署形態(tài)的疑問(wèn)。Anthropic于4月7日通過(guò)"Glasswing項(xiàng)目"發(fā)布了Claude Mythos預(yù)覽版，該項(xiàng)目是針對(duì)特定科技和金融機(jī)構(gòu)的受控訪問(wèn)計(jì)劃。該公司稱(chēng)該模型在內(nèi)部測(cè)試中發(fā)現(xiàn)了各大操作系統(tǒng)和瀏覽器的數(shù)千個(gè)0Day漏洞，并表示不計(jì)劃全面開(kāi)放該模型。

"要使聯(lián)邦部署具有防御性，修改必須涵蓋特定的保障維度，"Counterpoint Research研究副總裁Neil Shah表示，"被掃描的軟件代碼庫(kù)應(yīng)在隔離的物理隔絕環(huán)境中保持主權(quán)，且數(shù)據(jù)不得用于重新訓(xùn)練基礎(chǔ)模型。"他補(bǔ)充說(shuō)，額外措施可能包括透明度要求和人工審核環(huán)節(jié)，以實(shí)現(xiàn)更可控的部署。

企業(yè)級(jí)影響

這些保障問(wèn)題直接關(guān)系到企業(yè)采購(gòu)決策。OMB的舉措表明，聯(lián)邦網(wǎng)絡(luò)防御正轉(zhuǎn)向能夠比人工團(tuán)隊(duì)更快發(fā)現(xiàn)漏洞的前沿模型。Shah指出，五角大樓與白宮之間的分歧為私營(yíng)領(lǐng)域買(mǎi)家提供了重要啟示。

"兩個(gè)政府實(shí)體間的分歧警示我們，控制可能被濫用的強(qiáng)大AI能力部署至關(guān)重要，"他呼吁建立涵蓋發(fā)現(xiàn)、分類(lèi)、安全、保障和行動(dòng)的多層控制框架。

這種不對(duì)稱(chēng)性已超越美國(guó)國(guó)界。歐洲機(jī)構(gòu)基本被排除在早期訪問(wèn)之外，僅英國(guó)AI安全研究所獲準(zhǔn)測(cè)試該模型。若OMB按Barbaccia所述條款推進(jìn)授權(quán)，美國(guó)聯(lián)邦政府的防御性AI能力將領(lǐng)先歐洲，而五角大樓對(duì)同一供應(yīng)商的禁令仍在司法程序中。

繞過(guò)五角大樓禁令的民用方案

Shah表示，修改版方案是Anthropic在保持模型控制權(quán)的同時(shí)規(guī)避五角大樓立場(chǎng)的策略。"Anthropic修改版由此繞過(guò)了五角大樓非黑即白的做法，幫助其他實(shí)體在商定防護(hù)欄下將模型作為民用和企業(yè)主權(quán)的安全飛地采用。"他補(bǔ)充說(shuō)，這種安排為Anthropic未來(lái)在其他政府實(shí)體和企業(yè)的采用開(kāi)創(chuàng)了先例。

聯(lián)邦對(duì)Anthropic的訪問(wèn)權(quán)限已波動(dòng)數(shù)周。3月26日，加州聯(lián)邦地區(qū)法院針對(duì)平行民用禁令向Anthropic授予初步禁令，該裁決為承包商重新評(píng)估AI供應(yīng)鏈提供了緩沖期。目前Anthropic同時(shí)面臨軍事采購(gòu)黑名單、民用系統(tǒng)保留令，以及通過(guò)OMB擴(kuò)大訪問(wèn)的討論。承包商在識(shí)別特定AI模型在其技術(shù)棧中的位置時(shí)面臨操作困難，這一挑戰(zhàn)重塑了聯(lián)邦A(yù)I部署中的供應(yīng)鏈風(fēng)險(xiǎn)格局。

安全圈

網(wǎng)羅圈內(nèi)熱點(diǎn) 專(zhuān)注網(wǎng)絡(luò)安全

實(shí)時(shí)資訊一手掌握！

好看你就分享 有用就點(diǎn)個(gè)贊

支持「安全圈」就點(diǎn)個(gè)三連吧！