隨著人工智能能力的飛速發(fā)展，新興人工智能系統(tǒng)可能被用于策劃和執(zhí)行進(jìn)攻性網(wǎng)絡(luò)空間行動(dòng)，這一潛在威脅已引發(fā)全球高度關(guān)注。為此，蘭德公司于2025年11月發(fā)布了題為《直面人工智能與網(wǎng)絡(luò)安全的交織點(diǎn)》（Facing the Artificial Intelligence–Cyber Nexus）的研究報(bào)告，系統(tǒng)性地為政策制定者提供了一個(gè)結(jié)構(gòu)化方法，以理解并應(yīng)對(duì)人工智能賦能網(wǎng)絡(luò)攻擊帶來(lái)的風(fēng)險(xiǎn)。報(bào)告強(qiáng)調(diào)，政策制定者應(yīng)采取積極的預(yù)期性姿態(tài)，建立決策框架以預(yù)防或減輕這些新興威脅，而非被動(dòng)地事后響應(yīng)。啟元洞見編譯整理了其中的核心內(nèi)容，以供讀者參考。

一、引言：構(gòu)建前瞻性防御姿態(tài)

隨著人工智能能力的日益增強(qiáng)，新興的人工智能系統(tǒng)為進(jìn)攻性網(wǎng)絡(luò)空間行動(dòng)（Offensive Cyberspace Operations, OCOs）的實(shí)施提供了可能。報(bào)告旨在深入探討未來(lái)幾年人工智能在賦能進(jìn)攻性網(wǎng)絡(luò)空間行動(dòng)方面能力的擴(kuò)展，并為政策制定者提供一個(gè)結(jié)構(gòu)化的決策指南。通過(guò)深入理解其所帶來(lái)的潛在風(fēng)險(xiǎn)，識(shí)別出最適于預(yù)防或減輕這些風(fēng)險(xiǎn)及其潛在影響的政策選項(xiàng)。闡述未來(lái)情景中影響決策的關(guān)鍵因素，確保政策制定者能夠基于對(duì)技術(shù)前景和國(guó)家安全影響的雙重深刻理解來(lái)做出審慎決策。

工作重點(diǎn)在于幫助政策制定者預(yù)見此類能力的出現(xiàn)，并采取一種更為積極的“預(yù)期性姿態(tài)”（anticipatory posture），而非在人工智能賦能的網(wǎng)絡(luò)攻擊發(fā)生后才被動(dòng)應(yīng)對(duì)。這種前瞻性的決策框架至關(guān)重要，因?yàn)槿斯ぶ悄苜x能網(wǎng)絡(luò)攻擊的確切能力和出現(xiàn)時(shí)間線尚不明朗，但政策制定者必須預(yù)見到惡意行為者將利用人工智能進(jìn)行網(wǎng)絡(luò)攻擊的必然趨勢(shì)，并為此提前建立決策框架以防范或緩解相關(guān)風(fēng)險(xiǎn)。

報(bào)告通過(guò)提供一系列指導(dǎo)性問(wèn)題，旨在促進(jìn)政策制定者的決策過(guò)程，并推動(dòng)在私營(yíng)部門合作、外交接觸、執(zhí)法、金融、商業(yè)、軍事及情報(bào)等多個(gè)領(lǐng)域的政策行動(dòng)。最后，報(bào)告為政策制定者提供了下一步的行動(dòng)建議，包括持續(xù)進(jìn)行兵棋推演、擴(kuò)充政府的人工智能專業(yè)知識(shí)庫(kù)和技術(shù)接入渠道等。

報(bào)告不涉及對(duì)已發(fā)生網(wǎng)絡(luò)攻擊（無(wú)論是否由人工智能驅(qū)動(dòng)）的具體響應(yīng)流程與考量。應(yīng)對(duì)網(wǎng)絡(luò)攻擊的響應(yīng)過(guò)程本身涉及一套復(fù)雜的程序和考慮因素，不是報(bào)告的探討范圍。報(bào)告核心目標(biāo)是確保決策者在面對(duì)未來(lái)潛在威脅時(shí)，能夠基于對(duì)技術(shù)前景和國(guó)家安全影響的深刻理解來(lái)制定決策。

二、日益嚴(yán)峻的人工智能網(wǎng)絡(luò)威脅

近年來(lái)，能力日益強(qiáng)大的人工智能模型和智能體（agents）的出現(xiàn)，引發(fā)了人們對(duì)其潛在危害的廣泛擔(dān)憂。這些模型有可能極大地提升惡意行為者的能力——賦予他們?cè)静痪邆涞募寄埽驍U(kuò)大其造成傷害的規(guī)模。這種現(xiàn)象被稱作“能力提升”（uplift）。這種擔(dān)憂已延伸至多個(gè)領(lǐng)域，例如生物安全、大規(guī)模殺傷性武器的擴(kuò)散，以及報(bào)告關(guān)注的焦點(diǎn)——由人工智能賦能的進(jìn)攻性網(wǎng)絡(luò)空間行動(dòng)。

當(dāng)前，已有證據(jù)表明，即便是一些現(xiàn)有的大語(yǔ)言模型也能被用于輔助網(wǎng)絡(luò)攻擊的各個(gè)階段。例如，一份來(lái)自Anthropic的威脅情報(bào)報(bào)告詳細(xì)描述了老練的威脅行為者如何在長(zhǎng)達(dá)9個(gè)月的攻擊活動(dòng)中，利用當(dāng)年早些時(shí)候發(fā)布的Claude Code智能體，在幾乎整個(gè)攻擊生命周期中實(shí)施Claude模型（Anthropic, 2025）。

隨著能力的提升，一些研究人員認(rèn)為，在攻擊模型的早期階段（如偵察、資源開發(fā)）和后期階段（如影響——像記錄篡改），進(jìn)攻性人工智能事件將會(huì)增加。這些發(fā)展將由更先進(jìn)的人工智能技術(shù)驅(qū)動(dòng)，這些技術(shù)能夠?qū)W習(xí)新的攻擊技巧、進(jìn)行邏輯推理、規(guī)劃復(fù)雜的操作，并能與動(dòng)態(tài)防御系統(tǒng)進(jìn)行交互和自適應(yīng)調(diào)整。在后續(xù)章節(jié)中，將提出一個(gè)用于評(píng)估和應(yīng)對(duì)這些新興能力的框架。

三、應(yīng)對(duì)人工智能賦能網(wǎng)絡(luò)攻擊的結(jié)構(gòu)化決策方法

為了有效應(yīng)對(duì)人工智能賦能網(wǎng)絡(luò)攻擊的潛在威脅，報(bào)告提出了一個(gè)結(jié)構(gòu)化的決策方法。該方法旨在幫助政策制定者系統(tǒng)地分析問(wèn)題，并確定最佳的應(yīng)對(duì)策略。報(bào)告提供了一系列指導(dǎo)性問(wèn)題，以輔助決策者在以下幾個(gè)關(guān)鍵領(lǐng)域進(jìn)行思考和行動(dòng)。

（一）私營(yíng)部門合作（Private-Sector Engagement）

私營(yíng)部門，尤其是人工智能模型開發(fā)者和云計(jì)算提供商，是應(yīng)對(duì)人工智能濫用風(fēng)險(xiǎn)的第一道防線。政策制定者需要思考如何與這些關(guān)鍵參與者進(jìn)行有效合作。

指導(dǎo)性問(wèn)題：

1.政府應(yīng)如何與人工智能開發(fā)者合作，以確保其模型在發(fā)布前經(jīng)過(guò)充分的安全評(píng)估，特別是針對(duì)被用于惡意網(wǎng)絡(luò)目的的風(fēng)險(xiǎn)評(píng)估？

2.應(yīng)設(shè)立何種級(jí)別的安全標(biāo)準(zhǔn)和最佳實(shí)踐，以規(guī)范人工智能模型的開發(fā)和部署，防止其被惡意行為者利用？

3.如何建立一個(gè)有效的公私信息共享機(jī)制，以便及時(shí)通報(bào)關(guān)于濫用人工智能模型進(jìn)行網(wǎng)絡(luò)攻擊的新技術(shù)、新動(dòng)向？

4.是否需要通過(guò)立法或監(jiān)管手段，強(qiáng)制要求人工智能公司對(duì)其產(chǎn)品的安全性負(fù)責(zé)，并對(duì)因其產(chǎn)品被濫用而造成的損害承擔(dān)一定責(zé)任？

（二）外交接觸（Diplomatic Engagement）

人工智能賦能的網(wǎng)絡(luò)攻擊是全球性挑戰(zhàn)，需要通過(guò)國(guó)際合作來(lái)共同應(yīng)對(duì)。外交途徑是建立國(guó)際規(guī)范、增強(qiáng)透明度和信任的關(guān)鍵。

指導(dǎo)性問(wèn)題：

1.美國(guó)及其盟友應(yīng)如何共同制定關(guān)于人工智能在網(wǎng)絡(luò)空間中軍事應(yīng)用的國(guó)際準(zhǔn)則或行為規(guī)范？

2.如何通過(guò)雙邊或多邊對(duì)話，與潛在的對(duì)手國(guó)家（如俄羅斯等）就人工智能在網(wǎng)絡(luò)攻擊中的使用界限進(jìn)行溝通，以避免誤判和沖突升級(jí)？

3.是否可以建立一個(gè)國(guó)際性的人工智能安全事件響應(yīng)網(wǎng)絡(luò)，協(xié)調(diào)各國(guó)在面對(duì)重大的人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊時(shí)的行動(dòng)？

4.在國(guó)際條約或協(xié)議中，應(yīng)如何定義“人工智能賦能的進(jìn)攻性網(wǎng)絡(luò)空間行動(dòng)”，并為其設(shè)定明確的紅線？

（三）執(zhí)法與金融制裁（Law Enforcement and Finance）

執(zhí)法機(jī)構(gòu)和金融制裁在全球范圍內(nèi)追蹤、威懾和懲罰惡意網(wǎng)絡(luò)行為者方面扮演著核心角色。將這些工具應(yīng)用于人工智能領(lǐng)域是至關(guān)重要的。

指導(dǎo)性問(wèn)題：

1.執(zhí)法部門需要哪些新的技術(shù)工具和法律授權(quán)，才能有效追蹤和溯源利用人工智能進(jìn)行網(wǎng)絡(luò)犯罪的個(gè)人或組織？

2.如何利用金融制裁手段，打擊為開發(fā)或購(gòu)買惡意人工智能工具提供資金支持的實(shí)體和個(gè)人？

3.現(xiàn)有的國(guó)際司法合作框架（如《布達(dá)佩斯網(wǎng)絡(luò)犯罪公約》）是否足以應(yīng)對(duì)人工智能帶來(lái)的新挑戰(zhàn)？需要進(jìn)行哪些更新？

4.如何防止惡意行為者利用加密貨幣和去中心化金融（DeFi）平臺(tái)來(lái)資助和隱藏其人工智能網(wǎng)絡(luò)攻擊活動(dòng)？

（四）商業(yè)與貿(mào)易政策（Commerce）

商業(yè)和貿(mào)易政策，如出口管制，是限制關(guān)鍵技術(shù)流向惡意行為者的重要工具。隨著人工智能技術(shù)變得日益強(qiáng)大，如何管理其擴(kuò)散情形成為一個(gè)緊迫問(wèn)題。

指導(dǎo)性問(wèn)題：

1.哪些類型的人工智能技術(shù)（例如，能夠自主發(fā)現(xiàn)和利用漏洞的人工智能系統(tǒng)）應(yīng)被列入出口管制清單，以防止其落入敵對(duì)國(guó)家或恐怖組織之手？

2.在實(shí)施技術(shù)管制時(shí)，如何平衡國(guó)家安全需求與促進(jìn)技術(shù)創(chuàng)新和保持經(jīng)濟(jì)競(jìng)爭(zhēng)力之間的關(guān)系？

3.如何與盟國(guó)協(xié)調(diào)出口管制政策，以形成統(tǒng)一戰(zhàn)線，防止出現(xiàn)監(jiān)管漏洞？

4.對(duì)于開源人工智能模型，應(yīng)采取何種不同于專有模型的管理策略，以在鼓勵(lì)開放研究的同時(shí)控制風(fēng)險(xiǎn)？

（五）軍事與情報(bào)行動(dòng)（Military and Intelligence）

軍事和情報(bào)部門不僅是人工智能賦能網(wǎng)絡(luò)攻擊的潛在受害者，也是開發(fā)和利用此類技術(shù)來(lái)維護(hù)國(guó)家安全的關(guān)鍵力量。

指導(dǎo)性問(wèn)題：

1.國(guó)防部門應(yīng)如何發(fā)展自身的人工智能能力，以威懾、防御并在必要時(shí)響應(yīng)敵方的人工智能網(wǎng)絡(luò)攻擊？

2.情報(bào)界需要哪些資源和權(quán)限來(lái)監(jiān)控和評(píng)估外國(guó)在進(jìn)攻性人工智能網(wǎng)絡(luò)能力方面的發(fā)展？

3.在軍事行動(dòng)中使用人工智能賦能的自主網(wǎng)絡(luò)武器系統(tǒng)時(shí)，應(yīng)遵循何種交戰(zhàn)規(guī)則（Rules of Engagement）和倫理準(zhǔn)則，以確保人類的有效控制？

4.如何將對(duì)人工智能網(wǎng)絡(luò)威脅的評(píng)估整合到整體國(guó)家軍事戰(zhàn)略和作戰(zhàn)規(guī)劃中？

四、結(jié)論與未來(lái)展望

人工智能賦能的進(jìn)攻性網(wǎng)絡(luò)空間行動(dòng)對(duì)全球安全構(gòu)成了新興且重大的挑戰(zhàn)。雖然這項(xiàng)技術(shù)的發(fā)展軌跡和最終形態(tài)尚不完全清晰，但其巨大的潛在破壞力要求政策制定者必須立即行動(dòng)起來(lái)，采取一種積極主動(dòng)、未雨綢繆的防御姿態(tài)。

報(bào)告提出的結(jié)構(gòu)化決策方法和指導(dǎo)性問(wèn)題，旨在為政策制定者提供一個(gè)清晰的思考框架。通過(guò)系統(tǒng)性地審視私營(yíng)部門合作、外交、執(zhí)法、商業(yè)、軍事和情報(bào)等多個(gè)政策領(lǐng)域，政府可以開始構(gòu)建一個(gè)全面、多層次的防御體系，以預(yù)防和減輕人工智能賦能網(wǎng)絡(luò)攻擊所帶來(lái)的風(fēng)險(xiǎn)。

未來(lái)的道路充滿不確定性，持續(xù)的兵棋推演、擴(kuò)充政府內(nèi)部的人工智能專業(yè)知識(shí)、加強(qiáng)與學(xué)術(shù)界和產(chǎn)業(yè)界的合作將是必不可少的。面對(duì)人工智能與網(wǎng)絡(luò)安全的交織點(diǎn)，被動(dòng)的等待和事后的響應(yīng)將是遠(yuǎn)遠(yuǎn)不夠的。只有通過(guò)前瞻性的規(guī)劃、果斷的行動(dòng)和廣泛的國(guó)際合作，才能確保在即將到來(lái)的人工智能時(shí)代中，有效維護(hù)網(wǎng)絡(luò)空間的安全與穩(wěn)定。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡(jiǎn)介

國(guó)際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國(guó)務(wù)院發(fā)展研究中心的非營(yíng)利性研究機(jī)構(gòu)，主要職能是研究我國(guó)經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問(wèn)題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢服務(wù)?！叭蚣夹g(shù)地圖”為國(guó)際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er