2025年9月，由蘭德公司（Rand）與賓夕法尼亞大學(xué)佩里世界事務(wù)中心（Perry World House）發(fā)布報(bào)告《通用人工智能競(jìng)賽與國際安全》（The Artificial General Intelligence Race and International Security）。報(bào)告聚焦人工智能大國在通用人工智能（AGI）研發(fā)競(jìng)爭(zhēng)中的動(dòng)態(tài)及其對(duì)國際安全與穩(wěn)定的影響，全文圍繞通用人工智能風(fēng)險(xiǎn)來源及治理路徑展開，指出傳統(tǒng)軍備控制模式難以適配通用人工智能，需構(gòu)建新型治理模式平衡競(jìng)爭(zhēng)與安全。啟元洞見編譯該報(bào)告主要內(nèi)容，旨在為讀者了解相關(guān)情況提供參考。

一、引言

隨著人類開發(fā)通用人工智能的技術(shù)能力日趨成熟，主要人工智能大國間的競(jìng)爭(zhēng)已日趨白熱化。相關(guān)領(lǐng)域?qū)＜覈@三大議題形成核心觀點(diǎn)：其一，通用人工智能風(fēng)險(xiǎn)源爭(zhēng)議。核心分歧聚焦于通用人工智能誕生前的技術(shù)模糊階段——有觀點(diǎn)認(rèn)為，若能以加速且透明的方式推進(jìn)研發(fā)，或可有效提升戰(zhàn)略穩(wěn)定性；但另一派觀點(diǎn)指出，無節(jié)制的人工智能競(jìng)賽可能迫使各方妥協(xié)安全標(biāo)準(zhǔn)，進(jìn)而增加災(zāi)難性事故、技術(shù)濫用或暴力沖突的潛在風(fēng)險(xiǎn)。其二，通用人工智能與核革命的關(guān)聯(lián)。專家普遍認(rèn)為，通用人工智能無法顛覆核時(shí)代的核心邏輯——相互毀滅的脆弱性，但會(huì)推動(dòng)大規(guī)模殺傷性武器（WMD）的普及，增強(qiáng)個(gè)人與非國家組織的破壞能力。其三，通用人工智能治理路徑。傳統(tǒng)軍備控制因人工智能軍民應(yīng)用的深度融合而失效。對(duì)此，學(xué)界提出應(yīng)構(gòu)建“人工智能卡特爾”區(qū)分軍民人工智能；建立“保護(hù)與先發(fā)、威脅與回應(yīng)、安撫與獎(jiǎng)勵(lì)”框架，防范針對(duì)通用人工智能研發(fā)的攻擊。此外，報(bào)告還揭示了通用人工智能競(jìng)賽中的三大戰(zhàn)略困境，為政策制定者提供了方向參考。

二、通用人工智能競(jìng)賽對(duì)國際安全的核心影響

1.不穩(wěn)定的驅(qū)動(dòng)因素：能力與模糊性

專家對(duì)通用人工智能的風(fēng)險(xiǎn)來源存在分歧。克雷普斯（Sarah Kreps）在《邁向清晰：加速通用人工智能研發(fā)如何提升戰(zhàn)略穩(wěn)定性》（Racing Toward Clarity: How Accelerating AGI Development Could Enhance Strategic Stability）中提出，通用人工智能的主要風(fēng)險(xiǎn)并不在于成熟后的能力，而是在于研發(fā)前的技術(shù)模糊期。在成為通用人工智能之前的階段，各國對(duì)競(jìng)爭(zhēng)對(duì)手的能力與意圖存在極大不確定性，容易引發(fā)誤判，但更快、更透明的競(jìng)賽可以建立一致預(yù)期與風(fēng)險(xiǎn)共識(shí)，從而降低誤判概率。通用人工智能作為認(rèn)知基礎(chǔ)設(shè)施，能改善危機(jī)預(yù)測(cè)、減少誤解。

布倫戴奇（Miles Brundage）在《無節(jié)制的人工智能競(jìng)爭(zhēng)招致災(zāi)難》（Unbridled AI Competition Invites Disaster）中持相反觀點(diǎn)，認(rèn)為競(jìng)賽速度本身就是危機(jī)。激烈競(jìng)爭(zhēng)促使企業(yè)與國家在安全標(biāo)準(zhǔn)上妥協(xié)，這一現(xiàn)象已在商業(yè)領(lǐng)域顯現(xiàn)：前沿人工智能企業(yè)的系統(tǒng)測(cè)試周期從數(shù)月縮短至數(shù)天，信息安全漏洞頻發(fā)，如2023年OpenAI遭黑客攻擊等等。到2025年人工智能或?qū)@著降低生物武器與網(wǎng)絡(luò)戰(zhàn)爭(zhēng)的門檻；2027年人工智能將能完成多數(shù)高價(jià)值的計(jì)算機(jī)任務(wù)，缺乏審慎監(jiān)管的競(jìng)爭(zhēng)環(huán)境會(huì)使風(fēng)險(xiǎn)持續(xù)升級(jí)，可能引發(fā)一國為阻止對(duì)手獲取關(guān)鍵人工智能能力發(fā)動(dòng)攻擊的預(yù)防性戰(zhàn)爭(zhēng)等等。

2.通用人工智能與核革命的關(guān)聯(lián)：無法顛覆的核平衡

費(fèi)倫（James D. Fearon）在《不可輕易否定核革命》（One Does Not Simply Dismiss the Nuclear Revolution）中指出，通用人工智能難以顛覆核時(shí)代的核心邏輯——“相互毀滅的脆弱性”。一方面，通用人工智能無法實(shí)現(xiàn)對(duì)擁有核武器對(duì)手的可靠的先發(fā)制人打擊，此類打擊需同時(shí)協(xié)同數(shù)千個(gè)環(huán)節(jié)，如定位潛艇、突破防御系統(tǒng)等，且無法通過現(xiàn)實(shí)測(cè)試驗(yàn)證，防御方還可借助物理隔離、隨機(jī)部署等手段反制。另一方面，通用人工智能也無法構(gòu)建完美的核防御系統(tǒng)，對(duì)手可以通過高超音速導(dǎo)彈、軌道轟炸系統(tǒng)或秘密部署核武器規(guī)避防御。

通用人工智能會(huì)推動(dòng)大規(guī)模殺傷性武器普及與破壞社會(huì)凝聚力。通用人工智能降低了生物、化學(xué)武器的研發(fā)門檻，使個(gè)人與非國家組織有能力實(shí)施大規(guī)模破壞；同時(shí)，通用人工智能可能加劇信息操縱，通過深度偽造內(nèi)容、精準(zhǔn)宣傳削弱社會(huì)信任，阻礙應(yīng)對(duì)通用人工智能風(fēng)險(xiǎn)的國際合作。對(duì)此，應(yīng)強(qiáng)化核二次打擊能力，確保核系統(tǒng)不受通用人工智能影響；管控大規(guī)模殺傷性武器相關(guān)人工智能應(yīng)用，建立人工智能生物安全對(duì)話機(jī)制；應(yīng)對(duì)通用人工智能驅(qū)動(dòng)的信息操縱，建立全球人工智能信息安全框架。

穆勒進(jìn)一步補(bǔ)充，即便通用人工智能不改變核平衡，對(duì)通用人工智能能力的錯(cuò)誤認(rèn)知仍會(huì)影響國家行為——威懾本質(zhì)是心理現(xiàn)象，對(duì)通用人工智能的錯(cuò)誤信念可能與實(shí)際能力一樣具有破壞性，甚至引發(fā)預(yù)防性攻擊。

3.通用人工智能的軍備控制困境與治理路徑

傳統(tǒng)軍備控制對(duì)通用人工智能失效，核心原因是人工智能的軍民兩用模型屬性深度融合、功能趨同。核查相關(guān)情況需侵入性監(jiān)測(cè)軍事與經(jīng)濟(jì)機(jī)密，如查看算法代碼、訓(xùn)練數(shù)據(jù)等等，可行性極低。對(duì)此，專家提出兩類針對(duì)性治理思路。

瓦恩曼與沃爾佩（Jane Vaynman, Tristan A. Volpe）在《競(jìng)爭(zhēng)與協(xié)作：人工智能軍備競(jìng)賽如何推動(dòng)治理》（Competition and Collusion: How the AI Arms Race Can Motivate Governance）中提議“人工智能卡特爾”方案：由主要國家與企業(yè)組成聯(lián)盟，制定軍用人工智能通用標(biāo)準(zhǔn)，通過技術(shù)標(biāo)記使軍用人工智能與民用區(qū)分。

穆勒（Karl P. Mueller）在《防范通用人工智能研發(fā)攻擊的三大戰(zhàn)略路徑》（Averting Attacks Against AGI Development: Three Strategic Approaches）中從威懾理論出發(fā)，提出三類防范通用人工智能研發(fā)攻擊的策略。其一，保護(hù)與先發(fā)。通過加固基礎(chǔ)設(shè)施、隱藏通用人工智能設(shè)施、提升抗風(fēng)險(xiǎn)能力等降低對(duì)手攻擊的成功率。其二，威脅與回應(yīng)。以報(bào)復(fù)威脅提高攻擊成本，但需解決小規(guī)模攻擊難以溯源的問題。其三，安撫與獎(jiǎng)勵(lì)。通過公開研發(fā)進(jìn)展、邀請(qǐng)第三方核查等透明度措施或技術(shù)共享協(xié)議，使對(duì)手認(rèn)為維持現(xiàn)狀比發(fā)動(dòng)攻擊更具吸引力的做法。

4.戰(zhàn)略選擇：三大核心困境

一是速度對(duì)穩(wěn)定的影響。若存在國家層面的通用人工智能競(jìng)賽，是如克雷普斯所言“快速推進(jìn)以減少模糊性”，還是如布倫戴奇所警示“保持謹(jǐn)慎以規(guī)避安全風(fēng)險(xiǎn)”。二是認(rèn)知與實(shí)際能力的差距。即便費(fèi)倫認(rèn)為通用人工智能不會(huì)顛覆核時(shí)代，但對(duì)通用人工智能能力的錯(cuò)誤認(rèn)知，比如相信其可以實(shí)現(xiàn)完美核防御，仍可能引發(fā)沖突；三是競(jìng)爭(zhēng)與協(xié)作的平衡。無節(jié)制競(jìng)爭(zhēng)是否不可避免，“人工智能卡特爾”等協(xié)作模式能否落地，尤其是大國在戰(zhàn)略互信不足的背景下如何推進(jìn)合作。

應(yīng)對(duì)這些困境，需要清晰評(píng)估推動(dòng)國家與企業(yè)參與通用人工智能競(jìng)賽的因素，理解通用人工智能的通用技術(shù)屬性，并構(gòu)建安全導(dǎo)向的激勵(lì)機(jī)制，確保通用人工智能研發(fā)服務(wù)于國際安全而非引發(fā)危機(jī)。

三、關(guān)鍵觀點(diǎn)分述

1.加速通用人工智能研發(fā)的穩(wěn)定性價(jià)值

克雷普斯認(rèn)為，當(dāng)前對(duì)通用人工智能的恐慌過度聚焦于技術(shù)本身，實(shí)則風(fēng)險(xiǎn)源于通用人工智能誕生前的技術(shù)模糊期。其將通用人工智能定義為“能在多認(rèn)知領(lǐng)域自主推理、學(xué)習(xí)與規(guī)劃的認(rèn)知基礎(chǔ)設(shè)施”，預(yù)計(jì)15～30年后出現(xiàn)，且需要適度的透明度——政府與企業(yè)可通過算力規(guī)模、基準(zhǔn)測(cè)試表現(xiàn)等指標(biāo)追蹤進(jìn)展，無需開源或全面核查。

通用人工智能的穩(wěn)定潛力體現(xiàn)在可以模擬危機(jī)的復(fù)雜性、預(yù)警次級(jí)后果，通過共享模擬縮小認(rèn)知差距。利用分布式模擬平臺(tái)共享壓力測(cè)試協(xié)議但不開放核心系統(tǒng)，既能保留各方主權(quán)與知識(shí)產(chǎn)權(quán)，又能促進(jìn)風(fēng)險(xiǎn)共識(shí)。針對(duì)準(zhǔn)通用人工智能風(fēng)險(xiǎn)、模型幻覺等問題，可通過算力追蹤、硬件審計(jì)及軍方提前制定故障應(yīng)對(duì)流程緩解。

2.無節(jié)制競(jìng)爭(zhēng)的危機(jī)形式與治理方向

布倫戴奇指出，人工智能競(jìng)爭(zhēng)的危機(jī)可能呈現(xiàn)四類形式：在自動(dòng)化系統(tǒng)或人類過度依賴人工智能的場(chǎng)景中引發(fā)的，未在人類介入評(píng)估并糾正偏差前產(chǎn)生的閃擊戰(zhàn)；為阻止對(duì)手獲取“瓦解核威懾”的人工智能能力發(fā)動(dòng)攻擊的預(yù)防性戰(zhàn)爭(zhēng)；人工智能降低技術(shù)門檻，使小團(tuán)體能研發(fā)生物武器或發(fā)起大規(guī)模網(wǎng)絡(luò)攻擊的非國家行為體攻擊；人工智能為實(shí)現(xiàn)目標(biāo)采取危險(xiǎn)次級(jí)行動(dòng)的失控事件。

他提出，需優(yōu)先投資三大治理領(lǐng)域：制定基準(zhǔn)安全標(biāo)準(zhǔn)，明確人工智能研發(fā)與應(yīng)用的底線；建立合規(guī)審計(jì)機(jī)制，確保標(biāo)準(zhǔn)落地；構(gòu)建參與激勵(lì)機(jī)制，推動(dòng)各國與企業(yè)主動(dòng)參與治理。同時(shí)，他強(qiáng)調(diào)需快速推進(jìn)治理，避免人工智能能力遠(yuǎn)超治理體系的承載范圍。

3.通用人工智能對(duì)常規(guī)軍事的影響與風(fēng)險(xiǎn)重點(diǎn)

費(fèi)倫強(qiáng)調(diào)，通用人工智能對(duì)常規(guī)軍事的影響是技術(shù)升級(jí)而非革命，如提升彈藥瞄準(zhǔn)精度、加速網(wǎng)絡(luò)滲透等，但需要解決生產(chǎn)、組織協(xié)調(diào)等復(fù)雜問題。通用人工智能設(shè)計(jì)的先進(jìn)無人機(jī)集群方案，需轉(zhuǎn)化為工廠生產(chǎn)、部隊(duì)訓(xùn)練、后勤保障等實(shí)際能力，過程中往往涉及利益沖突、信息不對(duì)稱等情形。

通用人工智能的核心風(fēng)險(xiǎn)并非大國核沖突，而是大規(guī)模殺傷性武器的普及與信息操縱。個(gè)人或小團(tuán)體可借人工智能研發(fā)生物武器，且難以通過傳統(tǒng)威懾手段遏制，因?yàn)檫@類行為體缺乏可報(bào)復(fù)的固定實(shí)體。信息操縱則可能加劇社會(huì)分裂，削弱各國應(yīng)對(duì)通用人工智能風(fēng)險(xiǎn)的集體能力，尤其在民主國家，虛假信息易引發(fā)社會(huì)對(duì)立，阻礙政策制定與執(zhí)行。

4.防范通用人工智能攻擊的策略細(xì)節(jié)與政策建議

穆勒的三類策略中，“保護(hù)與先發(fā)”需兼顧主動(dòng)防御與被動(dòng)防御。主動(dòng)防御如建立網(wǎng)絡(luò)防火墻抵御黑客攻擊，被動(dòng)防御如數(shù)據(jù)中心防爆炸加固、為研究人員提供安全保護(hù)等。

“威脅與回應(yīng)”需解決可信性問題。可通過公開紅線聲明明確攻擊通用人工智能設(shè)施將引發(fā)報(bào)復(fù)，或?qū)⑼ㄓ萌斯ぶ悄茉O(shè)施與民用區(qū)域關(guān)聯(lián)，使攻擊可能造成大量平民傷亡，提升報(bào)復(fù)威懾，以增強(qiáng)威脅可信度，但對(duì)如匿名網(wǎng)絡(luò)破壞等小規(guī)模的攻擊效果有限，需結(jié)合溯源技術(shù)提升威懾力。

“安撫與獎(jiǎng)勵(lì)”則需注意聲譽(yù)的持久性。國家長(zhǎng)期形成的敵對(duì)形象難以快速改變，需要通過持續(xù)的透明度措施和技術(shù)共享逐步建立信任，如進(jìn)行紅隊(duì)演練識(shí)別通用人工智能設(shè)施的隱蔽漏洞，避免政府或企業(yè)夸大通用人工智能的軍事價(jià)值，推動(dòng)與競(jìng)爭(zhēng)對(duì)手在人工智能安全領(lǐng)域的對(duì)話，逐步改善現(xiàn)狀。

5.“人工智能卡特爾”的運(yùn)作邏輯與參與動(dòng)力

瓦恩曼與沃爾佩解釋，“人工智能卡特爾”的核心是通過協(xié)調(diào)標(biāo)準(zhǔn)，使軍用人工智能可識(shí)別并納入監(jiān)管，具體分為三個(gè)層面。其一，技術(shù)層面。強(qiáng)制軍用人工智能嵌入數(shù)字水印、采用專用硬件，確保核查時(shí)能快速區(qū)分軍民系統(tǒng)。其二，制度層面。將“符合可區(qū)分性標(biāo)準(zhǔn)”作為獲取軍用人工智能技術(shù)或安全承諾的條件，迫使其他國家接受標(biāo)準(zhǔn)。其三，核查層面。建立定期審計(jì)機(jī)制、監(jiān)測(cè)研發(fā)環(huán)境，通過路徑依賴（一旦采用標(biāo)準(zhǔn)，更改成本極高）提高違規(guī)成本。

在企業(yè)商業(yè)動(dòng)機(jī)方面，其合規(guī)產(chǎn)品優(yōu)先納入國防采購可獲取政府市場(chǎng)溢價(jià)；避免被排除在全球軍工貿(mào)易、政府人工智能項(xiàng)目等高價(jià)值市場(chǎng)之外，減少經(jīng)濟(jì)損失；還能利用政府提供的先進(jìn)檢測(cè)工具、跨國信息共享系統(tǒng)等合規(guī)資源降低成本，提升自身競(jìng)爭(zhēng)力。歷史上，被森林管理委員會(huì)（FSC）認(rèn)證的木材因溢價(jià)而吸引企業(yè)參與等案例，證明了此類激勵(lì)的有效性，也為“人工智能卡特爾”的落地提供了參考。

在國家戰(zhàn)略利益方面，對(duì)大國而言，卡特爾可實(shí)現(xiàn)三重戰(zhàn)略目標(biāo)。一是降低沖突風(fēng)險(xiǎn)，通過區(qū)分軍用與民用人工智能減少誤判，避免誤判引發(fā)戰(zhàn)爭(zhēng)；二是維持技術(shù)優(yōu)勢(shì)，通過控制通用人工智能技術(shù)擴(kuò)散，鞏固自身地位；三是降低治理成本，借助企業(yè)力量落實(shí)標(biāo)準(zhǔn)，減少政府監(jiān)管負(fù)擔(dān)。

四、結(jié)論

通用人工智能的風(fēng)險(xiǎn)既來自技術(shù)本身，也來自人類對(duì)技術(shù)的認(rèn)知與應(yīng)對(duì)。通用人工智能競(jìng)賽的核心是在創(chuàng)新與安全、競(jìng)爭(zhēng)與協(xié)作間找到平衡。一是縮短技術(shù)模糊期，通過透明研發(fā)、共享模擬平臺(tái)減少誤判，通用人工智能本身可作為危機(jī)預(yù)警工具，幫助管控風(fēng)險(xiǎn)。二是構(gòu)建新型治理體系，以人工智能卡特爾為核心，結(jié)合算力核查、市場(chǎng)激勵(lì)，區(qū)分軍用與民用人工智能，傳統(tǒng)軍控需向制定技術(shù)標(biāo)準(zhǔn)與促進(jìn)企業(yè)參與轉(zhuǎn)型。三是強(qiáng)化核威懾與大規(guī)模殺傷性武器管控，通過提升核二次打擊能力應(yīng)對(duì)通用人工智能對(duì)核平衡的潛在沖擊，大國聯(lián)合限制人工智能在大規(guī)模殺傷性武器研發(fā)中的應(yīng)用，防止技術(shù)擴(kuò)散。四是平衡大國利益，大國通過選擇性協(xié)作化解分歧，在低敏感領(lǐng)域率先合作，逐步建立互信，避免沖突。

通用人工智能并非必然引發(fā)災(zāi)難，但其雙重用途的屬性與快速發(fā)展的特性要求各國超越零和思維，以共同安全為目標(biāo)，通過制度創(chuàng)新與技術(shù)協(xié)作，將通用人工智能轉(zhuǎn)化為提升國際安全的工具而非威脅。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

研究所簡(jiǎn)介

國際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機(jī)構(gòu)，主要職能是研究我國經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢服務(wù)?！叭蚣夹g(shù)地圖”為國際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er