2025年6月，美國(guó)大西洋理事會(huì)發(fā)布《人工智能監(jiān)管對(duì)國(guó)防的二階影響：國(guó)家安全領(lǐng)域?yàn)楹伪仨殔⑴c》（Second-Order Impacrt Of Civil Artificial Intelligence Regulation On Defense: Why The National Security Community Must Engage）一文，介紹了主要國(guó)家及組織的人工智能監(jiān)管情況及其對(duì)國(guó)防與國(guó)家安全領(lǐng)域的影響，并指出國(guó)防與國(guó)家安全領(lǐng)域需采取舉措以應(yīng)對(duì)潛在影響。

全球人工智能監(jiān)管格局復(fù)雜且瞬息萬(wàn)變，即便立場(chǎng)相近的國(guó)家，其監(jiān)管方式也存在顯著差異。然而，一個(gè)普遍的共同點(diǎn)是，這些監(jiān)管大多將國(guó)防與國(guó)家安全領(lǐng)域排除在外。這種監(jiān)管豁免或特殊考量，使得該領(lǐng)域可以專(zhuān)注于其內(nèi)部標(biāo)準(zhǔn)與流程，從而與民用人工智能的監(jiān)管體系分離開(kāi)來(lái)。但人工智能技術(shù)本質(zhì)上具有雙重用途，這沒(méi)有考慮到民用人工智能監(jiān)管對(duì)國(guó)防與國(guó)家安全領(lǐng)域的影響。

一、主要國(guó)家和組織的監(jiān)管舉措

（一）美國(guó)

美國(guó)采取“技術(shù)中立”的監(jiān)管態(tài)度，鼓勵(lì)企業(yè)創(chuàng)新，并平衡公共安全與公民權(quán)利。各方認(rèn)同政府應(yīng)發(fā)揮監(jiān)管作用，但對(duì)如何監(jiān)管未達(dá)成共識(shí)。美國(guó)人工智能監(jiān)管方式是重點(diǎn)關(guān)注人工智能的應(yīng)用，特別是與自由、數(shù)據(jù)隱私和消費(fèi)者保護(hù)相關(guān)的內(nèi)容。部分轄區(qū)會(huì)就特定風(fēng)險(xiǎn)模型補(bǔ)充監(jiān)管。監(jiān)管范圍重點(diǎn)為人工智能系統(tǒng)產(chǎn)生的結(jié)果，對(duì)單個(gè)模型或算法的考慮有限。監(jiān)管類(lèi)型為聯(lián)邦與行業(yè)達(dá)成自愿性協(xié)議，并將人工智能納入硬法。部分州已制定硬性法規(guī)，總體上側(cè)重于保護(hù)現(xiàn)有消費(fèi)者權(quán)益及公民權(quán)利。關(guān)于監(jiān)管對(duì)象，在美國(guó)聯(lián)邦層面，自愿性協(xié)議針對(duì)的是開(kāi)發(fā)者和部署者，服務(wù)提供商不在此列。州層面監(jiān)管參差不齊，部分州已對(duì)開(kāi)發(fā)者和部署者提出更具體的要求。關(guān)于國(guó)防與國(guó)家安全，美國(guó)聯(lián)邦層面由單獨(dú)法規(guī)管轄，針對(duì)不同組成部分設(shè)置專(zhuān)門(mén)框架。目前尚無(wú)州級(jí)法規(guī)。美國(guó)國(guó)內(nèi)治安、反恐等可能會(huì)被納入監(jiān)管。

人工智能是近年來(lái)兩黨之間難得達(dá)成相對(duì)一致的領(lǐng)域。特朗普1.0時(shí)期的理念在拜登時(shí)期得到了一定程度的延續(xù)，盡管拜登的多項(xiàng)行政命令被特朗普2.0推翻，但其政策中技術(shù)官僚色彩較濃的部分得以保留。參議院多數(shù)黨領(lǐng)袖促成了兩黨參議院人工智能工作組的政策路線，該路線更關(guān)注美國(guó)的國(guó)際競(jìng)爭(zhēng)優(yōu)勢(shì)而非國(guó)內(nèi)監(jiān)管，短期內(nèi)難有重大立法。2024年，美國(guó)《國(guó)防授權(quán)法案》要求評(píng)估人工智能的倫理使用并研究軍事應(yīng)用漏洞。

2024年，美國(guó)45個(gè)州提出人工智能法案，31個(gè)州通過(guò)決議或立法，多數(shù)聚焦消費(fèi)者權(quán)利與數(shù)據(jù)隱私。加州議會(huì)曾通過(guò)嚴(yán)格的人工智能法案；猶他州聚焦生成式人工智能的透明度與消費(fèi)者保護(hù)；科羅拉多州針對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)建立反歧視框架。

（二）歐盟

歐盟是全球第一個(gè)圍繞人工智能的開(kāi)發(fā)、部署和使用發(fā)布具有法律約束力規(guī)則的組織。原計(jì)劃作為消費(fèi)者保護(hù)法，因ChatGPT的出現(xiàn)，規(guī)制范圍擴(kuò)展至此類(lèi)模型。

監(jiān)管方式為橫向監(jiān)管，也有針對(duì)通用人工智能系統(tǒng)的縱向監(jiān)管，基于風(fēng)險(xiǎn)評(píng)估方式確定特定用途的監(jiān)管等級(jí)。監(jiān)管范圍主要為高風(fēng)險(xiǎn)和通用人工智能系統(tǒng)，涵蓋數(shù)據(jù)、算法、應(yīng)用等，但不涵蓋硬件。監(jiān)管類(lèi)型為硬性監(jiān)管，對(duì)違規(guī)行為處高額罰款。監(jiān)管對(duì)象主要為人工智能開(kāi)發(fā)者，極少有部署者責(zé)任。因權(quán)限問(wèn)題排除國(guó)防與國(guó)家安全適用，但涵蓋國(guó)內(nèi)警務(wù)。

歐盟《人工智能法案》在所有成員國(guó)直接生效，采用風(fēng)險(xiǎn)分級(jí)（不可接受、高、有限、最低/無(wú)風(fēng)險(xiǎn)）進(jìn)行監(jiān)管。被列為“不可接受風(fēng)險(xiǎn)”的系統(tǒng)（如工作場(chǎng)所監(jiān)控等）將被完全禁止；屬高風(fēng)險(xiǎn)的系統(tǒng)（如生物識(shí)別等）受最嚴(yán)格監(jiān)管，對(duì)于構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”的通用人工智能需遵守類(lèi)高風(fēng)險(xiǎn)系統(tǒng)的義務(wù)。即使允許開(kāi)發(fā)者自定風(fēng)險(xiǎn)類(lèi)別，高額罰款仍會(huì)對(duì)違規(guī)者形成威懾。另外，盡管排除了軍事用途，但對(duì)執(zhí)法豁免條款（如警務(wù)人工智能犯罪畫(huà)像）爭(zhēng)議較大，且因軍事與警務(wù)技術(shù)重疊（如反恐），可能對(duì)國(guó)防產(chǎn)生連帶影響?！度斯ぶ悄芊ò浮分荚诮y(tǒng)一成員國(guó)標(biāo)準(zhǔn)以保障單一市場(chǎng)運(yùn)作，但其帶來(lái)的影響可能不局限于歐盟——如《通用數(shù)據(jù)保護(hù)條例》帶來(lái)的高合規(guī)成本影響了全球企業(yè)。

（三）英國(guó)

英國(guó)政府采用創(chuàng)新友好與靈活的監(jiān)管政策，旨在平衡經(jīng)濟(jì)增長(zhǎng)與公眾安全及基本價(jià)值觀之間的矛盾。

監(jiān)管方式為橫向的、行業(yè)性的，未來(lái)可能對(duì)通用人工智能采取縱向監(jiān)管。監(jiān)管范圍不夠明確，主要針對(duì)人工智能系統(tǒng)，但也會(huì)根據(jù)行業(yè)考慮供應(yīng)鏈不同部分。監(jiān)管類(lèi)型為通過(guò)行業(yè)監(jiān)管機(jī)構(gòu)實(shí)施硬性監(jiān)管。監(jiān)管對(duì)象因行業(yè)而異，一般側(cè)重于開(kāi)發(fā)者和部署者。針對(duì)國(guó)防與國(guó)家安全領(lǐng)域，有專(zhuān)門(mén)的軍事與國(guó)家安全框架與更廣泛的政府監(jiān)管框架并行。

2022年6月，英國(guó)首次制定人工智能監(jiān)管方針，同年12月發(fā)布《國(guó)家人工智能戰(zhàn)略》，次年8月發(fā)布細(xì)化監(jiān)管方針的文件。在2024年大選后，新上臺(tái)的工黨政府對(duì)監(jiān)管的態(tài)度從強(qiáng)硬轉(zhuǎn)向緩和，計(jì)劃年底出臺(tái)的人工智能立法并未實(shí)現(xiàn)。

除特定情形外，現(xiàn)有行業(yè)監(jiān)管機(jī)構(gòu)最了解本行業(yè)需求。部分機(jī)構(gòu)已將人工智能納入監(jiān)管，如金融行為監(jiān)管局的“沙盒監(jiān)管”。盡管整體監(jiān)管分行業(yè)進(jìn)行，但仍存在中央統(tǒng)籌機(jī)制，如英國(guó)人工智能安全研究所與企業(yè)簽署自愿測(cè)試模型協(xié)議。競(jìng)爭(zhēng)與市場(chǎng)管理局提議依據(jù)《數(shù)字市場(chǎng)、競(jìng)爭(zhēng)與消費(fèi)者法案》優(yōu)先監(jiān)管通用人工智能，并賦予其高額罰款權(quán)。

隨著民用人工智能監(jiān)管的發(fā)展，英國(guó)需通過(guò)道德原則進(jìn)行風(fēng)險(xiǎn)評(píng)估，驗(yàn)證國(guó)家安全框架能否應(yīng)對(duì)人工智能風(fēng)險(xiǎn)。此外，英國(guó)積極參與國(guó)際組織多邊討論，2023年底舉辦首屆全球人工智能安全峰會(huì)，有28國(guó)簽署《布萊切利宣言》，承諾合作確保人工智能安全、共同應(yīng)對(duì)風(fēng)險(xiǎn)，但因只關(guān)注通用人工智能的生存風(fēng)險(xiǎn)而非安全問(wèn)題遭到批評(píng)，且缺乏具體規(guī)則。

（四）新加坡

新加坡?lián)碛袕?qiáng)大的數(shù)字經(jīng)濟(jì)，以親商、創(chuàng)新聞名，監(jiān)管路徑與英國(guó)相似，平衡經(jīng)濟(jì)增長(zhǎng)與風(fēng)險(xiǎn)防范。

監(jiān)管方式為橫向的、行業(yè)性的，未來(lái)可能對(duì)通用人工智能采取縱向監(jiān)管。監(jiān)管范圍擬包括數(shù)據(jù)、算法、應(yīng)用等內(nèi)容，實(shí)踐中因行業(yè)而異。關(guān)于監(jiān)管類(lèi)型，通過(guò)現(xiàn)有行業(yè)監(jiān)管機(jī)構(gòu)進(jìn)行硬性監(jiān)管。監(jiān)管對(duì)象包括開(kāi)發(fā)者、部署者和服務(wù)提供商/托管平臺(tái)，責(zé)任按控制程度及開(kāi)發(fā)部署階段劃分。無(wú)國(guó)防與國(guó)家安全的公開(kāi)監(jiān)管框架。

新加坡政府采用基于現(xiàn)有框架的行業(yè)性、靈活性監(jiān)管來(lái)規(guī)制安全問(wèn)題，但較少關(guān)注國(guó)家安全。政府與科技行業(yè)合作開(kāi)發(fā)監(jiān)管工具——自愿治理測(cè)試框架“AI Verify”，幫助企業(yè)測(cè)試系統(tǒng)是否符合全球人工智能治理框架。

盡管政策文件對(duì)國(guó)家安全著墨不多，但新加坡是首個(gè)設(shè)立獨(dú)立軍事部門(mén)以應(yīng)對(duì)數(shù)字領(lǐng)域威脅的國(guó)家——數(shù)字與情報(bào)局整合指揮、控制、通信、云計(jì)算和人工智能等領(lǐng)域。新加坡國(guó)防科學(xué)技術(shù)局（DSTA）也擬將人工智能融入作戰(zhàn)平臺(tái)、武器等領(lǐng)域。但新加坡武裝部隊(duì)未公布使用軍事人工智能的官方立場(chǎng)。新加坡支持創(chuàng)新的戰(zhàn)略可能持續(xù)影響該區(qū)域。作為2024年?yáng)|盟數(shù)字部長(zhǎng)會(huì)議的主席國(guó)，推動(dòng)制定《東盟人工智能治理與倫理指南》，因東盟政治、技術(shù)差異大未推行共同監(jiān)管。該指南與美歐英政策在基于風(fēng)險(xiǎn)的治理方法上相似，但卻更兼顧各國(guó)文化。

（五）國(guó)際監(jiān)管舉措

1.經(jīng)合組織

經(jīng)合組織于2019年發(fā)布了《人工智能原則》，同時(shí)為全球人工智能伙伴關(guān)系提供秘書(shū)處服務(wù)。雖然未明確提及國(guó)防與國(guó)家安全，但會(huì)影響對(duì)該領(lǐng)域的討論。例如，數(shù)據(jù)治理工作組的指南會(huì)對(duì)合法使用數(shù)據(jù)訓(xùn)練算法產(chǎn)生影響。經(jīng)合組織還曾協(xié)助七國(guó)峰會(huì)制定國(guó)際人工智能指導(dǎo)原則與自愿行為準(zhǔn)則。經(jīng)合組織監(jiān)管方式為橫向的、風(fēng)險(xiǎn)導(dǎo)向的。監(jiān)管范圍為人工智能系統(tǒng)和相關(guān)知識(shí)，對(duì)算法和數(shù)據(jù)有具體措施。監(jiān)管類(lèi)型為無(wú)合規(guī)或執(zhí)行機(jī)制的軟性監(jiān)管。監(jiān)管對(duì)象包括參與人工智能系統(tǒng)生命周期中的任何人或任何組織。不涉及國(guó)防與國(guó)家安全。

2.七國(guó)集團(tuán)

七國(guó)集團(tuán)于2023年建立了廣島人工智能進(jìn)程，在全球?yàn)橥ㄓ萌斯ぶ悄芟到y(tǒng)建立護(hù)欄。同年，包括國(guó)際指導(dǎo)原則和開(kāi)發(fā)者自愿行為守則在內(nèi)的綜合政策框架出臺(tái)，通過(guò)提供可信的人工智能工具，成為各國(guó)監(jiān)管框架的基準(zhǔn)。這需要包括國(guó)防與國(guó)家安全人工智能供應(yīng)商在內(nèi)的科技行業(yè)的參與。

七國(guó)集團(tuán)還在技術(shù)標(biāo)準(zhǔn)與國(guó)際數(shù)據(jù)流動(dòng)等領(lǐng)域發(fā)揮作用，但內(nèi)部分歧可能阻礙這一進(jìn)程。國(guó)際數(shù)據(jù)流動(dòng)領(lǐng)域的情況稍顯樂(lè)觀，如歐美數(shù)據(jù)隱私框架通過(guò)“數(shù)據(jù)橋”減少跨境數(shù)據(jù)流動(dòng)合規(guī)負(fù)擔(dān)，盡管仍面臨被歐盟法院否決風(fēng)險(xiǎn)。

七國(guó)集團(tuán)監(jiān)管方式為僅適用于通用人工智能的縱向監(jiān)管，監(jiān)管范圍聚焦通用人工智能系統(tǒng)的數(shù)據(jù)共享與跨境傳輸，監(jiān)管類(lèi)型為無(wú)合規(guī)與執(zhí)行機(jī)制的軟性監(jiān)管，監(jiān)管對(duì)象僅適用于通用人工智能開(kāi)發(fā)者，不涉及國(guó)防與國(guó)家安全領(lǐng)域。

3.聯(lián)合國(guó)

2021年，教科文組織發(fā)布全球人工智能倫理標(biāo)準(zhǔn)，建立人工智能倫理與治理實(shí)驗(yàn)室?guī)椭u(píng)估倫理準(zhǔn)備程度。ChatGPT發(fā)布后，聯(lián)合國(guó)成立人工智能咨詢(xún)機(jī)構(gòu)，發(fā)布報(bào)告并建議內(nèi)部定期開(kāi)展政策對(duì)話(huà)，由國(guó)際人工智能專(zhuān)家科學(xué)小組提供支持。同時(shí)計(jì)劃在秘書(shū)處設(shè)立小型人工智能辦公室。

2023年7月，聯(lián)合國(guó)安理會(huì)秘書(shū)長(zhǎng)指出人工智能的軍民應(yīng)用均影響全球安全，提議建立聯(lián)合國(guó)人工智能治理機(jī)構(gòu)。聯(lián)合國(guó)監(jiān)管方式是橫向的、聚焦可持續(xù)發(fā)展的，監(jiān)管范圍為廣義的人工智能系統(tǒng)，側(cè)重?cái)?shù)據(jù)治理與避免數(shù)據(jù)偏見(jiàn)。監(jiān)管類(lèi)型為無(wú)合規(guī)與執(zhí)行機(jī)制的軟性監(jiān)管。監(jiān)管對(duì)象涉及人工智能系統(tǒng)的設(shè)計(jì)、開(kāi)發(fā)、部署與使用。關(guān)于國(guó)防與國(guó)家安全，決議排除了軍事用途，但安理會(huì)有相關(guān)討論。

4.北約

北約不參與民用監(jiān)管，但在軍事標(biāo)準(zhǔn)領(lǐng)域發(fā)揮重要作用。2021年，北約正式發(fā)布首份《人工智能戰(zhàn)略》。北約內(nèi)部設(shè)數(shù)據(jù)與人工智能審查委員會(huì)（DARB），制定認(rèn)證標(biāo)準(zhǔn)，確保新的人工智能項(xiàng)目符合上述戰(zhàn)略中的負(fù)責(zé)任原則。北約無(wú)強(qiáng)制執(zhí)行權(quán)，且成員國(guó)達(dá)成共識(shí)做出決定不易，技術(shù)標(biāo)準(zhǔn)比規(guī)范性問(wèn)題更易達(dá)成一致。北約標(biāo)準(zhǔn)化辦公室有能力確定適用于國(guó)防與國(guó)家安全的民用人工智能標(biāo)準(zhǔn)，并確定哪些領(lǐng)域需定制特殊標(biāo)準(zhǔn)。

北約監(jiān)管方式為橫向的，人工智能原則適用于所有人工智能類(lèi)型。其監(jiān)管范圍包含廣義的人工智能系統(tǒng)，監(jiān)管類(lèi)型為無(wú)執(zhí)行機(jī)制的軟性監(jiān)管。監(jiān)管對(duì)象為在軍隊(duì)中開(kāi)發(fā)和部署人工智能的成員國(guó)，相關(guān)規(guī)定僅涉及國(guó)防與國(guó)家安全。

二、人工智能監(jiān)管分析

（一）監(jiān)管共性

監(jiān)管方式傾向于行業(yè)或用途導(dǎo)向，這是平衡創(chuàng)新與用戶(hù)保護(hù)的務(wù)實(shí)之舉，但對(duì)通用人工智能，越來(lái)越多觀點(diǎn)認(rèn)為需采用縱向的、技術(shù)導(dǎo)向的監(jiān)管。關(guān)于監(jiān)管范圍，對(duì)人工智能需監(jiān)管的元素缺乏共識(shí)，在框架僅提及人工智能系統(tǒng)時(shí)，可通過(guò)相關(guān)文件推斷范圍（算法、數(shù)據(jù)等），這與現(xiàn)有行業(yè)監(jiān)管的策略一致——根據(jù)行業(yè)不同重點(diǎn)關(guān)注對(duì)象也不同。關(guān)于監(jiān)管類(lèi)型，當(dāng)前歐盟制定了專(zhuān)門(mén)人工智能硬性法規(guī)，但多數(shù)還是依賴(lài)行業(yè)監(jiān)管、自愿性指南等，目前立法趨勢(shì)加強(qiáng)。關(guān)于監(jiān)管對(duì)象，基本都將部分責(zé)任歸于開(kāi)發(fā)者，很少包括部署者和服務(wù)提供商在內(nèi)。有觀點(diǎn)認(rèn)為責(zé)任分配應(yīng)隨人工智能生命周期變化，但實(shí)踐較少且需長(zhǎng)期探索。

（二）對(duì)國(guó)防與國(guó)家安全的影響

一是監(jiān)管塑造市場(chǎng)影響工具可得性。直接干預(yù)如修改反壟斷法迫使供應(yīng)商拆分等，或間接干預(yù)如影響市場(chǎng)可用工具種類(lèi)等，可能影響國(guó)防領(lǐng)域獲取人工智能工具。二是對(duì)民用法規(guī)的司法解讀影響行動(dòng)許可。可能直接限制特定用途如反恐的人工智能使用，或通過(guò)對(duì)法律責(zé)任的擔(dān)憂(yōu)來(lái)間接影響。三是增加開(kāi)發(fā)和部署的成本與風(fēng)險(xiǎn)。復(fù)雜合規(guī)制度、碎片化技術(shù)標(biāo)準(zhǔn)可能增加成本；軍民雙重用途模型的許可或報(bào)告可能會(huì)帶來(lái)相關(guān)的安全風(fēng)險(xiǎn)。

通過(guò)評(píng)估民用監(jiān)管框架，可以總結(jié)出國(guó)防與國(guó)家安全的具體領(lǐng)域需關(guān)注的舉措，大體上可以分為三類(lèi)：一是短期內(nèi)應(yīng)支持的領(lǐng)域或措施；二是中期內(nèi)應(yīng)支持的領(lǐng)域，處于走向成熟階段需要更多投入的領(lǐng)域，中期內(nèi)可能會(huì)對(duì)社會(huì)產(chǎn)生重大影響；三是未來(lái)應(yīng)警惕的舉措，仍處于走向成熟階段但未來(lái)的影響不確定，可能需要社會(huì)意見(jiàn)。

三、結(jié)論

盡管多數(shù)民用人工智能監(jiān)管排除國(guó)防與國(guó)家安全領(lǐng)域的應(yīng)用，但人工智能系統(tǒng)固有的雙重用途性質(zhì)意味著國(guó)防與國(guó)家安全領(lǐng)域不能置身事外。國(guó)防與國(guó)家安全中的人工智能監(jiān)管問(wèn)題必須納入到更具有普遍性的方案中來(lái)。負(fù)責(zé)國(guó)家安全人工智能事務(wù)的政府部門(mén)及人員、擁有軍民兩用人工智能產(chǎn)品的行業(yè)組織及私營(yíng)企業(yè)，都應(yīng)充分理解民用人工智能監(jiān)管對(duì)自身利益的影響，并參與相關(guān)討論。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見(jiàn)。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見(jiàn)

研究所簡(jiǎn)介

國(guó)際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國(guó)務(wù)院發(fā)展研究中心的非營(yíng)利性研究機(jī)構(gòu)，主要職能是研究我國(guó)經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問(wèn)題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢(xún)服務(wù)?！叭蚣夹g(shù)地圖”為國(guó)際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見(jiàn)。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話(huà)：010-82635522

微信：iite_er