2025年9月，蘭德公司發(fā)布了題為《全球軍事人工智能競爭中的倫理問題》（Ethics in Global Competition Over Military AI）的報告。報告指出，人工智能（AI）及自主系統(tǒng)、機(jī)器人技術(shù)、云技術(shù)、邊緣計算和新型傳感器等相關(guān)技術(shù)的迅猛發(fā)展，正深刻改變現(xiàn)代戰(zhàn)爭的形態(tài)與邏輯。這些技術(shù)不僅提升了軍事行動的效率與精確性，更重新定義了“戰(zhàn)爭主體”與“人類角色”的邊界，從而引發(fā)了一系列復(fù)雜且緊迫的倫理、法律與治理問題。報告認(rèn)為，人工智能并非單一技術(shù)，而是一系列具有高度顛覆性的通用技術(shù)集合，其核心是通過數(shù)據(jù)學(xué)習(xí)執(zhí)行原需生物智能完成的任務(wù)。人工智能在軍事領(lǐng)域的應(yīng)用，雖可顯著提升決策速度、優(yōu)化系統(tǒng)運(yùn)行、實現(xiàn)高危任務(wù)自動化，但也使各國面臨前所未有的倫理困境。尤其是在全球人工智能軍事競爭日益激烈的背景下，如何構(gòu)建負(fù)責(zé)任的人工智能部署框架，已成為關(guān)乎戰(zhàn)略穩(wěn)定、國際安全與人類道德底線的關(guān)鍵議題。

一、人工智能軍事化應(yīng)用的倫理困境與現(xiàn)實挑戰(zhàn)

具有軍事應(yīng)用價值的新技術(shù)歷來伴隨倫理與法律爭議。從20世紀(jì)初戰(zhàn)略轟炸機(jī)引發(fā)的道德辯論，到如今自主武器系統(tǒng)所帶來的治理挑戰(zhàn)，技術(shù)創(chuàng)新始終在推動戰(zhàn)爭倫理與法律體系的演進(jìn)。在當(dāng)代語境下，人工智能正在多個層面重構(gòu)軍事實踐與倫理邊界。

首先，致命性自主武器系統(tǒng)（Lethal Autonomous Weapons Systems，LAWS），常被稱作“殺人機(jī)器人”，已成為軍事人工智能倫理討論的核心議題。這類系統(tǒng)能夠在人類不直接干預(yù)的情況下識別、選擇并攻擊目標(biāo)，從而引發(fā)關(guān)于“有意義的人類控制”應(yīng)如何實現(xiàn)的質(zhì)疑。然而，若將倫理討論僅限于致命性自主武器系統(tǒng)，則易忽略人工智能在軍事應(yīng)用中更廣泛、更復(fù)雜的倫理維度。例如，人工智能已在烏克蘭戰(zhàn)場上用于目標(biāo)識別、作戰(zhàn)規(guī)劃與無人系統(tǒng)協(xié)同，其決策過程往往涉及多個人工智能工具與人類操作員在OODA環(huán)（Observe-Orient-Decide-Act loop）中的復(fù)雜互動。在此類場景中，人類并非總是處于“決策回路”之內(nèi)，而是以設(shè)計者、監(jiān)督者或事后追責(zé)者的身份參與系統(tǒng)運(yùn)行。因此，倫理討論必須超越“人在回路中/外”的簡化框架，轉(zhuǎn)而關(guān)注人類如何在整個系統(tǒng)的生命周期中落實道德與法律的責(zé)任。

其次，人工智能系統(tǒng)的“黑箱”特性加劇了倫理治理的難度。盡管“可解釋的人工智能”被提出作為應(yīng)對方案，但現(xiàn)實中完全透明與可解釋的系統(tǒng)仍難以實現(xiàn)。值得注意的是，人類決策者本身也可被視為一種“黑箱”，其決策受到訓(xùn)練、教條、認(rèn)知偏差與情緒狀態(tài)的影響。因此，倫理框架需在追求透明性的同時，承認(rèn)一定程度的不可解釋性，并通過設(shè)計保障機(jī)制、測試驗證與人為監(jiān)督來降低風(fēng)險。

最后，人工智能的廣泛應(yīng)用還可能引入新型作戰(zhàn)風(fēng)險，如系統(tǒng)被惡意攻擊、數(shù)據(jù)被污染、算法被操縱等。這些風(fēng)險不僅可能削弱軍事系統(tǒng)的可靠性，更可能引發(fā)沖突升級或戰(zhàn)略誤判，從而破壞全球穩(wěn)定。

二、負(fù)責(zé)任人工智能軍事應(yīng)用的倫理原則框架

為應(yīng)對上述挑戰(zhàn)，英國國防部提出了一套人工智能倫理原則，旨在為軍事人工智能的開發(fā)與部署提供道德基礎(chǔ)。該框架包括以下五項核心原則：

第一，以人為本。該原則要求在所有人工智能系統(tǒng)生命周期階段綜合考慮對人類（包括己方人員、對手、平民）及環(huán)境的影響。其核心是確保人工智能服務(wù)于人類福祉與安全，而非替代人類道德判斷。

第二，責(zé)任。這一原則強(qiáng)調(diào)必須明確人類在人工智能系統(tǒng)運(yùn)行中的控制角色與責(zé)任歸屬?，F(xiàn)實中，決策往往由人類與人工智能系統(tǒng)共同完成，因此責(zé)任機(jī)制需能夠追溯至設(shè)計者、部署者與指揮官，即便其未直接參與具體決策。

第三，理解。該原則關(guān)注對人工智能系統(tǒng)運(yùn)行背景與特性的充分掌握。包括系統(tǒng)能力邊界、數(shù)據(jù)來源、決策邏輯及潛在偏差等。盡管完全理解復(fù)雜算法并不現(xiàn)實，但通過持續(xù)測試、驗證與情景演練，可顯著提升系統(tǒng)的可預(yù)測性與可信度。

第四，偏見與風(fēng)險緩解。人工智能系統(tǒng)可能放大數(shù)據(jù)中的偏見或產(chǎn)生意外后果，因此必須通過“紅隊測試”、性能閾值設(shè)定、故障恢復(fù)機(jī)制等手段，主動識別并減輕其潛在危害。

第五，可靠性。系統(tǒng)必須在設(shè)計上具備抗干擾能力，能夠抵御敵對行為者的網(wǎng)絡(luò)攻擊、數(shù)據(jù)投毒或模型竊取企圖?？煽啃圆粌H是技術(shù)指標(biāo)，更是倫理與安全的基本要求。

這些原則共同構(gòu)成一個相互關(guān)聯(lián)的倫理治理體系，其目的是在技術(shù)創(chuàng)新與道德約束之間取得平衡，確保人工智能在軍事應(yīng)用中的可靠性、合法性與道德可接受性。

三、全球競爭背景下的倫理治理與戰(zhàn)略必要性

在全球人工智能軍備競賽加速的背景下，倫理治理不僅是一種道德要求，更是一種戰(zhàn)略必需。英國皇家空軍及其盟國表示，以負(fù)責(zé)任的方式開發(fā)與部署人工智能是維持軍事優(yōu)勢、遵守國際法、保障系統(tǒng)互操作性與聯(lián)盟信任的前提。相反，若放任部分國家通過降低倫理標(biāo)準(zhǔn)獲取短期優(yōu)勢，將可能引發(fā)全球范圍的“倫理競底”（race to the bottom），加劇戰(zhàn)略不穩(wěn)定與沖突升級風(fēng)險。

尤其值得注意的是，人工智能倫理治理不能僅限于國內(nèi)政策范疇，而必須融入國際對話與規(guī)范構(gòu)建。有責(zé)任通過示范合乎倫理的人工智能使用方式，塑造新興國際規(guī)范，防止人工智能軍事應(yīng)用被濫用或誤用。此外，倫理治理還需關(guān)注跨國技術(shù)擴(kuò)散帶來的風(fēng)險。正如生物安全領(lǐng)域面臨人工智能降低生物武器開發(fā)門檻的挑戰(zhàn)，軍事人工智能領(lǐng)域也需警惕非國家行為體或惡意國家通過開源模型、越獄技術(shù)或模型微調(diào)，獲取原本受控的人工智能軍事能力。

四、構(gòu)建倫理引領(lǐng)的人工智能軍事應(yīng)用體系

為應(yīng)對上述挑戰(zhàn)，政策制定者應(yīng)推動以下關(guān)鍵行動。

第一，加強(qiáng)倫理原則與法律標(biāo)準(zhǔn)的融合。各國應(yīng)在國內(nèi)法律與軍事條令中明確納入人工智能倫理原則，確保其具有可執(zhí)行性。同時，通過國際多邊論壇推動全球范圍內(nèi)對致命性自主武器系統(tǒng)的治理共識，明確“有意義的人類控制”的操作定義與法律邊界。

第二，投資于倫理驗證與測試能力建設(shè)。政府應(yīng)資助開發(fā)人工智能倫理測試平臺、紅隊演練場景及風(fēng)險評估工具，確保軍事人工智能系統(tǒng)在部署前經(jīng)過充分的道德與安全評估。此外，應(yīng)建立跨部門合作機(jī)制，聯(lián)合技術(shù)企業(yè)、學(xué)術(shù)機(jī)構(gòu)與國際伙伴，共同提升測試標(biāo)準(zhǔn)的科學(xué)性與適用性。

第三，推動可解釋人工智能與問責(zé)機(jī)制創(chuàng)新。盡管完全透明的算法難以實現(xiàn)，但政策應(yīng)鼓勵開發(fā)更高可解釋性的模型與工具，同時通過設(shè)計日志記錄、審計追蹤與事后審查機(jī)制，確保系統(tǒng)決策可追溯、可評估。在法律責(zé)任層面，需明確人工智能相關(guān)事故的責(zé)任歸屬原則，避免出現(xiàn)問責(zé)真空。

第四，強(qiáng)化人工智能安全與抗干擾能力。政策應(yīng)要求軍事人工智能系統(tǒng)具備足夠的網(wǎng)絡(luò)安全韌性，能夠防范數(shù)據(jù)投毒、模型竊取與對抗性攻擊。此外，需建立人工智能故障應(yīng)急響應(yīng)機(jī)制，確保在系統(tǒng)失效或被濫用時能夠及時干預(yù)。

最后，促進(jìn)國際合作與規(guī)范建設(shè)。國家應(yīng)通過雙邊與多邊渠道，就軍事人工智能的倫理標(biāo)準(zhǔn)、風(fēng)險管控與治理框架開展對話，避免因標(biāo)準(zhǔn)分歧導(dǎo)致戰(zhàn)略誤判或危機(jī)升級。同時，應(yīng)支持國際組織在人工智能倫理與安全方面的標(biāo)準(zhǔn)制定工作，推動形成包容、公平、有效的全球治理體系。

五、結(jié)論：倫理作為競爭優(yōu)勢的核心

在人工智能重塑全球軍事格局的當(dāng)下，倫理治理并非創(chuàng)新的障礙，而是可持續(xù)戰(zhàn)略優(yōu)勢的來源。通過建立負(fù)責(zé)任的人工智能開發(fā)與部署框架，國家不僅能夠提升軍事系統(tǒng)的可靠性與合法性，更能夠增強(qiáng)聯(lián)盟互操作性與國內(nèi)外公眾信任。相反，忽視倫理考量雖可能帶來短期收益，但長期將削弱系統(tǒng)韌性、加劇戰(zhàn)略脆弱性、并可能引發(fā)道德與法律反噬。

此外，我們必須拒絕“倫理與優(yōu)勢”的錯誤二分法。事實上，倫理與戰(zhàn)略效能是相輔相成的。只有通過道德引領(lǐng)的技術(shù)創(chuàng)新，國家才能在人工智能時代贏得持久的安全與影響力。因此，政策制定者、軍事領(lǐng)袖與技術(shù)開發(fā)者應(yīng)共同致力于將倫理原則深度融入人工智能系統(tǒng)的全生命周期，確保技術(shù)進(jìn)步始終服務(wù)于人類安全與全球穩(wěn)定。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點(diǎn)，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡介

國際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機(jī)構(gòu)，主要職能是研究我國經(jīng)濟(jì)、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)?！叭蚣夹g(shù)地圖”為國際技術(shù)經(jīng)濟(jì)研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er