2014年春，瑞士日內(nèi)瓦迎來一場意義深遠的國際對話——在《特定常規(guī)武器公約》框架下召開的政府專家會議，首次將“完全自主的致命性武器系統(tǒng)”這一議題納入正式議程。彼時，該概念尚被不少與會者視為帶有強烈未來主義色彩的技術(shù)假想。

那一年，人工智能尚未滲透進大眾日常的衣食住行，普通民眾對“機器獨立裁定生死”的認知，大多源自銀幕上的虛構(gòu)敘事與文學作品中的哲思推演。

然而，在閉門會議室中，氣氛卻異常凝重。中方代表團率先發(fā)聲，明確主張必須構(gòu)建覆蓋全球的監(jiān)管體系，嚴防此類系統(tǒng)在脫離人類實時監(jiān)督的狀態(tài)下投入真實戰(zhàn)場。其立論根基堅實而樸素：當目標識別、戰(zhàn)術(shù)評估、開火指令全部交由算法閉環(huán)完成，人類便實質(zhì)上退出了決策鏈條的核心環(huán)節(jié)。此時，一次代碼偏差、一段邏輯漏洞、一場網(wǎng)絡(luò)劫持，都可能在數(shù)秒之內(nèi)觸發(fā)不可逆的災難性后果。

遺憾的是，這一前瞻性倡議未能撬動共識支點。美國、英國、俄羅斯、印度等具備先進軍事技術(shù)能力的國家，普遍采取觀望姿態(tài)；部分代表強調(diào)需為技術(shù)創(chuàng)新預留彈性空間，另一些則直言反對倉促立法，認為現(xiàn)有技術(shù)成熟度尚不足以支撐具有強制效力的國際協(xié)定。最終，會議未產(chǎn)出任何具備約束力的成果文件。

時光流轉(zhuǎn)十余載，人工智能已實現(xiàn)跨越式躍升：深度神經(jīng)網(wǎng)絡(luò)架構(gòu)持續(xù)迭代，GPU算力成本呈指數(shù)級下降，通用大模型加速向國防工業(yè)場景遷移。從可編隊自主飛行的蜂群無人機，到具備復雜地形越障能力的智能戰(zhàn)車，再到能依據(jù)戰(zhàn)場態(tài)勢動態(tài)調(diào)整作戰(zhàn)策略的仿生機器人平臺，一系列高自主性裝備相繼進入試驗與列裝階段，“人機融合”正從理念走向?qū)崙?zhàn)化部署。

在此背景下，2014年的那場日內(nèi)瓦辯論再度浮出水面，引發(fā)多國戰(zhàn)略界深度復盤。華盛頓內(nèi)部已有分析指出，當年若更重視中方提出的制度性預警，或可提前布局規(guī)則主導權(quán)，如今面對技術(shù)擴散加速與規(guī)范真空加劇的雙重壓力，部分政策圈層流露出“早應(yīng)傾聽東方聲音”的反思情緒。

梳理聯(lián)合國裁軍事務(wù)廳及會議紀要公開檔案可見，中國在多邊外交平臺上曾三次系統(tǒng)闡述關(guān)于致命性自主武器系統(tǒng)的立場主張。

首度發(fā)聲即為2014年日內(nèi)瓦會議，提出構(gòu)建分階段、可驗證的國際監(jiān)管機制；2016年與2019年兩次后續(xù)表態(tài)，則進一步聚焦于法律文書的實質(zhì)性推進——呼吁啟動多邊談判進程，就全面禁止或嚴格限制“無須人類干預即可實施致命打擊”的武器系統(tǒng)達成具有條約效力的國際協(xié)議。

2021年12月，中方在聯(lián)合國《特定常規(guī)武器公約》第六次審議大會上再次強化立場，明確劃出技術(shù)應(yīng)用紅線：堅決反對人工智能在軍事行動中繞過人類意志直接執(zhí)行殺傷指令，并將“人類始終保有實質(zhì)、及時、可操作的控制權(quán)”確立為不可動搖的基本原則。

事實上，圍繞LAWS（Lethal Autonomous Weapons Systems）的全球磋商已在聯(lián)合國機制內(nèi)延續(xù)多年，但核心分歧長期懸而未決：如何科學界定“自主性”的技術(shù)閾值？當人類僅保留形式化否決權(quán)或事后追責權(quán)時，是否仍屬“有效控制”？是要求操作員全程介入每項戰(zhàn)術(shù)動作（人在回路中），還是允許其僅監(jiān)控整體任務(wù)進程（人在環(huán)上）？技術(shù)演進的模糊性與地緣政治博弈的確定性之間，始終存在難以彌合的認知鴻溝。

那么，為何當年主要軍事力量普遍回避硬性規(guī)制路徑？多位長期跟蹤軍控議程的國際安全學者指出，深層動因在于對戰(zhàn)略先發(fā)優(yōu)勢的高度敏感。

以美國為例，其在長航時察打一體無人機、自動化防空攔截系統(tǒng)、多源情報融合建模等領(lǐng)域擁有顯著代際優(yōu)勢，對任何可能壓縮未來技術(shù)演進自由度的條款均保持高度警惕。美方政策討論中反復出現(xiàn)的核心關(guān)切是：若在技術(shù)拐點前鎖定規(guī)則框架，或?qū)е伦陨碓谙乱惠嗆娛路妒阶兏镏邢萑氡粍印?/p>

俄羅斯將智能化武器研發(fā)列為國家戰(zhàn)略優(yōu)先方向，視其為抵消對手信息優(yōu)勢的關(guān)鍵杠桿；印度近年大幅增加無人系統(tǒng)專項預算，意圖在南亞安全格局中構(gòu)筑非對稱威懾能力；英國則傾向于倡導“倫理設(shè)計準則”與“使用透明度標準”，主張通過行業(yè)自律與出口管制協(xié)同治理，而非一刀切式的全球禁令。

當時主流認知普遍建立在一個隱含前提之上：只要最高決策權(quán)限牢牢掌握在人類指揮官手中，技術(shù)本身就不會構(gòu)成失控風險。這種對工程可靠性的充分信任，疊加大國間戰(zhàn)略互疑與技術(shù)競爭焦慮，共同構(gòu)成了國際規(guī)范建設(shè)進程緩慢的根本原因。

但人工智能的發(fā)展軌跡并未遵循傳統(tǒng)軍控的線性邏輯——算法泛化能力增強、訓練數(shù)據(jù)集規(guī)模激增、邊緣計算芯片普及，使得高性能AI模塊不再局限于國家級實驗室，越來越多中等技術(shù)實力國家乃至私營實體均可獲取接近一線水平的開發(fā)資源。

以往，軍用級自主系統(tǒng)依賴封閉式軟硬件生態(tài)與定制化安全加固方案；如今，大量底層模型源于開源社區(qū)貢獻，商業(yè)云平臺提供的AI開發(fā)套件亦可被快速適配至軍事用途，軍民兩用技術(shù)邊界日益模糊，技術(shù)擴散的廣度與速度遠超舊有管控體系的響應(yīng)能力。

多家權(quán)威國際智庫發(fā)布的評估報告均警示：倘若缺乏統(tǒng)一且具操作性的國際行為準則，低成本小型無人平臺一旦搭載高魯棒性目標識別算法，極可能在局部沖突中大規(guī)模涌現(xiàn)。當集群協(xié)同調(diào)度、毫秒級圖像解析、動態(tài)路徑重規(guī)劃三項能力深度融合后，單名操作員所能掌控的火力密度與打擊精度，將呈現(xiàn)數(shù)量級躍升。

網(wǎng)絡(luò)安全維度的風險同樣不容忽視。一旦自主武器系統(tǒng)的傳感輸入被惡意篡改，或其決策模型遭對抗樣本攻擊，原本設(shè)定的交戰(zhàn)規(guī)則可能瞬間失效。傳統(tǒng)武器誤擊常源于情報鏈末端的人為判斷失誤，而AI驅(qū)動系統(tǒng)的錯誤則可能在納秒級完成全鏈路放大，且難以追溯原始誘因。

歷史反復印證，重大國際規(guī)范往往誕生于危機臨界點之后。問題在于，人工智能武器所蘊含的系統(tǒng)性風險一旦顯性化，其連鎖反應(yīng)與破壞烈度，或?qū)⑦h超傳統(tǒng)戰(zhàn)爭誤判所能承載的閾值。各位讀者，您如何看待這一正在逼近的治理挑戰(zhàn)？