你敢信嗎？10年前中國(guó)就喊著要管“自己決定殺人的機(jī)器人”，可當(dāng)時(shí)美英印這些國(guó)家壓根沒當(dāng)回事——覺得這玩意兒離現(xiàn)實(shí)太遠(yuǎn)，簽約束等于捆住自己手腳。結(jié)果現(xiàn)在AI炸了，各種自主武器滿天飛，當(dāng)初反對(duì)的國(guó)家突然急了：“早知道聽中國(guó)的就好了！” 這事兒得從2014年瑞士日內(nèi)瓦那場(chǎng)會(huì)議說起，那時(shí)候AI還沒普及到手機(jī)里，大家聊“機(jī)器自主殺人”，基本都以為是科幻片瞎編的，誰能想到短短十幾年就成了現(xiàn)實(shí)問題？

2014年春天，日內(nèi)瓦的特定常規(guī)武器公約會(huì)議上，中國(guó)代表第一個(gè)站出來說：“得給‘完全自主的致命武器’立規(guī)矩，不能讓機(jī)器自己決定殺誰！” 說白了就是，武器要是脫離人類控制，算法認(rèn)錯(cuò)人、系統(tǒng)崩了、被黑客黑了，一瞬間就能搞出沒法收拾的事?？赡菚r(shí)候會(huì)場(chǎng)里沒幾個(gè)人接話，美國(guó)、英國(guó)、印度這些軍事大國(guó)要么說“再看看技術(shù)發(fā)展”，要么直接反對(duì)“太早設(shè)限會(huì)束縛創(chuàng)新”，最后會(huì)議啥實(shí)質(zhì)性文件都沒出——畢竟那時(shí)候AI還只是實(shí)驗(yàn)室里的新鮮玩意兒，沒人覺得這能變成武器風(fēng)險(xiǎn)。

其實(shí)中國(guó)后來又提了兩次——2016年、2019年，每次都呼吁“禁止或嚴(yán)格限制這類武器”，推動(dòng)簽有法律約束力的國(guó)際文件。到2021年12月，中國(guó)還在多邊場(chǎng)合強(qiáng)調(diào)：“不能讓AI在軍事上被亂用，必須始終有人盯著，不能讓機(jī)器在沒人管的情況下攻擊！” 可那幾年，這些提議還是沒被當(dāng)回事，為啥？因?yàn)檫@些國(guó)家都覺得“只要最終決策在人類指揮官手里，就不會(huì)出事”，再加上自己技術(shù)領(lǐng)先，怕簽了規(guī)矩反而被別人追上，丟了戰(zhàn)略優(yōu)勢(shì)。

但AI這玩意兒發(fā)展起來，根本不按常理出牌??！短短十幾年，深度學(xué)習(xí)突破了，算力從以前的天價(jià)降到白菜價(jià)，大模型到處都是，軍民技術(shù)也混在一起了——比如現(xiàn)在商業(yè)公司的AI算法，改改就能用到武器上。現(xiàn)在你能看到啥？自主無人機(jī)集群，一群小飛機(jī)一起飛就能精準(zhǔn)打擊目標(biāo)；智能無人戰(zhàn)車，不用人開就能在復(fù)雜地形跑；還有機(jī)器狗，能自己適應(yīng)環(huán)境跟著人走，甚至能攜帶裝備。這些東西早就不是科幻了，已經(jīng)實(shí)實(shí)在在擺在各國(guó)軍隊(duì)面前。

這下好了，當(dāng)初反對(duì)的國(guó)家坐不住了。華盛頓那邊甚至有人在私下說“后悔當(dāng)初沒聽中國(guó)的”——為啥？因?yàn)楝F(xiàn)在風(fēng)險(xiǎn)越來越大了。以前軍用自主系統(tǒng)都是大國(guó)封閉研發(fā)，只有少數(shù)國(guó)家能搞，現(xiàn)在不一樣了：底層技術(shù)開源，商業(yè)公司的算法框架隨便改，軍民界限越來越模糊，小國(guó)家甚至非國(guó)家組織都能摸到邊，擴(kuò)散風(fēng)險(xiǎn)直線上升。比如最近有報(bào)告說，中東一些沖突里，已經(jīng)出現(xiàn)了小型自主無人機(jī)，一個(gè)人就能控制十幾架，火力比以前強(qiáng)太多。

還有個(gè)更頭疼的問題是網(wǎng)絡(luò)安全。自主武器要是被黑客入侵，或者數(shù)據(jù)被污染，識(shí)別目標(biāo)能錯(cuò)得離譜。以前武器誤判，可能是人類情報(bào)錯(cuò)了，還能有時(shí)間反應(yīng)；現(xiàn)在算法系統(tǒng)的誤差，毫秒級(jí)就能放大，根本來不及攔。比如要是自主無人機(jī)的算法被黑，把平民當(dāng)成目標(biāo)，那后果不堪設(shè)想——這不是科幻，是現(xiàn)在正在討論的現(xiàn)實(shí)風(fēng)險(xiǎn)。

之前有軍控專家分析過，這些國(guó)家當(dāng)年不點(diǎn)頭，核心就是戰(zhàn)略優(yōu)勢(shì)和技術(shù)領(lǐng)先。比如美國(guó)無人機(jī)全球第一，要是簽了約束，以后還怎么發(fā)展更先進(jìn)的自主武器？俄羅斯把自主武器當(dāng)對(duì)抗美國(guó)高技術(shù)優(yōu)勢(shì)的手段，印度近年砸了不少錢搞無人系統(tǒng)，想在南亞增強(qiáng)技術(shù)能力，英國(guó)說“要負(fù)責(zé)任用，不是全禁”——說白了，都是怕自己的技術(shù)優(yōu)勢(shì)沒了，在未來競(jìng)爭(zhēng)中吃虧。

但現(xiàn)在的情況是，規(guī)則還沒定，風(fēng)險(xiǎn)已經(jīng)冒出來了。多國(guó)智庫的報(bào)告都在說，要是沒規(guī)矩，小型無人平臺(tái)加高精度算法，沖突里隨便就能部署一堆，一個(gè)人能控制的火力比以前多太多了。歷史上很多規(guī)矩都是風(fēng)險(xiǎn)到眼前才重視，可AI武器的風(fēng)險(xiǎn)一旦真發(fā)生，代價(jià)比傳統(tǒng)武器大多了——畢竟機(jī)器不會(huì)猶豫，不會(huì)反思，錯(cuò)了就是錯(cuò)了，沒法挽回。你說，現(xiàn)在這些國(guó)家再想回頭聽中國(guó)的提議，還來得及嗎？

參考資料：人民日?qǐng)?bào)《致命自主武器系統(tǒng)：國(guó)際規(guī)范亟待完善》