西班牙拉科魯尼亞舉行第三屆軍事領(lǐng)域人工智能峰會(huì)，2月4日到5日，最終只有35個(gè)國(guó)家簽字，85個(gè)到場(chǎng)國(guó)家中有一多半沒有簽字，兩個(gè)大國(guó)也沒有簽字。會(huì)議的主題為“負(fù)責(zé)任地使用人工智能”，試圖為軍事AI制定一些基本的國(guó)際規(guī)則，即人類對(duì)AI武器系統(tǒng)負(fù)責(zé)，指揮控制鏈要明確，防止未來戰(zhàn)場(chǎng)被算法所操控。但是宣言沒有法律效力，簽字才算是把話說成了，低簽署率也更加凸顯出現(xiàn)實(shí)中的猶豫。

軍事AI已經(jīng)在軍隊(duì)中進(jìn)行測(cè)試，在戰(zhàn)場(chǎng)上也已經(jīng)使用了無人系統(tǒng)、自主識(shí)別、集群協(xié)同等。一旦失控，就是一點(diǎn)微小的傷害，而把“開火權(quán)”交給黑匣子，這就牽涉到責(zé)任和倫理方面的問題。會(huì)場(chǎng)內(nèi)拒絕簽署的原因主要是因?yàn)槿狈π湃?，不相信?duì)方會(huì)把軍事力量交由國(guó)際規(guī)則來約束，不相信大國(guó)會(huì)在關(guān)鍵時(shí)刻依照協(xié)議行事。更現(xiàn)實(shí)的是囚徒困境，大家都希望對(duì)方克制，但是沒有人愿意第一個(gè)攤牌。供應(yīng)鏈、稀土、半導(dǎo)體、數(shù)據(jù)與算法公平性都屬于底層變量，可以轉(zhuǎn)化成戰(zhàn)術(shù)上的優(yōu)勢(shì)，擔(dān)心立規(guī)矩會(huì)使自己慢半拍。

美國(guó)保持含糊其辭的態(tài)度：不明確反對(duì)，但是也不簽署，原因是“進(jìn)一步評(píng)估”。其在軍事AI方面投入很大，軍費(fèi)中用于AI的資金超過四百億美元，海軍、空軍、太空領(lǐng)域廣泛測(cè)試自主作戰(zhàn)系統(tǒng)。美國(guó)希望保持速度、自由度和不受限制的手，不愿意公開指揮鏈的設(shè)計(jì)，也不談?wù)摵谙渲卫?、?shù)據(jù)偏見責(zé)任機(jī)制，把軍事AI當(dāng)作競(jìng)賽，追求超越而不是公正。

簽與不簽并不是強(qiáng)弱的簡(jiǎn)單標(biāo)志，主要看有沒有用規(guī)則來解決問題的誠(chéng)意和能力。大會(huì)制度性落地有限，但是雙方態(tài)度很明確：一方亮原則、亮路徑，另一方?？臻g、使手腕。準(zhǔn)備好把話說成事的人，就更容易引導(dǎo)出共識(shí)。組織者也承認(rèn)成果更像是姿態(tài)，但是國(guó)際規(guī)則常常是從薄紙開始：先立詞語(yǔ)，再畫邊界，再裝進(jìn)審計(jì)和問責(zé)，需要時(shí)間以及不斷的對(duì)話來不斷壓縮不確定。

軍事AI風(fēng)險(xiǎn)并不遙遠(yuǎn)，數(shù)據(jù)存在偏差，算法也會(huì)繼承偏差；黑箱判斷目標(biāo)，士兵按確認(rèn)鍵，各個(gè)步驟都有出錯(cuò)的風(fēng)險(xiǎn)。把開火權(quán)交給代碼，這是目前的危險(xiǎn)。規(guī)則不是束縛人的，而是保護(hù)人、擔(dān)責(zé)和設(shè)限。以人為本聽起來很溫柔，但是實(shí)際上是有硬約束的。最要緊的是使技術(shù)遵守規(guī)則、讓人掌握最后的剎車。不簽并不等于不治理，簽了也不代表一定能治理好，看態(tài)度、看能力、看政策連續(xù)性。

下一步關(guān)于軍事AI的討論會(huì)更加密切。有理論基礎(chǔ)、能給出合作途徑、能提出風(fēng)險(xiǎn)控制方案的人，就會(huì)成為邊界框架的主導(dǎo)者。不是看誰(shuí)喊得大聲，而是看誰(shuí)行動(dòng)穩(wěn)當(dāng)、落子精準(zhǔn)。棋局已經(jīng)擺開了，不能著急也不能拖沓。這不是遙遠(yuǎn)的外交辭令，而是怎樣給日益智能的技術(shù)裝上安全帶、誰(shuí)來兜底并且能夠兜得住的現(xiàn)實(shí)問題。