本報(bào)記者 陳子帥 本報(bào)特約記者 李 靜

編者的話：在美以伊沖突中，人工智能（AI）工具的使用正引發(fā)越來(lái)越多的關(guān)注與擔(dān)憂。美國(guó)和以色列被爆在此次軍事行動(dòng)中使用AI系統(tǒng)分析情報(bào)、制定打擊名單、模擬作戰(zhàn)場(chǎng)景等。不過(guò)，有報(bào)道稱(chēng)，AI系統(tǒng)存在的問(wèn)題可能與伊朗南部一所小學(xué)遭遇空襲、導(dǎo)致170余人喪生的慘劇有關(guān)。同時(shí)，在此次沖突中，西方科技公司在中東的數(shù)據(jù)中心首次被伊朗當(dāng)作攻擊目標(biāo)。俄烏沖突曾被稱(chēng)為“第一場(chǎng)AI戰(zhàn)爭(zhēng)”。從持續(xù)至今的俄烏沖突，到暫時(shí)?；鸬募由硲?zhàn)爭(zhēng)，再到現(xiàn)在的美以伊沖突，AI的軍事化趨勢(shì)不斷出現(xiàn)新特點(diǎn)。同時(shí)，AI對(duì)戰(zhàn)場(chǎng)的深度介入也引發(fā)一系列問(wèn)題，包括“自動(dòng)化偏見(jiàn)”、監(jiān)督缺失，以及由此造成的更多平民傷亡等。這些都對(duì)戰(zhàn)爭(zhēng)倫理的底線提出拷問(wèn)。

從輔助性向自主性演變
3月11日，美國(guó)中央司令部司令庫(kù)珀在社交媒體上發(fā)布視頻稱(chēng)，AI已成為美國(guó)選擇襲擊伊朗目標(biāo)的重要工具。據(jù)《華盛頓郵報(bào)》報(bào)道，有知情人士透露，在襲擊伊朗的“史詩(shī)怒火”行動(dòng)中，美國(guó)和以色列都使用了美國(guó)帕蘭蒂爾公司構(gòu)建的“梅文智能系統(tǒng)”戰(zhàn)場(chǎng)情報(bào)平臺(tái)。該系統(tǒng)嵌入了美國(guó)Anthropic公司的AI模型“克勞德”，通過(guò)分析來(lái)自衛(wèi)星、監(jiān)控系統(tǒng)及其他情報(bào)渠道的機(jī)密數(shù)據(jù)，為美以在伊朗的軍事行動(dòng)提供實(shí)時(shí)目標(biāo)鎖定與優(yōu)先級(jí)排序。還有報(bào)道稱(chēng)，該系統(tǒng)此前被用于針對(duì)委內(nèi)瑞拉總統(tǒng)馬杜羅的行動(dòng)。

美國(guó)政府已將“梅文智能系統(tǒng)”的使用范圍大幅擴(kuò)展至軍方許多部門(mén)。截至去年5月，已有超過(guò)兩萬(wàn)名美國(guó)軍事人員使用該系統(tǒng)。

一名了解Anthropic公司與美國(guó)國(guó)防部合作情況的人士向美國(guó)全國(guó)廣播公司透露，“克勞德”主要用于協(xié)助分析師對(duì)情報(bào)進(jìn)行分類(lèi)，并不直接提供打擊目標(biāo)的建議。不過(guò)，在“史詩(shī)怒火”行動(dòng)的最初24小時(shí)內(nèi)，美軍在AI協(xié)助下對(duì)伊朗境內(nèi)超過(guò)1000個(gè)目標(biāo)進(jìn)行了打擊。面對(duì)每小時(shí)需處理42個(gè)目標(biāo)的作戰(zhàn)節(jié)奏，英國(guó)皇家三軍研究所研究員西爾維亞等專(zhuān)家表示，這表明襲擊目標(biāo)的確定在很大程度上是自動(dòng)生成的。

此前在加沙地帶，AI也成為以色列軍事行動(dòng)的核心工具之一。據(jù)美國(guó)《時(shí)代》周刊報(bào)道，以軍在針對(duì)巴勒斯坦伊斯蘭抵抗運(yùn)動(dòng)（哈馬斯）成員的報(bào)復(fù)行動(dòng)中，使用了多個(gè)AI系統(tǒng)生成打擊目標(biāo)建議。其中，名為“福音”的系統(tǒng)負(fù)責(zé)識(shí)別并建議攻擊哈馬斯人員可能活動(dòng)的建筑和設(shè)施。“薰衣草”系統(tǒng)則被編程用于識(shí)別哈馬斯及其他武裝組織的疑似成員，以供定點(diǎn)清除。此外，一個(gè)被稱(chēng)為“爸爸在哪”的系統(tǒng)通過(guò)追蹤目標(biāo)的手機(jī)信號(hào)來(lái)監(jiān)視其行蹤，以便鎖定打擊窗口。對(duì)于AI工具在加沙沖突中發(fā)揮的作用，以色列軍方此前發(fā)布聲明稱(chēng)，“福音”和“薰衣草”僅僅是“幫助情報(bào)分析師審查和分析現(xiàn)有信息”，它們不構(gòu)成確定可攻擊目標(biāo)的唯一依據(jù)，也不會(huì)自主選擇攻擊目標(biāo)。

俄烏沖突被許多媒體和學(xué)者評(píng)價(jià)為“第一場(chǎng)AI戰(zhàn)爭(zhēng)”。有專(zhuān)家2024年年底時(shí)稱(chēng)，AI工具在俄烏戰(zhàn)場(chǎng)上主要發(fā)揮支持和提供信息的作用，無(wú)論是AI驅(qū)動(dòng)的火炮系統(tǒng)還是AI制導(dǎo)的無(wú)人機(jī)，大多仍在測(cè)試階段，尚未實(shí)現(xiàn)完全自主。然而，《時(shí)代》周刊今年3月的報(bào)道顯示，這一局面正在迅速改變，俄烏沖突的方方面面正日益自動(dòng)化。

最令人震驚的是自主無(wú)人機(jī)的大量涌現(xiàn)。這些無(wú)人機(jī)配備的軟件能夠?qū)⒂行лd荷導(dǎo)航到數(shù)百英里之外，并鎖定目標(biāo)。烏克蘭增強(qiáng)型AI四軸飛行器可以在通信失敗時(shí)，在沒(méi)有人類(lèi)參與的情況下自主攻擊俄羅斯士兵。計(jì)算機(jī)視覺(jué)使該飛行器能夠識(shí)別并攻擊特定目標(biāo)，甚至能飛越窗戶(hù)對(duì)個(gè)人進(jìn)行精確打擊。如今，烏克蘭每天發(fā)射的無(wú)人機(jī)多達(dá)9000架，已成為全球各類(lèi)武器制造商的首要試驗(yàn)場(chǎng)，這些企業(yè)正競(jìng)相將常規(guī)“殺傷鏈”的部分環(huán)節(jié)實(shí)現(xiàn)自動(dòng)化、自主化。

軍事專(zhuān)家張軍社在接受《環(huán)球時(shí)報(bào)》記者采訪時(shí)表示，俄烏沖突初期，AI技術(shù)主要被用于輔助偵察以及目標(biāo)識(shí)別、情報(bào)分析等，AI系統(tǒng)之間的協(xié)同比較有限。在目前美國(guó)和以色列對(duì)伊朗的軍事打擊中，則實(shí)現(xiàn)了AI與聯(lián)合指揮控制系統(tǒng)的深度融合，在陸?？仗祀娋W(wǎng)六個(gè)作戰(zhàn)領(lǐng)域都實(shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)共享與協(xié)同作戰(zhàn)。簡(jiǎn)單地說(shuō)，從俄烏沖突到加沙戰(zhàn)爭(zhēng)，再到目前美以伊沖突，AI技術(shù)與工具在戰(zhàn)場(chǎng)上的角色正發(fā)生深刻演變：從輔助性走向核心性，從局部性走向全域性，從被動(dòng)性走向自主性。

AI基礎(chǔ)設(shè)施首次成為戰(zhàn)爭(zhēng)打擊目標(biāo)
在近期美以伊沖突中，一個(gè)引人關(guān)注的新動(dòng)向浮出水面——AI基礎(chǔ)設(shè)施首次成為打擊目標(biāo)。美國(guó)亞馬遜網(wǎng)絡(luò)服務(wù)公司表示，其位于阿聯(lián)酋和巴林的3處數(shù)據(jù)中心遭伊朗無(wú)人機(jī)襲擊。伊朗國(guó)家電視臺(tái)稱(chēng)，伊朗伊斯蘭革命衛(wèi)隊(duì)發(fā)動(dòng)襲擊的目的是“查明這些中心在支持?jǐn)撤杰娛潞颓閳?bào)活動(dòng)方面所起的作用”。據(jù)卡塔爾半島電視臺(tái)報(bào)道，伊朗伊斯蘭革命衛(wèi)隊(duì)日前已公布了一份新打擊目標(biāo)清單，其中包括谷歌、微軟、帕蘭蒂爾等多家美國(guó)科技公司在中東的數(shù)據(jù)中心和辦公場(chǎng)所。

伊朗對(duì)西方科技公司的警惕并非沒(méi)有理由。長(zhǎng)期以來(lái)，硅谷科技公司一直與五角大樓保持著深度合作關(guān)系。2月28日，美國(guó)企業(yè)開(kāi)放人工智能研究中心（OpenAI）宣布，該企業(yè)已與美國(guó)國(guó)防部達(dá)成協(xié)議，打算將其AI模型部署于美國(guó)國(guó)防部的機(jī)密網(wǎng)絡(luò)。去年，五角大樓還與谷歌、xAI等美國(guó)科技公司分別簽訂協(xié)議，計(jì)劃充分利用這些企業(yè)的技術(shù)和人才，加速美國(guó)國(guó)防部對(duì)先進(jìn)AI技術(shù)的采用。

以谷歌、亞馬遜為代表的西方科技公司，一方面為全球多國(guó)普通民眾提供日常服務(wù)，另一方面又與美國(guó)軍方保持深度合作。這引發(fā)了外界對(duì)于美國(guó)科技公司的民用AI工具及其數(shù)據(jù)是否會(huì)被用于軍事領(lǐng)域的擔(dān)憂。Anthropic公司就因?yàn)閾?dān)心美國(guó)政府會(huì)使用其AI工具對(duì)民眾進(jìn)行大規(guī)模監(jiān)控以及研發(fā)自主武器而與白宮發(fā)生沖突。

對(duì)于上述問(wèn)題，中國(guó)國(guó)際問(wèn)題研究院世界和平與安全研究所學(xué)者張高勝對(duì)《環(huán)球時(shí)報(bào)》記者表示，存在極高風(fēng)險(xiǎn)。他解釋說(shuō)，西方商業(yè)云存儲(chǔ)的海量數(shù)據(jù)，包括商業(yè)衛(wèi)星圖像、通信數(shù)據(jù)、金融交易記錄、社交媒體軌跡等，在戰(zhàn)時(shí)極易被美國(guó)軍方通過(guò)權(quán)限調(diào)用或技術(shù)手段獲取，轉(zhuǎn)化為打擊決策的依據(jù)。他提醒說(shuō)，數(shù)字主權(quán)成為新的戰(zhàn)略博弈場(chǎng)，數(shù)據(jù)中心、算力節(jié)點(diǎn)、通信光纜等直接關(guān)系國(guó)家安全與戰(zhàn)爭(zhēng)主動(dòng)權(quán)，因此“我們需加速建設(shè)自主可控的云基礎(chǔ)設(shè)施，推動(dòng)數(shù)據(jù)本地化存儲(chǔ)，并建立備份機(jī)制，確保在極端情況下的生存能力”。

確保人的控制和問(wèn)責(zé)制至關(guān)重要
美國(guó)和北約正在加快AI軍事化的速度。美國(guó)防長(zhǎng)赫格塞思近期敦促本國(guó)加速采用AI技術(shù)，以建立一支“AI優(yōu)先的作戰(zhàn)力量”。據(jù)美國(guó)喬治敦大學(xué)安全與新興技術(shù)中心高級(jí)研究員普羅巴斯科介紹，在代號(hào)為“猩紅之龍”的系列演習(xí)中，美國(guó)陸軍第18空降軍使用了帕蘭蒂爾公司的軟件，其打擊目標(biāo)選擇的效率追平了該部隊(duì)先前在伊拉克創(chuàng)下的紀(jì)錄。普羅巴斯科指出，得益于AI，該軍團(tuán)僅用20人就實(shí)現(xiàn)了這一效果，而在伊拉克戰(zhàn)爭(zhēng)時(shí)，完成同樣任務(wù)則需2000多人。

去年與帕蘭蒂爾公司簽約的北約，在最近的一段視頻中將其版本的“梅文智能系統(tǒng)”描繪成能給指揮官帶來(lái)如同電子游戲一般監(jiān)督戰(zhàn)場(chǎng)的能力。

雖然AI能給一國(guó)軍事帶來(lái)巨大優(yōu)勢(shì)，但也引發(fā)廣泛擔(dān)憂。從軟件無(wú)法識(shí)別或錯(cuò)誤識(shí)別人員，到自動(dòng)駕駛汽車(chē)導(dǎo)致的死亡事故，AI工具出問(wèn)題的例子不勝枚舉。對(duì)于AI軍事化的危害，有專(zhuān)家提到了“自動(dòng)化偏見(jiàn)”，即默認(rèn)AI提供的信息是準(zhǔn)確可靠的。美國(guó)AI專(zhuān)家阿薩羅指出，對(duì)于AI給出的襲擊建議，在授權(quán)打擊前人類(lèi)是否真的逐一審查這些目標(biāo)是個(gè)問(wèn)題。以色列記者亞伯拉罕曾與6名參與加沙行動(dòng)的以情報(bào)官員對(duì)話，以報(bào)道以色列對(duì)AI工具的使用情況。他援引以目標(biāo)制定官員的話說(shuō)，盡管他們知道“薰衣草”系統(tǒng)大約在10%的情況下會(huì)給出錯(cuò)誤目標(biāo)建議，但他們?nèi)砸蕾?lài)該系統(tǒng)。一名負(fù)責(zé)授權(quán)發(fā)動(dòng)空襲的以情報(bào)官員回憶說(shuō)，他只花了大約20秒來(lái)確認(rèn)一個(gè)目標(biāo)是否應(yīng)被襲擊，他的具體行動(dòng)就是核實(shí)該目標(biāo)是否是男性。很多學(xué)者和媒體認(rèn)為，加沙戰(zhàn)爭(zhēng)之所以造成大量平民傷亡，與以色列使用AI工具有密切關(guān)系。

美國(guó)和以色列在打擊伊朗時(shí)使用AI技術(shù)，不僅引發(fā)許多道德和法律問(wèn)題，也使人擔(dān)憂人類(lèi)可能正在失去對(duì)戰(zhàn)爭(zhēng)機(jī)器的控制。以色列國(guó)防軍前總參謀長(zhǎng)科哈維2023年接受采訪時(shí)也提出了類(lèi)似的觀點(diǎn)。他說(shuō)：“令人擔(dān)憂的不是機(jī)器人會(huì)控制我們，而是AI會(huì)在我們沒(méi)有意識(shí)到的情況下控制我們的思想并取代我們?！?/p>

美國(guó)《時(shí)代》周刊報(bào)道稱(chēng)，約束武裝沖突的條約對(duì)于實(shí)現(xiàn)軍事效果所使用的工具并無(wú)具體規(guī)定。無(wú)論使用的武器是弩、坦克，還是基于AI技術(shù)的數(shù)據(jù)庫(kù)，都適用于相關(guān)國(guó)際法。不過(guò)，包括紅十字國(guó)際委員會(huì)在內(nèi)的一些機(jī)構(gòu)和學(xué)者認(rèn)為，AI軍事化需要新的法律框架來(lái)規(guī)范，并指出隨著AI武器系統(tǒng)變得越來(lái)越先進(jìn)，確保人對(duì)這些系統(tǒng)的控制和問(wèn)責(zé)制至關(guān)重要。

?中國(guó)專(zhuān)家也就AI軍事化風(fēng)險(xiǎn)發(fā)出警示。張高勝對(duì)《環(huán)球時(shí)報(bào)》記者表示，AI軍事化速度越來(lái)越快，各國(guó)日益陷入競(jìng)賽當(dāng)中，但關(guān)于AI軍事化的監(jiān)管框架或者共識(shí)仍舊沒(méi)有形成，例如堅(jiān)持人道主義原則等。與此同時(shí)，由于AI軍事化的“黑箱”效應(yīng)，無(wú)法關(guān)注沖突方是否貫徹相關(guān)原則，這對(duì)于軍備控制來(lái)說(shuō)是一項(xiàng)重大挑戰(zhàn)，國(guó)際社會(huì)需要展開(kāi)相關(guān)軍控談判。