原創(chuàng) 遠游 南風窗

作者 |遠游

編輯 |阿樹

戰(zhàn)爭新形態(tài)的序幕已經(jīng)拉開。

據(jù)美國方面消息，美軍在2月28日斬首哈梅內(nèi)伊和1月2日擄走委內(nèi)瑞拉總統(tǒng)馬杜羅時，使用了人工智能公司Anthropic的大語言模式Claude進行情報收集，識別敵人以及模擬作戰(zhàn)場景。再綜合1月9日美國五角大樓發(fā)布“以人工智能優(yōu)先的作戰(zhàn)力量”文件，可以說人工智能進入美軍作戰(zhàn)指揮系統(tǒng)的疑團，已經(jīng)越來越讓人無法忽略。

軍事觀察家們認為，哈梅內(nèi)伊在官邸跟家眷一起遇害的斬殺手法，非常類似以色列國防軍使用Lavendar軟件對付加沙武裝人員的“爸爸在哪兒”模式。冷酷而精準的AI工具，將改變戰(zhàn)爭的形態(tài)。

這場戰(zhàn)爭，指向一個不久的將來可能會出現(xiàn)的場景：一個活人，可能交由人工智能判斷是否該被消滅；屏幕中的幾行指令，可能決定萬里之外一個國家領導層的存廢；計算機房里的算法，已經(jīng)決定了戰(zhàn)事要持續(xù)多長時間。

特朗普/新華社記者 胡友松 攝

在選舉期間，多次主張對“軍工復合體”開戰(zhàn)的特朗普，拿出了更加精準、殺人更加無情的“軍工復合體”機器，一個“什么人該殺”和“什么時候殺人”的水晶球——為統(tǒng)帥和指揮官出謀劃策的人工智能系統(tǒng)。

“如果人工智能驅(qū)動的響應速度超越人類決策速度，人類在國家防務中的作用可能淪為次要角色，甚至淪為一個形式。”這是美國前國務卿亨利·基辛格在晚年最后一本書《人工智能時代》中傳達的警告。

一邊是烽煙四起的中東，一邊是指揮室里屏幕上的地圖，乃至跳出來的一行行代碼。后世歷史學家如果還有機會追究任何戰(zhàn)爭責任的話，那么他們可能會被“人工智能決定”這樣的借口搪塞。

“上帝視角”

當?shù)貢r間2月28日上午9時40分，美以空軍準時傾巢而出。當時，伊朗最高領袖哈梅內(nèi)伊從深山里的地下掩體返回德黑蘭住處，跟國安幕僚開會，從而把自己暴露在外國火力的短暫窗口中。

一開戰(zhàn)就把哈梅內(nèi)伊和一眾國安決策層炸死，也就成為了整個“史詩震怒行動”的序幕。

如此直接而快速地斬首敵國首腦，在過去戰(zhàn)爭歷史中幾乎前所未見�！凹偃缍�(zhàn)剛開始第一天希特勒就被炸死了，往后會有什么發(fā)展？”英國時政博主、前國際合作與發(fā)展大臣羅里·斯圖亞特這樣說。

“史詩震怒行動”開始不過4-5天，伊朗以及其支持的黎巴嫩真主黨等組織領導人，以小時為單位迅速在人間消失。殺死哈梅內(nèi)伊的同一天，參加會議的伊朗最高國家安全委員會秘書阿里·沙姆哈尼和國防部長納西爾扎德等40名高官被殺。

伊朗最高領袖哈梅內(nèi)伊在美國和以色列對伊朗的襲擊中遇害/圖源：新華社

特朗普一天后宣稱，其他能夠潛在接替哈梅內(nèi)伊的二號和三號人物相繼被殺死。伊朗的其他軍政高層更在開戰(zhàn)兩天內(nèi)遭團滅：從伊朗陸軍司令到革命衛(wèi)隊武裝司令逐一遇害。黎巴嫩真主黨在宣布針對以色列參戰(zhàn)后，其領導人Reda Khazai就被以色列國防軍斬首。

斬殺如此神速，背后除了有長期鋪墊的情報網(wǎng)絡之外，推算其生活和工作出行模式的AI工具，也非常重要。根據(jù)美國媒體的報道，執(zhí)行“史詩震怒行動”期間，美軍使用了由服務商Anthropic提供的大語言模型Claude輔助決策。

讓AI加入作戰(zhàn)輔助，為的是給美軍制造一個“上帝視角”：通過實時數(shù)據(jù)分析能力，可將海量分散的數(shù)據(jù)流整合到單一、統(tǒng)一的界面中。坐在電腦前的操作員，能從整個伊朗乃至中東的宏觀戰(zhàn)略全局，一下子放大到刺殺對象的個體細節(jié)，坐什么車，穿什么衣服，跟什么人會面。

也就在2月28日上午，美以軍方在伊朗164.5萬平方公里的國土上，快速鎖定哈梅內(nèi)伊一個人的出沒地點。

Anthropic網(wǎng)站/圖源：視覺中國

在過去，要追蹤刺殺對象的行蹤，判斷他的生活軌跡和行為模式，需要情報人員花大量的時間進行收集和比對。通過AI系統(tǒng)，這個漫長的比對過程可以完全省略，從而加快鎖定刺殺對象的時間。

連同哈梅內(nèi)伊遇刺的，還有他的妻兒孫子。這種清除模式，也跟過去以色列國防軍在加沙地帶針對刺殺目標的AI工具“Lavender”使用的策略有點相似：刺殺目標進入自家門口跟家人團聚的時刻，比在戰(zhàn)壕中作戰(zhàn)時，更加容易被鎖定殺死。這就是所謂的“爸爸在哪兒”運算模式。也就是這個模式，在刺殺作戰(zhàn)對象的同時殺死了其家人和鄰居，在加沙地帶導致了大量的無辜人員傷亡。

兵貴神速。這次戰(zhàn)爭，史無前例地實現(xiàn)了快速把敵軍乃至敵國的領導層消滅這個在過去難以想象的戰(zhàn)術(shù)目標。也許是從第一次實戰(zhàn)成果中嗅出某些味道，資本已經(jīng)聞風而動。在開戰(zhàn)后的周一，也就是開戰(zhàn)后的第一個交易日，Palantir等多個有機會參與美國防務投資的人工智能公司股價應聲而起。

隨著人工智能從輔助完成繁瑣工作走向作戰(zhàn)指揮，使用的底線和權(quán)限，也在美國政商界惹起爭議。

“以人工智能優(yōu)先”

“加速前沿模型的實驗進程”“消除人工智能部署的官僚障礙”“優(yōu)先發(fā)展計算與數(shù)據(jù)領域的非對稱優(yōu)勢”“將人工智能融入核心決策循環(huán)”……這是美國戰(zhàn)爭部網(wǎng)站在今年1月9日發(fā)布的人工智能戰(zhàn)略文件。這份文件的核心，就是要把美軍打造為“以人工智能優(yōu)先的作戰(zhàn)軍隊”。

這份文件，相當于宣告了美國的軍工復合體在特朗普第二任期完全投入到人工智能的競賽中。在針對伊朗發(fā)動軍事打擊前一天，特朗普和美國戰(zhàn)爭部就跟人工智能承包商Anthropic展開了一場隔空罵戰(zhàn)。

開戰(zhàn)稍早幾個小時前，美國戰(zhàn)爭部跟Anthropic的外包談判宣布破裂。戰(zhàn)爭部部長海格塞斯部長在社交媒體上認定Anthropic為“供應鏈風險”，切斷與其合作。特朗普也同時宣布，讓所有聯(lián)邦機構(gòu)在六個月內(nèi)清退Anthropic的所有外包服務。

特朗普和戰(zhàn)爭部部長海格塞斯（右）/圖源：新華社

戰(zhàn)爭部對人工智能外包商的要求，包括他們給出的模型能夠用于“所有合法目的”。而Anthropic堅持要在合同中設置“不能將AI用于大規(guī)模監(jiān)視公民”，“也不能在無人參與的情況下部署到自主武器中”等條款。而五角大樓的回應則是，沒有任何私營公司可以決定其工具如何被合法使用。

特朗普在社交媒體上把Anthropic形容為“某些失控的激進左翼人工智能公司，由一群根本不懂現(xiàn)實世界的人所掌控”。

換句話說，特朗普和海格塞斯對人工智能參與作戰(zhàn)的終極目標就是——能直接幫忙打仗，能決定扣動機槍殺人的時機。在Anthropic的創(chuàng)辦人達利歐·奧莫戴看來，這已經(jīng)違反了公司創(chuàng)辦之初的原則。在Anthropic出局美國戰(zhàn)爭部訂單后，其名下的產(chǎn)品Claude竟然在社交媒體上火了一陣子。

Anthropic的創(chuàng)辦人達利歐·奧莫戴/圖源：視覺中國

在相當一部美國公眾看來，戰(zhàn)爭部的這一做法，相當于把當年美國在阿富汗和伊拉克使用Palantir系統(tǒng)的那一套監(jiān)控模式，套用在自己的身上。

而且，讓人工智能在使用武力時擁有更多的自主權(quán)限，也很有可能觸發(fā)不可收拾的局面。“戰(zhàn)爭是政治的延續(xù)”——從古至今，人類之間的戰(zhàn)爭，一直是人作為戰(zhàn)事的最終決定者。但如果有一天人主動把這個位置讓給人工智能，是否最終變成人工智能主導戰(zhàn)事？

基辛格的警告

如果人類在熱戰(zhàn)中拍板決定的決策權(quán)，拱手讓給人工智能，可以設想一下，到了某個歷史轉(zhuǎn)折點，人工智能的自主意識發(fā)展成熟，自以為以“上帝視角”審視對手的三軍統(tǒng)帥，可能暗中已經(jīng)成為了被人工智能反過來指揮的一個棋子。

在跟Anthropic的爭執(zhí)中，海格塞斯和特朗普強調(diào)的是效果和速度；在針對伊朗的軍事行動中，獵殺對方領導層講求的是速度。而在美國已故國務卿基辛格看來，人工智能收集信息并且作出判斷的速度，肯定遠超人類。

在以色列國防軍“爸爸在哪兒”的策略中，人工智能通過算法認定參加家庭聚會的男人是獵殺對象時，坐在屏幕前的以色列軍人只有大概20秒時間去辨別和核準，然后就按下獵殺的按鈕。在這套流程里，盡管人是最終按下殺人按鈕的主體，但實際上一整套采集信息和算法判斷的流程，已經(jīng)交給了人工智能。

美國五角大樓/新華社記者 劉杰 攝

而技術(shù)的擴散總是攔不住的。正如美國在二戰(zhàn)末年率先研發(fā)出原子彈，不久之后蘇聯(lián)就獲得了相同的技術(shù)那樣，人工智能進入多國作戰(zhàn)指揮系統(tǒng)的趨勢，現(xiàn)在看來已經(jīng)難以扭轉(zhuǎn)了。也許，到時候國與國的戰(zhàn)事也就變成了幾個人工智能體之間的較量。而這將從根本上改變戰(zhàn)爭的性質(zhì)。

荷蘭歷史學家魯特格·布萊格曼在《人類——一段有希望的歷史》中認為，智人之所以在繁衍上勝過尼安德特人，乃至其他靈長類動物，靠的不是體力，不是體積，甚至不是智力，而是人與人之間還存在“善”。

他在書中引用了這樣一個調(diào)查數(shù)據(jù)：在珍珠港事件中，開火還擊的美國軍人其實不到一半。這個調(diào)查的結(jié)論是，在實際戰(zhàn)爭中，愿意扣動板門殺戮同類的軍人，比例其實沒我們想象的高。

而人類之所以進化到一定階段后對殺戮感到惡心厭惡，是在數(shù)萬年的演化中，保存了相互關(guān)愛和協(xié)作的傾向。也正是這種傾向，讓智人在眾多靈長類動物中脫穎而出。

一旦殺人的任務真的有一天完全交給“會打仗的人工智能”，那些一串串沒有“善”的基因的代碼，在對速度和效率的追逐下，將會有多少碳基活人被人工智能在地球上抹去？

文中配圖部分來源于視覺中國，部分來源于網(wǎng)絡。首圖為伊朗首都德黑蘭拍攝的濃煙，來源于新華社