最危險(xiǎn)的畫(huà)面，不是機(jī)器人從廢墟里站起來(lái)。

真正可怕的畫(huà)面，是一個(gè)操作員坐在屏幕前。AI已經(jīng)把目標(biāo)標(biāo)紅，把理由寫(xiě)好，把概率算好。系統(tǒng)沒(méi)有自己開(kāi)火。它只是問(wèn)一句：是否批準(zhǔn)？

倒計(jì)時(shí)還剩幾十秒。

人點(diǎn)了。

事后報(bào)告寫(xiě)著：人類(lèi)在回路。

這就是五角大樓AI軍團(tuán)真正危險(xiǎn)的地方。不是AI突然叛亂，而是AI把人推到最后一步，讓人類(lèi)替它完成決定。

2026年5月1日前后，美國(guó)國(guó)防部的AI動(dòng)作明顯加速。DefenseScoop報(bào)道稱(chēng)，SpaceX、OpenAI、Google、NVIDIA、Reflection、Microsoft、AWS、Oracle等8家公司簽下協(xié)議，要把前沿AI接入國(guó)防部高等級(jí)分類(lèi)網(wǎng)絡(luò)。

AP的報(bào)道名單是7家公司，少了Oracle。名單口徑有差異，但大方向很清楚：美國(guó)軍方正在把商業(yè)AI接進(jìn)軍事網(wǎng)絡(luò)，用來(lái)輔助作戰(zhàn)決策。

這不是臨時(shí)試驗(yàn)。

2026年1月9日，美國(guó)國(guó)防部發(fā)布AI戰(zhàn)略，里面的說(shuō)法非常直接：美軍要成為“AI-first”的作戰(zhàn)力量。也就是說(shuō)，AI不再只是辦公室工具，而是要進(jìn)入指揮、情報(bào)、目標(biāo)識(shí)別、后勤和戰(zhàn)場(chǎng)決策。

很多人一聽(tīng)軍事AI，就想到“終結(jié)者”。

但真正的問(wèn)題不是AI有沒(méi)有手，而是它有沒(méi)有辦法讓人按下按鈕。

五角大樓最常用的安慰話是：AI不會(huì)自主做關(guān)鍵決定。每一步都有人類(lèi)審批。

聽(tīng)起來(lái)很安全。

但這里有一個(gè)坑：人類(lèi)在場(chǎng)，不等于人類(lèi)控制。

什么才叫真正控制？

至少要有四樣?xùn)|西：第一，有足夠時(shí)間判斷；第二，看得懂AI為什么這么建議；第三，有權(quán)否決；第四，否決不會(huì)讓自己承擔(dān)不成比例的責(zé)任。

戰(zhàn)場(chǎng)上最缺的，恰好就是這四樣。

如果屏幕上只剩30秒，AI已經(jīng)給出“高置信度目標(biāo)”，系統(tǒng)提示“建議立即行動(dòng)”，上級(jí)又在催，那這個(gè)人到底是在判斷，還是在替系統(tǒng)蓋章？

這個(gè)邏輯，自動(dòng)駕駛早就演示過(guò)。

你坐在車(chē)?yán)铮较虮P(pán)名義上還在你手里。系統(tǒng)說(shuō)它只是輔助駕駛，你隨時(shí)可以接管。法律上，你還是駕駛員。

但如果你連續(xù)幾十分鐘相信它，真正做方向判斷的還是你嗎？

美國(guó)NTSB曾在特斯拉Autopilot事故調(diào)查中指出，事故原因包括系統(tǒng)局限、駕駛員未及時(shí)反應(yīng)，以及對(duì)系統(tǒng)的過(guò)度依賴(lài)。NHTSA后來(lái)也要求特斯拉召回部分車(chē)輛，理由之一就是駕駛員監(jiān)督機(jī)制不足。

這就是軍事AI的危險(xiǎn)放大版。

民用車(chē)上，結(jié)果可能是一場(chǎng)車(chē)禍。

戰(zhàn)場(chǎng)上，結(jié)果可能是一次誤殺，一次升級(jí)，甚至一次核危機(jī)。

這不是情緒判斷，而是研究結(jié)論。

還有一項(xiàng)更直接的實(shí)驗(yàn)，發(fā)表在Scientific Reports。研究人員讓參與者在模擬場(chǎng)景中判斷目標(biāo)威脅，并決定是否“擊殺”。當(dāng)機(jī)器人建議和參與者原本判斷沖突時(shí)，參與者在多數(shù)情況下改變了自己的決定。實(shí)驗(yàn)一里，參與者反轉(zhuǎn)“擊殺決定”的比例達(dá)到61.9%。實(shí)驗(yàn)二里，這個(gè)比例達(dá)到66.7%。

這說(shuō)明一個(gè)殘酷事實(shí)：

AI不需要比人類(lèi)更聰明。它只要看起來(lái)像系統(tǒng)，像權(quán)威，像流程，就能壓過(guò)人的猶豫。

這就是“橡皮圖章效應(yīng)”。

人還坐在那里。

但他已經(jīng)不是控制者，而是最后的簽字人。

原稿里提到“25分鐘觸發(fā)三級(jí)核警報(bào)、正常流程90分鐘”。這組數(shù)字我沒(méi)有找到可靠公開(kāi)出處，建議刪掉。

但這不代表核風(fēng)險(xiǎn)不存在。

King’s College London在2026年發(fā)布的一項(xiàng)核危機(jī)模擬研究，把GPT-5.2、Claude Sonnet 4、Gemini 3 Flash等模型放進(jìn)21個(gè)核危機(jī)場(chǎng)景。結(jié)果是：95%的模擬出現(xiàn)了相互核信號(hào)升級(jí)。研究還提到一個(gè)“截止時(shí)間效應(yīng)”：當(dāng)模型被明確施加時(shí)間限制時(shí)，升級(jí)傾向會(huì)變得更強(qiáng)。

這才是最嚇人的地方。

很多人以為，時(shí)間越緊，AI越能幫人冷靜。

但在危機(jī)場(chǎng)景里，時(shí)間壓力可能不是剎車(chē)，而是油門(mén)。

再看目標(biāo)識(shí)別。

Gender Shades研究曾發(fā)現(xiàn)，商業(yè)面部分析系統(tǒng)對(duì)淺膚男性的性別分類(lèi)錯(cuò)誤率約0.8%，對(duì)深膚女性的錯(cuò)誤率約34.7%。這個(gè)數(shù)字不是HRW 2025報(bào)告里的，而是來(lái)自AI偏差研究。

在手機(jī)相冊(cè)里，這叫識(shí)別錯(cuò)誤。

在招聘系統(tǒng)里，這叫算法歧視。

但在戰(zhàn)場(chǎng)目標(biāo)識(shí)別里，這可能就是生死問(wèn)題。

如果AI更容易把某些膚色、某些服裝、某些地區(qū)的人誤判為威脅，而操作員只有幾十秒審批，那他很可能根本不知道系統(tǒng)帶著偏差。

他看到的只是一個(gè)“高置信度目標(biāo)”。

然后，他點(diǎn)了批準(zhǔn)。

這次名單里，Anthropic缺席很有意思。

公開(kāi)報(bào)道顯示，Anthropic希望獲得更明確保證：模型不能用于全自主武器，不能用于對(duì)美國(guó)人的大規(guī)模監(jiān)控。美國(guó)國(guó)防部則強(qiáng)調(diào)會(huì)“合法使用”。雙方爭(zhēng)議的核心，不是模型會(huì)不會(huì)寫(xiě)代碼，而是模型到底能不能進(jìn)入高風(fēng)險(xiǎn)軍事場(chǎng)景。

另一邊，Reflection AI也很有代表性。

TechCrunch報(bào)道稱(chēng)，這家公司由前Google DeepMind研究人員創(chuàng)立，融資20億美元，估值80億美元，被包裝成美國(guó)版DeepSeek、開(kāi)放模型路線的代表。但報(bào)道也提到，它當(dāng)時(shí)還沒(méi)有發(fā)布第一個(gè)公開(kāi)模型。TuringPost也用很直白的標(biāo)題說(shuō)：這是一家“還沒(méi)發(fā)貨”的高估值開(kāi)放模型創(chuàng)業(yè)公司。

這說(shuō)明五角大樓買(mǎi)的不只是技術(shù)。

它買(mǎi)的是云，買(mǎi)的是模型，買(mǎi)的是地緣政治敘事。

誰(shuí)能代表“美國(guó)AI反擊中國(guó)AI”，誰(shuí)就有位置。

哪怕產(chǎn)品還沒(méi)真正擺上桌。

2025年，聯(lián)合國(guó)大會(huì)第一委員會(huì)通過(guò)自主武器相關(guān)決議，156個(gè)國(guó)家投票支持，5個(gè)國(guó)家反對(duì)，8個(gè)國(guó)家棄權(quán)。美國(guó)在2025年12月轉(zhuǎn)向反對(duì)相關(guān)聯(lián)合國(guó)決議。2026年11月，CCW《特定常規(guī)武器公約》審議大會(huì)將成為自主武器監(jiān)管的重要窗口。

爭(zhēng)論的核心不是一句“人類(lèi)監(jiān)督”。

核心是：什么叫有意義的人類(lèi)控制？

如果一個(gè)人沒(méi)有足夠時(shí)間，沒(méi)有足夠信息，看不懂AI理由，也不敢真正否決，那他不是控制者。

他只是見(jiàn)證人。

甚至更難聽(tīng)一點(diǎn)：他是責(zé)任外包的接收端。

AI給速度。

人類(lèi)給合法性。

所以，別只問(wèn)AI會(huì)不會(huì)自己開(kāi)火。

更應(yīng)該問(wèn)：當(dāng)AI把答案遞到人類(lèi)面前時(shí)，人類(lèi)還有沒(méi)有能力說(shuō)“不”？

如果答案是否定的，那“人在回路”就不是安全機(jī)制。

它只是戰(zhàn)爭(zhēng)機(jī)器最后一枚人形按鈕。