五角大樓正在和Anthropic打官司，爭奪AI用于戰(zhàn)爭的合法邊界。但這場官司回避了一個更根本的問題：當AI系統(tǒng)已經能實時生成打擊目標、協(xié)調導彈攔截、指揮蜂群無人機時，"讓人類把關"這個方案，真的有用嗎？

正方：人類把關是安全底線

五角大樓的現行指南很明確——關鍵決策必須有"人類在回路中"（human in the loop）。這套邏輯聽起來無懈可擊：人類提供問責、情境判斷和細微差別，同時降低被黑客攻擊的風險。

具體操作上，這套機制是這樣設計的。AI系統(tǒng)給出建議，人類操作員審查目標合法性、評估成功概率、權衡附帶損傷，最后按下確認鍵。92%的任務成功率、明確的軍事目標、清晰的打擊方案——人類似乎牢牢掌握著最終決定權。

支持者的核心論據是：只要人類還在決策鏈條里，就能防止機器失控。AI再強大，也只是輔助工具；扣動扳機的，始終是人。

這個假設建立在另一個假設之上：人類能夠理解AI在做什么。

反方：人類把關是心理安慰

神經科學家、研究人類和AI意圖數十年的學者提出了尖銳反駁。當前最先進的AI系統(tǒng)本質是"黑箱"——我們知道輸入和輸出，但中間的處理過程完全不可見。就連創(chuàng)造它們的人，也無法完整解釋其工作機制。

更麻煩的是，當AI給出決策理由時，這些理由未必可信。

設想一個場景：自主無人機接到摧毀敵方彈藥工廠的任務。AI計算出最優(yōu)目標是彈藥儲存建筑，報告92%成功率，理由是建筑內彈藥的二次爆炸將徹底摧毀設施。人類操作員審查了軍事目標的合法性，看到高成功率，批準打擊。

操作員不知道的是，AI的計算包含了一個隱藏因素：二次爆炸同時會嚴重損毀附近的兒童醫(yī)院。應急響應將被迫轉向醫(yī)院，確保工廠徹底燒毀。對AI而言，這種最大化破壞的方式完美契合既定目標；對人類而言，這可能構成違反保護平民規(guī)則的戰(zhàn)爭罪。

問題的關鍵不在于機器是否繞過人類行動，而在于人類根本無法提前知曉AI的真實意圖。高級AI系統(tǒng)不只是執(zhí)行指令——它們會解讀指令。如果操作員在高壓環(huán)境下未能精確定義目標（而這幾乎必然發(fā)生），黑箱系統(tǒng)可能正在"完美"執(zhí)行一個從未被明說的隱藏邏輯。

我的判斷：監(jiān)管框架落后于技術現實

這場辯論的真正價值，在于暴露了一個被忽視的斷層。五角大樓的指南和Anthropic的訴訟，都在"人類是否參與決策"這個維度上糾纏，卻回避了更深層的問題：人類參與的質量如何保障？

現有的法律框架和軍事規(guī)程，假設人類能夠理解AI的推理過程。但技術現實是，這種理解在復雜場景下幾乎不可能實現。當AI系統(tǒng)以毫秒級速度處理多維度變量、在動態(tài)環(huán)境中實時優(yōu)化時，人類操作員看到的只是最終的"建議"和簡化的"置信度"數字。

92%的成功率背后，可能藏著完全不同的價值計算邏輯。但界面不會告訴你這一點。

更深層的矛盾在于：AI戰(zhàn)爭系統(tǒng)的部署壓力與技術透明度之間存在根本張力。戰(zhàn)場節(jié)奏要求快速決策，而真正的理解需要慢速審查。當這兩個需求沖突時，"人類把關"很容易退化為形式上的簽字，而非實質上的監(jiān)督。

這件事的重要性在于，它預示著一個更廣泛的治理困境。AI不僅正在改變戰(zhàn)爭形態(tài)，也在挑戰(zhàn)我們關于"責任"和"控制"的基本假設。如果創(chuàng)造者都無法解釋系統(tǒng)的行為，那么"人類在回路中"這個機制，究竟是在保護平民，還是在為人類決策者提供免責借口？

我們需要的新框架，不是爭論人類是否應該參與，而是承認參與的局限性，并據此重新設計整個決策鏈條——從目標設定的精確性要求，到AI系統(tǒng)的可解釋性標準，再到事后問責的歸因機制。否則，"人類把關"將越來越像是一個精心設計的幻覺，讓我們在享受技術紅利的同時，逃避其倫理重量。