洛克希德·馬丁公司首席技術(shù)官克雷格·馬特爾在人工智能峰會上預(yù)測，未來戰(zhàn)爭的核心形態(tài)將是“人機協(xié)作”。他主張人類應(yīng)深入訓練將部署的AI系統(tǒng)，充分了解其誤差和局限性，并在決定使用后“為錯誤負責”。美國陸軍剛剛接收了首架自主“黑鷹”直升機，可在無人操作或遠程監(jiān)督下執(zhí)行任務(wù)。隨著無人機戰(zhàn)爭成為現(xiàn)代沖突的核心，美軍正加速向自主系統(tǒng)轉(zhuǎn)型，但關(guān)于“何時信任AI”和“誰為失誤負責”的倫理與法律辯論也在同步升溫。

洛克希德·馬丁公司首席技術(shù)官克雷格·馬特爾周三在美國媒體Axios舉辦的人工智能+DC峰會上預(yù)測，未來戰(zhàn)爭將是人與機器的協(xié)同作戰(zhàn)。

隨著美國軍方擴大自主武器的使用，關(guān)于何時（或是否）信任這些系統(tǒng)、以及誰應(yīng)為錯誤或誤擊負責的辯論日益激烈。

馬特爾說，“我希望我們真正聚焦于人機協(xié)作，因為我不相信大規(guī)模統(tǒng)計數(shù)據(jù)能讓我們實現(xiàn)認知型機器?！?/strong>

他表示，人類的責任是與計劃部署的AI系統(tǒng)一起訓練，并弄清它存在的錯誤和局限性?！叭缓竽悴拍茏龀隼硇缘臎Q定：是否愿意承擔責任，部署那臺設(shè)備，部署那個平臺?！?/strong>

“我選擇使用它，”他說，“如果它出錯了，那是我的錯?！?/p>

馬特爾設(shè)想的“夢之隊”是一位飛行員與一群自主飛機協(xié)同飛行，這些自主飛機可以保護飛行員。

馬特爾曾擔任美國國防部首任首席數(shù)字與人工智能官，了解軍隊如何將AI整合進保密系統(tǒng)。

美國陸軍剛剛接收了首架自主“黑鷹”直升機，它可以獨立完成任務(wù)，或在安全遠程位置的遠程監(jiān)督下完成任務(wù)。

這架直升機正在進行“嚴格”測試，由洛克希德·馬丁公司的一家子公司開發(fā)。

此次交付反映了隨著無人機戰(zhàn)爭和無人車輛日益成為現(xiàn)代作戰(zhàn)的核心，美軍正朝著自主系統(tǒng)方向廣泛邁進。

今年1月，美國陸軍在阿拉巴馬州拉克堡舉行的儀式上，正式接收了首架UH-60A“自主黑鷹”直升機。該機由洛克希德·馬丁旗下西科斯基公司與DARPA合作開發(fā)，已完成超過500小時無人飛行測試，可在無飛行員介入的情況下執(zhí)行物資投送、傷員后送和偵察任務(wù)。陸軍未來司令部負責人表示，自主黑鷹“不是取代飛行員，而是讓飛行員從高風險任務(wù)中解放出來”。

據(jù)美國國防部3月發(fā)布的《自主武器系統(tǒng)倫理指南》更新版，五角大樓重申“人在回路”原則，強調(diào)“任何自主武器的使用決策，必須有可追溯的人類責任鏈條”。指南同時承認，“當前的技術(shù)發(fā)展速度已超過倫理框架的更新速度”，呼吁國會加快立法進程。

據(jù)報道，美國國會2月審議了《自主武器系統(tǒng)問責法案》，該法案要求國防部在部署任何“致命自主武器”前，必須提交詳細的人工監(jiān)督方案和誤擊責任歸屬機制。法案在兩黨間獲得初步支持，但科技倫理團體批評其“仍將人類視為決策后置環(huán)節(jié)”。