出品 | 網(wǎng)易智能

作者 | 小小

編輯 | 王鳳枝

一家頂尖的AI明星企業(yè)，被特朗普和白宮接連拉黑，它還能扛得住嗎？

2月份最后一天的17點(diǎn)14分，美國(guó)國(guó)防部長(zhǎng)皮特·赫格塞斯(Pete Hegseth)在社交媒體上發(fā)了一條推文，宣布將人工智能公司Anthropic列為“國(guó)家安全供應(yīng)鏈風(fēng)險(xiǎn)”。

就在三個(gè)小時(shí)前，特朗普總統(tǒng)已經(jīng)在Truth Social上猛烈開(kāi)火，稱(chēng)Anthropic是由“左翼瘋子”運(yùn)營(yíng)的公司，并命令所有聯(lián)邦機(jī)構(gòu)“立即停止”使用其技術(shù)。白宮方面的措辭則更為致命，直接指責(zé)這家公司“極其自私”，正在將美軍士兵的生命與國(guó)家安全置于危險(xiǎn)之中。

被全網(wǎng)點(diǎn)名封殺的Anthropic，旗下大模型Claude在業(yè)界口碑極佳。更具戲劇性的是，就在短短幾個(gè)月前，它還是五角大樓最親密的AI戰(zhàn)友，不僅是首個(gè)將模型部署到軍方機(jī)密云上的技術(shù)先鋒，更是第一家為國(guó)家安全定制模型的企業(yè)，其技術(shù)早已遍布美國(guó)的情報(bào)界與軍隊(duì)。

然而，華盛頓的荒誕永遠(yuǎn)超乎想象，一場(chǎng)極具諷刺意味的驚天反轉(zhuǎn)隨之而來(lái)。

就在這道嚴(yán)厲的封殺令下達(dá)僅僅幾個(gè)小時(shí)后，美國(guó)對(duì)伊朗發(fā)動(dòng)了一場(chǎng)重大空襲。知情人士向媒體證實(shí)，美軍在此次絕密行動(dòng)中用于情報(bào)評(píng)估與目標(biāo)識(shí)別的核心工具，正是剛剛被他們拉黑并斥為“國(guó)家安全風(fēng)險(xiǎn)”的Claude。

從昔日的“最積極合作伙伴”到一夜之間“被拉黑”，再到戰(zhàn)場(chǎng)上極具諷刺意味的繼續(xù)使用，這中間到底發(fā)生了怎樣驚心動(dòng)魄的權(quán)力博弈？

事件發(fā)酵后，Anthropic首席執(zhí)行官達(dá)里奧·阿莫代伊(Dario Amodei)走進(jìn)了CBS新聞的演播室接受獨(dú)家專(zhuān)訪。在這場(chǎng)近30分鐘的深度對(duì)話中，他詳細(xì)還原了與國(guó)防部談判徹底破裂的極限拉扯全過(guò)程，也首次向公眾解釋了為什么寧愿被美國(guó)政府全面封殺，也必須死死守住那兩條不可逾越的“紅線”。

一、三天最后通牒：到底是談不攏，還是不想談？

一切要從一份2億美元的合同說(shuō)起。

去年，Anthropic、OpenAI、谷歌和xAI都參與了五角大樓的一個(gè)試點(diǎn)項(xiàng)目，探索AI怎么用于國(guó)防。Anthropic是唯一一家把技術(shù)用到了機(jī)密系統(tǒng)上的公司，國(guó)防官員用得也挺順手。

今年1月9日，赫格塞斯發(fā)了一份備忘錄，要求在整個(gè)軍隊(duì)里大規(guī)模推廣AI，還讓AI公司無(wú)限制地提供技術(shù)。為了顯得這事很重要，他甚至在五角大樓各處貼了自己AI生成的海報(bào)，上面寫(xiě)著“我要你們用AI”。

這意味著，所有跟五角大樓合作的AI公司，合同都得重談。Anthropic因?yàn)榧夹g(shù)用得最廣，自然成了談判焦點(diǎn)。

負(fù)責(zé)談的人是埃米爾·邁克爾(Emil Michael)，國(guó)防部首席技術(shù)官，以前是優(yōu)步的高管，奧巴馬時(shí)代在五角大樓干過(guò)特別助理。他跟Anthropic那邊來(lái)回拉鋸了好幾周。

僵局卡在兩個(gè)地方。

Anthropic提出了兩個(gè)限制條件：一是不能把他們的AI用于大規(guī)模國(guó)內(nèi)監(jiān)控，二是不能用在他們所謂的“完全自主武器”上，也就是那種完全不需要人類(lèi)參與、可以自主開(kāi)火的武器。

五角大樓的立場(chǎng)也很強(qiáng)硬：沒(méi)有哪個(gè)私營(yíng)公司可以決定政府怎么合法使用它的工具。

到了2月24日，赫格塞斯把阿莫代伊叫到五角大樓面談。兩個(gè)人待了不到一小時(shí)，氣氛談不上熱絡(luò)。臨走時(shí)，赫格塞斯下了最后通牒：周五下午5點(diǎn)01分之前，如果還不讓步，就把Anthropic列為供應(yīng)鏈風(fēng)險(xiǎn)。他還提了一句，實(shí)在不行還可以動(dòng)用《國(guó)防生產(chǎn)法》強(qiáng)制合作，這個(gè)后來(lái)沒(méi)再提。

阿莫代伊事后回憶，整個(gè)談判節(jié)奏都是對(duì)方在推，而且給的時(shí)間窗口非常短，只有三天。

“他們發(fā)過(guò)來(lái)的措辭，表面上看起來(lái)好像接受了我們的條件，但里面全是‘如果五角大樓認(rèn)為合適’、‘做任何符合法律的事情’這種話。”阿莫代伊說(shuō)，“實(shí)際上沒(méi)有任何實(shí)質(zhì)性的讓步。”

他還提到，五角大樓發(fā)言人肖恩·帕內(nèi)爾(Sean Parnell)前一天在推特上重申過(guò)立場(chǎng)：“我們只允許所有合法的用途?！边@和對(duì)方發(fā)來(lái)的條款完全是一回事。

“他們從來(lái)沒(méi)有在任何實(shí)質(zhì)意義上同意過(guò)我們的例外條款?！卑⒛琳f(shuō)。

二、兩天截胡：OpenAI是怎么趁虛而入的？

就在Anthropic和五角大樓僵持的時(shí)候，另一個(gè)人也在打電話。

2月25日，也就是赫格塞斯下最后通牒的第二天，OpenAI的首席執(zhí)行官山姆·奧特曼(Sam Altman)跟邁克爾通上了話，聊的是他們公司能不能接這個(gè)單。

只用了一天，雙方就搭出了一個(gè)框架。OpenAI同意五角大樓的要求，包括AI可以用于所有合法目的，但同時(shí)也爭(zhēng)取到了一個(gè)權(quán)利：可以在系統(tǒng)上加技術(shù)護(hù)欄，遵守自己的安全原則。

知情人士透露，邁克爾其實(shí)一直在私下接觸OpenAI這條線。他跟奧特曼認(rèn)識(shí)多年，兩人都在硅谷，關(guān)系比跟阿莫代伊近得多。阿莫代伊和奧特曼雖然也認(rèn)識(shí)，但關(guān)系要復(fù)雜得多，他倆曾經(jīng)都在OpenAI共事，現(xiàn)在又是競(jìng)爭(zhēng)對(duì)手。

到了2月26日，阿莫代伊發(fā)了一份聲明，態(tài)度反而更硬了。他說(shuō)Anthropic“不能憑良心同意”五角大樓的要求，還補(bǔ)充了一句：“在少數(shù)情況下，我們相信AI可能破壞而非捍衛(wèi)民主價(jià)值觀。有些用途也完全超出了當(dāng)今技術(shù)能夠安全可靠地做到的范疇?！?/p>

當(dāng)天晚上，邁克爾在社交媒體上開(kāi)火，直接稱(chēng)阿莫代伊是“騙子”，還說(shuō)他“只想試圖個(gè)人控制美國(guó)軍隊(duì)，并且甘愿將我們國(guó)家的安全置于危險(xiǎn)之中”。

另一位知情人士向媒體透露，53歲的邁克爾之所以這么惱火，跟阿莫代伊在談判中的態(tài)度有關(guān)?！八胍粋€(gè)能理解緊迫性的合作伙伴，而不是一個(gè)做學(xué)術(shù)報(bào)告的人?！?/p>

三、最后幾個(gè)小時(shí)：就差幾個(gè)詞，到底卡在哪兒？

到了2月28日，也就是最終截止日期當(dāng)天，雙方其實(shí)已經(jīng)快談攏了。

多位知情人士說(shuō)，剩下的分歧已經(jīng)很小，就差幾個(gè)措辭，即關(guān)于“合法監(jiān)視美國(guó)公民”該怎么表述。

當(dāng)天下午3點(diǎn)47分，特朗普發(fā)了一條帖子，公開(kāi)貶低Anthropic，還要求所有政府機(jī)構(gòu)在六個(gè)月內(nèi)停止與其合作。

但談判沒(méi)有停。

當(dāng)時(shí)在電話里的邁克爾，向Anthropic方面提出了一個(gè)具體要求：政府希望允許收集和分析美國(guó)公民的非機(jī)密商業(yè)批量數(shù)據(jù)，比如地理位置和網(wǎng)頁(yè)瀏覽記錄，然后用AI做分析。

Anthropic方面的回應(yīng)是：愿意讓NSA用他們的技術(shù)處理《外國(guó)情報(bào)監(jiān)視法》框架下的機(jī)密材料，但前提是政府必須做出有法律約束力的承諾，即不能用他們的技術(shù)處理非機(jī)密商業(yè)數(shù)據(jù)。

就在這個(gè)節(jié)點(diǎn)上，邁克爾提出要跟阿莫代伊直接通話。他被告知，阿莫代伊正在跟執(zhí)行團(tuán)隊(duì)開(kāi)會(huì)，需要一點(diǎn)時(shí)間。

知情人士說(shuō)，邁克爾對(duì)這個(gè)答復(fù)很不滿意。

下午5點(diǎn)01分，截止時(shí)間已過(guò)。

下午5點(diǎn)14分，赫格塞斯發(fā)推，宣布將Anthropic列為供應(yīng)鏈風(fēng)險(xiǎn)，切斷其與政府的合作。他配了一句話：“美國(guó)的戰(zhàn)斗人員絕不會(huì)被大型科技公司的意識(shí)形態(tài)奇想所挾持?！?/p>

晚上10點(diǎn)，Anthropic的律師開(kāi)始準(zhǔn)備起訴材料。同一時(shí)間，奧特曼正在跟邁克爾通電話，敲定OpenAI與國(guó)防部協(xié)議的最終細(xì)節(jié)。電話打完，奧特曼在社交媒體上發(fā)了消息，赫格塞斯隨后用自己的X賬號(hào)轉(zhuǎn)發(fā)了這條公告。

第二天，奧特曼在X上回應(yīng)質(zhì)疑，解釋這筆交易。有人問(wèn)他，簽了這種協(xié)議，怎么還能守住安全原則？他說(shuō)：“我們不希望對(duì)具體的且合法的軍事行動(dòng)發(fā)表意見(jiàn)。但我們確實(shí)非常希望能夠利用我們的專(zhuān)業(yè)知識(shí)來(lái)設(shè)計(jì)一個(gè)安全的系統(tǒng)?！?/p>

四、兩條紅線：阿莫代伊到底在堅(jiān)持什么？

在CBS的專(zhuān)訪中，阿莫代伊花了很長(zhǎng)時(shí)間解釋那兩條“紅線”。

第一條是大規(guī)模國(guó)內(nèi)監(jiān)控。他說(shuō)，以前做不到的事，有了AI之后可能就做得到了。比如政府買(mǎi)下私營(yíng)公司收集的數(shù)據(jù)，包括位置信息、個(gè)人偏好、政治傾向，然后用AI做大規(guī)模分析，給每個(gè)人建檔案。

“這件事現(xiàn)在甚至不違法，只是在AI時(shí)代之前這么做沒(méi)有意義?！卑⒛琳f(shuō)，“問(wèn)題就在這里，大規(guī)模國(guó)內(nèi)監(jiān)控已經(jīng)跑在了法律前面。技術(shù)進(jìn)步太快，法律跟不上?！?/b>

第二條是完全自主武器。他說(shuō)自己不是絕對(duì)反對(duì)這一類(lèi)武器，因?yàn)閷?lái)對(duì)手可能也會(huì)有，到那時(shí)候?yàn)榱俗孕l(wèi)可能不得不用。但他強(qiáng)調(diào)兩個(gè)前提：第一，現(xiàn)在的AI系統(tǒng)遠(yuǎn)不夠可靠?！案鶤I打過(guò)交道的人都明白，這東西有它本質(zhì)上的不可預(yù)測(cè)性，這個(gè)問(wèn)題純技術(shù)層面到現(xiàn)在也沒(méi)有解決。”

第二，監(jiān)管問(wèn)題沒(méi)有答案。他舉了個(gè)例子：一支由幾千萬(wàn)架無(wú)人機(jī)組成的軍隊(duì)，全部由一個(gè)人或幾個(gè)人指揮，沒(méi)有人類(lèi)士兵在現(xiàn)場(chǎng)決定打誰(shuí)不打誰(shuí)，“很容易看出這里面問(wèn)責(zé)有問(wèn)題。權(quán)力集中到那個(gè)程度是行不通的?！?/p>

“我們不想賣(mài)我們認(rèn)為不可靠的東西，不想賣(mài)可能讓我們自己人送命或者讓無(wú)辜的人送命的東西?！彼f(shuō)。

采訪中主持人追問(wèn)：你們一家私營(yíng)公司，憑什么覺(jué)得比五角大樓更有發(fā)言權(quán)？

阿莫代伊的回應(yīng)分兩層。

第一層是“選擇權(quán)”?！拔覀兪撬綘I(yíng)公司，可以選擇賣(mài)或不賣(mài)任何東西。市場(chǎng)上還有其他供應(yīng)商。如果他們不喜歡我們，換一家就行，這才是正常的方式?！?/p>

但他強(qiáng)調(diào)，對(duì)方這次的做法不是換一家，而是懲罰。“他們不僅把我們擋在國(guó)防部外面，還要懲罰性地撤銷(xiāo)我們?cè)趪?guó)防部之外的其他政府合同，還搞出這個(gè)供應(yīng)鏈風(fēng)險(xiǎn)指定。意思就是，任何有軍方合同的公司，都不能在涉及軍方項(xiàng)目的地方用Anthropic?！?/p>

第二層是“專(zhuān)業(yè)性”。他說(shuō)模型有自己的特性，哪些事做得可靠、哪些事做不可靠，開(kāi)發(fā)者是最清楚的?！拔覀儗?duì)技術(shù)如何再次跑到法律前面這件事，也看得比較清楚。”

但他也承認(rèn)，長(zhǎng)期來(lái)看，這種問(wèn)題不應(yīng)該由一家公司和五角大樓天天吵架來(lái)解決?！拔矣X(jué)得國(guó)會(huì)需要介入。我們也在想，國(guó)會(huì)可以設(shè)置哪些護(hù)欄，既能讓我們打敗對(duì)手，又能讓我們以符合國(guó)家價(jià)值觀的方式打敗對(duì)手?！?/p>

五、“我們被當(dāng)成了對(duì)手”：美國(guó)公司第一次背上這個(gè)標(biāo)簽

在Anthropic準(zhǔn)備起訴的文件里，核心挑戰(zhàn)對(duì)象是這個(gè)“供應(yīng)鏈風(fēng)險(xiǎn)”標(biāo)簽。

阿莫代伊在采訪中說(shuō)得很直接：“據(jù)我們所知，供應(yīng)鏈風(fēng)險(xiǎn)指定以前從來(lái)沒(méi)有用在過(guò)美國(guó)公司身上。以前的對(duì)象都是卡巴斯基實(shí)驗(yàn)室那種俄羅斯網(wǎng)絡(luò)安全公司，都是與政府有關(guān)聯(lián)的對(duì)手。”

“與他們歸為一類(lèi)，考慮到我們?yōu)槊绹?guó)國(guó)家安全做了這么多，這種懲罰性措施非常不合適?！?/p>

他說(shuō)自己理解五角大樓想要什么，即快速響應(yīng)、沒(méi)有限制、隨時(shí)能用。但他認(rèn)為，如果因此就放棄原則，那就成了“逐底競(jìng)賽”。

“我們不能搞徹底的逐底競(jìng)賽。我們必須有原則。而且原則只有這么幾個(gè)?！彼e了個(gè)類(lèi)比：對(duì)手如果犯戰(zhàn)爭(zhēng)罪，我們是不是也得犯？

“我沒(méi)有說(shuō)這等同于戰(zhàn)爭(zhēng)罪。我是說(shuō)，我們價(jià)值觀的核心是，我們必須找到一種既能贏又能維護(hù)這些價(jià)值觀的方式。”

至于這項(xiàng)技術(shù)到底有多重要，他說(shuō)自己和上將、將軍、作戰(zhàn)指揮官都聊過(guò)?！八麄冋f(shuō)，這徹底改變了我們的能力?！?/p>

“那為什么我們要糾結(jié)那百分之一違背我們價(jià)值觀的用例，而放著百分之九十九能推進(jìn)我們民主價(jià)值觀、保衛(wèi)這個(gè)國(guó)家的用例不去做？”

六、誰(shuí)對(duì)誰(shuí)錯(cuò)？旁觀者的視角

事情發(fā)酵后，“AI教父”、蒙特利爾大學(xué)教授約書(shū)亞·本吉奧(Yoshua Bengio)站出來(lái)力挺阿莫代伊。他說(shuō)，目前的人工智能缺乏高風(fēng)險(xiǎn)領(lǐng)域所需的可靠性，公司有責(zé)任履行信托義務(wù)，確保產(chǎn)品不被用于傷害人類(lèi)。

一位自稱(chēng)曾在國(guó)民警衛(wèi)隊(duì)和空軍服役的76歲網(wǎng)友留言說(shuō)：“我支持Anthropic。他們的產(chǎn)品不能用于戰(zhàn)爭(zhēng)或監(jiān)視我們的人民。我見(jiàn)識(shí)過(guò)很多，他們的CEO說(shuō)得對(duì)?！?/p>

但也有不同的聲音。

一位叫唐納德·亞歷山大(Donald S. Alexander)的X用戶分析說(shuō)，在華盛頓，“安全”正在被重新定義為“慢”。五角大樓可能擔(dān)心，如果AI太安全、太謹(jǐn)慎，在戰(zhàn)略上會(huì)不會(huì)顯得太脆弱？

“我們現(xiàn)在看到的，是科幻理想主義與華盛頓現(xiàn)實(shí)主義之間的碰撞?！彼麑?xiě)道，“如果美國(guó)政府疏遠(yuǎn)了本國(guó)頂尖實(shí)驗(yàn)室，誰(shuí)會(huì)是贏家？阿莫代伊認(rèn)為技術(shù)發(fā)展遠(yuǎn)超政策制定速度，而這種摩擦，可能正是把領(lǐng)先地位拱手讓給全球競(jìng)爭(zhēng)對(duì)手的原因。”

另一位觀眾看完CBS的采訪后留言，說(shuō)自己仍然支持Anthropic，但也終于理解為什么他們會(huì)被拉黑了。

他分析稱(chēng)，Anthropic的核心問(wèn)題是節(jié)奏錯(cuò)位。阿莫代伊的思維方式像學(xué)者做報(bào)告，嚴(yán)謹(jǐn)?shù)徛?，而?guó)防部需要的是能跟上危機(jī)節(jié)奏的合作伙伴。在伊朗局勢(shì)緊張的背景下，這種溝通差距幾乎無(wú)法彌合。

七、這件事結(jié)束了嗎？

采訪最后，主持人問(wèn)了一個(gè)直接的問(wèn)題：你覺(jué)得Anthropic作為企業(yè)，能挺過(guò)這次風(fēng)波嗎？

阿莫代伊的回應(yīng)是：影響其實(shí)沒(méi)有外界想象的那么大。

他糾正了赫格塞斯在推文中的一個(gè)說(shuō)法。對(duì)方說(shuō)“任何有軍方合同的公司都不能與Anthropic做生意”。

“法律不是這么說(shuō)的。法律規(guī)定只是‘作為軍方合同的一部分，任何公司不能在那些合同里使用Anthropic’。這影響小得多?！?/p>

“部長(zhǎng)那條推特的意圖就是制造不確定性，讓人覺(jué)得影響會(huì)大得多，制造恐懼、不確定和疑慮。但我們不會(huì)讓它得逞。我們會(huì)沒(méi)事的?！?/p>

至于未來(lái)還有沒(méi)有可能跟政府達(dá)成協(xié)議，他的回答留了余地：“如果我們和國(guó)防部能達(dá)成共識(shí)，用同樣的方式看問(wèn)題，那也許能達(dá)成協(xié)議。為了美國(guó)的國(guó)家安全，我們?nèi)匀幌Ｍ@件事能成。但協(xié)議需要雙方?！?/p>

被問(wèn)到如果今晚有機(jī)會(huì)跟總統(tǒng)當(dāng)面說(shuō)話，會(huì)說(shuō)什么。他說(shuō)會(huì)重復(fù)一句話：我們是愛(ài)國(guó)的美國(guó)人。

“我們?cè)谲姺讲渴鹉Ｐ瓦@么積極，是因?yàn)槲覀兿嘈胚@個(gè)國(guó)家。我們劃的紅線，是因?yàn)槲覀冇X(jué)得跨過(guò)這些紅線違背了美國(guó)價(jià)值觀，我們想捍衛(wèi)美國(guó)價(jià)值觀。”

“當(dāng)我們受到威脅時(shí)，我們行使了憲法第一修正案賦予的權(quán)利，公開(kāi)反對(duì)政府。質(zhì)疑政府、反對(duì)政府，這本來(lái)就是美國(guó)精神的核心。我們是愛(ài)國(guó)者。我們?cè)谶@里做的一切，都是在捍衛(wèi)這個(gè)國(guó)家的價(jià)值觀?！?/p>

第二天，《華爾街日?qǐng)?bào)》發(fā)了一條消息：就在特朗普下令封殺Anthropic幾小時(shí)后，美國(guó)對(duì)伊朗發(fā)動(dòng)了一次重大空襲。知情人士證實(shí)，這次行動(dòng)使用了Anthropic的Claude工具，包括情報(bào)評(píng)估、目標(biāo)識(shí)別和模擬作戰(zhàn)場(chǎng)景。

對(duì)于這種強(qiáng)烈的反差，中央司令部沒(méi)有回應(yīng)置評(píng)請(qǐng)求。

以下為阿莫代伊接受專(zhuān)訪全文：

問(wèn)：感謝你今天抽出時(shí)間。第一個(gè)問(wèn)題，為什么Anthropic不愿意向美國(guó)政府無(wú)限制地開(kāi)放你們的AI技術(shù)？

阿莫代伊：我先稍微交代一下背景。實(shí)際上，Anthropic在所有AI公司中，與美國(guó)政府及軍方的合作是最積極的。我們是第一家將模型部署到機(jī)密云端、第一家為國(guó)家安全目的定制模型的公司。目前，我們的技術(shù)已廣泛應(yīng)用于情報(bào)界和軍方，涵蓋網(wǎng)絡(luò)安全、戰(zhàn)斗支援等領(lǐng)域。我們這么做的初衷很簡(jiǎn)單：我堅(jiān)信我們必須保衛(wèi)國(guó)家。

但我始終認(rèn)為，在我們防御威權(quán)對(duì)手的同時(shí)，必須以捍衛(wèi)和維護(hù)民主價(jià)值觀的方式行事。因此，我們向戰(zhàn)爭(zhēng)部(Department of War)明確表示，我們可以接受98%到99%的應(yīng)用場(chǎng)景，唯獨(dú)對(duì)其中兩項(xiàng)深感憂慮。

第一是大規(guī)模國(guó)內(nèi)監(jiān)視。我們擔(dān)心AI可能會(huì)實(shí)現(xiàn)一些過(guò)去無(wú)法想象的功能。例如，政府購(gòu)買(mǎi)私營(yíng)公司收集的數(shù)據(jù)，再利用AI進(jìn)行大規(guī)模分析。在法律層面，這目前并不違法，只是在AI時(shí)代開(kāi)啟之前，這種做法毫無(wú)意義。因此，大規(guī)模國(guó)內(nèi)監(jiān)視的發(fā)展已超前于現(xiàn)行法律，技術(shù)迭代的速度已經(jīng)讓法律難以企及。

第二是全自主武器。我指的不是目前在烏克蘭用的半自主武器，而是完全無(wú)需人類(lèi)干預(yù)、可自主開(kāi)火的武器。盡管我承認(rèn)對(duì)手最終可能擁有此類(lèi)武器，或許在未來(lái)的某一天，為了捍衛(wèi)民主，我們也必須研制它們，但我們目前對(duì)此持有保留意見(jiàn)。

我們的擔(dān)憂主要基于兩點(diǎn)：

第一，目前的AI系統(tǒng)遠(yuǎn)不夠可靠，無(wú)法支撐全自主武器的運(yùn)作。任何接觸過(guò)AI模型的人都明白，模型具有本質(zhì)上的不可預(yù)測(cè)性，這一純技術(shù)難題至今尚未攻克。

第二是監(jiān)管問(wèn)題。想象一支由千萬(wàn)級(jí)無(wú)人機(jī)或機(jī)器人組成的軍隊(duì)，在沒(méi)有人類(lèi)士兵決策攻擊目標(biāo)的情況下自主運(yùn)行，這顯然存在極大隱患。我們需要就如何監(jiān)管展開(kāi)討論，但目前相關(guān)對(duì)話尚未開(kāi)啟。

因此，我們的立場(chǎng)非常堅(jiān)定：這兩個(gè)應(yīng)用場(chǎng)景絕對(duì)不應(yīng)被允許。

問(wèn)：戰(zhàn)爭(zhēng)部告訴我們，他們?cè)瓌t上同意這兩個(gè)限制，并希望達(dá)成協(xié)議。為什么最后沒(méi)有談攏？

阿莫代伊：這件事經(jīng)歷了幾個(gè)階段，節(jié)奏非常緊湊。關(guān)鍵在于，他們只給了我們短短三天的決策窗口。他們下了最后通牒：要么在三天內(nèi)接受條件，要么被列為供應(yīng)鏈風(fēng)險(xiǎn)，或面臨《國(guó)防生產(chǎn)法》的強(qiáng)制干預(yù)。

在此期間，雙方進(jìn)行過(guò)幾次交涉。有一次，他們發(fā)來(lái)的措辭表面上似乎接受了我們的條款，但里面充斥著“若戰(zhàn)爭(zhēng)部認(rèn)為合適”或“進(jìn)行任何符合法律的行為”等表述。這意味著在實(shí)質(zhì)層面，他們并未做出任何有意義的讓步。隨后的幾步交涉同樣如此。我們從一開(kāi)始就希望能達(dá)成協(xié)議，這一誠(chéng)意從未改變。

如果想了解五角大樓的真實(shí)態(tài)度，可以看看其發(fā)言人肖恩·帕內(nèi)爾(Sean Parnell)前一天的推文。他重申立場(chǎng)稱(chēng)，“我們只允許所有合法的用途?！边@與他們發(fā)給我們的條款如出一轍?？梢?jiàn)，他們?cè)趯?shí)質(zhì)意義上并未接受我們的例外主張。

問(wèn)：特朗普總統(tǒng)今天回應(yīng)此事時(shí)發(fā)帖稱(chēng)，“Anthropic的自私自利正將美國(guó)人的生命置于危險(xiǎn)之中，讓我們的軍隊(duì)深陷危機(jī)，令國(guó)家安全岌岌可危?！蹦銓?duì)此怎么看？有什么回應(yīng)？

阿莫代伊：我們?cè)谧蛱旌徒裉彀l(fā)布的聲明中已明確表示：即便戰(zhàn)爭(zhēng)部或特朗普政府對(duì)我們采取這種前所未有的措施，即將通常針對(duì)外國(guó)對(duì)手的“供應(yīng)鏈風(fēng)險(xiǎn)”標(biāo)簽貼在我們身上，即使面臨如此極端的行動(dòng)，我們?nèi)詫⒔弑M所能支持戰(zhàn)爭(zhēng)部。在完成我方退出及后續(xù)接手的競(jìng)爭(zhēng)對(duì)手上線所需的過(guò)渡期內(nèi)，我們將持續(xù)提供技術(shù)支持，直到他們找到愿意接受那些紅線要求的替代者。

問(wèn)：你們已準(zhǔn)備好退出？

阿莫代伊：是的，我們承諾保障服務(wù)的延續(xù)性。實(shí)際上，我們非常擔(dān)心服務(wù)中斷，而這恰恰是被列為供應(yīng)鏈風(fēng)險(xiǎn)后的直接后果。一旦被定性，我們就必須從所有政府系統(tǒng)中撤出。我與身著制服的現(xiàn)役軍官交流過(guò)，他們表示這些技術(shù)是必不可少的，失去支持將導(dǎo)致相關(guān)工作倒退半年、一年甚至更久。

這就是我們?nèi)绱伺で髤f(xié)議的原因。但三天的最后通牒和供應(yīng)鏈風(fēng)險(xiǎn)的威脅，整個(gè)時(shí)間線都是由戰(zhàn)爭(zhēng)部而非我們主導(dǎo)的。我們一直在努力提供持續(xù)的服務(wù)并達(dá)成協(xié)議。

問(wèn)：那么，這對(duì)美國(guó)人的安全意味著什么？

阿莫代伊：短期來(lái)看，這取決于戰(zhàn)爭(zhēng)部。我們?nèi)晕捶艞壟c他們溝通。

問(wèn)：你們還在談？

阿莫代伊：仍在嘗試溝通。

問(wèn)：他們?cè)诨貞?yīng)你們嗎？

阿莫代伊：我們收到了各種信息，但尚未看到任何能解決我方核心關(guān)切的內(nèi)容。不過(guò)，從大方向上講，只要不觸碰紅線，我們?nèi)杂信d趣與他們合作。

問(wèn)：但聽(tīng)起來(lái)雙方分歧依然巨大。赫格塞斯部長(zhǎng)已定性你們?yōu)楣?yīng)鏈風(fēng)險(xiǎn)，話也說(shuō)得非常重。你覺(jué)得目前還有可能達(dá)成一致嗎？

阿莫代伊：協(xié)議達(dá)成需要雙方共同努力。就我方而言，我們?cè)敢鉃閲?guó)家安全效力，愿意按照我們提出的紅線條款，向包括戰(zhàn)爭(zhēng)部、情報(bào)界及文職政府部門(mén)在內(nèi)的所有分支機(jī)構(gòu)提供模型。

我們始終愿意合作，且并未對(duì)此感到被冒犯。我們堅(jiān)持這一提供技術(shù)的方式，是為了捍衛(wèi)美國(guó)的國(guó)家安全。我們這么做不是為了討好五角大樓官員或某一屆政府，而是因?yàn)樗鼘?duì)美國(guó)國(guó)家安全有益。這一初衷不會(huì)改變。

問(wèn)：為什么你覺(jué)得，Anthropic作為一家私營(yíng)公司，在AI軍事化應(yīng)用上應(yīng)該比五角大樓擁有更大的發(fā)言權(quán)？

阿莫代伊：首先，我認(rèn)為很重要的一點(diǎn)是：據(jù)我們所知，前線實(shí)際應(yīng)用中從未有人觸及過(guò)這些例外限制。這1%的爭(zhēng)議場(chǎng)景，目前并無(wú)證據(jù)顯示已被投入使用。盡管我們無(wú)法得知他們的遠(yuǎn)期計(jì)劃，但現(xiàn)有的部署都非常順利，從未遇到過(guò)上述問(wèn)題。

至于這一兩個(gè)細(xì)微的例外情況，我同意長(zhǎng)遠(yuǎn)來(lái)看需要進(jìn)行民主討論。長(zhǎng)期而言，這確實(shí)屬于國(guó)會(huì)的職責(zé)范疇。例如，如果政府購(gòu)買(mǎi)美國(guó)人的位置、個(gè)人信息或政治派別數(shù)據(jù)，并利用AI建模分析，這種大規(guī)模國(guó)內(nèi)監(jiān)視即便合法，也說(shuō)明司法界對(duì)第四修正案的解釋或國(guó)會(huì)制定的法律已嚴(yán)重滯后。

我們認(rèn)為國(guó)會(huì)應(yīng)跟上技術(shù)發(fā)展的步調(diào)，但國(guó)會(huì)顯然不是世界上運(yùn)作最快的機(jī)構(gòu)。眼下，我們才是站在技術(shù)最前線的人。我原本期望戰(zhàn)爭(zhēng)部能以更審慎、更主動(dòng)的態(tài)度思考這些問(wèn)題。

我原本期望雙方能在沒(méi)有顧慮的前提下展開(kāi)對(duì)話。但既然缺乏這一前提，我們就必須審視技術(shù)本身：審視其可靠性上限，審視其超前于法律的現(xiàn)狀，以及其規(guī)避法律初衷的方式。這些領(lǐng)域雖然狹窄，但事關(guān)美國(guó)人的基本權(quán)利：不被政府監(jiān)視的權(quán)利，以及軍官自主做出戰(zhàn)爭(zhēng)決策、而非全權(quán)交給機(jī)器的權(quán)利。這些都是基本原則。

問(wèn)：既然談到基本原則，為什么美國(guó)人要信任你，一個(gè)私營(yíng)公司的CEO，來(lái)做這些決定，而不是信任聯(lián)邦政府？

阿莫代伊：對(duì)此我有兩個(gè)回答。第一，我們是一家私營(yíng)公司。

問(wèn)：是的。

阿莫代伊：我們有權(quán)決定售賣(mài)或不售賣(mài)哪些產(chǎn)品。市場(chǎng)上還有其他供應(yīng)商。如果戰(zhàn)爭(zhēng)部或政府不喜歡我們提供的服務(wù)或研發(fā)方式，完全可以更換承包商。這本應(yīng)是常規(guī)的商業(yè)處理方式。

我想說(shuō)，如果戰(zhàn)爭(zhēng)部表示“我們不想與Anthropic合作，因?yàn)殡p方原則不合，我們要采用其他模型”，雖然我不認(rèn)同，但我會(huì)尊重這種選擇。但他們現(xiàn)在的做法是，不僅要把我們排除在戰(zhàn)爭(zhēng)部之外，還要懲罰性地撤銷(xiāo)我們與其他政府部門(mén)的合同。

他們甚至祭出了“供應(yīng)鏈風(fēng)險(xiǎn)”定性，這意味著任何擁有軍方合同的其他私營(yíng)公司，都不能在涉及這些合同的業(yè)務(wù)中使用Anthropic。

這種做法直接干預(yù)了私營(yíng)企業(yè)的經(jīng)營(yíng)行為。除了“報(bào)復(fù)”和“懲罰”，我很難找到其他詞來(lái)形容這種行為。據(jù)我們所知，供應(yīng)鏈風(fēng)險(xiǎn)定性從未被應(yīng)用于美國(guó)本土公司。它此前只針對(duì)俄羅斯的卡巴斯基實(shí)驗(yàn)室(被懷疑與俄羅斯政府有關(guān)聯(lián))?？紤]到我們?yōu)槊绹?guó)國(guó)家安全所做的貢獻(xiàn)，被與這些實(shí)體歸為一類(lèi)，令我們感到極不公正。

問(wèn)：你說(shuō)你們?yōu)閲?guó)家安全貢獻(xiàn)巨大，且堅(jiān)持這兩個(gè)限制。你認(rèn)為Anthropic真的比五角大樓更懂行嗎？

阿莫代伊：并非如此。自由市場(chǎng)和自由企業(yè)的特征之一，就是不同的參與者可以基于不同的原則提供差異化產(chǎn)品。這不僅僅是使用條款的問(wèn)題，也不僅僅是法律允許我們的模型做什么。

我們的模型有其獨(dú)特的“個(gè)性”，能可靠地完成某些任務(wù)，而在另一些任務(wù)上表現(xiàn)并不可靠。我認(rèn)為，對(duì)于自家模型能力的邊界，我們擁有更精準(zhǔn)的判斷力。同時(shí)，我們也更清晰地看到了技術(shù)再次跑在法律前面的現(xiàn)狀。

但我同意你的看法，目前的僵局長(zhǎng)期來(lái)看是不可持續(xù)的。由一家私營(yíng)公司與五角大樓為此爭(zhēng)執(zhí)不休并非長(zhǎng)久之計(jì)，國(guó)會(huì)應(yīng)當(dāng)介入。我們也在思考國(guó)會(huì)可以采取哪些行動(dòng)，在不削弱美軍戰(zhàn)斗力的前提下，設(shè)置符合國(guó)家價(jià)值觀的護(hù)欄。但如你所知，國(guó)會(huì)動(dòng)作遲緩。

所以，在此之前，我們必須劃清底線。

問(wèn)：所以你打算在國(guó)會(huì)行動(dòng)前堅(jiān)持立場(chǎng)。但許多其他公司也在與政府做生意，波音為美軍造飛機(jī)，卻不會(huì)干涉美軍如何使用飛機(jī)。你們有什么不同？

阿莫代伊：不同之處有兩點(diǎn)。第一還是技術(shù)的新穎性。當(dāng)一項(xiàng)技術(shù)(如飛機(jī))已非常成熟時(shí)，將軍們對(duì)其運(yùn)作方式已有深刻理解。

問(wèn)：但航空業(yè)也在不斷創(chuàng)新。

阿莫代伊：誠(chéng)然，但完全無(wú)法與AI的迭代速度同日而語(yǔ)。我常說(shuō)AI正處于指數(shù)級(jí)增長(zhǎng)軌道。模型背后的算力投入每四個(gè)月就會(huì)翻一番，這種創(chuàng)新節(jié)奏是史無(wú)前例的。

問(wèn)：如果這種速度持續(xù)下去，政府可能永遠(yuǎn)無(wú)法趕上。你一直聲稱(chēng)要支持國(guó)家安全，如果技術(shù)跑得太快導(dǎo)致國(guó)會(huì)無(wú)法追趕，你為什么要拒絕合作？

阿莫代伊：我認(rèn)為只需要在關(guān)鍵節(jié)點(diǎn)同步一次。技術(shù)雖快，但衍生出的核心問(wèn)題其實(shí)不多，只是極為重要。我們關(guān)注的只有兩個(gè)：大規(guī)模國(guó)內(nèi)監(jiān)視與全自主武器。我們需要與國(guó)會(huì)溝通，幫助他們理解風(fēng)險(xiǎn)。這是最符合美國(guó)精神的做法，沒(méi)有人希望被自己的政府監(jiān)視。

問(wèn)：與此同時(shí)，對(duì)手的技術(shù)正在飛速追趕，甚至可能已經(jīng)超越。如果軍隊(duì)是捍衛(wèi)美國(guó)人民和民主共和國(guó)的關(guān)鍵，你們?yōu)槭裁催€要堅(jiān)持拒絕合作？

阿莫代伊：這個(gè)論點(diǎn)過(guò)于抽象了。讓我們看看這兩個(gè)具體的場(chǎng)景：大規(guī)模國(guó)內(nèi)監(jiān)視對(duì)美國(guó)超越對(duì)手毫無(wú)幫助，即使它在技術(shù)上合法，也是對(duì)政府權(quán)力的濫用。這一點(diǎn)可以排除。至于全自主武器，我確實(shí)擔(dān)心我們需要保持同步。但目前技術(shù)尚未成熟，我們并非全盤(pán)否定，只是認(rèn)為可靠性尚達(dá)不到要求，且缺乏監(jiān)管討論。我們?cè)嶙h在沙盒環(huán)境中協(xié)助戰(zhàn)爭(zhēng)部研發(fā)這些技術(shù)的原型，但他們對(duì)此毫無(wú)興趣，除非從一開(kāi)始就能為所欲為。我們需要在打敗對(duì)手這一生存需求與作戰(zhàn)方式的正確性之間取得平衡。這就像是……

問(wèn)：很多國(guó)家作為對(duì)手……

阿莫代伊：這就像是問(wèn)：如果對(duì)手犯下戰(zhàn)爭(zhēng)罪，我們是否也該效仿？我并不是說(shuō)這等同于戰(zhàn)爭(zhēng)罪。我想說(shuō)的是，我們價(jià)值觀的本質(zhì)在于，必須找到一種在贏得勝利的同時(shí)能堅(jiān)守原則的路徑。我們不能陷入徹底的“逐底競(jìng)賽”。我們的技術(shù)能極大地提升軍隊(duì)能力。我與上將、將軍和作戰(zhàn)司令部指揮官交流過(guò)，他們表示AI已徹底革新了作戰(zhàn)方式。

而這些僅僅基于目前部署的極少數(shù)用例。既然如此，為什么非要死磕那1%違背我們價(jià)值觀的用例，而不去全力推進(jìn)那99%既符合民主價(jià)值觀、又能保衛(wèi)國(guó)家的應(yīng)用呢？我們甚至愿意研究那最后1%的應(yīng)用，探索是否有符合價(jià)值觀的實(shí)現(xiàn)路徑。這是我們的立場(chǎng)，我認(rèn)為非常理性。

問(wèn)：我想了解，美國(guó)人應(yīng)該知曉的最壞情況是什么？大家應(yīng)該擔(dān)心什么？請(qǐng)舉幾個(gè)例子。

阿莫代伊：我能預(yù)見(jiàn)兩類(lèi)潛在風(fēng)險(xiǎn)。第一還是可靠性問(wèn)題，即AI誤判目標(biāo)，誤擊平民。它缺乏人類(lèi)士兵應(yīng)有的判斷力。我們不愿出售這種不成熟的產(chǎn)品，不愿讓它導(dǎo)致己方人員或無(wú)辜平民的傷亡。

第二是問(wèn)責(zé)問(wèn)題。人類(lèi)士兵有一套成熟的問(wèn)責(zé)機(jī)制，前提是人類(lèi)具備基本常識(shí)。假設(shè)我有一千萬(wàn)架由單人或極少數(shù)人指揮的無(wú)人機(jī)。顯而易見(jiàn)，這會(huì)導(dǎo)致嚴(yán)重的問(wèn)責(zé)缺失，權(quán)力如此高度集中是行不通的。這不代表我們不該擁有這支部隊(duì)，或許有一天我們需要它來(lái)應(yīng)對(duì)對(duì)手的威脅。但我們必須討論問(wèn)責(zé)制，討論誰(shuí)按下按鈕，誰(shuí)擁有否決權(quán)。我認(rèn)為這是非常合理的要求。

問(wèn)：特朗普總統(tǒng)稱(chēng)Anthropic是“左翼覺(jué)醒公司”。這個(gè)決定是否受到了意識(shí)形態(tài)的驅(qū)動(dòng)？

阿莫代伊：我無(wú)法代表他人的看法。

問(wèn)：但你可以代表你自己和Anthropic。

阿莫代伊：我們一直恪守中立原則。我們?cè)诰邆鋵?zhuān)業(yè)知識(shí)的AI政策領(lǐng)域發(fā)聲，不參與一般性的政治議題。只要有共識(shí)，我們就愿意合作。例如，我曾前往賓夕法尼亞州與總統(tǒng)及參議員麥考密克會(huì)面，討論為美國(guó)AI模型提供充足的能源保障。當(dāng)時(shí)我也向總統(tǒng)表達(dá)了，我在很多方面是非常認(rèn)同他的做法的。此外，我們還參與了AI醫(yī)療公益承諾等多項(xiàng)活動(dòng)。當(dāng)政府的《AI行動(dòng)計(jì)劃》發(fā)布時(shí)，我們公開(kāi)表示贊同其中的大部分內(nèi)容。

所謂“黨派偏見(jiàn)”的說(shuō)法站不住腳，我們一直刻意保持公正。我們無(wú)法控制他人的看法，甚至是總統(tǒng)的看法。我們能控制的是保持理性、保持中立，并為我們的信念挺身而出。

問(wèn)：從1到10打分，你認(rèn)為未來(lái)還能與聯(lián)邦政府達(dá)成協(xié)議嗎？

阿莫代伊：我無(wú)法預(yù)知未來(lái)。我方的立場(chǎng)很明確：這兩條紅線從公司成立第一天起就存在，我們不會(huì)動(dòng)搖。如果政府能與我們達(dá)成共識(shí)，或許還有轉(zhuǎn)機(jī)。為了國(guó)家安全，我們依然希望能促成合作，但協(xié)議達(dá)成需要雙方的意愿。

問(wèn)：如果你今晚能當(dāng)面向總統(tǒng)說(shuō)一句話，你會(huì)說(shuō)什么？

阿莫代伊：我會(huì)說(shuō)，我們是愛(ài)國(guó)的美國(guó)人。我們所做的一切都是為了這個(gè)國(guó)家，為了支持美國(guó)的國(guó)家安全。我們?nèi)绱朔e極地與軍方合作，是因?yàn)槲覀儫釔?ài)美國(guó)，堅(jiān)信要擊敗威權(quán)對(duì)手。我們劃定紅線，正是因?yàn)槲覀兿嘈庞庠竭@些底線背道而馳于美國(guó)價(jià)值觀，而我們想要捍衛(wèi)它。

當(dāng)我們面臨“供應(yīng)鏈風(fēng)險(xiǎn)”定性和《國(guó)防生產(chǎn)法》的威脅時(shí)，這是政府對(duì)私營(yíng)經(jīng)濟(jì)前所未有的干預(yù)，我們行使了憲法第一修正案賦予我們的權(quán)利，公開(kāi)表達(dá)不同意見(jiàn)。質(zhì)疑政府，本就是美國(guó)精神最核心的體現(xiàn)。我們是愛(ài)國(guó)者，我們所做的一切，都是在捍衛(wèi)這個(gè)國(guó)家的根基。

問(wèn)：你認(rèn)為Anthropic作為一家公司，能挺過(guò)這次風(fēng)波嗎？

阿莫代伊：赫格塞斯部長(zhǎng)在推特上發(fā)布“供應(yīng)鏈風(fēng)險(xiǎn)”標(biāo)簽時(shí)，其言論完全失實(shí)，且嚴(yán)重超出了其合法權(quán)限。他聲稱(chēng)“任何擁有軍方合同的公司都不得再與Anthropic開(kāi)展任何業(yè)務(wù)”。法律并非如此規(guī)定的。我們?cè)诼暶髦幸阎该鞣梢罁?jù)：法律僅限制相關(guān)公司在涉及軍方合同的業(yè)務(wù)中使用Anthropic。其實(shí)際影響要小得多。

問(wèn)：所以你有信心挺過(guò)去？

阿莫代伊：不僅是挺過(guò)去，我們會(huì)經(jīng)營(yíng)得很好。定性標(biāo)簽的實(shí)質(zhì)影響相當(dāng)有限。部長(zhǎng)那條推特的本質(zhì)，是為了制造不確定性，讓人們誤以為影響巨大，從而制造恐慌、疑慮和變數(shù)。但我們不會(huì)讓這種策略得逞。

問(wèn)：批評(píng)者認(rèn)為五角大樓和白宮的做法是濫用權(quán)力，你認(rèn)同嗎？

阿莫代伊：我只能重申，這在前所未有。

問(wèn)：但這算濫用權(quán)力嗎？

阿莫代伊：這種事從未在美國(guó)公司身上發(fā)生過(guò)。而且他們的一些措辭和立場(chǎng)已經(jīng)表露得非常直白，這種做法具有明顯的報(bào)復(fù)色彩和懲罰性質(zhì)。我想不出更好的形容詞了。

問(wèn)：那你們會(huì)采取法律行動(dòng)嗎？

阿莫代伊：我們?cè)诼暶髦姓f(shuō)了，目前我們收到的僅僅是一條推特。我們尚未收到正式的供應(yīng)鏈定性文件。政府尚未采取任何實(shí)際行動(dòng)，目前只有推特上的口頭聲稱(chēng)。

問(wèn)：你們沒(méi)有收到任何正式通知？

阿莫代伊：尚未收到任何形式的官方文件。目前只有總統(tǒng)和赫格塞斯部長(zhǎng)的推特。一旦我們收到正式的行政動(dòng)作，我們會(huì)評(píng)估其影響，并在法庭上提起訴訟。

問(wèn)：如果這就是他們與你們溝通的方式，你認(rèn)為這反映了他們處理重大國(guó)家安全問(wèn)題的能力嗎？

阿莫代伊：我不希望將這件事歸咎于某屆政府或某個(gè)人。我們?cè)诮弑M所能支持國(guó)家安全。這就是為什么我們?nèi)灾铝τ趯で髤f(xié)議；如果無(wú)法達(dá)成，我們承諾會(huì)以平穩(wěn)的方式“下線”，確保前線戰(zhàn)士在沖突中能持續(xù)獲得支持。

這就是為什么我們必須抵制那些不符合國(guó)家價(jià)值觀的行為。這無(wú)關(guān)個(gè)人或政府，這是關(guān)于堅(jiān)持正確原則的底線。

問(wèn)：Anthropic CEO阿莫代伊，非常感謝你的分享。

阿莫代伊：非常感謝你的邀請(qǐng)。