編輯｜張倩

昨天，我們報道了「OpenAI 光速滑跪，背刺 Anthropic，高調(diào)簽下軍方大單」的新聞。今天，這一事件又有了新進(jìn)展 ——OpenAI 公布了他們與五角大樓協(xié)議的部分內(nèi)容，聲稱簽的合同能夠確保他們的 AI 模型不被用于大規(guī)模監(jiān)控美國公民和自動化武器，和 Anthropic 之前提供的方案「很不一樣」。

要理清這件事，還得從 Anthropic 硬剛美國國防部說起。昨天，Anthropic 因為堅守紅線（拒絕國防部對其 AI 系統(tǒng)完全訪問權(quán)限的要求）、甚至被曝創(chuàng)始人得罪了五角大樓領(lǐng)導(dǎo)層，直接被特朗普封殺、扣上「供應(yīng)鏈安全風(fēng)險」的帽子。這一舉動在硅谷獲得了巨大聲援，甚至對手 OpenAI 也表示支持。

但隨即，事件發(fā)生戲劇性反轉(zhuǎn) —— 奧特曼連發(fā)三條帖子，宣布 OpenAI 已與五角大樓達(dá)成協(xié)議，將模型部署到了他們的機(jī)密網(wǎng)絡(luò)中。

這一反轉(zhuǎn)在硅谷掀起軒然大波，OpenAI 風(fēng)評急轉(zhuǎn)直下，外界質(zhì)疑奧特曼為了合同放棄底線。

為了回應(yīng)外界的質(zhì)疑，OpenAI 今天一大早就發(fā)布了一則新的聲明，稱他們的合同包含「三條紅線」，對國防部有足夠的制約。

以下是 OpenAI 聲明的全文：

OpenAI：我們的三道紅線

昨日，我方與五角大樓達(dá)成協(xié)議，將在涉密環(huán)境中部署先進(jìn)人工智能系統(tǒng)，同時我方已提議，讓所有人工智能企業(yè)均可獲得相關(guān)部署權(quán)限。

我方認(rèn)為，這份協(xié)議為涉密人工智能部署設(shè)置的防護(hù)規(guī)則，較以往所有同類協(xié)議（包括 Anthropic 公司的協(xié)議）都更為完善，原因如下。

我方與國防部的合作遵循三大核心紅線，這也是多家前沿人工智能實驗室的共識：

• 不得將 OpenAI 技術(shù)用于大規(guī)模國內(nèi)監(jiān)控；
• 不得將 OpenAI 技術(shù)用于指揮自主武器系統(tǒng)；
• 不得將 OpenAI 技術(shù)用于高風(fēng)險自動化決策（如「社會信用體系」類系統(tǒng)）。

其他人工智能實驗室在國家安全領(lǐng)域的部署中，均削減或取消了安全防護(hù)規(guī)則，僅將使用政策作為核心保障手段。而我方的做法，能更好地防范技術(shù)被用于不當(dāng)用途。

在本協(xié)議中，我方通過更全面、多層級的方式堅守上述紅線：我方對安全防護(hù)體系擁有完全自主決定權(quán)，所有部署均通過云端完成，具備涉密工作資質(zhì)的 OpenAI 工作人員全程參與，同時協(xié)議中設(shè)置了嚴(yán)格的合同保障條款。這一切都是對美國法律中現(xiàn)有的強(qiáng)有力保護(hù)措施的補(bǔ)充。

我方堅定擁護(hù)民主制度。鑒于人工智能技術(shù)的重要性，我方認(rèn)為，唯有讓人工智能研發(fā)與民主進(jìn)程深度融合，才是該技術(shù)發(fā)展的正確路徑。同時我方也深知，這項技術(shù)會給世界帶來新的風(fēng)險，因此希望捍衛(wèi)美國國家安全的相關(guān)人員，能擁有最先進(jìn)的技術(shù)工具。

本協(xié)議的核心條款包括：

一、部署架構(gòu)

所有部署均為純云端部署，由我方運(yùn)維安全防護(hù)體系，該體系將嚴(yán)格遵循上述核心原則及其他安全準(zhǔn)則。我方不會向國防部提供「無防護(hù)規(guī)則」的模型或未經(jīng)安全訓(xùn)練的模型，也不會在邊緣設(shè)備部署模型（此類部署存在技術(shù)被用于自主致命性武器的潛在風(fēng)險）。

該部署架構(gòu)能讓我方獨立核查紅線遵守情況，包括運(yùn)維和更新相關(guān)識別分類系統(tǒng)。

二、協(xié)議條款

相關(guān)核心表述如下：國防部可在符合適用法律、作戰(zhàn)需求，以及成熟的安全與監(jiān)督規(guī)程的前提下，為所有合法目的使用本人工智能系統(tǒng)。在法律、法規(guī)或國防部政策要求由人類掌控的任何場景中，本系統(tǒng)不得被用于獨立指揮自主武器；在上述授權(quán)框架下，需要人類決策者批準(zhǔn)的其他高風(fēng)險決策，本系統(tǒng)也不得參與制定。根據(jù) 2023 年 1 月 25 日發(fā)布的「國防部 3000.09 號指令」，自主及半自主系統(tǒng)中人工智能技術(shù)的任何應(yīng)用，在部署前均需經(jīng)過嚴(yán)格的驗證、確認(rèn)與測試，確保其能在真實場景中按預(yù)期運(yùn)行。

針對情報活動，所有涉及個人隱私信息的處理行為，均需遵守《美國憲法第四修正案（Fourth Amendment）》《1947 年國家安全法（National Security Act of 1947）》《1978 年外國情報監(jiān)控法（Foreign Intelligence and Surveillance Act of 1978）》《第 12333 號行政命令》，以及國防部要求具備明確外國情報收集目的的相關(guān)指令。本系統(tǒng)不得在上述授權(quán)框架外，對美國公民的隱私信息進(jìn)行無約束監(jiān)控；除《治安民兵法（Posse Comitatus Act）》及其他適用法律允許的情形外，本系統(tǒng)也不得用于國內(nèi)執(zhí)法活動。

三、人工智能專家參與

我方將派遣具備涉密工作資質(zhì)的前沿部署工程師為美方政府提供技術(shù)支持，同時安排具備同等資質(zhì)的安全與對齊研究人員全程參與協(xié)作。

FAQ

核心問題 QA

1、我方為何開展此項合作？

首先，我方認(rèn)為，面對潛在對手正不斷將人工智能技術(shù)融入其系統(tǒng)、威脅持續(xù)升級的現(xiàn)狀，美國軍方迫切需要高性能的人工智能模型支撐任務(wù)開展。我方最初并未簽署涉密部署協(xié)議，因當(dāng)時我方認(rèn)為自身的防護(hù)措施和系統(tǒng)尚未準(zhǔn)備就緒，此后我方一直全力推進(jìn)相關(guān)工作，確保涉密部署能在防護(hù)規(guī)則保障下實施，堅守紅線不被突破。

我方過去從未、未來也絕不會為提升國家安全領(lǐng)域的技術(shù)性能，而移除核心技術(shù)防護(hù)規(guī)則 —— 這并非支持美國軍方的正確方式。

其次，我方也希望緩和國防部與美國各人工智能實驗室之間的關(guān)系。人工智能領(lǐng)域的美好未來，離不開政府與實驗室之間真實、深度的合作。作為本次合作的一部分，我方已提議將協(xié)議同等條款開放給所有人工智能實驗室，并明確要求美方政府推動與 Anthropic 公司的問題解決；當(dāng)前的局面，絕不是政府與人工智能實驗室開啟下一階段合作的合理開端。

2、為何 Anthropic 公司未能達(dá)成協(xié)議，而我方可以？我方是否簽署了他們拒絕的協(xié)議？

據(jù)我方了解，本協(xié)議提供的保障措施和責(zé)任防護(hù)規(guī)則，較以往的協(xié)議（包括 Anthropic 公司最初的協(xié)議）更為完善。我方的紅線之所以更具可執(zhí)行性，原因在于：部署范圍僅限純云端（而非邊緣設(shè)備）、我方安全防護(hù)體系按最優(yōu)方式持續(xù)運(yùn)維、具備涉密資質(zhì)的 OpenAI 工作人員全程參與。

我方并不清楚 Anthropic 公司未能達(dá)成協(xié)議的具體原因，也希望該公司及更多實驗室能考慮本次的協(xié)議條款。

3、我方是否認(rèn)為應(yīng)將 Anthropic 公司列為「供應(yīng)鏈風(fēng)險主體」？

不認(rèn)同，且我方已向美方政府明確表達(dá)該立場。

4、本協(xié)議是否會讓國防部利用 OpenAI 模型為自主武器提供技術(shù)支持？

不會。基于我方的安全防護(hù)體系、純云端的部署方式、協(xié)議條款約定，以及現(xiàn)行的法律、法規(guī)和政策，我方確信此類情況不會發(fā)生。同時，OpenAI 工作人員的全程參與，也將進(jìn)一步提供保障。

5、本協(xié)議是否會讓國防部利用 OpenAI 模型對美國公民開展大規(guī)模監(jiān)控？

不會?；谖曳降陌踩雷o(hù)體系、協(xié)議條款約定，以及嚴(yán)格限制國防部開展國內(nèi)監(jiān)控的現(xiàn)行法律，我方確信此類情況不會發(fā)生。OpenAI 工作人員的全程參與，也將進(jìn)一步提供保障。

6、我方是否必須在無安全防護(hù)體系的情況下部署模型？

不需要。我方對所部署的安全防護(hù)體系擁有完全控制權(quán)，絕不會在無安全防護(hù)規(guī)則的情況下實施部署。此外，我方的安全與對齊研究人員將全程參與，并持續(xù)助力系統(tǒng)優(yōu)化。我方了解到，其他人工智能實驗室均削減了模型防護(hù)規(guī)則，僅將使用政策作為核心保障手段，但我方認(rèn)為，多層級的防護(hù)方式能更好地防范技術(shù)被用于不當(dāng)用途。

7、若美方政府違反協(xié)議條款，將如何處理？

與所有商業(yè)合同一致，若合作方違反協(xié)議條款，我方有權(quán)終止協(xié)議。但我方預(yù)計此類情況不會發(fā)生。

8、若美方政府修改現(xiàn)行法律或國防部政策，將如何處理？

我方協(xié)議中已明確援引當(dāng)前有效的監(jiān)控及自主武器相關(guān)法律、政策；即便未來此類法律或政策發(fā)生調(diào)整，我方系統(tǒng)的使用仍需嚴(yán)格遵循協(xié)議中載明的現(xiàn)行標(biāo)準(zhǔn)。

9、針對 Anthropic 公司在博客中就其與國防部溝通事宜發(fā)表的觀點，我方作何回應(yīng)？

Anthropic 公司在其博客中提出了兩條紅線（我方同樣將這兩條列為紅線，并新增了第三條：高風(fēng)險自動化決策），并表示，在其當(dāng)時看到的國防部協(xié)議中，這些紅線無法得到有效保障。以下是我方認(rèn)為本協(xié)議能有效堅守上述紅線的原因：

• 大規(guī)模國內(nèi)監(jiān)控：在我方與國防部的溝通中，美方明確表示，大規(guī)模國內(nèi)監(jiān)控屬于違法行為，且美方并無將技術(shù)用于該用途的計劃。我方已在協(xié)議中明確載明，此類用途不屬于「合法使用范疇」。
• 全自主武器：本協(xié)議約定的純云端部署模式，無法為全自主武器提供技術(shù)支持 —— 此類應(yīng)用必然需要邊緣設(shè)備部署。

除上述保障措施外，我方協(xié)議還設(shè)置了額外的多層級防護(hù)手段，包括我方自主運(yùn)維的安全防護(hù)體系，以及全程參與的 OpenAI 技術(shù)專家。

網(wǎng)友：細(xì)節(jié)不重要，紅線很快就會消失

在這份聲明發(fā)布后，外界的擔(dān)憂并沒有消除。有人質(zhì)疑說，為什么看上去差不多的條件，OpenAI 就和國防部談妥了，而 Anthropic 不行？是不是 OpenAI 的合同有更多靈活空間？

基于這種懷疑，有人把上述條款拿給 AI 看，發(fā)現(xiàn)里面確實有一些值得進(jìn)一步推敲的地方，比如「all lawful purposes」等措辭。此類界定非常模糊，非常容易被突破，而這也是之前 Anthropic 所拒絕的部分。

因此，有人直接斷言，這份協(xié)議加再多約束條款也毫無意義，「紅線很快就會被突破」。

不知道接下來，OpenAI 將如何回應(yīng)這些質(zhì)疑。

原文鏈接：https://openai.com/index/our-agreement-with-the-department-of-war/