達(dá)斯汀·莫斯科維茨在四年后離開(kāi)了臉書(shū)。盡管公司初創(chuàng)成員的身份讓他成為億萬(wàn)富翁，但莫斯科維茨此后開(kāi)始對(duì)社交媒體給世界帶來(lái)的影響表示擔(dān)憂。

他曾說(shuō)：“這是一股強(qiáng)大的力量，其后果難以預(yù)測(cè)，也難以掌控。”他決心在硅谷的下一次技術(shù)飛躍中，以更審慎的態(tài)度對(duì)待。

正是出于這種心態(tài)，身為民主黨重要捐款人的莫斯科維茨投入數(shù)億美元資助人工智能安全研究，并成為人工智能實(shí)驗(yàn)室Anthropic的早期投資者。目前，這家主打安全的人工智能實(shí)驗(yàn)室正與特朗普政府陷入激烈的爭(zhēng)端。

目前的博弈主要分為兩個(gè)陣營(yíng)：一派是“安全主義者”，他們擔(dān)憂存在性風(fēng)險(xiǎn)，將人工智能比作核武器，并要求對(duì)技術(shù)開(kāi)發(fā)制定嚴(yán)格規(guī)則；另一派是“加速主義者”，他們預(yù)言人工智能將帶來(lái)巨大的財(cái)富和科學(xué)發(fā)現(xiàn)。

雙方的立場(chǎng)很大程度上由對(duì)立面的存在所定義。安全優(yōu)先派認(rèn)為對(duì)手極其魯莽，而對(duì)手則稱他們?yōu)樾沟桌锏摹澳┤照撜摺?。這場(chǎng)爭(zhēng)論不可避免地帶有政治色彩。加速主義者向特朗普靠攏，將安全顧慮視為左翼管控的遮羞布，認(rèn)為這會(huì)扼殺增長(zhǎng)并限制自由。而包括民主黨重要捐款人在內(nèi)的“末日論者”則指責(zé)特朗普陣營(yíng)的人在玩火。

誰(shuí)能最終勝出，或許將決定人工智能的發(fā)展方向，甚至有人認(rèn)為，這也關(guān)乎人類的未來(lái)。這場(chǎng)爭(zhēng)論背后的緊張關(guān)系已醞釀多年。在批評(píng)者眼中，莫斯科維茨是這個(gè)故事的“零號(hào)病人”。

24歲離開(kāi)臉書(shū)后，莫斯科維茨迅速成為世界上最年輕的白手起家億萬(wàn)富翁。他渴望將財(cái)富用于公益，但很快因缺乏數(shù)據(jù)支持慈善決策而感到沮喪。

2011年初的一個(gè)周日，他和當(dāng)時(shí)的女友、如今的妻子卡里·圖納與30歲的前對(duì)沖基金經(jīng)理霍爾頓·卡諾夫斯基在舊金山共進(jìn)早午餐，這次會(huì)面改變了一切。

卡諾夫斯基運(yùn)用金融行業(yè)的工具來(lái)評(píng)估慈善捐贈(zèng)的最優(yōu)方案。隨后，莫斯科維茨、圖納和卡諾夫斯基共同創(chuàng)立了非營(yíng)利組織“開(kāi)放慈善”，該組織近期更名為“系數(shù)捐贈(zèng)”，已向公益事業(yè)投入約40億美元。

這家位于舊金山的組織已成為“有效利他主義”運(yùn)動(dòng)的領(lǐng)軍者。該運(yùn)動(dòng)致力于優(yōu)化福祉并減少痛苦，不僅針對(duì)人類，其擁護(hù)者甚至熱衷于通過(guò)捐款來(lái)減輕數(shù)十億只蝦的痛苦。

近年來(lái)，該運(yùn)動(dòng)日益擔(dān)憂人工智能可能給人類帶來(lái)毀滅。2016年，“開(kāi)放慈善”表示擔(dān)憂人工智能若被濫用可能導(dǎo)致“全球性災(zāi)難后果”，并承諾提供“大量資金”以應(yīng)對(duì)此風(fēng)險(xiǎn)。

它資助了包括“生命未來(lái)研究所”在內(nèi)的多個(gè)團(tuán)體，后者曾呼吁暫停人工智能開(kāi)發(fā)。自2019年以來(lái)，它已向喬治城大學(xué)的安全與新興技術(shù)中心投入超過(guò)1億美元。

正是后者讓“有效利他主義”的追隨者得以進(jìn)入美國(guó)權(quán)力核心。安全與新興技術(shù)中心憑借其模糊的名稱和無(wú)黨派的使命陳述，看起來(lái)就像華盛頓眾多智庫(kù)中的一個(gè)。但批評(píng)人士指出，該組織成立后的多年里，實(shí)際上左右了華盛頓的人工智能政策。

安全與新興技術(shù)中心資源充足，旨在填補(bǔ)國(guó)會(huì)山人工智能專家短缺的空白。因此，當(dāng)OpenAI于2022年11月發(fā)布ChatGPT并引發(fā)全球人工智能狂潮時(shí)，該中心已做好了準(zhǔn)備。

憑借與用戶自然對(duì)話并生成類人回答的能力，ChatGPT讓人們感到人工智能首次跨越了“恐怖谷”，接近了真正的智能。其發(fā)明者將其作為實(shí)驗(yàn)發(fā)布，卻完全沒(méi)料到會(huì)引發(fā)如此巨大的關(guān)注，各國(guó)政府也對(duì)此感到困惑。

安全與新興技術(shù)中心迅速填補(bǔ)了這一真空。拜登政府很快充斥著該智庫(kù)的專家。首任主任杰森·馬西尼成為國(guó)家安全與技術(shù)顧問(wèn)；網(wǎng)絡(luò)安全總監(jiān)本·布坎南成為白宮人工智能特別顧問(wèn)。該中心的學(xué)者塔倫·查布拉和賽義夫·汗也進(jìn)入白宮擔(dān)任技術(shù)與國(guó)家安全顧問(wèn)。

據(jù)《政治報(bào)》調(diào)查，由莫斯科維茨的“開(kāi)放慈善”于2022年設(shè)立的“地平線公共服務(wù)研究所”也資助了一系列進(jìn)入白宮任職的職位。

“他們堅(jiān)信只有少數(shù)人比其他人更聰明，應(yīng)該控制人工智能的準(zhǔn)入，并且只有他們有能力辨別相關(guān)的倫理、規(guī)則和法律，”科技公司資助的游說(shuō)團(tuán)體“建設(shè)美國(guó)人工智能”的內(nèi)森·利默表示，“而拜登政府完全照單全收?！?/p>

“有效利他主義”的支持者認(rèn)為，在ChatGPT問(wèn)世前幾年，他們是唯一認(rèn)真對(duì)待人工智能的人。當(dāng)政客們尋求專業(yè)建議時(shí)，他們恰好在場(chǎng)，這并非他們的過(guò)錯(cuò)。

但批評(píng)者抱怨稱，有效利他主義者實(shí)際上以一種阻礙發(fā)展的方式接管了人工智能政策。此外，這背后還有個(gè)人與政治的故事。作為臉書(shū)聯(lián)合創(chuàng)始人的莫斯科維茨，也是拜登2020年競(jìng)選活動(dòng)的最大捐款人之一，據(jù)報(bào)道捐贈(zèng)了1億美元以幫助拜登入主白宮。

拜登政府很快開(kāi)始收緊對(duì)技術(shù)的管控。2023年，時(shí)任總統(tǒng)下令要求主要人工智能實(shí)驗(yàn)室報(bào)告安全測(cè)試結(jié)果，批評(píng)者認(rèn)為這是政府試圖審批人工智能公司業(yè)務(wù)的前奏。拜登還提議對(duì)人工智能芯片和軟件的出口實(shí)施全面限制。雖然從未成為官方政策，但在華盛頓，要求人工智能公司獲取運(yùn)營(yíng)許可的想法一度廣為流傳。

知名特朗普支持者、風(fēng)險(xiǎn)投資家馬克·安德森后來(lái)聲稱，白宮官員曾告訴他，最終計(jì)劃是讓人工智能受到“政治控制”。“‘我們將確保人工智能成為兩三家大公司的職能。我們將直接監(jiān)管和控制這些公司。不會(huì)有初創(chuàng)企業(yè)，’”安德森去年在播客中說(shuō)道。

拜登政府還要求采取措施打擊政府使用人工智能時(shí)的歧視行為。例如，計(jì)劃在移民執(zhí)法或醫(yī)療保健中使用該技術(shù)的美國(guó)機(jī)構(gòu)，必須測(cè)試系統(tǒng)對(duì)“公平性”的影響。成為特朗普人工智能沙皇的科技投資人大衛(wèi)·薩克斯聲稱，這等同于強(qiáng)推“覺(jué)醒人工智能”。

“那些控制拜登人工智能簽名機(jī)的人，從沒(méi)在硅谷工作過(guò)，”他后來(lái)表示?！跋禂?shù)捐贈(zèng)”的發(fā)言人表示，其支持的專家進(jìn)入政府任職是很自然的事?！拔覀?cè)缙诘哪繕?biāo)之一是培養(yǎng)思考這些問(wèn)題的專家，因?yàn)檫@些問(wèn)題涉及技術(shù)、安全和治理的結(jié)合，而10年前沒(méi)有任何現(xiàn)有領(lǐng)域能夠解決這些問(wèn)題，”發(fā)言人稱。

“無(wú)論哪個(gè)政府執(zhí)政，擁有相關(guān)人工智能專業(yè)知識(shí)的人被政府招募都是正常的，我們認(rèn)為這種公共服務(wù)是件好事。”該組織補(bǔ)充說(shuō)，他們既資助利用人工智能優(yōu)勢(shì)的工作，也對(duì)風(fēng)險(xiǎn)發(fā)出警告。

“我們相信人工智能有潛力極大地加速科學(xué)技術(shù)發(fā)展并推動(dòng)經(jīng)濟(jì)增長(zhǎng)，同時(shí)也帶來(lái)了一些前所未有的風(fēng)險(xiǎn)，”發(fā)言人表示，“我們支持深入的研究、討論和辯論，以確保在規(guī)避風(fēng)險(xiǎn)的同時(shí)，實(shí)現(xiàn)人工智能的巨大潛力?！?/p>

反監(jiān)管的科技行業(yè)大部分站在了特朗普一邊。當(dāng)他在2024年大選中獲勝時(shí)，他們得到了回報(bào)。特朗普推翻了拜登的人工智能政策，稱其前任試圖“癱瘓”該行業(yè)。被招募來(lái)提供建議的硅谷高管包括薩克斯、曾在安德森風(fēng)投公司工作的斯里拉姆·克里希南，以及曾為特朗普早期支持者彼得·蒂爾工作的邁克爾·克拉齊奧斯。

與人工智能安全工作密切相關(guān)的有效利他主義運(yùn)動(dòng)，因一起高調(diào)丑聞而聲譽(yù)掃地。在特朗普第二次勝選前幾個(gè)月，加密貨幣交易所FTX的創(chuàng)始人、被譽(yù)為天才少年的山姆·班克曼-弗里德因欺詐罪被判入獄25年。

班克曼-弗里德曾是該運(yùn)動(dòng)的領(lǐng)軍人物，慷慨資助各種活動(dòng)，是其最具知名度的面孔。但FTX的倒閉導(dǎo)致投資者損失數(shù)十億美元，使有效利他主義的工作徹底喪失了信譽(yù)。

隨著加速主義者入主華盛頓，人工智能安全運(yùn)動(dòng)陷入低谷。甚至世界其他地區(qū)也開(kāi)始改變立場(chǎng)。2023年，時(shí)任英國(guó)首相里希·蘇納克舉辦了首屆人工智能安全峰會(huì)，各國(guó)領(lǐng)導(dǎo)人齊心協(xié)力防止該技術(shù)造成的“災(zāi)難性危害”。僅僅兩年后，在巴黎舉行的后續(xù)活動(dòng)被更名為“人工智能行動(dòng)峰會(huì)”，而人們對(duì)該峰會(huì)的主要記憶是萬(wàn)斯指責(zé)歐盟的“過(guò)度監(jiān)管可能會(huì)扼殺一個(gè)變革性的行業(yè)”。

許多人工智能行業(yè)的巨頭已經(jīng)選擇順從。OpenAI首席執(zhí)行官山姆·奧特曼對(duì)特朗普大加贊賞；其總裁格雷格·布羅克曼已成為總統(tǒng)最大的個(gè)人捐款人之一。但在距離華盛頓數(shù)千英里之外，仍存在一個(gè)抵抗據(jù)點(diǎn)。無(wú)論是有意還是無(wú)意，許多拜登政府的官員和背負(fù)著滅絕恐懼的倫理學(xué)家聚集在Anthropic。這家競(jìng)爭(zhēng)對(duì)手實(shí)驗(yàn)室近期一直與特朗普政府針?shù)h相對(duì)。

負(fù)責(zé)經(jīng)營(yíng)該公司的43歲卷發(fā)男子達(dá)里奧·阿莫代伊一直對(duì)美國(guó)總統(tǒng)持批評(píng)態(tài)度，稱其為“封建軍閥”，并拒絕支持其議程。阿莫代伊已成為特朗普政府的新眼中釘。作為意大利移民的后裔，這位思維敏捷的計(jì)算機(jī)科學(xué)家是當(dāng)今強(qiáng)大人工智能系統(tǒng)的先驅(qū)之一，他開(kāi)發(fā)的“縮放定律”突破，使得聊天機(jī)器人通過(guò)訓(xùn)練海量數(shù)據(jù)變得更加智能。

從一開(kāi)始，該公司就表現(xiàn)出一種在人工智能圈外人看來(lái)頗為深?yuàn)W的特質(zhì)。其員工會(huì)監(jiān)測(cè)聊天機(jī)器人Claude是否出現(xiàn)“痛苦跡象”，并試圖避免系統(tǒng)經(jīng)歷“不必要的痛苦”。阿莫代伊甚至建議，如果機(jī)器人對(duì)指令感到不適，應(yīng)該有一個(gè)“我辭職”的按鈕。

該公司與有效利他主義有著不可否認(rèn)的交集，而批評(píng)者將后者斥為邪教。莫斯科維茨和班克曼-弗里德是該公司的早期投資者。卡諾夫斯基與丹妮拉·阿莫代伊結(jié)婚并在該公司工作，而Anthropic負(fù)責(zé)任命董事會(huì)成員的“長(zhǎng)期利益信托”中，有幾位成員曾為有效利他主義慈善機(jī)構(gòu)工作。

Anthropic在主要人工智能實(shí)驗(yàn)室中獨(dú)樹(shù)一幟，聲稱將安全置于一切之上，并時(shí)刻準(zhǔn)備著警告失控的超級(jí)智能風(fēng)險(xiǎn)并呼吁監(jiān)管。

批評(píng)者認(rèn)為這種立場(chǎng)背后是貪婪和私利。理論認(rèn)為，通過(guò)夸大人工智能毀滅人類的能力，Anthropic及其盟友堅(jiān)持要求達(dá)到懲罰性的監(jiān)管水平，只有最富有的公司才能負(fù)擔(dān)得起，從而阻止了車庫(kù)里的年輕人顛覆他們的地位。

薩克斯在10月份聲稱：“Anthropic正在執(zhí)行一種基于恐懼營(yíng)銷的復(fù)雜監(jiān)管捕獲策略。”在特朗普政府眼中，該公司不可原諒的一點(diǎn)是其與民主黨的聯(lián)系。

Anthropic發(fā)言人表示，公司聘請(qǐng)了來(lái)自共和黨和民主黨政府的員工，包括幾位第一屆特朗普政府的成員。在硅谷，偏向左翼并不罕見(jiàn)，特朗普陣營(yíng)本可以放過(guò)該公司，但有一個(gè)問(wèn)題：它開(kāi)始變得異常成功。

Claude經(jīng)常被人工智能研究人員評(píng)為頂級(jí)模型。用于編寫(xiě)軟件的人工智能工具Claude Code已成為一種現(xiàn)象。此外，Anthropic的技術(shù)已嵌入美國(guó)國(guó)家系統(tǒng)；直到最近，它還是唯一獲準(zhǔn)用于機(jī)密軍事用途的系統(tǒng)。

正是這種在美軍技術(shù)中的關(guān)鍵作用，導(dǎo)致了與特朗普和國(guó)防部長(zhǎng)赫格塞斯的當(dāng)前爭(zhēng)端。Claude曾被用于在抓捕委內(nèi)瑞拉尼古拉斯·馬杜羅期間分析實(shí)時(shí)情報(bào)，據(jù)報(bào)道還被部署用于定位伊朗的轟炸目標(biāo)。

但當(dāng)阿莫代伊拒絕在禁止五角大樓將技術(shù)用于大規(guī)模監(jiān)控或自主武器的“紅線”上讓步時(shí)，赫格塞斯撕毀了價(jià)值2億美元的合同，并將該公司定性為國(guó)家安全風(fēng)險(xiǎn)。五角大樓堅(jiān)稱不會(huì)將該技術(shù)用于上述目的，但對(duì)一家私營(yíng)公司對(duì)其指手畫(huà)腳感到不滿。

阿莫代伊進(jìn)行了回?fù)?，憤怒地向員工暗示，公司受到懲罰是因?yàn)樗芙^向特朗普獻(xiàn)上贊美”。Anthropic對(duì)白宮提起了訴訟，并于3月底獲得臨時(shí)禁令，阻止了赫格塞斯的命令。

無(wú)論這場(chǎng)爭(zhēng)吵多么激烈，這可能只是未來(lái)的預(yù)演就阿莫代伊而言，他已明確表示，他與總統(tǒng)的分歧不僅限于軍事部署。2月，Anthropic宣布向美國(guó)一個(gè)支持人工智能監(jiān)管的運(yùn)動(dòng)捐款2000萬(wàn)美元。而已經(jīng)取代Anthropic在五角大樓地位的OpenAI高管，則資助了反對(duì)努力。

總統(tǒng)的官員還擔(dān)心，該公司的政治傾向會(huì)影響其聊天機(jī)器人的運(yùn)作，進(jìn)而影響數(shù)百萬(wàn)用戶。如果人工智能在幾年后將管理世界——甚至可能參與決定刑事案件、公司政策和政策決策——那么一個(gè)左翼機(jī)器人對(duì)特朗普陣營(yíng)來(lái)說(shuō)就是一個(gè)問(wèn)題。

“他們認(rèn)為Anthropic由在政治問(wèn)題上與他們意見(jiàn)不合的人管理是一個(gè)問(wèn)題，”去年離職的前特朗普政府人工智能顧問(wèn)迪恩·鮑爾表示，“他們認(rèn)為這會(huì)影響模型。很明顯，雙方都存在個(gè)人恩怨?！滨U爾曾表示，特朗普政府的目標(biāo)無(wú)異于“企業(yè)謀殺”。但如果真是這樣，對(duì)Anthropic的暗殺似乎并未奏效。

在特朗普政府拋棄Anthropic后的幾天里，Claude應(yīng)用的下載量飆升至下載榜首。據(jù)追蹤公司Ramp的數(shù)據(jù)顯示，四分之三首次購(gòu)買(mǎi)人工智能工具的公司選擇了Anthropic?！澳┤照撜摺笨赡苁チ税讓m，但就目前而言，他們似乎正在贏得關(guān)于誰(shuí)能掌控本世紀(jì)最具影響力技術(shù)的博弈。