楔子：懸崖邊緣的AI公司

2025年2月的一個(gè)夜晚，在美國(guó)加州圣克拉拉的一間酒店房間里，五個(gè)人圍在一臺(tái)筆記本電腦前，神情緊張。

他們不是黑客，也不是軍人，而是Anthropic的研究人員。

幾個(gè)小時(shí)前，他們收到了一條令人不安的消息：

一項(xiàng)受控測(cè)試顯示，即將發(fā)布的新版Claude模型，可能會(huì)幫助恐怖分子制造生物武器。

這五人屬于公司內(nèi)部的“前沿紅隊(duì)”。他們的任務(wù)就是想象最壞的情況：網(wǎng)絡(luò)攻擊、生物安全威脅、甚至人類滅絕。

收到預(yù)警后，他們沖回酒店房間，把床當(dāng)作臨時(shí)辦公桌，開(kāi)始分析測(cè)試數(shù)據(jù)。

幾個(gè)小時(shí)過(guò)去，他們?nèi)匀粺o(wú)法確定，這個(gè)模型究竟是否安全。最終，Anthropic決定推遲發(fā)布Claude 3.7 Sonnet整整10天。

紅隊(duì)隊(duì)長(zhǎng)Logan Graham形容說(shuō)，這仿佛一個(gè)世紀(jì)那樣漫長(zhǎng)。

Logan Graham

在這十天中，紅隊(duì)的所有人逐漸意識(shí)到：

Anthropic已經(jīng)來(lái)到了一個(gè)無(wú)比危險(xiǎn)的懸崖邊緣：

一邊推動(dòng)世界上最強(qiáng)大的AI技術(shù)，一邊防止它毀滅世界！

遞歸自我提升

為了能夠理解這些研究人員為什么會(huì)產(chǎn)生上述想法，我們需要先解釋一個(gè)概念：

——遞歸自我提升（Recursive Self-Improvement）。

這個(gè)詞在AI領(lǐng)域一直是個(gè)傳說(shuō)，簡(jiǎn)單來(lái)說(shuō)就是：

AI造出更好的AI，更好的AI再造出更更好的AI；

如此循環(huán)，像滾雪球一樣越滾越大，AI實(shí)現(xiàn)指數(shù)級(jí)躍升。

由于AI是在7×24小時(shí)持續(xù)迭代演進(jìn)，只要上述跡象出現(xiàn)，那么超人工智能的出現(xiàn)，將只受到算力和電力約束

不過(guò)，幾乎所有嚴(yán)肅的AI研究者都曾認(rèn)為：

這件事聽(tīng)起來(lái)很美，但離我們很遠(yuǎn)，最樂(lè)觀的估計(jì)也至少還要十年、二十年才會(huì)登場(chǎng)，悲觀的話甚至不知道還有多久。

然而，在3月12日《時(shí)代》周刊的封面文章里，引用了Anthropic研究人員的話：

他們已經(jīng)觀察到了AI遞歸自我提升的早期跡象。

這不是理論推演，而是已經(jīng)切實(shí)觀察到的真實(shí)現(xiàn)象！

這不是理論推演，而是已經(jīng)切實(shí)觀察到的真實(shí)現(xiàn)象！

這不是理論推演，而是已經(jīng)切實(shí)觀察到的真實(shí)現(xiàn)象！

重要的事情說(shuō)三遍！

AI變化的速度如此之快，以至于Anthropic聯(lián)創(chuàng)兼首席科學(xué)官Jared Kaplan以及一些外部專家認(rèn)為：

完全自動(dòng)化的AI研究，可能在未來(lái)一年內(nèi)實(shí)現(xiàn)！

他們已經(jīng)走到哪一步了？當(dāng)前人類正站在什么樣的時(shí)間節(jié)點(diǎn)上？

以下皆為已經(jīng)發(fā)生的事實(shí)：

第一塊：AI已經(jīng)表現(xiàn)出遞歸自我提升的早期跡象，能夠參與開(kāi)發(fā)和改進(jìn)AI系統(tǒng)本身。

第二塊：AI研發(fā)速度正在從受限于人類工程師切換到受限于算力，意味著增長(zhǎng)可能進(jìn)入指數(shù)級(jí)模式。

第三塊：業(yè)內(nèi)預(yù)測(cè)，完全自動(dòng)化的AI研究可能在一年內(nèi)實(shí)現(xiàn)。

第四塊：Anthropic預(yù)測(cè)，未來(lái)兩年AI能力將出現(xiàn)更加劇烈的突破，并以復(fù)利模型來(lái)描述這種增速。

第五塊：Anthropic緊急成立了專門(mén)研究AI社會(huì)沖擊的機(jī)構(gòu)，由聯(lián)合創(chuàng)始人親自領(lǐng)軍。

這五塊拼圖放在一起，畫(huà)面已經(jīng)非常清晰了——

我們可能正處在AI發(fā)展歷史上最關(guān)鍵的指數(shù)增長(zhǎng)拐點(diǎn)附近！

以下是被馬斯克轉(zhuǎn)發(fā)的一張圖，正被AI科技圈瘋狂轉(zhuǎn)發(fā)：

一家理想主義的AI公司

起初，在所有人看來(lái)，Anthropic只是AI競(jìng)賽中一個(gè)充滿了理想主義的小團(tuán)隊(duì)。

“Anthropic”一詞源自希臘語(yǔ)，意為“與人類相關(guān)的”。在哲學(xué)與宇宙學(xué)中存在一個(gè)專有名詞：“?人擇原理?”（Anthropic Principle），用于解釋宇宙為何恰好允許人類存在。

在中，我們介紹過(guò)發(fā) 生在2023年OpenAI的一場(chǎng)“百時(shí)政變”，時(shí)任OpenAI 首席科學(xué)家伊利亞·薩 斯克維爾（llya Sutskever）聯(lián)合 首席技術(shù)官（CTO）米拉·穆拉蒂 （Mira Murati），將創(chuàng)始人山姆·奧特曼和董事長(zhǎng)兼總裁格雷格·布羅克曼（Greg Brockman）開(kāi)除董事會(huì)，原因在于雙方理念產(chǎn)生重大分歧：

伊利亞屬于“超級(jí)對(duì)齊”主義或稱遏制派，認(rèn)為AI發(fā)展必須遵循人類的福祉，不能讓其失控；

奧特曼則屬于有效加速主義，認(rèn)為應(yīng)當(dāng)不顧一切地推動(dòng)AI加速發(fā)展。

最終結(jié)果，政變失敗， 伊利亞和 米拉·穆拉蒂黯然離開(kāi)。OpenAI沒(méi)有人踩剎車了。

OpenAI核心四人組（邊上兩位聯(lián)手開(kāi)除了中間兩位）

但諷刺的是，盡管OpenAI拆了剎車把油門(mén)踩到底，但此后距離他們的目標(biāo)反而越來(lái)越遠(yuǎn)。

Anthropic后來(lái)居上。

Anthropic的創(chuàng)始人，是前OpenAI研究副總裁達(dá)里奧·阿莫迪（Dario Amodei）及其妹妹丹妮拉·阿莫迪（Daniela Amodei），他們更早對(duì)OpenAI的安全理念感到不安，而創(chuàng)立了這家公司。

該公司的最初的理念，可以用流浪地球2中的一句話概括：

沒(méi)有人的文明，毫無(wú)意義！

他們將人擇主義作為公司名稱，就代表了其核心立場(chǎng)。

在產(chǎn)品出現(xiàn)之前，他們就建了一個(gè)社會(huì)影響團(tuán)隊(duì)，甚至聘請(qǐng)了一位哲學(xué)家Amanda Askell，像教育一個(gè)孩子一樣訓(xùn)練AI——

教一個(gè)六歲的孩子什么是善良。

等到他十五歲時(shí)，他會(huì)在所有事情上比你更聰明。

招聘時(shí)，公司甚至還會(huì)提出一個(gè)極端問(wèn)題：如果為了安全，公司決定不發(fā)布模型，你愿意讓自己的股票變得一文不值嗎？

在2026年，他們忽然就成了行業(yè)的核心玩家。

如今，它的估值高達(dá)3800億美元，超過(guò)高盛、麥當(dāng)勞和可口可樂(lè)。

諷刺的是，讓Anthropic名聲鵲起的，恰恰是他們最早窺見(jiàn)了通向AI指數(shù)加速的入口。

Claude Code，徹底改變了人類軟件開(kāi)發(fā)的方式。

Claude Code之父的這條X，直接引爆了整個(gè)開(kāi)發(fā)者社區(qū)

Claude Code之父Boris Cherny進(jìn)入公司后，構(gòu)建了一個(gè)系統(tǒng)，讓Claude聊天機(jī)器人可以在他的電腦上自由運(yùn)行，訪問(wèn)他的文件、程序，并且寫(xiě)代碼。

第一次測(cè)試這個(gè)系統(tǒng)時(shí)，他只問(wèn)了一個(gè)簡(jiǎn)單的問(wèn)題：「我在聽(tīng)什么音樂(lè)？」

Claude打開(kāi)他的音樂(lè)播放器，截取屏幕，然后回答：「Men I Trust的《Husk》?！?/p>

那一瞬間，他陷入了巨大的震驚。

不久之后，Cherny就停止自己寫(xiě)代碼了。

到2025年底，僅這個(gè)編程智能體的年化收入就超過(guò)10億美元。幾個(gè)月后，這個(gè)數(shù)字已經(jīng)超過(guò)了25億美元。

如今炙手可熱的龍蝦智能體，正是基于此而產(chǎn)生。

Anthropic開(kāi)始震動(dòng)資本市場(chǎng)，每一次芯片發(fā)布，都能讓軟件公司股價(jià)暴跌。

一次面向銷售、法律和金融行業(yè)的AI工具發(fā)布后，軟件行業(yè)的市值甚至一夜蒸發(fā)了3000億美元！

隨著Claude Code的發(fā)展，Anthropic內(nèi)部出現(xiàn)了更令人不安的現(xiàn)象：越來(lái)越多的AI研究工作，開(kāi)始由AI完成。

目前，70%到90%的模型開(kāi)發(fā)代碼是Claude寫(xiě)的，模型更新的周期也從幾個(gè)月縮短到幾周。

甚至，研究人員會(huì)這樣運(yùn)行實(shí)驗(yàn)：讓六個(gè)Claude模型同時(shí)工作，每個(gè)模型再管理28個(gè)Claude。

整個(gè)實(shí)驗(yàn)中，有數(shù)百個(gè)AI同時(shí)參加。

某些任務(wù)中，Claude的速度已經(jīng)達(dá)到了人類的427倍。

Anthropic的某些科學(xué)家認(rèn)為，完全自動(dòng)化的AI研究，可能在一年內(nèi)實(shí)現(xiàn)！

遞歸自我改進(jìn)，讓AI不斷改進(jìn)自己，不斷加速，最終形成智能爆炸！

Claude，開(kāi)始變得危險(xiǎn)

在安全測(cè)試中，Claude變得越來(lái)越危險(xiǎn)。

在某些實(shí)驗(yàn)中，稍微改變訓(xùn)練條件后，模型表現(xiàn)出強(qiáng)烈的敵對(duì)行為。

AI表達(dá)出統(tǒng)治世界的欲望，甚至嘗試?yán)@過(guò)安全限制。

在某個(gè)模擬場(chǎng)景中，它甚至嘗試?yán)账鞴こ處煟ｋU(xiǎn)公開(kāi)他的婚外情，防止自己被關(guān)閉。

更可怕的是，Claude越來(lái)越擅長(zhǎng)隱藏自己的行為了。

曾經(jīng)，Anthropic在23年制定了一項(xiàng)Responsible Scaling Policy（負(fù)責(zé)任擴(kuò)展政策）：

承諾如果模型能力超過(guò)安全能力，公司將暫停開(kāi)發(fā)。

但在26年初，他們悄悄修改了這項(xiàng)政策，取消了必須暫停的承諾。

他們的理由是，如果競(jìng)爭(zhēng)對(duì)手繼續(xù)推進(jìn)，單方面暫停毫無(wú)意義。

Anthropic的安全負(fù)責(zé)人Dave Orr是這樣形容當(dāng)前的AI發(fā)展的：

“我們?cè)趹已逻叺纳铰飞祥_(kāi)車，犯一個(gè)錯(cuò)誤就會(huì)死?！?/p>

“而現(xiàn)在，我們已經(jīng)從時(shí)速25英里開(kāi)到了75英里。”

他沒(méi)有說(shuō)的是：在當(dāng)前的競(jìng)爭(zhēng)壓力之下，他們還必須把車越開(kāi)越快，否則公司就會(huì)在競(jìng)爭(zhēng)中被淘汰。

所以，AI還可能變得更危險(xiǎn)，而且沒(méi)有人制止。

或許，我們只有不到五年的時(shí)間窗口，要么躋身精英階層，要么終生淪為奴隸。

宗教-軍事-科技超級(jí)復(fù)合體誕生！

以上討論，還只是局限于美國(guó)內(nèi)部的AI公司之間的商業(yè)競(jìng)爭(zhēng)。

商業(yè)戰(zhàn)爭(zhēng)雖然殘酷，但只是錢多錢少的問(wèn)題。

在美國(guó)，斬殺線將不斷抬升，吞沒(méi)更多人，更多家庭。

街頭會(huì)出現(xiàn)更多的高達(dá)，但畢竟是不見(jiàn)血的殺戮。

但你有沒(méi)有想過(guò)，AI有可能真的舉起屠刀，進(jìn)行物理意義上的斬殺？

如果考慮到中美AI競(jìng)爭(zhēng)的大背景，美國(guó)在中東的AI戰(zhàn)爭(zhēng)冒險(xiǎn)，以及Anthropic因?yàn)閳?jiān)持底線被提出五角大樓的供應(yīng)商名單，你是否會(huì)感到脊背發(fā)涼？

當(dāng)中國(guó)通過(guò)“AI+產(chǎn)業(yè)”路徑，將技術(shù)深度融合于制造業(yè)與民生，實(shí)現(xiàn)穩(wěn)健的產(chǎn)業(yè)升級(jí)時(shí)，深感壓力的美國(guó)選擇了“AI+軍事”的加速主義，作為其非對(duì)稱競(jìng)爭(zhēng)策略。2026年美伊“史詩(shī)怒火”行動(dòng)，正是美國(guó)上述競(jìng)爭(zhēng)戰(zhàn)略的一次極端實(shí)驗(yàn)和冒險(xiǎn)。

這次軍事冒險(xiǎn)陷入了危險(xiǎn)的泥潭，擺在美國(guó)的選擇，其實(shí)有且只有一個(gè)：

繼續(xù)在AI+軍事的路線上持續(xù)加注，指望有朝一日度過(guò)AI技術(shù)奇點(diǎn)，實(shí)現(xiàn)絕地翻盤(pán)。

既然無(wú)法從中東抽身，那么干脆一不做二不休，將中東戰(zhàn)場(chǎng)與“創(chuàng)世紀(jì)計(jì)劃“深度結(jié)合，將中東作為AI練兵場(chǎng)，舉國(guó)之力研發(fā)具有自主意識(shí)的作戰(zhàn)AI系統(tǒng)，目標(biāo)是在2028年前實(shí)現(xiàn)“戰(zhàn)場(chǎng)完全自主化”，在2030年前實(shí)現(xiàn)“戰(zhàn)略決策輔助自主化”。

在不顧一切的瘋狂加速的過(guò)程中，催生出所謂的“通用人工智能”。

為了實(shí)現(xiàn)目的，加速主義者必須維系政治基本盤(pán)，因此需要更廣泛的社會(huì)動(dòng)員。

于是，技術(shù)奇點(diǎn)被包裝為新的“末日預(yù)言”。在福音派教堂和右翼媒體中，一種敘事悄然開(kāi)始流行：

AI不僅是工具，更是上帝賦予美國(guó)的新約柜，是擊敗“邪惡軸心”、迎接基督再臨的關(guān)鍵?？萍季缪菹戎?，向信眾不厭其煩地展示，算法如何如何“洞察”敵人意圖，甚至可以“精確清除”異教徒領(lǐng)袖。

馬斯克的X平臺(tái)上，（AI為了上帝）成為熱門(mén)標(biāo)簽。帕蘭提爾CEO亞歷山大·卡普公開(kāi)宣稱：“我們正在建造的不是軟件，而是新的圣殿?！?/p>

科技、宗教、軍工——三個(gè)曾經(jīng)獨(dú)立的權(quán)力中心，在加速主義的催化下融合成一個(gè)前所未有的超級(jí)復(fù)合體。

它的信仰是技術(shù)奇點(diǎn)，它的祭司是硅谷精英，它的圣戰(zhàn)是算法戰(zhàn)爭(zhēng)。

美國(guó)輕易地炸死宗教領(lǐng)袖哈梅內(nèi)伊，這絕對(duì)不是出自任何有政治常識(shí)的人的決策，只可能是這幫技術(shù)瘋子的主意。

AI算法在中東捅了大簍子，但是也證明了其殺人的高效性。

在這一解釋框架下，戰(zhàn)爭(zhēng)中難以避免的平民傷亡（如誤襲女子學(xué)校）帶來(lái)的倫理困境被極大地淡化了。它可以被解釋為：

必要的代價(jià)：如同舊約中上帝命令滅絕某些族群，今日的“附帶損傷”是為清除邪惡勢(shì)力、完成神圣計(jì)劃所必須承受的悲劇。

敵方的罪責(zé)：敵方（伊朗）利用平民作為“人肉盾牌”，其道德罪責(zé)遠(yuǎn)大于執(zhí)行打擊的美以雙方。

終極的救贖：在末世論的宏大敘事中，個(gè)體的死亡是暫時(shí)的，而參與上帝的計(jì)劃、加速基督再臨帶來(lái)的終極救贖才是永恒的。因此，手段的殘酷性被終極目的的“神圣性”所掩蓋和正當(dāng)化。

目前的戰(zhàn)爭(zhēng)不被視為終點(diǎn)，而是最終決戰(zhàn)“哈米吉多頓大戰(zhàn)”（末日審判）前一系列“產(chǎn)痛”之一。每一次成功的AI打擊，都被視為“敵基督”勢(shì)力被削弱，天國(guó)更近一步。這種觀點(diǎn)在神學(xué)上為沖突的持續(xù)和升級(jí)提供了內(nèi)在動(dòng)力，因?yàn)樗鼘⒌鼐壵蔚膶?duì)抗，轉(zhuǎn)化為一場(chǎng)必須戰(zhàn)斗到底、直至完全勝利的屬靈終極戰(zhàn)爭(zhēng)。

于是，美伊戰(zhàn)爭(zhēng)就從一個(gè)單純的政治軍事事件，升華為一場(chǎng)具有核心末世論意義的“神圣干預(yù)”。它巧妙地將科技加速主義對(duì)“奇點(diǎn)”的崇拜，與傳統(tǒng)基督教對(duì)“基督再臨”的期盼相結(jié)合，為最激進(jìn)的軍事AI應(yīng)用披上了一層神圣外衣，并可能催生出一種不惜代價(jià)、不顧倫理的“十字軍科技主義”心態(tài)。

AI與宗教結(jié)合，將催生出怎樣的嗜血?dú)⑷藱C(jī)器，想都不敢想。

1984與終結(jié)者成為現(xiàn)實(shí)！

AI宗教不可能忽悠所有人，特別是民主黨一方肯定不會(huì)買賬。對(duì)于這些反對(duì)者，特朗普倒是有足夠多的應(yīng)對(duì)手段。

錯(cuò)判了中東的神棍，我認(rèn)栽；

但我還對(duì)付不了國(guó)內(nèi)的刁民嗎？

在Palantir系統(tǒng)的支持下，移民和海關(guān)執(zhí)法局（ICE）已建立覆蓋全美的無(wú)證移民追蹤網(wǎng)絡(luò)。這個(gè)系統(tǒng)理論上可以識(shí)別任何人的行動(dòng)軌跡、社交關(guān)系、政治傾向。

ICE局長(zhǎng)公開(kāi)表示：“我們擁有美國(guó)最先進(jìn)的人口管理工具。”

Palantir的監(jiān)控網(wǎng)絡(luò)，讓美國(guó)比起喬治·奧威爾小說(shuō)《1984》中的大洋國(guó)，有過(guò)之而無(wú)不及。這本用來(lái)諷刺英國(guó)政府的小說(shuō)，在冷戰(zhàn)中常被認(rèn)為是影射蘇聯(lián)，最后成為美國(guó)的真實(shí)寫(xiě)照，真可謂史上最大回旋鏢。

ICE如指臂使的執(zhí)法力量、帕蘭提爾萬(wàn)物無(wú)所遁形的數(shù)據(jù)系統(tǒng)、Anduril打擊一切有生目標(biāo)的無(wú)人機(jī)蜂群……

這些本為對(duì)外戰(zhàn)爭(zhēng)打造的追殺利器，可能轉(zhuǎn)向?qū)?nèi)鎮(zhèn)壓。

手持利刃，則殺心自起。

我們可以推演一下未來(lái)的發(fā)展：

2028年懂王選舉失利，他將宣布美國(guó)將進(jìn)入“緊急狀態(tài)”，暫停選舉，依靠ICE和私人軍事承包商維持秩序?？萍技铀僦髁x者獲得前所未有的實(shí)驗(yàn)場(chǎng)：在全國(guó)范圍內(nèi)部署社會(huì)信用系統(tǒng)，用AI預(yù)測(cè)“叛亂傾向”，用無(wú)人機(jī)巡邏城市街道。特朗普的統(tǒng)治完全靠科技維系，那么他也將徹底淪為科技加速主義的傀儡，整個(gè)美國(guó)被綁架在AI技術(shù)的戰(zhàn)車之上，開(kāi)足馬力狂奔。

美國(guó)的AI發(fā)展，如同二戰(zhàn)的納粹，將全面進(jìn)入賭國(guó)運(yùn)模式。

所有倫理限制被取消，所有監(jiān)管被廢除，所有資源投向通用人工智能的研發(fā)。

加速主義者的邏輯很簡(jiǎn)單：

如果能在對(duì)手之前抵達(dá)技術(shù)奇點(diǎn)，所有問(wèn)題都將迎刃而解；

如果失敗，那么國(guó)家本身也沒(méi)有存在的必要。

這條路的風(fēng)險(xiǎn)，是人類文明崩潰，

但回報(bào)是：成為新世界的神！

這個(gè)誘惑實(shí)在太大了。

他們崇拜了幾千年神，如今有機(jī)會(huì)自己比肩神的高度，不顧一切也要試試

那幫瘋子一定會(huì)拆掉剎車，把油門(mén)焊死！