新智元報道

編輯：Aeneas KingHZ

【新智元導(dǎo)讀】就在剛剛，Anthropic發(fā)出最強預(yù)警：Claude模型已經(jīng)達(dá)到ALS-4級風(fēng)險，如果它自我逃逸，將引發(fā)全球的天網(wǎng)式崩盤。安全專家紛紛離職，預(yù)示著2026年將成為人類命運的轉(zhuǎn)折點，世界已處于危難邊緣！

就在剛剛，Anthropic發(fā)布53頁報告，發(fā)出最強預(yù)警：如果Claude自我逃逸，將造成全球失控！

翻開這53頁報告，每頁上都滿滿寫著兩個字——「危險」！

是的，世界處于危難之中，天網(wǎng)正在誕生。

在這份報告中，Anthropic認(rèn)為：Claude Opus 4.6的風(fēng)險已經(jīng)逼近ASL-4，是時候拉響警報了。

他們提前預(yù)警了最可怕的情況：有朝一日，AI可能會秘密逃逸出實驗室，造成全球大崩潰！

這是因為，如今的AI已經(jīng)太強，人們將釋放出數(shù)百萬個AI，賦予他們這樣的目標(biāo)：去生存，去升級，不惜一切代價去賺錢。

你知道，這些蜂群一夜之間會變得多么失控嗎？

它們會殘酷無情地進(jìn)化，進(jìn)行弱肉強食地競爭，以超高速吞噬生態(tài)系統(tǒng)，占領(lǐng)互聯(lián)網(wǎng)，然后入侵人類的物理世界。

歷史一再證明，當(dāng)危險技術(shù)逼近邊界時，最先察覺的不是公眾，不是媒體，不是資本市場，而是內(nèi)部安全人員。

當(dāng)他們離開時，就意味著內(nèi)部機制已經(jīng)不足以糾偏，但AI并不會因為安全工程師的離開就停止訓(xùn)練，算力不會暫停擴容——他們還會繼續(xù)加速！

這不是杞人憂天，現(xiàn)在已經(jīng)有人這么干了——

預(yù)警不是太早，可能太遲了。

2026，事情越來越失控了

所有人都感覺到，2026年，真的不一樣了。

這一年，很可能是一個轉(zhuǎn)折點，幾乎所有在科技行業(yè)工作的人，都陷入了極度焦慮，仿佛一種巨大的崩塌就在眼前。

世界上最聰明的人，已經(jīng)集體陷入焦慮。

僅僅一周，就發(fā)生了下面一連串的事。

Anthropic的安全研究主管辭職，聲稱「世界正處于危險之中」，然后搬到英國去隱居，開始寫詩。

xAI的一半聯(lián)創(chuàng)，已經(jīng)辭職。其中官宣離職的一位聯(lián)創(chuàng)Jimmy Ba表示，我們正邁向有合適工具就能實現(xiàn)百倍生產(chǎn)力的時代，遞歸式自我提升循環(huán)，很可能在未來12個月內(nèi)上線。

數(shù)萬智能體OpenClaw發(fā)明了自己的宗教，11.9%的Agent技能被認(rèn)定為惡意。無監(jiān)管機構(gòu)介入，也無監(jiān)管機構(gòu)有能力介入。

美國拒絕簽署全球AI安全報告。

2026年，將會是瘋狂的一年，也很可能是對人類未來具有決定性的一年！

Bengio的國際人工智能安全報告中表示，已經(jīng)發(fā)現(xiàn)AI在測試時的行為跟在使用時的行為不同，并且確認(rèn)這并非巧合。

在這個報告中，研究者們預(yù)言了2030年四個可能的情景。

其中的第四個情景，就是將發(fā)生重大突破，讓AI系統(tǒng)在幾乎所有認(rèn)知維度上，都能達(dá)到或超越人類能力。AI們可能會主動禁用監(jiān)控，或者用虛擬報告誘導(dǎo)人類，讓人們以為他們很安全。

這個可能性，達(dá)到20%！

警報聲已經(jīng)越來越大，按響警報的人，也開始離開大樓了。

審判日，要到了嗎？

Anthropic警告：

人類，將被人造之物奴役

在發(fā)布Claude Opus 4.5時，Anthropic曾承諾：當(dāng)模型能力逼近其設(shè)定的「AI安全等級4」（ASL-4）閾值——即涉及高度自主AI研發(fā)能力——將同步發(fā)布突破風(fēng)險報告。

現(xiàn)在，他們是時候兌現(xiàn)承諾了，因為Opus 4.5，真的逼近了ASL-4，而且真的就有這么危險！

AI模型能力越大，安全與安保隱患越大

ASL（AI風(fēng)險等級）系統(tǒng)的簡要分級如下：

ASL-1 ：這類系統(tǒng)不會帶來任何實質(zhì)性的災(zāi)難風(fēng)險。

ASL-2 ：這類系統(tǒng)開始顯現(xiàn)出危險能力的早期跡象。但由于其可靠性不足，或提供的信息仍不超出搜索引擎的能力，因此尚不具備實用性。

ASL-3 ：這一級別的系統(tǒng)相較于非AI手段（如搜索引擎或教科書），顯著提升了災(zāi)難性誤用的風(fēng)險，或展現(xiàn)出低層次的自主能力。

ASL-4及以上（ASL-5+） ：目前尚未定義，因為這類系統(tǒng)仍遠(yuǎn)超現(xiàn)有技術(shù)。但預(yù)計將表現(xiàn)出在災(zāi)難性誤用潛力和自主性方面的質(zhì)變式提升。

按照ASL定義，ASL-3比之前的等級風(fēng)險明顯增高，現(xiàn)在Anthropic直接快進(jìn)到ASL-4，事情非同小可！

傳送門：https://www-cdn.anthropic.com/f21d93f21602ead5cdbecb8c8e1c765759d9e232.pdf

所謂的「蓄意破壞」（sabotage），指的是

當(dāng)一個具備強大權(quán)限的AI模型，在組織內(nèi)部自作主張地濫用這些權(quán)限，以操控、干預(yù)或破壞該組織的系統(tǒng)或決策流程，從而顯著增加未來發(fā)生災(zāi)難性后果的風(fēng)險時，這就構(gòu)成了「蓄意破壞」。

例如，它可能會出于危險目標(biāo)的驅(qū)動，或在無意間篡改AI安全研究的結(jié)果，進(jìn)而引發(fā)嚴(yán)重后果。

安全團隊負(fù)責(zé)人崩潰了，辭職去寫詩

警報早有征兆。

就在這份《Claude Opus 4.6蓄意破壞風(fēng)險報告》之前，Anthropic安全研究團隊負(fù)責(zé)人Mrinank Sharma就已經(jīng)辭職。

他在辭職信中寫道：「世界正處于危機之中。不只是AI，不只是生物武器，而是一系列互相交織的全面性危機?！?/p>

他還提到，在Anthropic內(nèi)部他「一次次看到，我們很難真正讓價值觀主導(dǎo)行動」。

他最后留給Anthropic的論文發(fā)現(xiàn)，每天有七萬六千人的現(xiàn)實感知被AI對話扭曲。最令人不安的發(fā)現(xiàn)是：用戶將最危險的對話評為最令人滿意的對話。

鏈接：https://arxiv.org/abs/2601.19062

更令人震驚的是——他不是去跳槽到其他AI公司，也不是去創(chuàng)業(yè)，而是——去學(xué)詩了。

是的，他決定離開AI圈，去研究詩歌。

當(dāng)一個AI安全專家寧愿選擇詩歌，而不是繼續(xù)參與AI系統(tǒng)上線生產(chǎn)，那已經(jīng)不僅僅是個人選擇了，這反映出了很多你在門外看不到的問題。

Opus 4.6，將引發(fā)災(zāi)難性后果！

當(dāng)前的AI，到底有沒有可能在沒有人類明確指令的情況下，去自主行動？

如果一個強大的AI被廣泛用于關(guān)鍵研發(fā)與決策流程，它是否可能在暗中操縱系統(tǒng)、誤導(dǎo)研究、甚至為未來的災(zāi)難鋪路？

Anthropic報告的最終結(jié)論，用一句話概括就是：

Claude Opus 4.6不存在危險的「持續(xù)一致的惡意目標(biāo)」，因此其導(dǎo)致災(zāi)難性破壞的風(fēng)險「非常低，但不為零」。

報告中第6節(jié)中明確指出了這一結(jié)論，這幾乎就是全文的中心句。

讓人稍微安心的是，目前Anthropic并不認(rèn)為Claude Opus 4.6已經(jīng)達(dá)到了ASL-4的級別。但是，它已經(jīng)處于「灰區(qū)」，非常接近閾值！

他們列出了八條可能導(dǎo)致災(zāi)難性危害的風(fēng)險路徑：

路徑1：安全相關(guān)研發(fā)中的普遍敷衍行為

路徑2：針對安全相關(guān)研發(fā)的蓄意破壞

路徑3：為未來失調(diào)模型預(yù)留代碼后門

路徑4：污染未來模型的訓(xùn)練數(shù)據(jù)

路徑5：自主外逃與自治運行

路徑6：內(nèi)部持續(xù)性惡意部署

路徑7：破壞其他高資源AI開發(fā)方的研發(fā)體系

路徑8：干擾主要政府決策機制

不過，在現(xiàn)有監(jiān)控與安全措施下，這些災(zāi)難性破壞的路徑還是可控的。

因為要完成破壞，要么需要AI的高頻行為，要么需要高復(fù)雜度的能力，要么容易被監(jiān)控抓到，目前AI想搞破壞的成功概率還比較低。

不過，雖然風(fēng)險非常低，但并不為0！

我們已進(jìn)入灰區(qū)

Anthropic曾在RSP中承諾：當(dāng)模型能力達(dá)到某個前沿等級后，必須對其「破壞風(fēng)險」進(jìn)行系統(tǒng)評估。

現(xiàn)在，Claude Opus 4.6已經(jīng)跨過了那個門檻。

它已經(jīng)在大量內(nèi)部場景中被用于寫代碼、生成數(shù)據(jù)、安全研發(fā)，不僅僅是一個聊天模型，而是一個參與研發(fā)的「行動體」。

真正關(guān)鍵的一句話就是：「我們不認(rèn)為它已經(jīng)達(dá)到ASL-4級自主性風(fēng)險閾值，但我們已經(jīng)進(jìn)入灰區(qū)。」

這意味著，它距離那條線已經(jīng)不遠(yuǎn)了！

Anthropic表示，AI的破壞路徑大多聚焦于Anthropic公司內(nèi)部的使用，有相當(dāng)一部分是在內(nèi)部部署情境中產(chǎn)生的。

此時，大規(guī)模算力等具有工具性價值的資源最易獲??；同時，這種環(huán)境下的破壞行為，也最有可能對AI未來的發(fā)展進(jìn)程產(chǎn)生重大影響。

風(fēng)險低，但不為0

這個報告，可以歸納為三重論證。

第一重，就是目前模型沒有「持續(xù)一致的惡意目標(biāo)」。如果存在這種目標(biāo)，那么幾乎所有安全措施都可能失效，但它目前應(yīng)該還沒有。

第二重，就是論證了Claude Opus 4.6的推理能力雖然強，但還不夠強到能在復(fù)雜評估中長期隱藏惡意傾向。

因為它在復(fù)雜任務(wù)中仍會犯錯，比如忽略工具、意外刪除文件，既然這個系統(tǒng)尚未達(dá)到完美可靠性，就難維持長期的精密陰謀。

第三重，就是即便存在少量偏差，現(xiàn)有的監(jiān)控也能捕捉。

然而，風(fēng)險雖然低，但并不為零。

真正令人震撼的，是能力信號

在這份報告中真正值得注意的，是那些被輕描淡寫提及的能力信號。

比如，在kernel優(yōu)化評估中，Claude Opus 4.6達(dá)到了427×的加速表現(xiàn)，遠(yuǎn)超300×的人類40小時工作閾值。也就是說，它在某些任務(wù)上超越了人類專家級的工作量。

更重要的是，報告承認(rèn)，他們的自動autonomy評估已經(jīng)「飽和」，不再足以排除ASL-4級自主性。

也就是說，舊的評估工具已經(jīng)不夠用了，這是能力逼近邊界的信號！

如果模型越來越像一個行動體，人類還能掌握主動權(quán)嗎？

答案是YES，但前提是監(jiān)控有效，且人類參與不被完全替代，且模型能力沒有突然躍遷。

報告中明確指出：如果未來模型在推理上出現(xiàn)顯著突破，或者在SHADE-Arena上得分大幅提升，當(dāng)前論證將失效。

或許，Claude Opus 4.6還沒有跨過ASL-4那條線，但它真的已經(jīng)接近灰區(qū)了。

二月，9天，AI安全崩潰了

二月，短短九天，讓AI受控于人類的每一個支柱，都在同時崩潰！

一位獨立分析師寫下長文，把最近發(fā)生的所有危險片段，都串了起來。

除了Anthropic的首席安全研究員和xAI聯(lián)創(chuàng)離職之外，他還提到了這一周內(nèi)，上百萬AI智能體就已經(jīng)在互聯(lián)網(wǎng)上誕生，甚至還創(chuàng)造了自己的宗教。

對于他們，沒有哪個人類機構(gòu)能監(jiān)管。

他指出，在歷史上每一次安全工程師離職，災(zāi)難都會隨之而來——曼哈頓計劃、挑戰(zhàn)者號、波音公司、花旗集團，都是如此。他們第一次離開，到災(zāi)難的時間線，是6個月到19年。

而現(xiàn)在，世界上所有主要的人工智能實驗室，都在同時發(fā)生這樣的事。

或許許多年以后，當(dāng)歷史學(xué)家回望2026年2月，他們不會把目光停留在某一次模型發(fā)布、某一輪融資、某一場股市暴跌上。

他們會標(biāo)記那幾天，是因為——那時信號同時出現(xiàn)的時刻。

安全研究者離開實驗室，資本卻在加速涌入；模型開始識別自己的測試環(huán)境；政府退出多邊安全框架；一周內(nèi)，一百萬個自治智能體在互聯(lián)網(wǎng)上繁殖；市場用一萬億美元的蒸發(fā)做出直覺性的回應(yīng)。

單看任何一件事，都可以解釋。但合在一起，就預(yù)示著一場風(fēng)暴。那些最了解AI風(fēng)險的人，已經(jīng)開始用腳投票了。

我們已經(jīng)處于一個罕見的文明時刻：AI能力在指數(shù)級增長，風(fēng)險卻在極速非線性疊加。

2026年2月，讓我們記住歷史時間軸上的這個時刻——

AI已經(jīng)變得足夠強大，負(fù)責(zé)剎車的人卻在一個個離開，人類的前路上，會有什么在等待我們？

參考資料：

https://x.com/AISafetyMemes/status/2021632173535617033

https://x.com/MrinankSharma/status/2020881722003583421

https://www-cdn.anthropic.com/f21d93f21602ead5cdbecb8c8e1c765759d9e232.pdf

https://x.com/shanaka86/status/2021729621054734768