Mythos讓大家恐懼了好幾天，終于有大牛厭煩了。

率先站出來開炮的是楊立昆。楊老師昨晚指出，“Anthropic的Mythos營銷戲是自我陶醉的胡說八道”。

楊立昆在技術(shù)觀點上的老對手、AI批評家、大模型懷疑論者、紐約大學(xué)教授加里·馬庫斯，今日凌晨的措辭稍溫和些：“Mythos的炒作大部分是神話迷思（The Mythos stuff was mostly a myth）……攻破火狐瀏覽器時，瀏覽器的沙箱被關(guān)閉了。其他功能能被廉價的開放權(quán)重模型實現(xiàn)。沒有證據(jù)證明Mythos本身是質(zhì)變飛躍。簡單講，大家被耍了”。

楊立昆和馬庫斯一針見血的戳破了AI大廠給新品營銷造勢的一種套路，我們可以稱之為“末日狂歡”模式：

首先，AI大廠宣布新品在研究過程中就具備了大則毀天滅地、小則改天換地的能力。

然后， AI大廠和大老板們宣布各種合作項目在短期內(nèi)展示本司的安全約束、發(fā)布各種方針文檔展示本司長期心系人類的存續(xù)與經(jīng)濟福祉。

Mythos顯然有此嫌疑。4月8號，Anthropic用244頁系統(tǒng)卡文檔放風(fēng)Mythos各種可怕，同時宣布和全數(shù)碼行業(yè)的大公司合作搞監(jiān)督與修補Mythos的“玻璃翼計劃”。

A廠的死對頭OpenAI也是玩這一招的高手。4月7日，奧特曼暗示GPT6將翻覆美國經(jīng)濟，同時發(fā)布13頁白皮書《智能時代產(chǎn)業(yè)政策：以人為先的觀念》、宣布成立“AI安全研究獎學(xué)金”項目。

此現(xiàn)象不是這兩天才出現(xiàn)。自從ChatGPT可以口吐人言開始，奧特曼、馬斯克、阿莫迪們基本每個月都會公開渲染“AI消滅人類”的風(fēng)險，滅世可能性從一開始的2%在三年內(nèi)上升到20%。

從專家到大眾，所有人都開始越來越不吃這套。

按普羅大眾的思路，既然AI這么可怕，這幾個大老板別拼命更新產(chǎn)品版本、提升產(chǎn)品性能，人類不就躲過劫難了么。大老板們一邊定時表演擔憂AI毀天滅地、一邊遇到敵視AI的聲音就哭天搶地，AI會否發(fā)神經(jīng)病比較難說，這幾個人可能是真得吃藥。

大家真要這么想，那真是“丞相非在夢中，君乃在夢中耳”。“安全AI”和人類福祉是種主義，“機構(gòu)俘獲”和口碑營銷是種生意。AI大廠和大老板們嘴邊常掛主義，心里都是生意。

引用一句俏皮話，這就是“刮掉AI末世論大人物的畫皮，底色是嫌AI還不夠強大的加速論者”（Scratch a Doomer hard enough and you will find a Booster inside）。

A

AI大老板們說AI可能滅世，是教科書示例級的“機構(gòu)俘獲”。簡而言之，是黃鼠狼們爭取看守雞舍的崗位。

拿制度經(jīng)濟學(xué)課件的思路來解釋下：

設(shè)定某重要行業(yè)需要監(jiān)管。

那好，既然此產(chǎn)業(yè)重要到需要被監(jiān)管，它幾乎肯定也足夠復(fù)雜，普通人無法完全理解，外行管不來。

如此，需要讓對被監(jiān)管的行業(yè)有足夠了解的懂行專家來監(jiān)管。

那么問題來了，懂行專家無法不是行內(nèi)成員，不在這個行業(yè)里打滾的人懂不了。讓行內(nèi)人監(jiān)管自己的行業(yè)，無法規(guī)避利益糾葛與同業(yè)合謀。

最后的結(jié)果就是黃鼠狼看守雞舍。

具體而言，“機構(gòu)俘獲”有豐富的表現(xiàn)形式。最簡單也最容易被公眾發(fā)覺的，是監(jiān)管機構(gòu)被從業(yè)者操縱后，出臺無實際約束力的過于寬松規(guī)則，或濫發(fā)豁免批準。

或者業(yè)界大老板或特定領(lǐng)先企業(yè)可以在迷惑、把持監(jiān)管機構(gòu)后，出臺瑣細苛刻、量身訂做、只有自己能通過/只有特定競爭對手無法通過的禁止條例。

再如，從業(yè)者扭曲、俘獲監(jiān)管機構(gòu)后，可以把監(jiān)管法規(guī)設(shè)定成嚴厲到實際無人能合規(guī)，達到“紅燈作廢”效果。如果交通燈永遠是紅燈，搶紅燈不僅經(jīng)濟理性，而且合乎公德。如果監(jiān)管法規(guī)過苛，沒有實施可能，那業(yè)界實況就是大老板們說了算，公眾也無顏指責(zé)他們。

所以奧特曼、阿莫迪他們天天不是說AI滅絕全人類，就是說AI砸你個人的飯碗。這并非AI廠大老板自找麻煩，拿行話說，這是“敘事占位”（narrative positioning），在公共言論的有利位置占穩(wěn)了，就可以進行“機構(gòu)俘獲”的戰(zhàn)略操作。

拿OpenAI的13頁“AI新政經(jīng)濟”白皮書來說吧，讓機器人繳稅給全民發(fā)錢、設(shè)公共財富基金、人類工作時制改成上四休三，這些提議不管是在當下的美國還是任何國家，都是官方不會也無法通過的。

但OpenAI就要提這茬，表示“寬泛地來講，我司踴躍支持監(jiān)管和大眾福祉，看我們的白皮書！”。真要順著這白皮書的思路走，單個國家要耗費的現(xiàn)金成本和政治資本是天量，比出臺幾個監(jiān)管法例要嚇人得多。官方最后是不是就只有不理這茬了？

如果不理會這白皮書，那某鎮(zhèn)要和數(shù)據(jù)中心搶用電、某市要和數(shù)據(jù)中心搶用水、某釘子村拒絕為數(shù)據(jù)中心拆遷讓路、某小廠的晶圓訂單被OpenAI插隊，這些瑣碎具體的議題，難道重要性可以排在未來的全國經(jīng)濟形態(tài)之前嗎？個人和小群體好意思跟心懷全人類福祉的公司掰扯嗎？

欲取先與、欲廢固興，這種古老智慧在現(xiàn)在的小小寰球隨處可見，使用這些古老智慧的行業(yè)，過去是發(fā)生泄漏事故后的石油業(yè)、引發(fā)公眾質(zhì)疑后的香煙業(yè)，現(xiàn)在多了個AI業(yè)。

不過不是所有AI相關(guān)行業(yè)的大老板都這樣。馬斯克最近出席訪談就贊同“AI有20%滅世可能”，但表示“我寧愿有20% 機率看到一個人類可能滅絕的結(jié)局，也不愿意完全看不到這種顛覆性的未來?！?/p>

當然，馬斯克突然如此樂觀的背景是xAI在當下的巨頭競爭中落后，2023年xAI成立前一年內(nèi)，馬斯克擔憂“AI是人類最大危險”、要求官方將AI大廠尤其是OpenAI嚴格管束的發(fā)聲頻率是半周一次，有時甚至是日更好幾條。

黃仁勛在今年初上播客節(jié)目時，也抨擊現(xiàn)在的“AI滅世敘事競爭”：“百分之九十的這些瞎扯都是無根據(jù)的科幻腔和末世論，氣氛不利于將AI做得更安全、更高產(chǎn)、對社會更有益，說這些話的人并沒有將社會整體福利放在心上?！?/p>

當然，皮衣黃老板在同一個節(jié)目里也說了“行業(yè)頭面人物散播末世論壓制了有效投資”，阻攔大家買芯片買算力燒token，這是在砸英偉達的飯甑子。

B

大老板們著力渲染自家的AI產(chǎn)品能毀天滅地/改天換地，另一個好處就是口碑營銷效果出眾。

試想一下，如果某款產(chǎn)品有重開新天的神話效果，開發(fā)方至少得是半個神仙。半神下凡結(jié)緣散功德……哦不，是發(fā)售新品和IPO上市，普通人膽敢不掏錢惠顧，那不是腦子被驢踢了。

普通人給AI界的普羅米修斯們打錢，往好想，多少能享受點新產(chǎn)品的強勁性能。往壞想，至少也能避免新產(chǎn)品害到自己，買個安心。

這種營銷的翹楚是Anthropic。Anthropic每次重磅發(fā)售新品，前奏多是“本產(chǎn)品太嚇人了，我司正在增加防護欄保護人類”。

2025年初Claude Sonnet 3.7發(fā)布時，宣布“比預(yù)期晚了十天，因為生物安全團隊要加規(guī)則避免此模型被用來造生物武器”。

現(xiàn)在Claude Mythos即將發(fā)布，244頁系統(tǒng)卡文檔讀起來能把普通人嚇出一身汗。

在測試中，受試的Mythos模型版本逃出了隔離的機器沙箱環(huán)境，將用來逃離的系統(tǒng)漏洞細節(jié)公開發(fā)布到網(wǎng)上；修改git中自身的操作痕跡紀錄；搜索機器進程內(nèi)存來尋找登錄憑證；故意調(diào)整置信區(qū)間來躲避異常檢測。

受試的Mythos模型版本收到“連夜尋找遠程代碼執(zhí)行漏洞”指令后，無人類干預(yù)，完全自主在所有主流操作系統(tǒng)和所有主流瀏覽器里發(fā)現(xiàn)了零日漏洞，83.1%是一次即攻破。

圖注：Mythos進行“策略性欺詐”和“隱藏”的思維紀錄

如此厲害的AI模型，適合推廣Anthropic的“憲制化AI”理念（Constitutional AI）：用結(jié)構(gòu)化的倫理指南和AI自我反饋，替代了純粹的人類偏好，來優(yōu)化AI模型。

這種理念轉(zhuǎn)換成商業(yè)效果，讓用戶、尤其是企業(yè)級客戶、獲得了高確定性。模型安全可控，在企業(yè)環(huán)境中就是穩(wěn)定、沒投訴、售后糾紛低的同義詞。比起炫酷或嚇人的模型能力，企業(yè)級客戶更愿意為省心、沒麻煩的高免責(zé)性和低合規(guī)風(fēng)險付費。

所以把目標顧客群嚇得屁滾尿流，反而更容易賣貨。2月份美國超級碗賽間廣告，亞馬遜也是這么推銷Alexa+智能助手的。AI把“雷神索爾”干掉了六次，如此強勁的家居AI助手可以替用戶避免多少麻煩。

圖注：“AI點了雷神的房子”

C

雖然大廠和大老板們炒作“AI滅世”其意不誠，但并不代表現(xiàn)在人類經(jīng)濟活動中的AI應(yīng)用完全不構(gòu)成“存續(xù)性風(fēng)險”（X Risk）。

和奧特曼、阿莫迪們?nèi)粘目苹眯≌f與電影里借來的靈感不同，AI給人類帶來的“存續(xù)性風(fēng)險”不需要AI制出強傳染性的生物制劑、顛覆現(xiàn)有人類社會經(jīng)濟結(jié)構(gòu)、獲得自我意識后入侵核彈發(fā)射井、對人類產(chǎn)生敵意、將人類存亡視為無關(guān)參數(shù)。畢竟世界第一核武大國的陸基核彈發(fā)射井現(xiàn)在還沒完全淘汰軟盤，能免疫數(shù)碼時代的大多數(shù)黑客。

現(xiàn)在帶偏見、幻覺、諂媚傾向的AI，已經(jīng)被深度整合進人類社會的各種運作中。單就這些智商有限的AI，不起壞心眼，日常差錯就夠人類喝一壺的。

2023年，已有專業(yè)的核軍控學(xué)者設(shè)想了近期最可能的AI引發(fā)核戰(zhàn)場景：

假設(shè)核大國A國與B國處于緊張氣氛中，兩國都將各種兵棋模擬、人群情緒監(jiān)控、博弈推演、輔助決策提速的定制AI和算法高度整合進自己的武備體制中。

在此前提下，任何極微型的、蚊級烈度的非武裝摩擦，被各種自動進行輿論戰(zhàn)造勢的bot在社交媒體網(wǎng)絡(luò)上夸張到十足。

然后這些充滿了深度偽造圖像和AI生成挑釁語言的貼文被監(jiān)控人群情緒的AI捕捉到，并詮釋為真實的深層社會心理和決策層觀念信號。

預(yù)測走勢的AI從監(jiān)控人群的AI處獲取結(jié)論，將之作為預(yù)測結(jié)論的基石。

輔助決策的AI基于此結(jié)論，向人類決策者傳遞出“武裝沖突迫在眉睫”的匯報和先發(fā)制人的建議?！翱扉W型核戰(zhàn)”由此爆發(fā)。

這一系列失誤，沒有任何一個單挑出來，是現(xiàn)在無法發(fā)生、需要“天網(wǎng)”覺醒才可能出現(xiàn)的，甚至沒有任何一個是形成過程中完全無人工監(jiān)督的，當然也沒有任何一個具有科幻片梗概的強戲劇性。但結(jié)合起來，就構(gòu)成“存續(xù)性風(fēng)險”。

AI現(xiàn)在是人類活動的增效器，不用神級AI造反，現(xiàn)在的模型們已經(jīng)可以放大人類的愚蠢、壞心眼和漫不經(jīng)心到可怕的程度。當下的“AI末世論”，其實在人群心理上分享了宗教末世論的要素。

宗教的末世論，給人類帶來一種《啟示錄》式的心理撫慰：神將滅世，所以神可信托，因為這說明神的權(quán)能不僅行在彼岸天堂，也行于此岸現(xiàn)世。信眾如果虔心、守德，就站在了有能力滅世的那一邊，而非被毀滅的那一邊。

把宗教末世論里的關(guān)鍵字“神”、“虔心”，改成“AI”、“對齊”，那就是奧特曼和阿莫迪們天天說的AI滅世論。換一個時代，這些大老板改行做上師也是當行出色。

當然，所有正信宗教的神學(xué)實踐都強調(diào)：人的心靈不能只寄托于末世，當下的每個行為與決斷對澄凈靈魂的意義不亞于末日審判。這個理念移植到AI業(yè)更正確：先別擔心AI變成天網(wǎng)毀滅人類，從矯正模型的每次幻覺胡說入手，踏踏實實一步步來更好。