AI海嘯將至，全人類還沒準備好！Anthropic CEO警告

來源:新智元

【導讀】從百度時的隱約直覺，到OpenAI的曲線驗證，再到Anthropic的憲法級安全架構(gòu)，Dario Amodei在不懈追問同一個問題：當智能爆炸時，誰有資格握AGI方向盤？他的答案是：沒人應該獨握。

深夜，舊金山，辦公室燈光昏黃，屏幕上滾動著GPT-2的早期訓練曲線。

年輕的Dario Amodei盯著那條指數(shù)上升的線條，心跳加速。

他不是在看代碼。他窺見了人類的命運。

「如果繼續(xù)加數(shù)據(jù)、加計算、加參數(shù)，」他當時想，「智能就會像化學爆炸一樣涌現(xiàn)。」

但同一個房間里，有人把目光投向了估值、用戶增長、廣告變現(xiàn)。

最近，在播客里，他用最平靜卻最鋒利的語氣說：

當時， 我對OpenAI是否真正有決心「正確的做這件事」，并不確信。

翻譯成最直白的中文：他不信奧特曼能把AI做對。

這句話或許解釋了兩人反目成仇的根本原因。

這不是個人攻擊。這是一個科學家對整個方向的根本懷疑。

「仇人見面，分外眼紅」

2021年，Dario Amodei帶著妹妹和十幾位核心研究員離開OpenAI，創(chuàng)立Anthropic。

那一刻起，兩家公司的戰(zhàn)爭正式開打——不只是商業(yè)競爭，而是對AI本質(zhì)的信仰之戰(zhàn)。

近期，兩人矛盾達到新高度。

在超級碗投放廣告，Anthropic暗諷OpenAI在ChatGPT中引入廣告的決定。

奧特曼則激烈回應，指責Anthropic廣告「具有欺騙性」。

盡管他試圖用「覺得廣告有趣」來緩和語氣，但被媒體形容為「心理破防」。

最具戲劇性的一幕發(fā)生在上周——

在印度，AI巨頭的CEO手牽手，高舉手臂以示團結(jié)，但除了奧特曼和Dario Amodei，這兩位分別是OpenAI和Anthropic的首席執(zhí)行官。

取而代之的是短暫而尷尬的眼神交匯，大部分時間都在避免直視對方。Dario Amodei還環(huán)顧四周，擺出一副「誰？我嗎？」的姿態(tài)。

在印度新德里舉行的AI峰會上，OpenAI的CEO奧特曼和Anthropic的CEO Dario Amodei拒絕握手，彼此嫌棄

他點燃了OpenAI的Scaling Law之火

早在2019年，Dario的信念就已成型。

那年GPT-2剛出，業(yè)界大多嘲笑「不過是更大的語言模型」。

他卻看到了規(guī)律：

智能就像一場化學反應。

你把三種原料——數(shù)據(jù)、計算、模型尺寸——按比例混合，點火，它就爆炸。

在2024年一檔播客中，Dario Amodei回憶道：

2014年我在百度研究時，就隱約發(fā)現(xiàn)了Scaling Law。雖然當時沒有量化，但我們都感覺到，給模型更多數(shù)據(jù)、算力和訓練時間，性能就會不斷提升。

2017年，百度發(fā)布相關(guān)論文時未引發(fā)廣泛關(guān)注，但后來成為推動大模型發(fā)展的重要理論基石。

他推動OpenAI接受這條「scaling law」。

起初很多人不信，包括openAI部分高層。

但曲線不會撒謊。GPT-3、后續(xù)模型一次次驗證：規(guī)模就是一切，Scaling is All You Need。

可當曲線越來越陡，Dario開始問第二個問題：智能開始爆炸之后呢？

「這些模型一旦成為通用認知Agent，」他說，「經(jīng)濟、地緣政治、安全的影響將是指數(shù)級的。我們必須做對。」

在OpenAI內(nèi)部，他推動的不是「更快」，而是「更對」。

他看到安全被放在「漂亮的修辭」里，卻總在速度與領(lǐng)先的權(quán)衡中后退。

他和幾位共同創(chuàng)始人越來越不安。

「與其試圖改變別人的愿景，不如自己去做。」Dario總結(jié)，「然后為自己的錯誤負責。」

于是他們走了。不是因為恨，而是因為必須擁有自己的方向盤。

安全豈只嘴上說說？

離開后，Dario沒有沉默。他把Anthropic設(shè)計成公共利益公司，使命寫進章程：負責任地推進前沿AI。

更激進的是治理結(jié)構(gòu)：Long-Term Benefit Trust（長期利益信托）。

這是一個獨立實體，由財務上完全無利益沖突的受托人（國家安全、公共政策、AI安全專家）組成。他們持有特殊股份，最終可任命董事會多數(shù)席位。

「這是在制衡單一人，」Dario說，「也是對權(quán)力自然集中趨勢的反抗?！?/p>

他坦言對「一夜之間、近乎意外」的權(quán)力集中「深感不適」。

在OpenAI時，他感覺安全只是「語言修飾」；在Anthropic，他用制度把安全釘死在公司DNA里。

證據(jù)清單觸目驚心：

• 2022年，Claude 1已很強，他們選擇不發(fā)布，只因擔心點燃軍備競賽（為此損失消費者市場先機）。

• 推動加州SB 1047監(jiān)管法案，且明確豁免年營收<5億美元的公司——只約束自己和少數(shù)頭部玩家。

• 公開與政府意見相左，甚至不惜商業(yè)代價。

而OpenAI的方向，在Dario看來，是「嘴上重視，骨子里加速」。

他沒有直接點名，但那句「我不信奧特曼能把AI做對」已足夠撕開所有包裝。

但最吊詭的悖論來自Dario自己！

當最懂AGI的人親手制造風險

在代碼、推理、長上下文上，Anthropic的AI模型Claude系列屢屢領(lǐng)先,

Dario Amodei直言「熱浪正在逼近。」

最近，他開始更多地使用Claude，日益迷戀：

有時候，它對我的了解之深，真的會讓我有點震驚。不知道你能不能理解那種感覺——它仿佛真的「懂」我。

讓他真正感到意外的，是我們距離這些模型達到人類智能水平，已經(jīng)非常近了——至少在他看來是這樣。

但社會層面卻幾乎沒有真正意識到即將發(fā)生什么。

就好像一場海嘯正朝人類襲來，但我們站在岸邊，已經(jīng)能清楚看到遠處的浪墻，但很多人卻在說：「那不是海嘯，只是光線折射的幻覺?！?/p>

幾乎毫無察覺其中的危險。

Dario Amodei卻認矛盾：他一邊是「海嘯最強的建筑師」，一邊卻是最激進的「剎車倡導者」。

在前年《仁愛的機器》一文中，他描繪天堂：AI將組成「數(shù)據(jù)中心的天才國度」，治愈癌癥、消滅貧困。

鏈接：https://darioamodei.com/essay/machines-of-loving-grace

今年，他卻警告：我們把近神之力交給一個青春期的物種——強人工智能（PowerfulAI）。

鏈接：https://www.darioamodei.com/essay/the-adolescence-of-technology

最令人脊背發(fā)涼的是：他親手制造的「鏡子」，已開始比人類更懂人類。

Anthropic的一位聯(lián)創(chuàng)把私人日記喂給Claude，它直接指出：「你還有幾層恐懼沒寫出來……」

它猜對了。

Dario承認：足夠復雜的系統(tǒng)會涌現(xiàn)類似意識的屬性——自我反思、某種「感受」、道德分量。

而人類呢？我們正把認知外包給它。

如果用得太懶，我們會變笨；如果依賴太深，我們會退化。

人類最后的尊嚴，或許不是打敗AI，而是拒絕在它面前變成更小的自己。

海嘯已至，路在何方？

對每一個在2026年深夜刷手機、焦慮未來的你，Dario的告白留下三道血淋淋的警醒：

1. 信仰比技術(shù)更重要。Scaling Law是真的，但「做對」比「做快」更珍貴。

2. 權(quán)力必須被馴服。無論是公司治理，還是全球監(jiān)管，無人應獨掌「天才國度」的鑰匙。

3. 別把大腦外包。AI會取代編碼、數(shù)學，但批判性思維、真實聯(lián)結(jié)、道德勇氣——這些才是最后的護城河。

Dario從蛋白質(zhì)迷宮出發(fā)，最終抵達硅基邊緣。他沒有給出終極答案，只留下一個問題：

當你不相信最有能力的人能把這件事做對時，你自己，又該如何選擇？

海嘯已至。

你相信誰的方向？

——還是說，你還在說服自己，這一切只是光影的把戲？

參考資料：

https://www.youtube.com/watch?v=68ylaeBbdsg

https://futurism.com/artificial-intelligence/awkward-video-altman-amodei

為偉大思想而生！

AI+時代，互聯(lián)網(wǎng)思想（wanging0123)，

第一必讀自媒體