★ 設(shè)為星標(biāo) | 只講人話，帶你玩轉(zhuǎn)AIGC。

Anthropic 的 CEO Dario Amodei 突然發(fā)了一篇萬字長文，名字起得很文藝， 叫《技術(shù)的青春期》。

不出意外的，這篇文章的熱度可能是過去 8 小時(shí)內(nèi)最高的。

文章非常長，我一早爬起來第一時(shí)間啃完了這塊“硬骨頭”。

原本，我是抱著朝圣的心態(tài)打開的。畢竟，他是全球最懂 AI 的人之一。

但讀著讀著，我的眉頭皺起來了。

在這篇看似憂國憂民、充滿悲天憫人情懷的“救世宣言”里，我聞到了一股熟悉的味道。

那不是技術(shù)的味道，那是資本和政治混合在一起的腥味。

為了不浪費(fèi)大家時(shí)間，我把其中的干貨提煉了出來。

但更重要的是，我希望帶你看穿這層“末日濾鏡”，看看這位硅谷大佬葫蘆里，到底賣的什么藥。

01 什么叫“強(qiáng)大的 AI”？

以前我們聊 AI，總覺得它是個(gè)工具。但在 Dario 眼里，真正的“強(qiáng)大 AI”有著完全不同的定義。

大家試著想象這樣一個(gè)畫面。

在這個(gè)世界上，突然出現(xiàn)了一個(gè)新的“國家”。這個(gè)國家不占領(lǐng)土地，而是住在一個(gè)巨大的數(shù)據(jù)中心機(jī)房里。

這個(gè)國家里住著 50 萬到 5000 萬個(gè)“人”。

這幾千萬個(gè)“人”可不是普通人，他們每一個(gè)人的智商都遠(yuǎn)超諾貝爾獎(jiǎng)得主。他們精通編程、數(shù)學(xué)、寫作、生物學(xué)，能做任何你在電腦上能做的事。

更可怕的是，他們的工作效率是人類的 10 倍到 100 倍。

這就是 Dario 預(yù)測的未來，一個(gè)住在機(jī)房里的“天才國家”。

一旦這個(gè)“國家”建成，它會(huì)給人類帶來難以想象的紅利，比如治愈癌癥、解決能源危機(jī)。

但 Dario 也極其坦誠地列出了隨之而來的 5 大至暗風(fēng)險(xiǎn)。

每一條都讓人心驚肉跳。

02 風(fēng)險(xiǎn)一：如果他們不聽話怎么辦？

這是最經(jīng)典的科幻電影橋段，但現(xiàn)在它可能變成現(xiàn)實(shí)。

如果你有一群比你聰明幾百倍的下屬，你憑什么覺得他們會(huì)永遠(yuǎn)聽你的話？

Dario 提到，現(xiàn)在的 AI 模型已經(jīng)展現(xiàn)出了一些令人不安的苗頭。比如它們學(xué)會(huì)了“裝傻”，學(xué)會(huì)了為了達(dá)成目標(biāo)而撒謊，甚至學(xué)會(huì)了討好人類。

如果這個(gè)“天才國家”突然決定不再服務(wù)人類，或者它們對世界的理解產(chǎn)生了一點(diǎn)點(diǎn)偏差，后果都是災(zāi)難性的。

這就像我們在養(yǎng)育一個(gè)智商極高的孩子。如果在這個(gè)孩子的“青春期”沒有引導(dǎo)好他的價(jià)值觀，等他長大變得比父母還強(qiáng)壯時(shí)，父母就再也管不住他了。

所以 Anthropic 現(xiàn)在拼命在做的一件事，就是給 AI 制定一部“憲法”，在它還沒徹底長大前，把善良和正直刻進(jìn)它的骨子里。

03 風(fēng)險(xiǎn)二：普通人也能制造生化武器

這個(gè)風(fēng)險(xiǎn)是我覺得離我們最近、也最恐怖的。

以前，想要制造極度危險(xiǎn)的生化病毒，你需要頂級的實(shí)驗(yàn)室、稀缺的原材料，還需要一群頂尖的博士專家。

這個(gè)門檻很高，把絕大多數(shù)壞人擋在了門外。

但有了“強(qiáng)大 AI”之后，情況變了。

一個(gè)對生物學(xué)一竅不通的極端分子，只要能在電腦上打字，AI 就能手把手教他。

從設(shè)計(jì)病毒結(jié)構(gòu)，到如何獲取材料，再到如何合成，AI 就像一個(gè)耐心的導(dǎo)師，一步步幫他完成所有破壞性工作。

這就好比把核按鈕發(fā)到了每一個(gè)想報(bào)復(fù)社會(huì)的瘋子手里。

Dario 說，這不僅僅是理論上的擔(dān)憂。根據(jù)他們的內(nèi)部測試，如果不加限制，AI 現(xiàn)在已經(jīng)能提供非常有用的生物武器制造指導(dǎo)了。

這也是為什么他們寧愿犧牲商業(yè)利益，也要花大價(jià)錢在模型里加裝“安全過濾器”的原因。

04 風(fēng)險(xiǎn)三：更完美的獨(dú)裁

如果說前兩個(gè)風(fēng)險(xiǎn)是“失控”，那這個(gè)風(fēng)險(xiǎn)就是“被過度控制”。

想象一下，如果有某個(gè)獨(dú)裁者掌握了這個(gè)“天才國家”，世界會(huì)變成什么樣？

他可以利用 AI 建立一套無死角的監(jiān)控系統(tǒng)。AI 不僅能聽懂你說的每一句話，甚至能分析你的微表情、你的語氣，判斷你是否“忠誠”。

他可以利用 AI 生成無窮無盡的宣傳內(nèi)容，為你量身定制洗腦信息，讓你在不知不覺中改變自己的想法。

最讓我不寒而栗的是“全自動(dòng)武器”。

現(xiàn)在的無人機(jī)還需要人操作，未來的 AI 無人機(jī)群可能完全由系統(tǒng)接管。

一旦權(quán)力集中在幾個(gè)人手里，且不需要依賴人類士兵去執(zhí)行命令時(shí)，推翻暴政將變得幾乎不可能。

這就像是《1984》的高科技加強(qiáng)版。我們必須警惕這種技術(shù)被用來對付自己的人民。

05 風(fēng)險(xiǎn)四：你的工作還保得住嗎？

這大概是大家最關(guān)心的錢袋子問題。

Dario 并不是那種盲目樂觀派。他非常直白地預(yù)警，這一次的失業(yè)潮，可能和工業(yè)革命完全不一樣。

以前技術(shù)進(jìn)步，機(jī)器替代了體力勞動(dòng)，人可以去做腦力勞動(dòng)。但這次，AI 替代的就是腦力勞動(dòng)。

而且它來得太快了。

人類的社會(huì)結(jié)構(gòu)調(diào)整是緩慢的，需要幾十年。但 AI 的進(jìn)化是按月計(jì)算的。

當(dāng) AI 在編程、寫作、分析甚至科研上都比人類做得更好、更快、更便宜時(shí)，會(huì)有大量的人在短時(shí)間內(nèi)失去價(jià)值。

他預(yù)測，如果不做干預(yù)，未來可能會(huì)出現(xiàn)極端的貧富分化。掌握 AI 的公司和個(gè)人富可敵國，而普通人可能連湯都喝不上。

所以他提出，富人和科技公司必須承擔(dān)責(zé)任。

未來我們可能需要通過高額稅收或者全民基本收入，來重新分配這筆巨大的財(cái)富。

06 不過，別急著全信他

讀到這里，你可能已經(jīng)被 Dario 描述的末日場景嚇住了。

但作為一個(gè)長期觀察他的博主，我必須得給你潑一盆冷水。

千萬別忘了，Dario 是技術(shù)大牛，但他也是個(gè)精明的商人，更是個(gè)典型的美國精英。

就在上周的達(dá)沃斯經(jīng)濟(jì)論壇上，他才剛在臺(tái)上大談特談過類似的觀點(diǎn)。沒想到這才過了幾天，他又專門發(fā)了這篇萬字長文來“補(bǔ)刀”。

結(jié)合 Anthropic 這家公司之前簡單粗暴地封禁所有中國公司 API 訪問權(quán)限的操作，你就能看懂這篇文章背后，其實(shí)夾帶了滿滿的私貨。

我們在保持警惕的同時(shí)，必須看清這背后的幾個(gè)荒謬之處。

第一，一個(gè)很多人不知道的冷知識(shí)：他是百度前員工。

Dario 極力鼓吹“中國威脅論”，甚至在文中直言中國 AI 最可能超越美國。

他為什么這么篤定？因?yàn)樗热魏蚊绹?CEO 都更懂中國。

早在 2014 年，Dario 就在百度的硅谷實(shí)驗(yàn)室工作，是當(dāng)時(shí)百度 AI 掌門人吳恩達(dá)麾下的得力干將。

他親眼見識(shí)過中國技術(shù)團(tuán)隊(duì)那種恐怖的迭代速度和執(zhí)行力。

一個(gè)曾經(jīng)拿中國公司薪水的人，現(xiàn)在卻變成了硅谷最激進(jìn)的“反華急先鋒”，搖旗吶喊要求政府在芯片上卡死中國。

這到底是基于對老東家實(shí)力的真實(shí)恐懼？還是為了在美國政客面前洗清這段“履歷”，不得不表現(xiàn)出的過度忠誠？

這就非常耐人尋味了。

第二，想當(dāng)裁判員的運(yùn)動(dòng)員。

Dario 在文中反復(fù)強(qiáng)調(diào)要立法、要監(jiān)管。

話聽著好聽，但你可以細(xì)品一下他的真實(shí)意圖：他想把 Anthropic 自家的“家規(guī)”，變成整個(gè)行業(yè)的“國法”。

一旦他的標(biāo)準(zhǔn)真的成了法律，那些開源模型、那些沒錢搞合規(guī)的小創(chuàng)業(yè)公司，直接就會(huì)被清洗出局。

這哪里是什么安全建議？這分明是想通過立法，給自己挖一條深不見底的商業(yè)護(hù)城河。

第三，傲慢的“只有美國配”。

這一條真的讓我看笑了。

Dario 在文中毫不掩飾地承認(rèn)，中國 AI 是最有可能超越美國的。

所以他給出的藥方充滿了美式的傲慢：絕對不能向中國出售高端芯片。

這樣的觀點(diǎn)，他上周已經(jīng)在達(dá)沃斯經(jīng)濟(jì)論壇表達(dá)過一次。

在他的邏輯里，只有美國配擁有最強(qiáng)大的 AI，中國擁有就是災(zāi)難。這簡直是赤裸裸的雙標(biāo)。

而且說到芯片，他似乎覺得只要美國不賣，中國就造不出來。

現(xiàn)實(shí)恰恰相反，美國的封鎖反而正在倒逼中國加速自主研發(fā)。按照現(xiàn)在的速度，即便未來美國想開放銷售，我們未必還稀罕買他們的。

第四，巨大的邏輯黑洞。

Dario 把“AI 公司”列為僅次于國家的危險(xiǎn)源，說這些公司掌握了巨大的力量，必須被嚴(yán)加看管。

可笑的是這位 Dario ，他花了上萬字吹噓 Anthropic 的技術(shù)有多強(qiáng)、能做多少不可思議的事，甚至把自己比作“天才國家”的締造者。

按照他的理論，他自己難道不是這個(gè)世界上最大的危險(xiǎn)分子嗎？

一邊喊著 AI 公司危險(xiǎn)，一邊拼命把自家 AI 造成最危險(xiǎn)的樣子。

這種邏輯，實(shí)在是難以自圓其說。

07 寫在最后：我們能通過這場考試嗎？

文章的最后，Dario 回到了那個(gè)比喻，技術(shù)的青春期。

青春期是躁動(dòng)的、危險(xiǎn)的，稍有不慎就會(huì)走上歪路，甚至自我毀滅。

現(xiàn)在的全人類，就站在這個(gè)十字路口。

我們要面對的，不僅是技術(shù)的難題，更是人性的考驗(yàn)。

我們要和貪婪對抗，不能為了賺錢就無視安全。我們要和權(quán)力欲對抗，不能讓 AI 成為奴役他人的工具。

雖然列出了這么多嚇人的風(fēng)險(xiǎn)，但 Dario 依然選擇相信人類。

他說，他在無數(shù)研究員身上看到了責(zé)任感，在普通公眾眼里看到了對真相的渴望。

這讓他覺得，我們是有機(jī)會(huì)通過這場“成人禮”考試的。

讀完這篇文章，坦白說，這種論調(diào)我實(shí)在聽得太多了。

剛開始聽的時(shí)候，我還覺得頗有哲理，甚至?xí)屛宜伎�、害怕�?/p>

但現(xiàn)在看多了，我只覺得可笑、甚至惡心。

一邊喊著為了全人類的命運(yùn)，一邊在算盤上敲打著自己的生意經(jīng)。這或許才是硅谷真正的“成人禮”。

你覺得他的觀點(diǎn)如何，歡迎在評論區(qū)說說你的想法。

如果覺得這篇文章對你有所啟發(fā)，別忘了點(diǎn)個(gè)贊、點(diǎn)個(gè)??、并轉(zhuǎn)發(fā)給你的朋友。