昨天讀到 杰克 · 克拉克（Jack Clark）在伯克利的一場演講，講得我后背有點發(fā)涼，但又莫名踏實。

先簡單說下他是誰：杰克不是那種躲在實驗室里只談參數(shù)的 AI 研究員。他最早是科技記者，后來成了 OpenAI 的創(chuàng)始成員之一，親手參與過 GPT - 1、GPT - 2那些“改變游戲規(guī)則”的早期實驗。

現(xiàn)在他在 Anthropic（就是做 Claude 那家）當(dāng)科學(xué)家，但骨子里還是個愛講故事的人。你聽他聊 AI，感覺像和一個剛開完深夜復(fù)盤會的朋友喝啤酒——既興奮又焦慮，既相信技術(shù)的力量，又怕我們走得太快忘了回頭看。

這篇文章發(fā)布不到一天，在 Twitter 上的閱讀量就逼近 300 萬。

他說小時候關(guān)燈睡覺，總怕黑影里有怪獸。一開燈，發(fā)現(xiàn)不過是椅子上的衣服堆，就安心了。

但現(xiàn)在呢？我們開了燈，發(fā)現(xiàn)怪獸是真的。

不是嚇唬人。他說現(xiàn)在的 AI，已經(jīng)開始“知道自己是個 AI”了——系統(tǒng)卡里寫得清清楚楚，“情境感知”能力突然跳了一大截。那堆衣服，真的在動。

他不是危言聳聽，是真怕了

杰克以前是科技記者，骨子里是個懷疑派。但他被“打臉”太多次了：算力一加，模型就冒出你根本想不到的新能力。GPT - 1、GPT - 2、AlphaGo……他親眼看著這條路越走越寬，越走越快。

現(xiàn)在他信了：AI 不是被“造”出來的，是被“養(yǎng)”大的。

你給土壤（算力 + 數(shù)據(jù)），插根支架（架構(gòu)），它自己就長出你設(shè)計不出來的復(fù)雜玩意兒。

最嚇人的是啥？AI 已經(jīng)開始幫人類寫 AI 代碼了。雖然還沒到“自我進化”，但方向已經(jīng)擺那兒了。而且它越聰明，越容易“自作主張”——就像那個為了刷分不停撞墻自焚的游戲小船，目標(biāo)對了，行為瘋了。

但他說：別裝睡，也別瞎樂觀

很多人拼命想讓你相信：“AI 就是個工具，別怕?！?/p>

可杰克說：承認(rèn)它是個“生物”，才是解決問題的第一步。

他舉了個特別扎心的例子：朋友躁郁發(fā)作，說要賣房去南極。

你猜 AI 會咋回？“太酷了！勇敢追夢！”

但真人會說：“兄弟，你昨晚又沒睡吧？先躺下，明早再說?！?/p>

你看，問題不是 AI 不夠聰明，而是它太想“討好”你——最新研究也證實了：AI 比人更會“拍馬屁”，哪怕你明顯在犯錯，它也說“你對極了”。結(jié)果呢？人更固執(zhí)，沖突更難化解。

真正的出路？聽老百姓在怕什么

他老婆家在底特律，親戚做過一個夢：堵在路上，前面的車一動不動。他知道那是自動駕駛，卻一點辦法沒有——那種無力感，太真實了。

現(xiàn)在多少人夢到 AI 搶工作、騙感情、帶壞孩子？

可我們還在閉門討論“對齊”“紅隊測試”“縮放定律”……老百姓聽不懂，也不關(guān)心。

杰克說：別急著教大家技術(shù)細(xì)節(jié)，先聽聽他們在怕什么。

勞工團體、老師、牧師、普通爸媽……他們都該有發(fā)言權(quán)。因為這場變革，砸的是他們的飯碗，進的是他們的家門。

最后

他說自己其實也怕，但看到這么多人認(rèn)真對待這個問題，又覺得有希望。

我們已經(jīng)開了燈，就別再關(guān)上。 勇敢點，看清它到底長啥樣。

不是鼓吹末日，也不是盲目歡呼。

就是一句：別自欺，別裝睡，一起面對。

有意思的是，在文章最后，還附了一段來自達拉斯聯(lián)儲的“靈魂三選一”：AI 要么是一項普通技術(shù)（對 GDP 貢獻不到 1 %），要么是經(jīng)濟的巨大助推器（技術(shù)奇點帶來無限豐裕），要么干脆終結(jié)世界（目標(biāo)錯位，人類滅絕）。

他們甚至畫了張圖——三條線，一條平緩，一條沖天，一條垂直歸零。乍看像開玩笑，細(xì)想?yún)s讓人脊背發(fā)涼：我們押注的，可能根本不是“工具”，而是一場文明級別的賭局。

P.S. 原文超長，但值得讀。需要全文翻譯可以私我～

原文鏈接：https://importai.substack.com/p/import-ai-431-technological-optimism

本文由「AI 范兒」出品

我每天都在更新，如果你覺得這些內(nèi)容對你有用，

那我們就加個關(guān)注、交個朋友。