修個(gè) bug 可以來(lái)回把同一個(gè)錯(cuò)誤引回來(lái)，寫代碼能繞一圈又走回原地。

但幾乎所有 AI 公司都堅(jiān)信，只要把模型做大、把數(shù)據(jù)堆滿、把算力扔進(jìn)去，智能就會(huì)自動(dòng)涌現(xiàn)。這套規(guī)模定律（Scaling Law）曾經(jīng)是硅谷最堅(jiān)定的信仰。

在隱退許久并創(chuàng)立新公司 SSI（Safe Superintelligence）后，前 OpenAI 首席科學(xué)家 Ilya Sutskever 用一種極其冷靜的語(yǔ)調(diào)，宣告「Scaling 的時(shí)代結(jié)束了，我們重新回到了研究時(shí)代。」

最近一場(chǎng) Ilya 與 Dwarkesh Patel 的深度對(duì)話中，他不僅給出了，對(duì)于 AI 未來(lái)的技術(shù)路線圖，更重要的是，他深刻地回答了，為什么現(xiàn)在的 AI 即使再?gòu)?qiáng)，也依然不像人。

播客鏈接：

https://x.com/dwarkesh_sp/status/1993371363026125147

為什么 AI 是個(gè)高分低能的優(yōu)等生

我們總覺(jué)得現(xiàn)在的 AI 很強(qiáng)，它們能在編程競(jìng)賽、數(shù)學(xué)競(jìng)賽、各種榜單上拿金牌，每次有新的模型發(fā)布，也是一次次刷新著各種 benchmark。但 Ilya 指出了一個(gè)讓他感到困惑的現(xiàn)象。

最新發(fā)布的 Claude 4.5 Opus 模型，在編程相關(guān)的榜單，已經(jīng)拿到了 80.9 分

他說(shuō)我們?cè)谟?vibe coding，要 AI 寫代碼時(shí)，AI 可能寫到某個(gè)地方，出現(xiàn)了一個(gè) Bug。我們直接告訴它：「這兒有個(gè)錯(cuò)誤?！笰I 會(huì)說(shuō)：「天吶你是對(duì)的，我馬上改?！?然后它解決了這個(gè) Bug，又引入了另一個(gè) Bug。 你再指出，它又改回了第一個(gè) Bug。 它就在這兩個(gè) Bug 之間無(wú)限循環(huán)，顯得極其笨拙。

他的解釋提到了這說(shuō)明 AI 的「泛化能力（Generalization）」出了問(wèn)題。為了解釋這個(gè)詞，Ilya 用不同的學(xué)生打了一個(gè)比方。

想象兩個(gè)學(xué)生都在學(xué)編程，學(xué)生 A 代表 AI， 極其刻苦，練了 10000 個(gè)小時(shí)。他背下了所有的題庫(kù)，記住了所有的解題套路?？荚嚂r(shí)，只要見(jiàn)過(guò)類似的題，他就能拿滿分。

學(xué)生 B 代表人類，他只是覺(jué)得編程競(jìng)賽很酷，花了 100 個(gè)小時(shí)聯(lián)系，但他真正理解了編程的邏輯，擁有了某種直覺(jué)，也能做得很好。長(zhǎng)期來(lái)看，誰(shuí)會(huì)在職業(yè)生涯中走得更遠(yuǎn)？他說(shuō)一定是學(xué)生 B。

而現(xiàn)在的 AI 就像學(xué)生 A。所謂的智能，很大程度上是靠海量數(shù)據(jù)強(qiáng)行記憶出來(lái)的；它們?cè)谔囟▎?wèn)題的龐大、增強(qiáng)數(shù)據(jù)集上過(guò)度訓(xùn)練，使它們?cè)谌蝿?wù)上表現(xiàn)出色，但不一定擅長(zhǎng)泛化到其他領(lǐng)域。

一旦遇到訓(xùn)練數(shù)據(jù)之外的微小變動(dòng)，比如修復(fù)一個(gè)重復(fù)出現(xiàn)的 Bug，它缺乏那種舉一反三的泛化能力。

從堆算力回歸拼創(chuàng)意

但這種海量數(shù)據(jù)的訓(xùn)練方式也不是完全沒(méi)有用。在過(guò)去五年里，AI 行業(yè)的發(fā)展基本上都是遵循著所謂的「規(guī)模定律 Scaling Law」，從一開(kāi)始的還是以百萬(wàn)參數(shù)來(lái)衡量的大模型，現(xiàn)在都來(lái)到了萬(wàn)億參數(shù)。GPU 顯卡算力的消耗，規(guī)模更是未雨綢繆，要卷上天際。

這種把一定量的算力，和一定量的數(shù)據(jù)混合進(jìn)一個(gè)神經(jīng)網(wǎng)絡(luò)里的方案，也成了所有大模型開(kāi)發(fā)的必備流程，即預(yù)訓(xùn)練。在預(yù)訓(xùn)練階段，不需要思考用什么數(shù)據(jù)，因?yàn)榇鸢甘撬袛?shù)據(jù)，它是人類投射到文本上的整個(gè)世界。

而 Ilya 認(rèn)為，「Scaling」這個(gè)詞，本身就固定了我們的思維。它暗示著我們只需要做一件事：加算力，加數(shù)據(jù)，保持配方不變，把鍋搞大一點(diǎn)，就能做出好菜。

他說(shuō)這樣的法則，讓大公司很舒服，因?yàn)檫@是一種「低風(fēng)險(xiǎn)」的投資。相比于需要靈感和運(yùn)氣的研究，大公司不需要雇傭科學(xué)家去苦思冥想，只需要「加數(shù)據(jù)、加算力」，而模型變強(qiáng)的結(jié)果是可預(yù)測(cè)的。

但現(xiàn)在，瓶頸來(lái)了。數(shù)據(jù)不夠了，預(yù)訓(xùn)練數(shù)據(jù)，我們的互聯(lián)網(wǎng)文本語(yǔ)料是有限的，而且已經(jīng)快被用光了；有專門的研究結(jié)構(gòu)統(tǒng)計(jì)過(guò)，現(xiàn)在互聯(lián)網(wǎng)上 AI 內(nèi)容的比例，已經(jīng)是超過(guò)我們?nèi)祟愝敵龅膬?nèi)容。

其次是邊際效應(yīng)，把模型再做大 100 倍，也許會(huì)有提升，但不會(huì)帶來(lái)質(zhì)變。

Ilya 也提到了最近在 X 上，有人說(shuō) Gemini 3 似乎解決了預(yù)訓(xùn)練的一些問(wèn)題。而此前 The Information 也曾報(bào)道奧特曼擔(dān)心 Google 的發(fā)展會(huì)影響 OpenAI，甚至已經(jīng)讓他感受到壓力。

其中一部分的原因，正是 GPT-5 的推出，遇到了預(yù)訓(xùn)練上的問(wèn)題，即隨著預(yù)訓(xùn)練數(shù)據(jù)的增加，模型并沒(méi)有像之前一樣表現(xiàn)出智能的提升。反而 Gemini 確找到了突破的方法，奧特曼在內(nèi)部備忘錄里說(shuō)，OpenAI 也必須解決預(yù)訓(xùn)練的問(wèn)題，或許才能再次超過(guò) Google。

Google DeepMind 研究副總裁 Oriol Vinyals 提到 Gemini 3 的秘密，是解決了預(yù)訓(xùn)練的問(wèn)題

我們回到了研究時(shí)代。只不過(guò)這一次，我們有了更大的計(jì)算機(jī)。

Ilya 把過(guò)去這段時(shí)間的研究，分成了兩個(gè)階段。2012 年到 2020 年是研究時(shí)代，大家都在試錯(cuò)，尋找新方法。而 2020 年到 2025 年，是擴(kuò)展時(shí)代，大家都在盲目擴(kuò)建，算力在擴(kuò)建，越來(lái)越多的 AI 公司在出現(xiàn)。

而現(xiàn)在，單純的大力出奇跡已經(jīng)行不通了，或者說(shuō)單純靠 Scaling 的紅利吃盡了，我們又回到了研究時(shí)代。只不過(guò)這一次，我們是在用 Scaling 時(shí)代建立起來(lái)的巨型計(jì)算機(jī)來(lái)做研究，這是一個(gè)有著大型算力的研究時(shí)代。

總的來(lái)說(shuō)，Ilya 并沒(méi)有否認(rèn)預(yù)訓(xùn)練和 Scaling 的巨大成功，但他認(rèn)為這是一種用錢換智能的，低風(fēng)險(xiǎn)暴力美學(xué)，而現(xiàn)在這種模式已經(jīng)觸到了天花板，AI 行業(yè)必須回歸到拼想法、拼直覺(jué)、拼創(chuàng)新的硬核研究階段。

尋找直覺(jué)：AI 缺失的那塊拼圖

如果單純的數(shù)據(jù)堆疊無(wú)法產(chǎn)生真正的智能，那人類的秘訣是什么？Ilya 給出的答案是：情感（Emotions）。

他提到了一個(gè)腦損傷患者的案例，這個(gè)人失去了情感能力，雖然智商正常、能言善辯，卻連穿哪雙襪子都要糾結(jié)幾個(gè)小時(shí)。 這說(shuō)明情感不僅是情緒，它本質(zhì)上是一個(gè)價(jià)值函數(shù)（Value Function）。

不過(guò) Ilya 說(shuō)目前沒(méi)有找到很合適的概念，來(lái)類比情緒在機(jī)器學(xué)習(xí)中的角色，所以用價(jià)值函數(shù)來(lái)替代。

為了解釋什么是價(jià)值函數(shù)，Ilya 提到了少年學(xué)開(kāi)車的例子， 一個(gè)青少年，可能只需要練 10 個(gè)小時(shí)甚至更少，就能學(xué)會(huì)開(kāi)車上路。他不需要像現(xiàn)在的自動(dòng)駕駛 AI 那樣，在模擬器里撞車幾百萬(wàn)次才能學(xué)會(huì)避讓。

為什么？因?yàn)槿祟愖詭Я艘粋€(gè)極其強(qiáng)大的價(jià)值函數(shù)，這個(gè)價(jià)值函數(shù)就像一個(gè)內(nèi)置評(píng)價(jià)器，一旦偏離車道，我們?nèi)祟悤?huì)感到緊張，而這相當(dāng)于一種負(fù)反饋。

那么依賴情緒的價(jià)值函數(shù)，和我們之前一直聽(tīng)到的強(qiáng)化學(xué)習(xí)，區(qū)別又是什么呢？

Ilya 說(shuō)在沒(méi)有中間價(jià)值函數(shù)的強(qiáng)化學(xué)習(xí)里，通常要等到任務(wù)徹底結(jié)束，AI 才知道自己是贏了還是輸了；但價(jià)值函數(shù)就像是我們的直覺(jué)或內(nèi)心評(píng)分系統(tǒng)。當(dāng)我們下棋丟了一個(gè)子，不需要等到這盤棋下完，我們心里立馬會(huì)「咯噔」一下，這步棋下錯(cuò)了。

那個(gè)學(xué)開(kāi)車的少年，不用等到真的壓線丟分了才會(huì)改正，而是只要開(kāi)得稍微偏離車道，他立刻會(huì)感到緊張或不自信。這種實(shí)時(shí)的、內(nèi)在的反饋機(jī)制，讓他能極其高效地從少量經(jīng)驗(yàn)中學(xué)習(xí)。

對(duì)于傳統(tǒng)的強(qiáng)化學(xué)習(xí)，他的看法是這是一種天真且低效率做法。在傳統(tǒng)的強(qiáng)化學(xué)習(xí)中，模型需要嘗試成千上萬(wàn)次動(dòng)作或思考步驟，直到產(chǎn)出一個(gè)最終的解決方案，然后根據(jù)這個(gè)最終結(jié)果的好壞獲得一個(gè)評(píng)分，即訓(xùn)練信號(hào)。

這意味著在得出最終解之前，模型完全沒(méi)有進(jìn)行任何學(xué)習(xí)。這種方法需要消耗大量的計(jì)算資源來(lái)進(jìn)行漫長(zhǎng)的推演，但每次推演帶來(lái)的學(xué)習(xí)量卻相對(duì)較少。

而價(jià)值函數(shù)不需要等到最后，它能提供中間過(guò)程的評(píng)價(jià)；在每一步都給出信號(hào)，指引方向，從而極大地壓縮了搜索空間，提高了學(xué)習(xí)速度。

目前的 AI 缺乏這種高效的內(nèi)心評(píng)分系統(tǒng)。如果我們能讓 AI，擁有類似人類情感或本能的價(jià)值判斷能力，它就能擺脫對(duì)海量數(shù)據(jù)的依賴，真正像人一樣高效學(xué)習(xí)。

Ilya 的下一步是直通超級(jí)智能

既然認(rèn)定了拼算力的時(shí)代已經(jīng)過(guò)去，而強(qiáng)大的價(jià)值函數(shù)或許又會(huì)成為新的 AI 方法，那 Ilya 的新公司 SSI（Safe Superintelligence）打算怎么做？

他的答案帶著一種極其理想主義的色彩，直通超智能，他們選擇去攻克那個(gè)最根本的難題，實(shí)現(xiàn)可靠的泛化。

Ilya 直言，現(xiàn)在的 AI 行業(yè)陷入了一場(chǎng)老鼠賽跑。為了在市場(chǎng)競(jìng)爭(zhēng)中存活，公司被迫不斷發(fā)布半成品，被迫在產(chǎn)品體驗(yàn)和安全性之間做艱難的權(quán)衡。SSI 想要做的是從這種商業(yè)噪音中抽離出來(lái)，閉門造車，直到造出真正的超級(jí)智能。

但有趣的是，Ilya 這種「閉關(guān)修煉」的想法正在發(fā)生動(dòng)搖。他開(kāi)始意識(shí)到，漸進(jìn)式發(fā)布可能才是安全的必經(jīng)之路。

為什么？因?yàn)槿祟惖南胂罅κ秦汃さ?。如果你只是寫文章、發(fā)論文告訴大家AI 會(huì)很強(qiáng)，大家只會(huì)覺(jué)得這是科幻小說(shuō)。只有當(dāng)人們親眼看到 AI 展現(xiàn)出某種令人不安的力量時(shí)，所有人、包括競(jìng)爭(zhēng)對(duì)手，才會(huì)真正感到害怕，從而變得更加關(guān)注安全 。

Ilya 預(yù)言，隨著 AI 變得越來(lái)越強(qiáng)，現(xiàn)在打得不可開(kāi)交的科技巨頭們，最終會(huì)在 AI 安全策略上走向趨同。

播客里他也提到了，SSI 與 OpenAI、Google 那些大型實(shí)驗(yàn)室相比，雖然籌集的資金較少，但用于純研究的計(jì)算能力比表面上看是更多的。他說(shuō)那些大公司將大量的計(jì)算資源用于產(chǎn)品推理，并擁有龐大的工程和銷售團(tuán)隊(duì)，導(dǎo)致其資源分散。Ilya 認(rèn)為 SSI 擁有足夠的計(jì)算能力，來(lái)證明其想法是正確的。

當(dāng)被問(wèn)及盈利模式時(shí)，Ilya 只是淡淡地說(shuō)，我們只專注于研究，賺錢的問(wèn)題以后自然會(huì)有答案。主持也提到了之前 SSI 的前 CEO（聯(lián)合創(chuàng)始人）選擇了離開(kāi)，然后加入 Meta，在 Meta 希望收購(gòu) SSI 時(shí)。

Ilya 特意澄清，「他是唯一一個(gè)去 Meta 的人?！?他建立 SSI 不是為了在商業(yè)市場(chǎng)上套現(xiàn)，而是為了那個(gè)唯一的、純粹的目標(biāo)，在那個(gè)不可逆轉(zhuǎn)的奇點(diǎn)到來(lái)之前，把安全的超級(jí)智能造出來(lái)。

重新定義 AGI，一個(gè) 15 歲的少年

那我們距離 AGI 還有多遠(yuǎn)？Ilya 給出的預(yù)測(cè)是 5 到 20 年。

但他提醒我們要警惕「AGI」這個(gè)詞。因?yàn)轭A(yù)訓(xùn)練模型讓我們產(chǎn)生了一種錯(cuò)覺(jué)，以為 AGI 就是一個(gè)什么都懂的百科全書(shū)。但 Ilya 心目中的超級(jí)智能，更像是一個(gè)絕頂聰明的 15 歲少年。

這個(gè)少年可能還沒(méi)學(xué)過(guò)法律或醫(yī)學(xué)，但他擁有極致的學(xué)習(xí)效率。你讓他去學(xué)醫(yī)，他可能幾天就能讀完人類所有的醫(yī)學(xué)文獻(xiàn)，并開(kāi)始做手術(shù)。

而在這一愿景中，最讓人細(xì)思極恐的概念是融合（Amalgamation）。

人類的悲哀在于知識(shí)無(wú)法直接復(fù)制。這個(gè)人學(xué)會(huì)了開(kāi)車，另一個(gè)人還是得從頭練起，但 AI 不一樣。Ilya 描述了一個(gè)場(chǎng)景，數(shù)百萬(wàn)個(gè) AI 分身在經(jīng)濟(jì)體的不同角落工作，有的在寫代碼，有的在打官司。它們?cè)诟髯詫W(xué)習(xí)，然后將所有的經(jīng)驗(yàn)融合進(jìn)同一個(gè)大腦。

這種集體進(jìn)化的速度，才是他所認(rèn)為的 AGI。

面對(duì)這樣一個(gè)能夠瞬間融合萬(wàn)千經(jīng)驗(yàn)的超級(jí)大腦，人類又該何去何從？

Ilya 給出了兩個(gè)層面的思考。首先是給 AI 的設(shè)定。不要只讓它愛(ài)人類，因?yàn)檫@太狹隘了。未來(lái)的 AI 自己也將是有知覺(jué)的生命體，應(yīng)該利用同理心的原理，讓它關(guān)愛(ài)所有有知覺(jué)的生命，可能是比代碼更穩(wěn)固的安全防線。

其次是人類的退路。如果每個(gè)人都有一個(gè)比自己聰明百倍的 AI 智能體，人類會(huì)不會(huì)淪為歷史的旁觀者？Ilya 給出了一個(gè)他坦言「自己并不喜歡，但可能是唯一解」的答案：腦機(jī)接口（Neuralink）。

只有當(dāng)人類選擇與 AI 融合，讓 AI 的理解直接變成我們的理解，我們才能在那個(gè)奇點(diǎn)之后，依然是這個(gè)世界的主角。

播客的最后，Dwarkesh 問(wèn)了那個(gè)所有人都想問(wèn)的問(wèn)題：作為 AI 領(lǐng)域的傳奇，你是如何一次次押對(duì)方向的？

Ilya 的回答很像個(gè)藝術(shù)家：「尋找美感?！?/p>

在那些數(shù)據(jù)都不支持你的至暗時(shí)刻，唯有對(duì)美、簡(jiǎn)潔和生物學(xué)合理性的自上而下的信念，能支撐你走下去。因?yàn)樯窠?jīng)網(wǎng)絡(luò)模仿了大腦，而大腦是美的，所以它一定是通往智能的正確道路。

這或許就是 Ilya 所說(shuō)的「研究時(shí)代」最需要的品質(zhì)：在算力之外，保留一份對(duì)智能本質(zhì)的詩(shī)意直覺(jué)。

完整視頻播客，字幕由 AI 生成

歡迎加入 APPSO AI 社群，一起暢聊 AI 產(chǎn)品，獲取，解鎖更多 AI 新知

我們正在招募伙伴

簡(jiǎn)歷投遞郵箱hr@ifanr.com

?? 郵件標(biāo)題「姓名+崗位名稱」（請(qǐng)隨簡(jiǎn)歷附上項(xiàng)目/作品或相關(guān)鏈接）