国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

DeepMind華人研究員萬字揭曉一個(gè)AI大秘密:Scaling Law沒死,算力即一切

0
分享至


來源:新智元

【導(dǎo)讀】2025年就要結(jié)束,DeepMind華人研究員萬字長(zhǎng)文為我們揭秘了谷歌內(nèi)部對(duì)于AI的預(yù)言:除了算力,其他一切都是雜音。

今天是2025年的最后一天了,很多人都在這一天進(jìn)行AI回顧總結(jié)。

在經(jīng)歷一年的模型、算力、資本的新聞轟炸后,AI距離通用人工智能還有多遠(yuǎn)?

如果說2024年是人們對(duì)于AI的好奇之年,那么2025年就是AI深刻影響人類社會(huì)之年。

在這充滿變數(shù)的一年里,我們聽到了截然不同的聲音:

Sam Altman在2025年中的博文《溫和的奇點(diǎn)》中大膽預(yù)言:

「我們已經(jīng)知道如何構(gòu)建AGI,2026年我們將看到能夠產(chǎn)生原創(chuàng)見解的系統(tǒng)?!顾麍?jiān)持認(rèn)為,Scaling Law遠(yuǎn)未觸及天花板,智能的成本將隨著電力的自動(dòng)化生產(chǎn)而趨近于零。


NVIDIA的黃仁勛則將目光從「算力崇拜」轉(zhuǎn)向了「AI工廠」。

他在2025年底的一次演講中提到:

「AI的瓶頸不再是想象力,而是電力。未來的Scaling Law不僅是模型的堆疊,更是推理效率10萬倍的飛躍?!?/strong>


相比之下,Meta的前首席科學(xué)家Yann LeCun依然嘴炮,他甚至在離職創(chuàng)辦新公司前公開表示:

「LLM是通往 AGI 的死胡同,它沒有世界模型,就像一個(gè)沒有軀體的空中樓閣?!?/strong>


2026年,Scaling Law是否還能繼續(xù)玩下去?

對(duì)于這個(gè)問題,一篇來自DeepMind華人研究員的萬字長(zhǎng)文在社交網(wǎng)絡(luò)火了:

Scaling Law沒死!算力依然就是正義,AGI才剛剛上路。


文章地址:https://zhengdongwang.com/2025/12/30/2025-letter.html

本文是Google DeepMind研究員Zhengdong Wang撰寫的2025年度長(zhǎng)信。

作者以獨(dú)特的個(gè)人視角,回顧了從2015年至今AI領(lǐng)域的劇變,并深刻剖析了驅(qū)動(dòng)這一切的核心動(dòng)力——算力

盡管外界對(duì)Scaling Laws存疑,但歷史反復(fù)證明,隨著算力的指數(shù)級(jí)增長(zhǎng),AI模型不斷涌現(xiàn)出超越人類預(yù)期的能力。

作者結(jié)合自己在DeepMind的工作經(jīng)歷,驗(yàn)證了強(qiáng)化學(xué)習(xí)教父Richard S. Sutton「苦澀的教訓(xùn)」:

通用算力方法終將戰(zhàn)勝人類的特定技巧。


這也是我們今年最大的感受!

除了算力,其他都是雜音

2025年12月30日,當(dāng)回望這波瀾壯闊的一年時(shí),腦海中浮現(xiàn)的是十五年前那場(chǎng)由AlexNet開啟的視覺革命。

那場(chǎng)辛頓、李飛飛、Ilya都參與的大會(huì),或許就是如今AI時(shí)代的真正萌芽。


那時(shí),大多數(shù)人認(rèn)為人工智能僅僅是關(guān)于「特征工程」和「人類聰明才智」的博弈,而今天,我們已經(jīng)進(jìn)入了一個(gè)完全不同的維度:

一個(gè)由算力主導(dǎo)、由Scaling Law驅(qū)動(dòng)、且AGI(通用人工智能)才剛剛踏上征途的紀(jì)元。

最近大家關(guān)注的焦點(diǎn)無外乎:Scaling Law是否已經(jīng)撞墻?

算力的信仰:為什么Scaling Law從未失效

在2024年底,業(yè)內(nèi)曾出現(xiàn)過一陣強(qiáng)烈的悲鳴,認(rèn)為預(yù)訓(xùn)練數(shù)據(jù)的枯竭和邊際收益的遞減標(biāo)志著Scaling Law的終結(jié)。

然而,站在2025年的終點(diǎn),我們可以負(fù)責(zé)任地說:

Scaling Law不僅沒死,它正在經(jīng)歷一場(chǎng)從「暴力堆參數(shù)」到「智能密度」的深刻演化。

十五年一遇的連續(xù)性

我們要理解Scaling Law,首先要看到它的歷史韌性。

研究顯示,過去十五年里,用于訓(xùn)練AI模型的算力每年以四到五倍的速度增長(zhǎng)。

這種指數(shù)級(jí)的復(fù)合增長(zhǎng),在人類技術(shù)史上是罕見的。

在DeepMind內(nèi)部觀察到,模型在訓(xùn)練過程中所消耗的數(shù)學(xué)運(yùn)算量,已經(jīng)超過了可觀測(cè)宇宙中的恒星數(shù)量。

這種增長(zhǎng)并非盲目,而是建立在極其穩(wěn)定的經(jīng)驗(yàn)公式之上。

根據(jù)Kaplan和Hoffmann等人的實(shí)證研究,性能與算力之間存在著明確的冪律關(guān)系:性能提升與算力的0.35次方成正比。


文章地址:https://fourweekmba.com/ai-compute-scaling-the-50000x-explosion-2020-2025/

這意味著,每投入10倍的算力,大約能帶來3倍的性能增益;而當(dāng)我們跨越1000倍的算力鴻溝時(shí),性能的提升將達(dá)到驚人的10倍量級(jí)。

定性躍遷與涌現(xiàn)能力

Scaling Law最迷人的一點(diǎn)在于,它不僅帶來了定量的誤差減少,更誘發(fā)了不可預(yù)測(cè)的定性躍遷。

在DeepMind的實(shí)驗(yàn)中,隨著算力的增加,模型會(huì)突然展現(xiàn)出邏輯推理、復(fù)雜指令遵循以及事實(shí)性修正等「涌現(xiàn)能力」。

這種現(xiàn)象意味著,算力不僅僅是燃料,它本身就是一種能夠催生智能的物理量。

2025年的真相是:我們已經(jīng)從單純的「預(yù)訓(xùn)練Scaling」轉(zhuǎn)向了「全四個(gè)維度Scaling」:


  1. 預(yù)訓(xùn)練Scaling

    通過海量多模態(tài)數(shù)據(jù)構(gòu)建基礎(chǔ)認(rèn)知。

  2. 后訓(xùn)練Scaling

    利用強(qiáng)化學(xué)習(xí)(RL)進(jìn)行對(duì)齊和偏好優(yōu)化。

  3. 推理時(shí)Scaling

    即讓模型在回答前「想得更久」。

  4. 上下文Scaling

    通過超長(zhǎng)記憶提升端到端任務(wù)能力。


在DeepMind親歷的「1000倍算力」瞬間

如果說Scaling Law是宏觀的哲學(xué),那么2021年Zhengdong Wang在DeepMind經(jīng)歷的那次實(shí)驗(yàn),就是微觀的啟示錄。

那次經(jīng)歷徹底重塑了Zhengdong Wang的「智能觀」,也讓Zhengdong Wang理解了為什么說「算力即正義」。

算法聰明才智的貶值

當(dāng)時(shí),DeepMind團(tuán)隊(duì)正在嘗試解決具身智能(Embodied AI)在3D虛擬環(huán)境中的導(dǎo)航與交互問題。

那是典型的「硬核AI」挑戰(zhàn),涉及到復(fù)雜的強(qiáng)化學(xué)習(xí)算法優(yōu)化。

當(dāng)時(shí)的共識(shí)是:這個(gè)問題的瓶頸在于算法的精妙程度,在于我們?nèi)绾卧O(shè)計(jì)更優(yōu)的采樣策略和獎(jiǎng)勵(lì)函數(shù)。

然而,一位同事提出了一個(gè)近乎「魯莽」的方案:不要改算法,直接把算力投入增加一千倍。

在那次算力狂飆之后,奇跡發(fā)生了!

那些原本被認(rèn)為需要突破性人類巧思才能解決的邏輯死角,在海量的矩陣乘法面前直接「融化」了。

算法并沒有變聰明,但規(guī)模賦予了它一種類似于生物本能的魯棒性。

算力之波的沖擊

那一刻,Zhengdong Wang深刻體會(huì)到了理查德·薩頓(Richard Sutton)在《苦澀的教訓(xùn)》中所表達(dá)的真理:

人類在AI領(lǐng)域的所謂「巧思」,在算力的指數(shù)增長(zhǎng)面前往往不值一提。

這種realization就像是一股巨大的「算力之波」從你身上碾過,讓你意識(shí)到,與其苦思冥想如何優(yōu)化那1%的算法效率,不如直接去擁抱那1000倍的算力擴(kuò)張。

這種視角在2025年的今天已經(jīng)成為了DeepMind內(nèi)部的通用語:

我們不再問「這個(gè)問題能不能解」,而是問「這個(gè)問題需要多少算力才能解」。

正是這種心態(tài),讓我們敢于在數(shù)據(jù)中心投資上砸下遠(yuǎn)超阿波羅計(jì)劃的重金。

基礎(chǔ)設(shè)施的極限與挑戰(zhàn):1GW時(shí)代的到來

Zhengdong Wang還提供了額外的視角。

當(dāng)DeepMind在內(nèi)部討論算力時(shí),話題已經(jīng)從「PFLOPS」轉(zhuǎn)向了「GW」。


2025年,AI不再僅僅是代碼,它是重工業(yè),是土地、能源和定制硅基芯片的終極整合。

硬件的代際跨越:Blackwell與Ultra

這種終極整合,用一個(gè)詞概括就是「AI工廠」,正是黃仁勛在GTC大會(huì)所提出的概念。


Wang認(rèn)為,NVIDIA在2025年交付的Blackwell平臺(tái),是DeepMind能夠維持Scaling Law信仰的物理基礎(chǔ)。

GB200 NVL72系統(tǒng)將72顆GPU互聯(lián)為一個(gè)單一的超級(jí)計(jì)算引擎,其萬億參數(shù)模型的推理速度比H100提升了30倍。


BlackwellUltra的推出更是將單芯片顯存推向了288GB的極限,這意味著即使是300B以上的模型,也可以在不需要顯存卸載的情況下完整駐留,這對(duì)于長(zhǎng)上下文和高并發(fā)推理至關(guān)重要。

電力與散熱的硬墻

然而,物理定律依然嚴(yán)苛。

單芯片功耗逼近1000W,讓DeepMind不得不全面轉(zhuǎn)向液冷方案。

2025年,開始談?wù)摗窤I工廠」而非「數(shù)據(jù)中心」。

谷歌的基礎(chǔ)設(shè)施首席執(zhí)行官Amin Vahdat在內(nèi)部會(huì)議中明確指出,為了滿足爆發(fā)式的算力需求,我們必須每六個(gè)月將算力能力翻倍,并在未來4-5年內(nèi)實(shí)現(xiàn)1000倍的增長(zhǎng)。


這種壓力不僅體現(xiàn)在金錢上。

2025年上半年,AI數(shù)據(jù)中心投資占據(jù)了美國(guó)GDP增長(zhǎng)的90%以上。

盡管外界擔(dān)心泡沫,但DeepMind內(nèi)部的視角是:

如果你能看到1000倍算力帶來的智能紅利,那么任何低于這個(gè)數(shù)字的投入都是一種風(fēng)險(xiǎn)。

具身智能的突破:SIMA 2與通用Agent的誕生

在DeepMind,始終認(rèn)為AGI的終極形態(tài)不在對(duì)話框里,而在物理世界中。

2025年,SIMA 2項(xiàng)目展示了從「理解」到「行動(dòng)」的跨越。


像素級(jí)交互與開放式學(xué)習(xí)

SIMA 2是一個(gè)通用的具身智能體,它不依賴于游戲內(nèi)部的數(shù)據(jù)接口,而是像人類一樣,通過觀察像素和操作鍵盤鼠標(biāo)在復(fù)雜的3D虛擬世界中行動(dòng)。

這種設(shè)計(jì)確保了它所習(xí)得的技能——從基礎(chǔ)的導(dǎo)航到復(fù)雜的工具使用——具有極強(qiáng)的泛化性,可以無縫遷移到完全不同的數(shù)字環(huán)境,甚至為未來的物理機(jī)器人提供大腦。

更重要的是,SIMA 2展示了「自我進(jìn)化」的能力。

通過與Gemini基礎(chǔ)模型的結(jié)合,它可以自主生成任務(wù)、自我設(shè)定獎(jiǎng)勵(lì),并在沒有任何人類標(biāo)注的情況下,通過不斷的嘗試和錯(cuò)誤習(xí)得新技能。

擴(kuò)展閱讀:我的王者榮耀有救了!谷歌發(fā)布游戲SIMA 2,不開外掛「像人一樣」練級(jí)


METR時(shí)間跨度圖:智能的量化加速

在評(píng)估進(jìn)展時(shí),作者最推崇的是METR的時(shí)間跨度圖。


兩年前,AI只能穩(wěn)定完成人類耗時(shí)9分鐘的任務(wù);而到了2025年底,這個(gè)數(shù)字已經(jīng)躍升到了4小時(shí)以上。

按照目前的Scaling趨勢(shì),到2028年,AI有望獨(dú)立完成人類專家需要數(shù)周才能完成的科研或工程任務(wù)。

AGI才剛剛上路,正處于爆發(fā)的前夜

在結(jié)尾,Zhengdong Wang寫道:「這就是我上車的地方——我們現(xiàn)在還極其早。」。

盡管2025年我們已經(jīng)看到了能過IMO的金牌模型,看到了能自主在3D世界中生存的Agent,但在DeepMind的「Post-AGI」團(tuán)隊(duì)看來,這僅僅是序幕。

我們依然受困于1GW的電力瓶頸,受困于數(shù)據(jù)采集的效率,受困于推理成本的最后幾美分。

AGI不是終點(diǎn),而是起點(diǎn)!

DeepMind之所以成立Post-AGI團(tuán)隊(duì),是因?yàn)轭A(yù)見到:

當(dāng)AGI的門檻被跨過那一刻,人類社會(huì)真正需要面對(duì)的挑戰(zhàn)才剛剛開始:


  • 如何管理那些能夠自主進(jìn)化、且由于算力規(guī)模而產(chǎn)生「不可解釋性」的智能體?

  • 在一個(gè)智能成本趨近于零的世界里,人類的獨(dú)特價(jià)值如何重構(gòu)?

  • 當(dāng)AI開始主導(dǎo)科學(xué)研發(fā)的循環(huán),人類文明的知識(shí)邊界將以何種速度擴(kuò)張?



2025年的真相是,Scaling Law不僅是通往AGI的路徑,它本身就是一種重塑物理世界的哲學(xué)。

那些還在爭(zhēng)論泡沫的人,或許還沒意識(shí)到,這股由1000倍算力卷起的風(fēng)暴,已經(jīng)將人類送往了一個(gè)再也回不去的紀(jì)元。

對(duì)于AI的擁躉,所有人正滿懷敬畏地看著那列名為「智能」的火車加速駛向遠(yuǎn)方。

我們并非在等待奇跡,我們正在親手塑造它。

AGI,才剛剛上路。

參考資料:

https://zhengdongwang.com/2025/12/30/2025-letter.html

為偉大思想而生!

AI+時(shí)代,互聯(lián)網(wǎng)思想(wanging0123),

第一必讀自媒體

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
比恒大還慘!中國(guó)第二大民企轟然倒塌,負(fù)債7500億,創(chuàng)始人被帶走

比恒大還慘!中國(guó)第二大民企轟然倒塌,負(fù)債7500億,創(chuàng)始人被帶走

古事尋蹤記
2025-12-27 07:16:35
社保嚴(yán)查全面收緊!無數(shù)中小企業(yè),正在為十年前的小聰明買單

社保嚴(yán)查全面收緊!無數(shù)中小企業(yè),正在為十年前的小聰明買單

芳姐侃社會(huì)
2026-04-25 18:32:12
40球,巴黎創(chuàng)隊(duì)史單賽季歐冠進(jìn)球數(shù)新高

40球,巴黎創(chuàng)隊(duì)史單賽季歐冠進(jìn)球數(shù)新高

懂球帝
2026-04-29 03:41:16
凱恩歐冠淘汰賽已打入16球,成該階段進(jìn)球最多的英格蘭球員

凱恩歐冠淘汰賽已打入16球,成該階段進(jìn)球最多的英格蘭球員

懂球帝
2026-04-29 03:41:16
13球7助,KK加盟巴黎后歐冠參與進(jìn)球?yàn)橥谒星騿T最多

13球7助,KK加盟巴黎后歐冠參與進(jìn)球?yàn)橥谒星騿T最多

懂球帝
2026-04-29 04:34:06
40歲32天,諾伊爾成出戰(zhàn)歐冠半決賽第三年長(zhǎng)球員

40歲32天,諾伊爾成出戰(zhàn)歐冠半決賽第三年長(zhǎng)球員

懂球帝
2026-04-29 03:41:16
即將升入英冠,林肯城球員&球迷齊聲高歌:下賽季踢熱刺咯!

即將升入英冠,林肯城球員&球迷齊聲高歌:下賽季踢熱刺咯!

懂球帝
2026-04-28 13:14:06
地鐵搶座互毆后續(xù):警方立案,老太先動(dòng)手反占優(yōu),女子結(jié)局更慘

地鐵搶座互毆后續(xù):警方立案,老太先動(dòng)手反占優(yōu),女子結(jié)局更慘

阿鳧愛吐槽
2026-04-28 01:01:23
全面取消“寬帶5G融合套餐”,或是運(yùn)營(yíng)商未來扭轉(zhuǎn)局面的最佳出路!

全面取消“寬帶5G融合套餐”,或是運(yùn)營(yíng)商未來扭轉(zhuǎn)局面的最佳出路!

通信老柳
2026-04-24 08:21:36
哭窮了!一線男1號(hào)片酬跌至巔峰期3折,網(wǎng)友:待遇比醫(yī)生差才合理

哭窮了!一線男1號(hào)片酬跌至巔峰期3折,網(wǎng)友:待遇比醫(yī)生差才合理

火山詩(shī)話
2026-04-28 07:27:33
“窮人炫富,難掩心酸!”男大學(xué)生炫耀坐高鐵一等座,因長(zhǎng)相被嘲

“窮人炫富,難掩心酸!”男大學(xué)生炫耀坐高鐵一等座,因長(zhǎng)相被嘲

妍妍教育日記
2026-04-24 09:05:03
第二個(gè)加納喬!曼聯(lián) 7100 萬水貨徹底迷失,卡里克該棄用了

第二個(gè)加納喬!曼聯(lián) 7100 萬水貨徹底迷失,卡里克該棄用了

瀾歸序
2026-04-29 01:24:33
7年敗光2億!鄒市明冉瑩穎共同發(fā)文:二人最終還是邁出了這一步!

7年敗光2億!鄒市明冉瑩穎共同發(fā)文:二人最終還是邁出了這一步!

拳擊時(shí)空
2026-04-16 06:04:48
76年他準(zhǔn)備好了“接班人演講稿”,毛主席突然讓華國(guó)鋒擔(dān)任代總理

76年他準(zhǔn)備好了“接班人演講稿”,毛主席突然讓華國(guó)鋒擔(dān)任代總理

銅臭的歷史味
2026-04-29 00:58:47
打起來了,以軍不宣而戰(zhàn);內(nèi)塔尼亞胡迎來勁敵,或被關(guān)進(jìn)大牢!

打起來了,以軍不宣而戰(zhàn);內(nèi)塔尼亞胡迎來勁敵,或被關(guān)進(jìn)大牢!

說歷史的老牢
2026-04-27 23:23:31
帶30萬大軍敗退臺(tái)灣,蔣介石親自到碼頭接,為何到臺(tái)灣只活了3年

帶30萬大軍敗退臺(tái)灣,蔣介石親自到碼頭接,為何到臺(tái)灣只活了3年

夏目歷史君
2026-04-20 10:33:19
“談”還是“打”?臺(tái)灣最新民調(diào)給出驚人答案,大陸這步棋走對(duì)了

“談”還是“打”?臺(tái)灣最新民調(diào)給出驚人答案,大陸這步棋走對(duì)了

新浪財(cái)經(jīng)
2026-04-28 00:57:34
繼迪馬利亞后,登貝萊成第二位歐冠半決賽傳射的巴黎球員

繼迪馬利亞后,登貝萊成第二位歐冠半決賽傳射的巴黎球員

懂球帝
2026-04-29 04:23:07
北京這一夜,林芳兵變了,朱琳老了,沈丹萍腫了,唯她看著年輕了

北京這一夜,林芳兵變了,朱琳老了,沈丹萍腫了,唯她看著年輕了

以茶帶書
2026-04-28 19:32:51
最新 | 我市通報(bào)5起違反中央八項(xiàng)規(guī)定精神典型問題

最新 | 我市通報(bào)5起違反中央八項(xiàng)規(guī)定精神典型問題

天津廣播
2026-04-28 16:20:16
2026-04-29 04:55:00
互聯(lián)網(wǎng)思想 incentive-icons
互聯(lián)網(wǎng)思想
AI時(shí)代,互聯(lián)網(wǎng)思想觀察
2434文章數(shù) 16907關(guān)注度
往期回顧 全部

科技要聞

10億周活目標(biāo)落空!傳OpenAI爆發(fā)內(nèi)部分歧

頭條要聞

19歲中國(guó)女孩被困緬甸 交20萬贖金園區(qū)仍未放人

頭條要聞

19歲中國(guó)女孩被困緬甸 交20萬贖金園區(qū)仍未放人

體育要聞

魔術(shù)黑八活塞,一步之遙?!

娛樂要聞

蔡卓妍官宣結(jié)婚,老公比她小10歲

財(cái)經(jīng)要聞

中央政治局會(huì)議定調(diào),八大看點(diǎn)速覽!

汽車要聞

拒絕瘋狂套娃!現(xiàn)代艾尼氪金星長(zhǎng)在未來審美點(diǎn)上

態(tài)度原創(chuàng)

手機(jī)
房產(chǎn)
藝術(shù)
家居
軍事航空

手機(jī)要聞

三星裸眼3D屏來了,廣告牌能“跳”出來

房產(chǎn)要聞

紅利爆發(fā)!海南,沖到全國(guó)人口增量第4省!

藝術(shù)要聞

京東浙江總部公示,99.99米高,中國(guó)第一民企落子民營(yíng)大省!

家居要聞

江景風(fēng)格 流動(dòng)的秩序

軍事要聞

德國(guó)總理默茨:美國(guó)正遭受伊朗領(lǐng)導(dǎo)層的羞辱

無障礙瀏覽 進(jìn)入關(guān)懷版