新智元報道

編輯：元宇

【新智元導(dǎo)讀】近日，在與數(shù)學(xué)家Hannah Fry的對話中，DeepMind CEO Demis Hassabis回顧了AI在過去一年的飛躍式進(jìn)展，他談到了「參差智能」、持續(xù)學(xué)習(xí)、模型幻覺等邁向AGI過程中的關(guān)鍵挑戰(zhàn)，并提到AGI帶來的社會沖擊可能是工業(yè)革命的10倍。

「過去一年，我們像是經(jīng)歷了十年的發(fā)展?！?/p>

近期，在與數(shù)學(xué)家Hannah Fry的對話中，DeepMind CEO Demis Hassabis這樣形容他對過去一年最大變化的感受。

DeepMind CEO Demis Hassabis（左）與數(shù)學(xué)家Hannah Fry（右）在播客中

在Hassabis看來，過去一年，AI領(lǐng)域取得了十分驚人的變化。

對于谷歌來說，發(fā)布了Gemini 3，在多模態(tài)能力取得了長足進(jìn)步。

此外，世界模型的進(jìn)展也讓Hassabis非常興奮，這是他一直以來最熱衷的領(lǐng)域之一。

Hassabis談到了在通往AGI過程中存在的一些瓶頸難題，比如「參差智能」的，持續(xù)學(xué)習(xí)能力的缺失等。

他認(rèn)為邁向AGI需要「50%的規(guī)?；?50%的創(chuàng)新」。

距離AlphaFold 2面世已經(jīng)5年，Hassabis談到目前DeepMind團(tuán)隊正在探索材料科學(xué)、核聚變等其他的可能性。

「參差智能」的挑戰(zhàn)

在對話中，Hassabis談到了通過AGI過程中的一些挑戰(zhàn)。

比如，「參差智能」（jagged intelligences）的挑戰(zhàn)。

AI能在國際數(shù)學(xué)奧林匹克競賽中摘金奪銀，卻會在高中數(shù)學(xué)題上犯一些非常低級的錯誤。

Hassabis認(rèn)為，這正是我們邁向AGI的一個瓶頸問題：「一致性」或「參差智能」（jagged intelligences）。

在他看來，「參差智能」出現(xiàn)的原因有各種理論解釋和不同的原因，具體到不同情況，可能在于圖像被感知和Token化的方式。

比如，有時它甚至無法識別所有的字母。

所以當(dāng)你讓它數(shù)單詞里的字母時，它有時會出錯。這可能是因為它沒有看到每一個獨立的字母。

此外，Hassabis還提到在線學(xué)習(xí)和持續(xù)學(xué)習(xí)的能力是當(dāng)今AI模型所缺失的，這同樣也是邁向AGI所不可或缺的重要能力之一。

AGI需要50%的規(guī)?；由?0%的創(chuàng)新

AI的競賽與加速發(fā)展模式，有時也會面臨很多「規(guī)?；罱K會撞墻」「數(shù)據(jù)會耗盡」的質(zhì)疑。

Gemini 3發(fā)布后，在眾多基準(zhǔn)測試中遙遙領(lǐng)先，似乎打破了這一質(zhì)疑。

對此，Hassabis坦言，可能會存在一些「收益遞減」效應(yīng)，但他們在這個過程中其實從未真正遇到過所謂的「墻」。

他特別糾正了一種公眾誤解，即將「收益遞減」錯誤解讀為「零收益」，非黑即白：

「在指數(shù)級增長與停滯不前兩種極端之間存在著廣闊的空間，而谷歌正處于這個中間地帶。」

這也意味著不可能每次發(fā)布新版本，性能就在所有基準(zhǔn)上翻倍。但Hassabis也強調(diào)自己并未看到任何放緩的跡象。

談到「互聯(lián)網(wǎng)數(shù)據(jù)是否快被用盡」這一問題，Hassabis認(rèn)為這可以通過使用合成數(shù)據(jù)來解決。

「現(xiàn)在的系統(tǒng)已經(jīng)足夠強大，可以自己生成數(shù)據(jù)，尤其是在編碼和數(shù)學(xué)這類可以驗證答案的領(lǐng)域；從某種意義上說，你可以創(chuàng)造出無限的數(shù)據(jù)」。

Hassabis也表示這些領(lǐng)域目前仍是研究課題，而這一直以來也是谷歌的優(yōu)勢：

「我們始終堅持研究為先。谷歌一直擁有最廣泛、最深厚的研究團(tuán)隊。如果回顧過去十年的重大進(jìn)展，無論Transformer、AlphaGo、AlphaZero，都出自Google或DeepMind?！?/p>

當(dāng)賽道變得越來越難時，Hassabis反而覺得更加興奮。

他認(rèn)為這不僅需要世界一流的工程能力，還必須將其與世界一流的科學(xué)研究相結(jié)合，而后者正是谷歌的專長。

此外，最重要的一點谷歌還擁有世界級基礎(chǔ)設(shè)施的優(yōu)勢，包括TPU和其他硬件。

這些結(jié)合，使谷歌能夠同時在創(chuàng)新前沿和規(guī)?；瘧?yīng)用上保持領(lǐng)先。

「50%的精力用于規(guī)?；?，50%用于創(chuàng)新，要最終實現(xiàn)通用人工智能，這兩者缺一不可?！?/p>

模型幻覺

即使在Gemini 3這樣的前沿模型上，仍然能看到「幻覺」現(xiàn)象。

Hannah問是否可以讓Gemini像AlphaFold那樣，為自己的答案給出一個置信度分?jǐn)?shù)。

Hassabis認(rèn)為這個功能很重要，也是目前所缺失的關(guān)鍵環(huán)節(jié)之一：

「我相信我們正在接近這個目標(biāo)。模型越智能，它們就越『知道自己知道什么』」。

模型越可靠，我們就越能依賴它們某種形式的「內(nèi)省」或者更深度的思考，從而讓它們自己意識到對某個答案不確定。

Hassabis表示，接下來我們就需要研究如何通過訓(xùn)練，讓它能夠?qū)⑦@種「不確定性」作為一個合理的答案輸出。

他將目前的模型比作一個「說話不過腦子的人」，大多數(shù)情況下可能沒問題，但當(dāng)遇到非常棘手的問題時，你希望它能停下來，審視一下自己要說的話，并作出調(diào)整。

因此，需要引入「思考」和「規(guī)劃」的步驟，讓模型能夠回顧自己剛剛輸出的內(nèi)容。

世界模型

除了 AI，世界模型和模擬一直是Hassabis最熱衷的領(lǐng)域。

他認(rèn)為語言模型仍然缺乏對很多關(guān)于世界的空間動態(tài)、空間感知、物理接觸，以及我們所處的物理環(huán)境如何運作的力學(xué)原理的理解，這些通常是很難用語言描述的，也不會出現(xiàn)在文本語料庫中。

如果我們希望機(jī)器人能夠真正工作，或者希望有一個能隨時陪伴你的通用助手，無論是在你的眼鏡上，還是手機(jī)上，在你的日常生活中提供幫助，你就需要這種對物理世界的深刻理解，而世界模型正是其核心。

Hassabis談到圣塔菲研究所（Santa Fe Institute）所作的模擬社會動力學(xué)的實驗，讓智能體在設(shè)定了正確激勵機(jī)制的環(huán)境中運行足夠長的時間，它們可以「發(fā)明」出像市場、銀行等種種有趣的東西。

他認(rèn)為這些實驗很酷，也能幫助我們理解生命的起源和意識的起源，而模擬，則是實現(xiàn)這一目標(biāo)最強大的工具之一。

「你可以設(shè)置略微不同的初始條件，將模擬運行成千上萬次，然后以一種高度受控的實驗方式，去理解這些細(xì)微差別所帶來的不同結(jié)果?！?/p>

Hassabis認(rèn)為，精確的模擬將為科學(xué)帶來不可估量的福祉。

避免「信息繭房」

Hassabis曾提到，構(gòu)建AI不應(yīng)以最大化用戶參與度為目標(biāo)，以免重蹈社交媒體的覆轍。

如何構(gòu)建一個既能將用戶置于其個人世界的中心，又不至于為他們創(chuàng)造出一個「單人回音室」的 AI？

Hassabis稱目前已經(jīng)看到了過度「諂媚」或迎合用戶的AI所帶來的后果，它們會形成「回音室」效應(yīng)，對個人產(chǎn)生非常負(fù)面的影響。

Gemini正在通過發(fā)展出一套關(guān)于AI「人格」設(shè)定的科學(xué)方法來解決這一挑戰(zhàn)。

Hassabis帶領(lǐng)了一個團(tuán)隊來負(fù)責(zé)這項工作，希望塑造一種近乎「科學(xué)家」的個性：

它溫暖、樂于助人，但同時又言簡意賅、切中要點；它會以友好的方式，對那些不合邏輯的觀點提出質(zhì)疑，而不是盲目附和。

Hassabis認(rèn)為為模型「人格」設(shè)定標(biāo)準(zhǔn)，是讓大模型走向科學(xué)研究的一個重要關(guān)鍵。

模型會有一個出廠的「基本人格」，每個用戶可以根據(jù)自己的偏好進(jìn)行個性化設(shè)置，比如更幽默或更簡潔。

但其核心的基礎(chǔ)人格是不變的，它始終致力于遵循科學(xué)方法。

工業(yè)革命對AI變革的啟示

Hassabis近期研究了很多關(guān)于工業(yè)革命的歷史，他認(rèn)為這有助于幫助我們應(yīng)對即將到來的社會變革和沖擊。

工業(yè)革命為人類帶來了難以置信的進(jìn)步，比如現(xiàn)代醫(yī)學(xué)、物質(zhì)富足、現(xiàn)代交通等。

同時也帶來了巨大的挑戰(zhàn)，不同時期，不同行業(yè)的勞動力都經(jīng)歷了被取代的陣痛，但沒有人會想回到前工業(yè)時代。

而AI帶來的變革的規(guī)?？赡苁枪I(yè)革命的十倍，而其發(fā)生的速度也可能快十倍，或許將在十年內(nèi)展開，而非一個世紀(jì)。

在Hassabis看來，通過學(xué)習(xí)那段歷史，提前預(yù)見這次變革可能帶來的社會錯位，有助于我們更早、更有效地去緩解它們。

就像工業(yè)革命徹底改變了農(nóng)業(yè)社會的工作模式一樣，至少同等規(guī)模的變革將再次發(fā)生。

因此，Hassabis認(rèn)為我們可能需要新的經(jīng)濟(jì)體系和模型來幫助社會轉(zhuǎn)型。

圖靈機(jī)的終極問題

Hannah Fry：超越通用人工智能，邁向人工超級智能（ASI）的階段，您認(rèn)為是否存在某些事情是人類能做到，而機(jī)器永遠(yuǎn)無法企及的？

Demis Hassabis：這正是那個終極問題，又回到了我最愛的話題之一圖靈機(jī)。

Hassabis認(rèn)為，如果成功構(gòu)建了AGI，并用它來模擬人類心智，并將其與真實的心智進(jìn)行對比，就能發(fā)現(xiàn)其中的差異，以及人類心智中那些獨特且無法被取代的東西。

其中哪些是可計算的，哪些是不可計算的，目前存在著許多假說，但這最終都?xì)w結(jié)于圖靈機(jī)的問題：

圖靈機(jī)的能力極限究竟在哪里？

自從了解到圖靈和圖靈機(jī)以來，這個問題一直是Hassabis人生的核心問題，令他著迷，也是他的核心熱情所在。

他所做的一切，都在某種程度上不斷拓展著圖靈機(jī)能力的邊界，包括破解蛋白質(zhì)折疊。

但他并不確定這個極限在哪里，這就又回到了心智的問題：它完全是經(jīng)典計算嗎？還是說有其他機(jī)制在起作用？

「如果現(xiàn)在非要我猜，我會賭是后者，并且我正基于這個假設(shè)在工作，直到物理學(xué)證明我錯了。」

Hassabis十分推崇康德（Kant）的一個觀點——現(xiàn)實是心智的建構(gòu)。

「所有這些感覺，包括光、溫暖、觸感，它們通過我們的感官輸入。歸根結(jié)底它們都是信息。而我們，就是信息處理系統(tǒng)?！?/p>

Isomorphic Labs的創(chuàng)辦正是基于這樣一個理念。

他們將生物學(xué)視為一個信息處理系統(tǒng)，相信最終能治愈所有疾病。

當(dāng)前AI都不具備意識，AGI可能需要5-10年

Hassabis從小便對生命的意義、意識的本質(zhì)、以及現(xiàn)實本身到底是什么這類宏大的問題著迷。

一直指引他并讓他始終保持熱情的，是理解我們周圍的世界。

對于他來說，AI就是一個推動人類知識進(jìn)步，幫助他實現(xiàn)這一目標(biāo)的終極工具。

2025年4月，Hassabis在接受CBS 《60 Minutes》節(jié)目采訪時表示，當(dāng)前的人工智能系統(tǒng)在任何真正意義上都不具備自我意識或意識。

Hassabis接受CBS《60 Minutes》節(jié)目采訪

當(dāng)CBS 《60 Minutes》主持人Scott Pelley問他，「你們現(xiàn)在是否在研究一種可能具有自我意識的系統(tǒng)」時，Hassabis表示，在他看來，如今的系統(tǒng)都不具備自我意識，也談不上真正的意識。

Scott Pelley又問他是否會將打造有自我意識的系統(tǒng)當(dāng)作目標(biāo)。

Hassabis回答，這并不是一個明確的目標(biāo)，但它可能會以一種隱含的方式發(fā)生。

比如，這些系統(tǒng)有可能獲得某種「自我意識的感覺」。

他表示讓系統(tǒng)理解「自我」和「他者」是非常重要的，而這可能正是自我意識的起點。

但Hassabis也提到，即使機(jī)器真的獲得了自我意識，人類未必能夠識別出來。

Hassabis談到了他對AGI的時間表，他認(rèn)為可能在未來5到10年內(nèi)實現(xiàn)。

參考資料：

https://x.com/GoogleDeepMind/status/2000985655715807599

秒追ASI

?點贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點亮星標(biāo)，鎖定新智元極速推送！