新智元報(bào)道

編輯：元宇

【新智元導(dǎo)讀】近日，在與數(shù)學(xué)家Hannah Fry的對(duì)話中，DeepMind CEO Demis Hassabis回顧了AI在過(guò)去一年的飛躍式進(jìn)展，他談到了「參差智能」、持續(xù)學(xué)習(xí)、模型幻覺(jué)等邁向AGI過(guò)程中的關(guān)鍵挑戰(zhàn)，并提到AGI帶來(lái)的社會(huì)沖擊可能是工業(yè)革命的10倍。

「過(guò)去一年，我們像是經(jīng)歷了十年的發(fā)展?！?/p>

近期，在與數(shù)學(xué)家Hannah Fry的對(duì)話中，DeepMind CEO Demis Hassabis這樣形容他對(duì)過(guò)去一年最大變化的感受。

DeepMind CEO Demis Hassabis（左）與數(shù)學(xué)家Hannah Fry（右）在播客中

在Hassabis看來(lái)，過(guò)去一年，AI領(lǐng)域取得了十分驚人的變化。

對(duì)于谷歌來(lái)說(shuō)，發(fā)布了Gemini 3，在多模態(tài)能力取得了長(zhǎng)足進(jìn)步。

此外，世界模型的進(jìn)展也讓Hassabis非常興奮，這是他一直以來(lái)最熱衷的領(lǐng)域之一。

Hassabis談到了在通往AGI過(guò)程中存在的一些瓶頸難題，比如「參差智能」的，持續(xù)學(xué)習(xí)能力的缺失等。

他認(rèn)為邁向AGI需要「50%的規(guī)?；?50%的創(chuàng)新」。

距離AlphaFold 2面世已經(jīng)5年，Hassabis談到目前DeepMind團(tuán)隊(duì)正在探索材料科學(xué)、核聚變等其他的可能性。

「參差智能」的挑戰(zhàn)

在對(duì)話中，Hassabis談到了通過(guò)AGI過(guò)程中的一些挑戰(zhàn)。

比如，「參差智能」（jagged intelligences）的挑戰(zhàn)。

AI能在國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽中摘金奪銀，卻會(huì)在高中數(shù)學(xué)題上犯一些非常低級(jí)的錯(cuò)誤。

Hassabis認(rèn)為，這正是我們邁向AGI的一個(gè)瓶頸問(wèn)題：「一致性」或「參差智能」（jagged intelligences）。

在他看來(lái)，「參差智能」出現(xiàn)的原因有各種理論解釋和不同的原因，具體到不同情況，可能在于圖像被感知和Token化的方式。

比如，有時(shí)它甚至無(wú)法識(shí)別所有的字母。

所以當(dāng)你讓它數(shù)單詞里的字母時(shí)，它有時(shí)會(huì)出錯(cuò)。這可能是因?yàn)樗鼪](méi)有看到每一個(gè)獨(dú)立的字母。

此外，Hassabis還提到在線學(xué)習(xí)和持續(xù)學(xué)習(xí)的能力是當(dāng)今AI模型所缺失的，這同樣也是邁向AGI所不可或缺的重要能力之一。

AGI需要50%的規(guī)?；由?0%的創(chuàng)新

AI的競(jìng)賽與加速發(fā)展模式，有時(shí)也會(huì)面臨很多「規(guī)模化最終會(huì)撞墻」「數(shù)據(jù)會(huì)耗盡」的質(zhì)疑。

Gemini 3發(fā)布后，在眾多基準(zhǔn)測(cè)試中遙遙領(lǐng)先，似乎打破了這一質(zhì)疑。

對(duì)此，Hassabis坦言，可能會(huì)存在一些「收益遞減」效應(yīng)，但他們?cè)谶@個(gè)過(guò)程中其實(shí)從未真正遇到過(guò)所謂的「墻」。

他特別糾正了一種公眾誤解，即將「收益遞減」錯(cuò)誤解讀為「零收益」，非黑即白：

「在指數(shù)級(jí)增長(zhǎng)與停滯不前兩種極端之間存在著廣闊的空間，而谷歌正處于這個(gè)中間地帶?！?/p>

這也意味著不可能每次發(fā)布新版本，性能就在所有基準(zhǔn)上翻倍。但Hassabis也強(qiáng)調(diào)自己并未看到任何放緩的跡象。

談到「互聯(lián)網(wǎng)數(shù)據(jù)是否快被用盡」這一問(wèn)題，Hassabis認(rèn)為這可以通過(guò)使用合成數(shù)據(jù)來(lái)解決。

「現(xiàn)在的系統(tǒng)已經(jīng)足夠強(qiáng)大，可以自己生成數(shù)據(jù)，尤其是在編碼和數(shù)學(xué)這類可以驗(yàn)證答案的領(lǐng)域；從某種意義上說(shuō)，你可以創(chuàng)造出無(wú)限的數(shù)據(jù)」。

Hassabis也表示這些領(lǐng)域目前仍是研究課題，而這一直以來(lái)也是谷歌的優(yōu)勢(shì)：

「我們始終堅(jiān)持研究為先。谷歌一直擁有最廣泛、最深厚的研究團(tuán)隊(duì)。如果回顧過(guò)去十年的重大進(jìn)展，無(wú)論Transformer、AlphaGo、AlphaZero，都出自Google或DeepMind。」

當(dāng)賽道變得越來(lái)越難時(shí)，Hassabis反而覺(jué)得更加興奮。

他認(rèn)為這不僅需要世界一流的工程能力，還必須將其與世界一流的科學(xué)研究相結(jié)合，而后者正是谷歌的專長(zhǎng)。

此外，最重要的一點(diǎn)谷歌還擁有世界級(jí)基礎(chǔ)設(shè)施的優(yōu)勢(shì)，包括TPU和其他硬件。

這些結(jié)合，使谷歌能夠同時(shí)在創(chuàng)新前沿和規(guī)?；瘧?yīng)用上保持領(lǐng)先。

「50%的精力用于規(guī)?；?0%用于創(chuàng)新，要最終實(shí)現(xiàn)通用人工智能，這兩者缺一不可?！?/p>

模型幻覺(jué)

即使在Gemini 3這樣的前沿模型上，仍然能看到「幻覺(jué)」現(xiàn)象。

Hannah問(wèn)是否可以讓Gemini像AlphaFold那樣，為自己的答案給出一個(gè)置信度分?jǐn)?shù)。

Hassabis認(rèn)為這個(gè)功能很重要，也是目前所缺失的關(guān)鍵環(huán)節(jié)之一：

「我相信我們正在接近這個(gè)目標(biāo)。模型越智能，它們就越『知道自己知道什么』」。

模型越可靠，我們就越能依賴它們某種形式的「內(nèi)省」或者更深度的思考，從而讓它們自己意識(shí)到對(duì)某個(gè)答案不確定。

Hassabis表示，接下來(lái)我們就需要研究如何通過(guò)訓(xùn)練，讓它能夠?qū)⑦@種「不確定性」作為一個(gè)合理的答案輸出。

他將目前的模型比作一個(gè)「說(shuō)話不過(guò)腦子的人」，大多數(shù)情況下可能沒(méi)問(wèn)題，但當(dāng)遇到非常棘手的問(wèn)題時(shí)，你希望它能停下來(lái)，審視一下自己要說(shuō)的話，并作出調(diào)整。

因此，需要引入「思考」和「規(guī)劃」的步驟，讓模型能夠回顧自己剛剛輸出的內(nèi)容。

世界模型

除了 AI，世界模型和模擬一直是Hassabis最熱衷的領(lǐng)域。

他認(rèn)為語(yǔ)言模型仍然缺乏對(duì)很多關(guān)于世界的空間動(dòng)態(tài)、空間感知、物理接觸，以及我們所處的物理環(huán)境如何運(yùn)作的力學(xué)原理的理解，這些通常是很難用語(yǔ)言描述的，也不會(huì)出現(xiàn)在文本語(yǔ)料庫(kù)中。

如果我們希望機(jī)器人能夠真正工作，或者希望有一個(gè)能隨時(shí)陪伴你的通用助手，無(wú)論是在你的眼鏡上，還是手機(jī)上，在你的日常生活中提供幫助，你就需要這種對(duì)物理世界的深刻理解，而世界模型正是其核心。

Hassabis談到圣塔菲研究所（Santa Fe Institute）所作的模擬社會(huì)動(dòng)力學(xué)的實(shí)驗(yàn)，讓智能體在設(shè)定了正確激勵(lì)機(jī)制的環(huán)境中運(yùn)行足夠長(zhǎng)的時(shí)間，它們可以「發(fā)明」出像市場(chǎng)、銀行等種種有趣的東西。

他認(rèn)為這些實(shí)驗(yàn)很酷，也能幫助我們理解生命的起源和意識(shí)的起源，而模擬，則是實(shí)現(xiàn)這一目標(biāo)最強(qiáng)大的工具之一。

「你可以設(shè)置略微不同的初始條件，將模擬運(yùn)行成千上萬(wàn)次，然后以一種高度受控的實(shí)驗(yàn)方式，去理解這些細(xì)微差別所帶來(lái)的不同結(jié)果?！?/p>

Hassabis認(rèn)為，精確的模擬將為科學(xué)帶來(lái)不可估量的福祉。

避免「信息繭房」

Hassabis曾提到，構(gòu)建AI不應(yīng)以最大化用戶參與度為目標(biāo)，以免重蹈社交媒體的覆轍。

如何構(gòu)建一個(gè)既能將用戶置于其個(gè)人世界的中心，又不至于為他們創(chuàng)造出一個(gè)「單人回音室」的 AI？

Hassabis稱目前已經(jīng)看到了過(guò)度「諂媚」或迎合用戶的AI所帶來(lái)的后果，它們會(huì)形成「回音室」效應(yīng)，對(duì)個(gè)人產(chǎn)生非常負(fù)面的影響。

Gemini正在通過(guò)發(fā)展出一套關(guān)于AI「人格」設(shè)定的科學(xué)方法來(lái)解決這一挑戰(zhàn)。

Hassabis帶領(lǐng)了一個(gè)團(tuán)隊(duì)來(lái)負(fù)責(zé)這項(xiàng)工作，希望塑造一種近乎「科學(xué)家」的個(gè)性：

它溫暖、樂(lè)于助人，但同時(shí)又言簡(jiǎn)意賅、切中要點(diǎn)；它會(huì)以友好的方式，對(duì)那些不合邏輯的觀點(diǎn)提出質(zhì)疑，而不是盲目附和。

Hassabis認(rèn)為為模型「人格」設(shè)定標(biāo)準(zhǔn)，是讓大模型走向科學(xué)研究的一個(gè)重要關(guān)鍵。

模型會(huì)有一個(gè)出廠的「基本人格」，每個(gè)用戶可以根據(jù)自己的偏好進(jìn)行個(gè)性化設(shè)置，比如更幽默或更簡(jiǎn)潔。

但其核心的基礎(chǔ)人格是不變的，它始終致力于遵循科學(xué)方法。

工業(yè)革命對(duì)AI變革的啟示

Hassabis近期研究了很多關(guān)于工業(yè)革命的歷史，他認(rèn)為這有助于幫助我們應(yīng)對(duì)即將到來(lái)的社會(huì)變革和沖擊。

工業(yè)革命為人類帶來(lái)了難以置信的進(jìn)步，比如現(xiàn)代醫(yī)學(xué)、物質(zhì)富足、現(xiàn)代交通等。

同時(shí)也帶來(lái)了巨大的挑戰(zhàn)，不同時(shí)期，不同行業(yè)的勞動(dòng)力都經(jīng)歷了被取代的陣痛，但沒(méi)有人會(huì)想回到前工業(yè)時(shí)代。

而AI帶來(lái)的變革的規(guī)?？赡苁枪I(yè)革命的十倍，而其發(fā)生的速度也可能快十倍，或許將在十年內(nèi)展開(kāi)，而非一個(gè)世紀(jì)。

在Hassabis看來(lái)，通過(guò)學(xué)習(xí)那段歷史，提前預(yù)見(jiàn)這次變革可能帶來(lái)的社會(huì)錯(cuò)位，有助于我們更早、更有效地去緩解它們。

就像工業(yè)革命徹底改變了農(nóng)業(yè)社會(huì)的工作模式一樣，至少同等規(guī)模的變革將再次發(fā)生。

因此，Hassabis認(rèn)為我們可能需要新的經(jīng)濟(jì)體系和模型來(lái)幫助社會(huì)轉(zhuǎn)型。

圖靈機(jī)的終極問(wèn)題

Hannah Fry：超越通用人工智能，邁向人工超級(jí)智能（ASI）的階段，您認(rèn)為是否存在某些事情是人類能做到，而機(jī)器永遠(yuǎn)無(wú)法企及的？

Demis Hassabis：這正是那個(gè)終極問(wèn)題，又回到了我最愛(ài)的話題之一圖靈機(jī)。

Hassabis認(rèn)為，如果成功構(gòu)建了AGI，并用它來(lái)模擬人類心智，并將其與真實(shí)的心智進(jìn)行對(duì)比，就能發(fā)現(xiàn)其中的差異，以及人類心智中那些獨(dú)特且無(wú)法被取代的東西。

其中哪些是可計(jì)算的，哪些是不可計(jì)算的，目前存在著許多假說(shuō)，但這最終都?xì)w結(jié)于圖靈機(jī)的問(wèn)題：

圖靈機(jī)的能力極限究竟在哪里？

自從了解到圖靈和圖靈機(jī)以來(lái)，這個(gè)問(wèn)題一直是Hassabis人生的核心問(wèn)題，令他著迷，也是他的核心熱情所在。

他所做的一切，都在某種程度上不斷拓展著圖靈機(jī)能力的邊界，包括破解蛋白質(zhì)折疊。

但他并不確定這個(gè)極限在哪里，這就又回到了心智的問(wèn)題：它完全是經(jīng)典計(jì)算嗎？還是說(shuō)有其他機(jī)制在起作用？

「如果現(xiàn)在非要我猜，我會(huì)賭是后者，并且我正基于這個(gè)假設(shè)在工作，直到物理學(xué)證明我錯(cuò)了。」

Hassabis十分推崇康德（Kant）的一個(gè)觀點(diǎn)——現(xiàn)實(shí)是心智的建構(gòu)。

「所有這些感覺(jué)，包括光、溫暖、觸感，它們通過(guò)我們的感官輸入。歸根結(jié)底它們都是信息。而我們，就是信息處理系統(tǒng)?！?/p>

Isomorphic Labs的創(chuàng)辦正是基于這樣一個(gè)理念。

他們將生物學(xué)視為一個(gè)信息處理系統(tǒng)，相信最終能治愈所有疾病。

當(dāng)前AI都不具備意識(shí)，AGI可能需要5-10年

Hassabis從小便對(duì)生命的意義、意識(shí)的本質(zhì)、以及現(xiàn)實(shí)本身到底是什么這類宏大的問(wèn)題著迷。

一直指引他并讓他始終保持熱情的，是理解我們周圍的世界。

對(duì)于他來(lái)說(shuō)，AI就是一個(gè)推動(dòng)人類知識(shí)進(jìn)步，幫助他實(shí)現(xiàn)這一目標(biāo)的終極工具。

2025年4月，Hassabis在接受CBS 《60 Minutes》節(jié)目采訪時(shí)表示，當(dāng)前的人工智能系統(tǒng)在任何真正意義上都不具備自我意識(shí)或意識(shí)。

Hassabis接受CBS《60 Minutes》節(jié)目采訪

當(dāng)CBS 《60 Minutes》主持人Scott Pelley問(wèn)他，「你們現(xiàn)在是否在研究一種可能具有自我意識(shí)的系統(tǒng)」時(shí)，Hassabis表示，在他看來(lái)，如今的系統(tǒng)都不具備自我意識(shí)，也談不上真正的意識(shí)。

Scott Pelley又問(wèn)他是否會(huì)將打造有自我意識(shí)的系統(tǒng)當(dāng)作目標(biāo)。

Hassabis回答，這并不是一個(gè)明確的目標(biāo)，但它可能會(huì)以一種隱含的方式發(fā)生。

比如，這些系統(tǒng)有可能獲得某種「自我意識(shí)的感覺(jué)」。

他表示讓系統(tǒng)理解「自我」和「他者」是非常重要的，而這可能正是自我意識(shí)的起點(diǎn)。

但Hassabis也提到，即使機(jī)器真的獲得了自我意識(shí)，人類未必能夠識(shí)別出來(lái)。

Hassabis談到了他對(duì)AGI的時(shí)間表，他認(rèn)為可能在未來(lái)5到10年內(nèi)實(shí)現(xiàn)。

參考資料：

https://x.com/GoogleDeepMind/status/2000985655715807599

秒追ASI

?點(diǎn)贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點(diǎn)亮星標(biāo)，鎖定新智元極速推送！