導(dǎo)讀：

谷歌DeepMind CEO Demis Hassabis說，將人工智能視為普通技術(shù)是錯(cuò)誤的，人工智能將具有“劃時(shí)代的意義”，很快將治愈所有疾病、解決氣候和能源問題并豐富我們的生活，AGI大概需要 10 年時(shí)間，因?yàn)檫€需要 2 到 3 項(xiàng)重大創(chuàng)新，下一項(xiàng)就是基于代理的系統(tǒng)，能夠完成你給它的特定目標(biāo)或任務(wù)。

谷歌DeepMind創(chuàng)始人、CEO Demis Hassabis 最近在《泰晤士報(bào)》和《泰晤士報(bào)商業(yè)版》的主辦的科技峰會(huì)上發(fā)表演講，Hassabis回顧了DeepMind的創(chuàng)立，談了 AGI、AlphaFold 和 AI 的未來。

照例先給大家劃個(gè)重點(diǎn)（訪談全文附在文后）：

Demis Hassabis看見了什么？Hassabis已經(jīng)在游戲的微觀世界中看到了一點(diǎn)，并且理解得很清楚：從一個(gè)隨機(jī)的系統(tǒng)AlphaZero開始8小時(shí)就可以訓(xùn)練出超越最頂尖人類的國際象棋實(shí)體，雖然這只是游戲狹窄領(lǐng)域，但一定會(huì)擴(kuò)展出世界模型。

DeepMind 的初心：Hassabis 30 年前就開始研究 AI 了！從游戲 AI 到神經(jīng)科學(xué)，他一直堅(jiān)信 AI 的潛力。2010 年，他創(chuàng)立 DeepMind，因?yàn)樗吹搅松疃葘W(xué)習(xí)和強(qiáng)化學(xué)習(xí)的巨大潛力，以及 GPU 等硬件的快速發(fā)展。他想打造一個(gè)通用的、能自我學(xué)習(xí)的 AI 系統(tǒng)，這正是 DeepMind 的初心！

游戲 AI，AGI 的“練兵場”：DeepMind 早期專注于游戲 AI，是因?yàn)橛螒蚩梢钥焖衮?yàn)證算法的有效性，而且容易進(jìn)行基準(zhǔn)測試。但他們的目標(biāo)不僅僅是贏得游戲，而是開發(fā)通用的 AI 技術(shù)，并將其應(yīng)用于其他領(lǐng)域，例如科學(xué)和商業(yè)。

AlphaFold：AI for Science 的典范：Hassabis 一直對用 AI 解決科學(xué)難題充滿熱情，而蛋白質(zhì)折疊問題是他最想攻克的目標(biāo)之一。AlphaFold 的成功（Hassabis因AlphaFold 獲得2024諾貝爾化學(xué)獎(jiǎng)），證明了AI 在科學(xué)領(lǐng)域的巨大潛力！

多模態(tài)模型，AGI 的關(guān)鍵：Hassabis 認(rèn)為，多模態(tài)模型是 AGI 系統(tǒng)的關(guān)鍵組成部分，例如 DeepMind 的 Gemini 模型，它可以處理文本、圖像、音頻、視頻和代碼等多種輸入。

通往 AGI 的道路：更強(qiáng)大的 Agent： 現(xiàn)在的聊天機(jī)器人大多是被動(dòng)的問答系統(tǒng)，而未來的 AI 系統(tǒng)需要更主動(dòng)、更智能，能夠像 AlphaGo 一樣進(jìn)行規(guī)劃和推理，并在現(xiàn)實(shí)世界中采取行動(dòng)。

AGI 時(shí)代，還有多遠(yuǎn)？Hassabis 預(yù)計(jì)，我們距離 AGI 還有大約 10 年的時(shí)間。

DeepMind 的未來：DeepMind 將繼續(xù)以研究為導(dǎo)向，同時(shí)也會(huì)加大產(chǎn)品研發(fā)的投入，與谷歌的其他部門合作，將 AI 技術(shù)應(yīng)用于更多產(chǎn)品和服務(wù)中。

AGI 時(shí)代，人類將進(jìn)入富足時(shí)代！Hassabis 認(rèn)為，AGI 將徹底改變經(jīng)濟(jì)和社會(huì)，消除能源和資源的稀缺性，讓人類進(jìn)入一個(gè)物質(zhì)極大豐富的時(shí)代。我們需要提前思考如何分配這些財(cái)富，例如，是否應(yīng)該實(shí)行全民基本收入制度。

采訪全文

主持人：我想，在座的各位幾乎都知道DeepMind，也知道它現(xiàn)在在做什么。讓我們先簡單回顧一下您的故事，因?yàn)槟?010年左右創(chuàng)立了DeepMind，而在此之前，人工智能經(jīng)歷了40年的寒冬，作為一名科學(xué)記者，我當(dāng)時(shí)并沒有關(guān)注人工智能。DeepMind為何在那個(gè)時(shí)候出現(xiàn)？是有什么有利因素嗎？

Demis Hassabis：嗯，我研究人工智能實(shí)際上已經(jīng)超過30年了，最初是做游戲，為游戲設(shè)計(jì)人工智能，以及模擬游戲。后來我學(xué)習(xí)了計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)，并且一直在觀察人工智能領(lǐng)域的發(fā)展。在您提到的90年代的人工智能寒冬時(shí)期，都是邏輯系統(tǒng)，也就是所謂的專家系統(tǒng)。你們很多人可能還記得深藍(lán)在國際象棋比賽中擊敗了加里·卡斯帕羅夫（俄羅斯國際象棋棋手，國際象棋特級(jí)大師，前國際象棋世界冠軍），這些都是預(yù)編程系統(tǒng)，實(shí)際上是程序員和系統(tǒng)設(shè)計(jì)者解決了問題，并將其封裝成規(guī)則。計(jì)算機(jī)、人工智能系統(tǒng)實(shí)際上根本不智能，它只是在執(zhí)行這些啟發(fā)式方法。這樣做的問題是，最終會(huì)得到脆弱的系統(tǒng)，它們無法學(xué)習(xí)新東西，當(dāng)然也無法發(fā)現(xiàn)新東西，因?yàn)樗鼈冿@然天生就受到設(shè)計(jì)者或程序員已知能力的限制。

所以對我來說，很明顯，在整個(gè)90年代，我在劍橋和麻省理工學(xué)院學(xué)習(xí)期間，這仍然是主流觀點(diǎn)，尤其是在那些地方，邏輯系統(tǒng)才是正道。我認(rèn)為這就是出現(xiàn)很多人工智能寒冬的原因，因?yàn)樗鼈兲焐痛嗳跚揖窒?。所以?010年，DeepMind的想法是，我們可以看到深度學(xué)習(xí)剛剛在學(xué)術(shù)界被發(fā)明出來。

強(qiáng)化學(xué)習(xí)是我們發(fā)現(xiàn)的東西，大腦中的多巴胺系統(tǒng)，動(dòng)物和包括人類在內(nèi)都使用強(qiáng)化學(xué)習(xí)來學(xué)習(xí)。

因此，對我來說，顯而易見的是，我們需要構(gòu)建的是一個(gè)能夠自學(xué)且通用的學(xué)習(xí)系統(tǒng)，這就是DeepMind的起源。然后我們也看到了GPU和硬件加速等技術(shù)的進(jìn)步。所以我使用了第一代GPU，它是用于計(jì)算機(jī)圖形、計(jì)算機(jī)游戲的，但它們是非常通用的，事實(shí)證明，世界上的一切都是矩陣乘法。我們很早就開始了，我們覺得這就像一個(gè)阿波羅計(jì)劃，需要付出巨大的努力才能將所有這些新奇的想法和成分整合在一起可以取得非?？斓倪M(jìn)展，結(jié)果也確實(shí)如此。

主持人：這是您在普林斯頓時(shí)期預(yù)想的結(jié)果嗎？您是否想過15年后，我會(huì)在這里與您對話，人工智能會(huì)成為熱門話題，并且蛋白質(zhì)折疊問題會(huì)被解決？

Demis Hassabis：實(shí)際上，它大致沿著我們計(jì)劃的路線發(fā)展，當(dāng)然，過程中也有一些小插曲和意想不到的事情，但當(dāng)我們在2010年開始時(shí)，我們認(rèn)為要達(dá)到通用人工智能大約需要20年的時(shí)間。我認(rèn)為我們可能距離這個(gè)目標(biāo)還有10年左右的時(shí)間。從現(xiàn)在開始，大致是那個(gè)時(shí)間線，用人工智能系統(tǒng)進(jìn)行科學(xué)研究，在通往人工智能的道路上解決科學(xué)問題一直是我的主要熱情所在。蛋白質(zhì)折疊一直是我最想解決的科學(xué)難題之一，如果我們能夠取得突破，它將帶來變革。

主持人：好的，讓我們回到這一點(diǎn)，我認(rèn)為我們也應(yīng)該談?wù)勅斯ぶ悄?，因?yàn)橛腥さ氖牵詮腃hatGPT出現(xiàn)以來，我們作為一個(gè)社會(huì)一直在非常深入地討論人工智能，它與您一直在做的人工智能是截然不同的，作為一名觀察者，您的人工智能一直都非常具體，觀察它有點(diǎn)奇怪，你知道，它開始做一些毫無意義的事情。它非常擅長電腦游戲。

Demis Hassabis：我不會(huì)說它們毫無意義，但它們更多的是為了好玩，也許你可以這么說。我們從游戲入手，部分原因是我的游戲背景以及認(rèn)真下棋等等。但我可以看到，游戲與人工智能一直有著悠久的歷史。從圖靈和香農(nóng)在人工智能領(lǐng)域的早期開始，所有這些偉大的，他們都是從象棋程序開始的。幾乎每個(gè)AI先驅(qū)都這樣做過。而且，它一直是我們的試驗(yàn)場。你能用你的算法思想快速取得進(jìn)展嗎？然后很容易衡量你的水平，如果你能擊敗世界冠軍或最好的計(jì)算機(jī)，那么你就知道你做得很好。但關(guān)鍵是，它們始終是達(dá)到目的的手段，而不是目的本身。所以我們的想法是:

不要僅僅為了擊敗圍棋或國際象棋的冠軍，而是要以一種能夠推廣到其他領(lǐng)域的方式來做到這一點(diǎn)，包括科學(xué)和商業(yè)應(yīng)用。這就是我們用深度強(qiáng)化學(xué)習(xí)和AlphaGo所做的，所有這些都是非常通用的系統(tǒng)，我們至今仍在使用。

現(xiàn)在，當(dāng)你談到像AlphaFold或我們的科學(xué)程序，它們解決了蛋白質(zhì)折疊等問題時(shí)，你真正感興趣的是解決方案本身。如果你找到了治療癌癥的方法，你不會(huì)在乎它是如何做到的。你只想要治療癌癥的方法。所以你真的想全力以赴。所以你首先要做的就是把你所有的通用技術(shù)作為基線。然后你再看領(lǐng)域本身，如果這個(gè)領(lǐng)域?qū)ι鐣?huì)或商業(yè)足夠有價(jià)值，那么你就在上面添加定制的東西。這就是你如何得到像AlphaFold這樣的突破性程序。但最終，DeepMind的目標(biāo)，從我們創(chuàng)立之初到現(xiàn)在，仍然是實(shí)現(xiàn)通用人工智能，這意味著一個(gè)通用的系統(tǒng)，它能夠開箱即用地完成任何你能完成的認(rèn)知任務(wù)。完全通用，就像阿蘭·圖靈在50年代所定義的那樣，能夠計(jì)算任何可計(jì)算的東西。這是人工智能作為一個(gè)領(lǐng)域的最初目標(biāo)，也是DeepMind的目標(biāo)。

當(dāng)然，你最近看到的是像這些語言模型之類的東西。實(shí)際上是ChatGPT進(jìn)入了大眾市場，進(jìn)入了公眾的視野。但實(shí)際上，所有頂級(jí)實(shí)驗(yàn)室，包括谷歌和DeepMind，都在研究語言模型。我們有自己的內(nèi)部模型，叫做Chinchilla，谷歌也有他們的模型。當(dāng)然，它們都是基于Transformer架構(gòu)的，這是谷歌研究院發(fā)明的，所有當(dāng)前的模型都是基于它的。所以這是一個(gè)激動(dòng)人心的時(shí)刻，因?yàn)檎Z言顯然是一種通用能力。這就是為什么每個(gè)人都對聊天機(jī)器人感到非常興奮的原因。而且非常有趣，而且有點(diǎn)出乎意料的是，這項(xiàng)技術(shù)能夠擴(kuò)展到如此程度。我認(rèn)為我們比以往任何時(shí)候都更接近構(gòu)建這些類型的通用系統(tǒng)。但目前你仍然需要專門的系統(tǒng)來在特定領(lǐng)域做到最高水平。

主持人：大型語言模型更接近AGI嗎？我的意思是，它感覺更像是在與人互動(dòng)，而這感覺就像AGI。但它真的是嗎？

Demis Hassabis：我認(rèn)為，多模態(tài)，現(xiàn)在甚至不應(yīng)該說是大型語言模型，因?yàn)樗鼈儾粌H僅是大型語言模型。它們也是多模態(tài)的。例如，我們的Gemini模型從一開始就是多模態(tài)的。它們可以處理任何輸入。視覺、音頻、視頻、代碼，所有這些東西，以及文本。所以我認(rèn)為我的觀點(diǎn)是，這將成為AGI系統(tǒng)的一個(gè)關(guān)鍵組成部分，但可能僅憑它本身還不夠。

我認(rèn)為從現(xiàn)在到我們實(shí)現(xiàn)AGI，還需要兩到三個(gè)重大創(chuàng)新。這就是為什么我給出的時(shí)間表是超過10年的原因。其他人，我的一些同事和同行，以及我們的一些競爭對手，他們的時(shí)間表比這要短得多。但我認(rèn)為10年左右是比較合適的。

主持人：這與DeepMind內(nèi)部的，我猜是內(nèi)部的緊張關(guān)系是如何協(xié)調(diào)的呢？因?yàn)槲腋杏X，尤其是在早期，你們就像世界上資金最雄厚的大學(xué)實(shí)驗(yàn)室之一。就像貝爾實(shí)驗(yàn)室之類，一個(gè)偉大的商業(yè)研究機(jī)構(gòu)。但現(xiàn)在你們正在做一些非常有用的事情，你們有一系列的，我的意思是，你提到了蛋白質(zhì)折疊，但你們還有天氣預(yù)報(bào)。你們剛剛在國際數(shù)學(xué)奧林匹克競賽中獲得了一枚獎(jiǎng)牌。對不起，我相信如果你自己去參加的話，你也能獲得金牌，但你們的系統(tǒng)獲得了一枚銀牌。你們正在做所有這些其他的事情。你們在背后也在做嗎？你們有團(tuán)隊(duì)在思考嗎？但是現(xiàn)在我們需要繼續(xù)前進(jìn)，制造AGI？

Demis Hassabis：是的，我們有一個(gè)很大的組織。正如你所說，我們最初的DeepMind模式有點(diǎn)像貝爾實(shí)驗(yàn)室，它是世界上最好的工業(yè)實(shí)驗(yàn)室之一，能夠發(fā)明未來，能夠長遠(yuǎn)思考。我們真正展示了這種模式能夠做什么。我認(rèn)為它在為我們今天看到的各種技術(shù)奠定基礎(chǔ)方面非常有效。所以我認(rèn)為任何類型的深度技術(shù)初創(chuàng)公司都需要時(shí)間來發(fā)展其成熟的技術(shù)。

在過去的兩三年里，我們已經(jīng)到了一個(gè)非常激動(dòng)人心的時(shí)刻，這項(xiàng)技術(shù)已經(jīng)相當(dāng)成熟。它已經(jīng)準(zhǔn)備好應(yīng)用于各種領(lǐng)域。很明顯，有科學(xué)、數(shù)學(xué)、醫(yī)學(xué)，以及所有這些領(lǐng)域的進(jìn)步?？梢运闶菓?yīng)用科學(xué)。如果你愿意，但也有生產(chǎn)力和商業(yè)應(yīng)用，比如聊天機(jī)器人或重新構(gòu)想工作流程和電子郵件等等，這還處于萌芽階段，以及幫助編碼等等。我們顯然也致力于所有這些工作，我們是谷歌的引擎。谷歌擁有令人難以置信的，我想是150億用戶，以及平臺(tái)和產(chǎn)品，而人工智能是所有這些的核心，新的功能不斷涌現(xiàn)，來自我們DeepMind開發(fā)的一些技術(shù)。

這在某種程度上是很好的，因?yàn)楫a(chǎn)品所需的技術(shù)類型實(shí)際上與你無論如何都會(huì)進(jìn)行的AGI研究類型有90%的相似之處。這些東西已經(jīng)有很多融合了，而在五年前或十年前，如果你想將人工智能融入產(chǎn)品中，你必須這樣做，因?yàn)橥ㄓ孟到y(tǒng)和學(xué)習(xí)系統(tǒng)還不夠好，你必須回到邏輯網(wǎng)絡(luò)，專家系統(tǒng)。像早期那一代的助手，例如，都仍然建立在那種舊的技術(shù)之上，這就是為什么它們很脆弱，它們不能泛化，最終它們也沒那么有用，而建立在這些學(xué)習(xí)系統(tǒng)上的新一代助手將更加強(qiáng)大。而且，實(shí)際上，非常令人興奮，我實(shí)際上認(rèn)為像Gemini以及我們自己對未來多模式助手的設(shè)想，目前稱為Astra，它們是通往AGI系統(tǒng)的關(guān)鍵路徑，因?yàn)樗鼈儗?shí)際上推動(dòng)了朝著這個(gè)方向的研究。

Demis Hassabis：這只是一個(gè)能夠在日常生活中幫助你的通用助手的開始。我聽到要把它做成員工。也會(huì)有不同的形式。你可以在手機(jī)上看到它，你可以在眼鏡上看到它。我無法形容這會(huì)有多么神奇。如果我們回到五年前，你告訴我我們會(huì)走到今天這一步，你只需用相機(jī)指向某個(gè)東西，它就能完全理解空間環(huán)境。這真是太不可思議了。就好像它有概念，它理解什么是物體，甚至能認(rèn)出我們所在的街區(qū)。僅僅是通過窗戶看到的周圍景色。像記住你把東西放在哪里的記憶，這可能非常有用，就像一個(gè)助手一樣。個(gè)性化和所有這些東西都在這個(gè)我稱之為下一代助手的產(chǎn)品中出現(xiàn)。我稱之為通用助手，因?yàn)槲蚁胂竽惆阉S身攜帶在不同的設(shè)備上。它是同一個(gè)助手，無論它是和你玩游戲，還是在你的桌面上幫助你工作，或者是在移動(dòng)設(shè)備上陪你旅行。

主持人：是這樣嗎？我認(rèn)為我理解對了。有些人會(huì)認(rèn)為這是通往通用智能的一步。如果沒有我們還沒有的秘密武器，那么它本質(zhì)上就是這個(gè)目標(biāo)。它與我們目前使用的方法之間沒有無法彌合的差距。它只是你達(dá)到了70%，你達(dá)到了80%，你達(dá)到了90%嗎？還是有什么其他的東西需要解決？

Demis Hassabis：嗯，我們肯定需要這些系統(tǒng)，我相信你們所有人都已經(jīng)體驗(yàn)過各種最先進(jìn)的聊天機(jī)器人了。這些系統(tǒng)非常被動(dòng)，它們是問答系統(tǒng)。它們對于回答問題，也許做一些研究，總結(jié)一些文本之類的事情很有用。

我們接下來想要的是更多基于代理的系統(tǒng)，能夠完成你給它的特定目標(biāo)或任務(wù)。這當(dāng)然是我使用助手，數(shù)字助手需要做的。你計(jì)劃一個(gè)假期，你在城市里旅行，你告訴它幫你訂票。所以它們需要能夠在世界上行動(dòng)，執(zhí)行動(dòng)作并進(jìn)行規(guī)劃。所以我們需要規(guī)劃、推理、行動(dòng)，我們需要更好的記憶，我們需要個(gè)性化，所以它需要了解你的喜好，記住你告訴它的內(nèi)容和你喜歡的東西。所以所有這些技術(shù)都是需要的。

現(xiàn)在，我給出的簡略說法是:

我們的一些游戲程序，比如擊敗了圍棋世界冠軍的AlphaGo，它有規(guī)劃和推理能力，盡管是在這個(gè)狹窄的游戲領(lǐng)域。我們必須引入這些技術(shù)，并將它們應(yīng)用于像Gemini這樣的多模態(tài)模型，它們基本上是世界模型，正如你剛才看到的，它理解它周圍的世界。但是如何在雜亂的現(xiàn)實(shí)世界中進(jìn)行規(guī)劃，而不是像游戲這樣的干凈的環(huán)境呢？所以我認(rèn)為這是下一個(gè)需要取得的重大突破。

主持人：那這個(gè)系統(tǒng)也能應(yīng)用AlphaGo級(jí)別的游戲和拉動(dòng)某種方法嗎？

Demis Hassabis：是的，沒錯(cuò)。有兩種方式可以實(shí)現(xiàn)，這是我們內(nèi)部以及學(xué)術(shù)界目前正在進(jìn)行的非常有趣的辯論。你可以想象，你希望你的通用代理系統(tǒng)能夠做的一件重要的事情就是使用工具。這些工具可以是硬件，比如機(jī)器人或物理世界中的東西，但它們當(dāng)然也可以是其他軟件，比如計(jì)算器，諸如此類。但它們也可以是其他人工智能系統(tǒng)。所以你可以擁有，你可以想象一個(gè)像大腦一樣的通用人工智能系統(tǒng)，然后調(diào)用像AlphaFold或AlphaGo這樣的東西來下圍棋或折疊蛋白質(zhì)，或者因?yàn)樗侨珨?shù)字化的，你可以想象將這種能力折疊到通用大腦中，折疊到Gemini中。但這需要權(quán)衡取舍，因?yàn)檫@樣你是否會(huì)用專門的信息超載它，比如太多的棋局，然后這會(huì)讓它在語言方面變得更差。

蛋白質(zhì)結(jié)構(gòu)預(yù)測

這是一個(gè)開放的研究問題，你是想把它分離成一個(gè)工具，即使是一個(gè)通用人工智能可以在特定情況下使用的AI工具，還是你想把它上游到主系統(tǒng)中。有些東西你想上游到主系統(tǒng)中，比如編碼和數(shù)學(xué)，因?yàn)槭聦?shí)證明，如果你把它放在主系統(tǒng)中，它實(shí)際上會(huì)讓一切變得更好。所以有點(diǎn)像你在學(xué)習(xí)理論和兒童發(fā)展理論等等，實(shí)際上是為了思考哪些東西可能是通用的，并且最好放在主系統(tǒng)中而不是外圍工具中。

主持人：你現(xiàn)在組織還有多少比例是一個(gè)科學(xué)組織？你還有多少比例在努力成為貝爾實(shí)驗(yàn)室？

Demis Hassabis：我們永遠(yuǎn)都會(huì)是一個(gè)以研究為主導(dǎo)的組織。這就是我們現(xiàn)在在Google DeepMind所做的。但我們越來越多地?fù)碛幸粋€(gè)越來越大的產(chǎn)品應(yīng)用團(tuán)隊(duì)，與谷歌的其他部門進(jìn)行互動(dòng)。但我們?nèi)匀辉噲D讓我們的基礎(chǔ)研究稍微不受其影響，這樣它就可以根據(jù)我們自己的研究路線圖進(jìn)行更長遠(yuǎn)的、更具藍(lán)天意義的思考，而不僅僅是由產(chǎn)品路線圖所主導(dǎo)。

主持人：您個(gè)人是如何跟上這一切的呢？

Demis Hassabis：嗯，我努力，我的意思是，我曾經(jīng)在18個(gè)月前說過，我會(huì)保留我的晚上時(shí)間，而且我是一個(gè)很自律的人。所以我把午夜到凌晨3點(diǎn)的時(shí)間留給思考、閱讀論文和提出想法，我仍然在倫敦。但現(xiàn)在我在加州有很多團(tuán)隊(duì)。所以很多黃金思考時(shí)間都被與美國的電話會(huì)議占據(jù)了。想想如何騰出這些時(shí)間。

主持人：我們可以把計(jì)時(shí)器放在這里嗎，如果可以的話。否則，我們會(huì)讓你錯(cuò)過你的飲料，而且我不確定我們還有多少時(shí)間。未來會(huì)怎樣？我認(rèn)為你是其中的一員，你是簽署了其中一封公開信的人之一，警告說，你知道，真正的生存風(fēng)險(xiǎn)，但這并沒有特別明確的定義。你對希望、炒作和末日持什么立場？

Demis Hassabis：我認(rèn)為這個(gè)等式的兩邊都有很多瘋狂的炒作。有一種現(xiàn)在被稱為末日陣營的人，他們認(rèn)為肯定會(huì)出錯(cuò)。然后還有那些波莉安娜陣營的人，他們認(rèn)為這只是另一種技術(shù),以前在移動(dòng)互聯(lián)網(wǎng)時(shí)代就見過這種情況，它會(huì)像那樣發(fā)展壯大，但是我們作為一個(gè)社會(huì)和作為人類適應(yīng)性很強(qiáng)，沒什么特別的。

顯然這是錯(cuò)的。我認(rèn)為，這比互聯(lián)網(wǎng)或移動(dòng)設(shè)備之類的東西要重要得多。我認(rèn)為這是一個(gè)劃時(shí)代的定義。我一直這樣認(rèn)為，我想對更多人來說，這一點(diǎn)正變得越來越清晰，但我從我還是個(gè)孩子的時(shí)候就一直這樣認(rèn)為，這就是為什么我畢生致力于此的原因。

我認(rèn)為它可以做到。它將產(chǎn)生難以置信的影響。當(dāng)然，我做這一切的原因是因?yàn)槲艺J(rèn)為人工智能對世界將產(chǎn)生難以置信的積極影響。我認(rèn)為我們距離用人工智能治愈所有疾病的目標(biāo)已經(jīng)不遠(yuǎn)了，通過材料科學(xué)和新能源以及我認(rèn)為人工智能可以發(fā)明的其他東西來幫助應(yīng)對氣候變化，以及在我們的日常生活中，只是提高生產(chǎn)力，豐富我們的日常生活，平凡的管理工作。我認(rèn)為，平凡的管理工作可以自動(dòng)處理。我認(rèn)為這些都很棒，而且很快就會(huì)實(shí)現(xiàn)。

但是這些系統(tǒng)存在風(fēng)險(xiǎn)，它們是新技術(shù)的新系統(tǒng)，它們非常強(qiáng)大。

我已經(jīng)在游戲的微觀世界中看到了這一點(diǎn)，我理解得很清楚，比如下棋，你從一個(gè)隨機(jī)的系統(tǒng)AlphaZero開始，到了早上喝咖啡休息的時(shí)候，它可以打敗我，然后到了午餐時(shí)間，它已經(jīng)比世界冠軍更厲害了，然后到了下午，在大約8個(gè)小時(shí)內(nèi)，它就比最好的國際象棋，高端的、硬編碼的國際象棋計(jì)算機(jī)更厲害了。

所以它是世界上有史以來最偉大的國際象棋實(shí)體，在8個(gè)小時(shí)內(nèi)從隨機(jī)變成了這樣。我實(shí)際上觀察了這個(gè)過程超過8個(gè)小時(shí)，這真是太不可思議了，當(dāng)然，那只是一個(gè)游戲，而且范圍很窄。

但我認(rèn)為沒有理由認(rèn)為這種能力不能推廣到這些更通用的語言和世界模型系統(tǒng)中。所以它將非常強(qiáng)大，但必須謹(jǐn)慎處理。而且我認(rèn)為我們根本不知道。所以我簽署那封信的原因是我只是想給那些認(rèn)為這里沒什么可看的，實(shí)際上有一些未知風(fēng)險(xiǎn)的波莉安娜主義者一些壓力。

我們需要定義，我認(rèn)為我們有時(shí)間，但十年時(shí)間對于即將到來的如此重大的事情來說并不長。所以我們需要對可控性等方面進(jìn)行更多研究，從理論層面理解這些系統(tǒng)的作用。你知道，非常重要的事情，比如我們?nèi)绾螢橄到y(tǒng)定義目標(biāo)和價(jià)值觀，以及我們?nèi)绾未_保它們堅(jiān)持這些目標(biāo)和價(jià)值觀。這些都是當(dāng)前新興技術(shù)的未知數(shù)。所以我想說我是一個(gè)謹(jǐn)慎的樂觀主義者。所以我認(rèn)為如果我們齊心協(xié)力，我們就能解決這個(gè)問題。我們在國際范圍內(nèi)這樣做，讓所有最優(yōu)秀的人才都參與進(jìn)來。我們現(xiàn)在就開始行動(dòng)。我很高興看到在英國和美國成立的人工智能安全研究所，我們將倡導(dǎo)這種情況的發(fā)生，并測試最新的模型。但我們需要更多這樣的機(jī)構(gòu)。我只是在鼓勵(lì)這種情況的發(fā)生。而且我認(rèn)為，如果有足夠的時(shí)間，有足夠的腦力,人類的聰明才智,我們會(huì)做好的。但風(fēng)險(xiǎn)是存在的，我們不能抄近路，我們需要認(rèn)真對待它。我認(rèn)為應(yīng)該懷著敬畏之心。我認(rèn)為這項(xiàng)技術(shù)值得我們?nèi)ヅΑ?/p>

主持人：你所說的有點(diǎn)嚇人。我的意思是，如果你從國際象棋中發(fā)生的事情進(jìn)行概括，國際象棋還好。但假設(shè)我每天去辦公室工作，靠下棋謀生，不是靠打敗其他人，而是因?yàn)樗鼘ο缕逵幸恍┕麅r(jià)值。你所說的系統(tǒng)可能會(huì)消除幾乎所有的人類價(jià)值。

Demis Hassabis：我認(rèn)為即將出現(xiàn)一些重要的哲學(xué)討論。它們很快就會(huì)出現(xiàn)。我們?nèi)绾畏峙?？我們?yīng)該生活在一個(gè)AGI運(yùn)作的零和世界中。所以激進(jìn)的富足。像能源之類的東西不應(yīng)該短缺，因此資源和其他東西也不應(yīng)該短缺。我認(rèn)為這確實(shí)改變了經(jīng)濟(jì)的動(dòng)態(tài)，我指的是長遠(yuǎn)來看。所以我們現(xiàn)在需要開始思考這個(gè)問題，為它做好準(zhǔn)備。我們希望如何分配這些額外的富足和財(cái)富。無論是某種普遍基本供應(yīng)還是其他類似的東西。我們需要現(xiàn)在就開始思考這個(gè)問題，經(jīng)濟(jì)學(xué)家和像他們這樣的人。我覺得他們需要現(xiàn)在就開始研究這個(gè)問題。

主持人：最后一個(gè)問題英國。我們在英國，美國正走向人工智能的中心。我們正在討論英國是否需要更多計(jì)算能力，政府是否需要支持它。這是必需的嗎？我們有哪些可能會(huì)落后的方面？

Demis Hassabis：我認(rèn)為這是一個(gè)巨大的增長領(lǐng)域，我認(rèn)為英國政府應(yīng)該鼓勵(lì)它。我想說的是，更重要的是鼓勵(lì)國內(nèi)投資，地方投資，規(guī)劃許可等等。我認(rèn)為這是一個(gè)建立新世界的絕佳機(jī)會(huì)。我認(rèn)為這是一個(gè)巨大的機(jī)遇。許多大公司都認(rèn)為英國是一個(gè)吸引人的研究和開展業(yè)務(wù)的地方。我們在這里有一個(gè)很棒的生態(tài)系統(tǒng)。我們擁有一流的大學(xué)。這就是我們DeepMind在這里的原因之一。我們在這里有助于建立一個(gè)由英國優(yōu)秀初創(chuàng)公司組成的生態(tài)系統(tǒng)，這些公司基于人工智能或與人工智能相鄰。所以我認(rèn)為政府只需要釋放這種潛力，讓公司很容易在這里投資和建設(shè)，包括大型數(shù)據(jù)中心。

文章來源：公眾號(hào)“AI寒武紀(jì)”

圖源網(wǎng)絡(luò)，侵刪

粉絲福利領(lǐng)取

近期，公眾號(hào)收集了科研指導(dǎo)、編程學(xué)習(xí)、科學(xué)哲學(xué)、科學(xué)史、數(shù)學(xué)和物理科普書、中醫(yī)書籍、文學(xué)著作、升學(xué)就業(yè)相關(guān)資料等資源大禮包，點(diǎn)擊了解詳情

點(diǎn)擊資源推文頁，領(lǐng)取方式在文末