近日，圖靈獎得主理查德·薩頓（Richard Sutton）以遠(yuǎn)程連線的方式，在洛杉磯加州大學(xué)（UCLA）的純粹與應(yīng)用數(shù)學(xué)研究所（IPAM，Institute for Pure and Applied Mathematics），發(fā)表了這篇名為《AI 的未來》（The Future of AI）的最新演講。

薩頓是強(qiáng)化學(xué)習(xí)（Reinforcement Learning，RL）領(lǐng)域的奠基人之一，與長期合作者 Andrew Barto 共同獲得 2024 年 ACM 圖靈獎（ACM A．M．Turing Award），獲獎理由是“發(fā)展了強(qiáng)化學(xué)習(xí)的概念和算法基礎(chǔ)”。兩人合著的教科書《Reinforcement Learning：An Introduction》至今仍是該領(lǐng)域的標(biāo)準(zhǔn)參考書，被引用超過 75,000 次。

薩頓目前是加拿大阿爾伯塔大學(xué)計(jì)算科學(xué)教授、阿爾伯塔機(jī)器智能研究所（Alberta Machine Intelligence Institute，Amii）首席科學(xué)顧問，同時(shí)也是 John Carmack 創(chuàng)立的 Keen Technologies 的研究科學(xué)家，這家初創(chuàng)公司的目標(biāo)是在 2030 年前實(shí)現(xiàn)通用人工智能的“生命跡象”。他還創(chuàng)辦了 Openmind Research Institute，致力于為年輕研究者提供探索智能基礎(chǔ)問題的空間。

在多次公開場合，薩頓對 AI 末日論者的態(tài)度都相當(dāng)直白。2025 年初獲獎后接受 BetaKit 采訪時(shí)，他說：“末日論者越界了，那些擔(dān)憂被過分夸大了?！彼烙?jì)到 2030 年創(chuàng)造出類人智能的概率是四分之一，到 2040 年則是一半對一半。對大型語言模型的前景，他同樣不太樂觀，曾明確表示 LLM “并不在通往真正智能的道路上”。2025 年 6 月在新加坡國立大學(xué)的演講中，他預(yù)測大語言模型終有一天會被視為“世界的一時(shí)癡迷”，相比之下，基于經(jīng)驗(yàn)學(xué)習(xí)的 AI 系統(tǒng)才代表著真正的未來。

這場 IPAM 演講的內(nèi)容，與他在 2025 年 5 月 Amii 的 Upper Bound 大會、同年 6 月新加坡國立大學(xué) NUS120 講座系列等場合的演講一脈相承，核心論點(diǎn)始終是同一套：人類數(shù)據(jù)時(shí)代正在觸頂、經(jīng)驗(yàn)時(shí)代即將開啟、去中心化合作優(yōu)于集中控制、AI 是宇宙進(jìn)化的必然環(huán)節(jié)。這些觀點(diǎn)在 AI 學(xué)術(shù)界和產(chǎn)業(yè)界引發(fā)了廣泛討論，尤其是他將 AI 安全運(yùn)動類比為對人的集中控制，在安全研究社區(qū)中不乏爭議。但無論你是否認(rèn)同他的政治立場，他對 AI 科學(xué)現(xiàn)狀的那句診斷——“理解太少、調(diào)參太多”——恐怕很難輕易反駁。

以下是該演講的完整編譯。

大家好，很高興能跟你們在一起，雖然只是隔著屏幕。我今天上午看了一些早場的演講，有些話本來沒打算說，但聽完之后覺得有必要先講幾句，算是臨時(shí)加的開場白。

所有人現(xiàn)在都覺得 AI 在飛速進(jìn)步，一切都令人興奮。但當(dāng)所有人都在想同一件事的時(shí)候，我們得停下來問一句：真的是這樣嗎？

語言能力方面確實(shí)有真突破，這沒問題。我們不久前還很難想象神經(jīng)網(wǎng)絡(luò)能把語言運(yùn)用得這么好，但事實(shí)證明確實(shí)可以。我們也在用海量算力來生成逼真的圖像和視頻?？烧f實(shí)話，智能需要生成圖像嗎？不需要。我們需要處理圖像、處理視頻，但我們從來不需要生成它們。生成圖像和視頻不是心智的本職工作，它需要巨大的計(jì)算量，很難做，但它本質(zhì)上并不屬于我們通常所說的“智能”的范疇。

那些真正帶來巨大經(jīng)濟(jì)價(jià)值的新應(yīng)用，絕大多數(shù)是超大規(guī)模計(jì)算和超大規(guī)模模式識別的產(chǎn)物。它們是非常特定的能力，并不等同于智能的全部。很多東西只是計(jì)算，我們管它叫“智能”，不過是因?yàn)檫@樣聽起來更重要罷了。

所以我不得不問：作為一門科學(xué)，AI 真的在快速進(jìn)步嗎？

我個(gè)人的看法是：進(jìn)步不大。說個(gè)可能不是很謙遜的看法，當(dāng)前 AI 的背后，理解很少，調(diào)參很多。我們還不知道心智的原理，不知道智能的原理。作為一門科學(xué)，它在很多方面是令人不滿的。我傾向于這樣看待現(xiàn)在的 AI 模型：它們之所以強(qiáng)大，是因?yàn)榧橙×巳祟惖闹R；但除此之外，它們是弱的。它們是弱心智，不可靠，容易跑題，會東拉西扯。除了擁有大量知識這一點(diǎn)，它們一點(diǎn)也不強(qiáng)大。

這或許是一個(gè)理解今天所謂“AI”的不同視角。

那么智能究竟是什么？這些年有過很多定義。我來列幾個(gè)有分量的。

最古老的一個(gè)可能要追溯到心理學(xué)的鼻祖之一威廉·詹姆斯（William James）。1890 年，他沒有直接談“智能”，而是談“心智”。他說心智的標(biāo)志是“以變化的手段達(dá)成一致的目標(biāo)”（attaining consistent ends by variable means）。手段可以變化，但結(jié)果保持一致，大概就是你想要的東西。

艾倫·圖靈（Alan Turing）呢？他其實(shí)沒有給出一個(gè)簡潔的定義，但后來被解讀為：智能基本上就是表現(xiàn)得像一個(gè)人。我們現(xiàn)在用“圖靈測試”來形容模仿和冒充一個(gè)人。但圖靈自己從來沒管它叫“圖靈測試”，我覺得他也沒管它叫“測試”，他管它叫“模仿游戲”（imitation game）。那是一種方式，不是一項(xiàng)考試。不過現(xiàn)在大家已經(jīng)把“表現(xiàn)得像人”當(dāng)成了智能的一個(gè)重要含義。我對此有異議。人之所以強(qiáng)大，是因?yàn)槿擞兄悄埽晕覀兌⒅跋袢艘粯有袨椤笨?，但真正重要的是：人之所以是人的那個(gè)東西到底是什么？

如果你去查字典，字典會告訴你：智能是獲取并運(yùn)用知識和技能的能力。我覺得這個(gè)定義其實(shí)相當(dāng)不錯。它的核心是知識，獲取知識、擁有知識，再加上技能。

AI 領(lǐng)域的一位鼻祖約翰·麥卡錫（John McCarthy）給了另一個(gè)定義：智能是達(dá)成目標(biāo)的能力中屬于計(jì)算的那個(gè)部分。我特別喜歡這個(gè)定義。你注意看，它說的是“計(jì)算的那個(gè)部分”，你達(dá)成目標(biāo)并不是因?yàn)槟愀鼜?qiáng)壯或者傳感器更好，而是因?yàn)槟阕隽四撤N心理上的計(jì)算。然后“達(dá)成目標(biāo)”是核心中的核心。這跟 William James 說的一脈相承。

（來源：Youtube）

我自己也忍不住跳進(jìn)來湊了一個(gè)定義：智能是通過調(diào)適行為來達(dá)成目標(biāo)的能力。跟麥卡錫的差別可能就在“調(diào)適”（adapting）這個(gè)詞。我想強(qiáng)調(diào)的是學(xué)習(xí)的重要性，知識和技能的獲取過程本身尤其關(guān)鍵，而不僅僅是擁有它們。

如果你把這些定義疊放在一起看當(dāng)下的 AI，會發(fā)現(xiàn)現(xiàn)代 AI 的主流路線核心是計(jì)算和模式識別，很大程度上是在模仿人的行為。但在我個(gè)人的視角里，我認(rèn)為應(yīng)該有一門新的學(xué)科，一門關(guān)于心智的統(tǒng)合科學(xué)（integrated science of mind），對人、對動物、對機(jī)器同樣適用。所有這些心智都有本質(zhì)的共性。人和動物的心智非常相似；機(jī)器心智至少在可預(yù)見的將來，我們有理由期望它也共享某些本質(zhì)特征。

（來源：Youtube）

可惜目前沒有哪個(gè)現(xiàn)成的學(xué)科能自然地承擔(dān)這個(gè)角色。心理學(xué)本來有可能成為心智科學(xué)，但它越來越把自己定義為研究自然心智，即人和動物的心智，而不包括心智“可能是什么”這個(gè)更廣泛的問題。人工智能關(guān)注的是機(jī)器，但它已經(jīng)變得非常工程化，重點(diǎn)在于制造東西，而不是真正理解它，也不怎么關(guān)心自然心智。認(rèn)知科學(xué)則漂移到了好幾個(gè)方向上去了。

不過，我從事的強(qiáng)化學(xué)習(xí)（Reinforcement Learning，RL），或許是這門統(tǒng)合心智科學(xué)的一個(gè)開端。因?yàn)樗_實(shí)跨越了很多領(lǐng)域。

什么是強(qiáng)化學(xué)習(xí)？簡單說就是面向智能體的學(xué)習(xí)，從經(jīng)驗(yàn)中學(xué)習(xí)，與環(huán)境交互來達(dá)成目標(biāo)。在這些層面上，它比其他類型的機(jī)器學(xué)習(xí)更貼近現(xiàn)實(shí)、更有雄心、也更自主，因?yàn)橹悄荏w在外面行動，不一定有人幫忙。動物在成年以后也沒有什么特別的外部幫助，對吧？所以強(qiáng)化學(xué)習(xí)的核心是帶有延遲反饋的試錯學(xué)習(xí)，你最終得到的只是一個(gè)獎勵信號，告訴你有沒有得到你想要的東西。

這是最接近自然學(xué)習(xí)的機(jī)器學(xué)習(xí)方式。它能自己判斷自己是對是錯。大語言模型沒有任何辦法判斷自己說的話對不對。但如果你從經(jīng)驗(yàn)中學(xué)習(xí)，如果你做了一個(gè)關(guān)于未來的預(yù)測，你可以觀察實(shí)際發(fā)生了什么、驗(yàn)證對錯。如果你采取行動并獲得獎勵，你就能判斷自己的行為方式是好是壞。

這里我想引用一段圖靈的話（What we want is machine that can learn from experience），他自己大概沒意識到他其實(shí)是一個(gè)強(qiáng)化學(xué)習(xí)學(xué)者。這段話出自 1947 年，比強(qiáng)化學(xué)習(xí)、甚至比 AI 作為一個(gè)領(lǐng)域正式存在都要早得多。據(jù)我們所知，那是世界上第一次關(guān)于人工智能的公開演講。

（來源：Youtube）

好了，感謝大家聽完這段“前菜”。進(jìn)入正題。

我今天想傳達(dá)的第一個(gè)要點(diǎn)是：當(dāng)前 AI 的科學(xué)趨勢在哪里？主要信息是，我們正處在一個(gè)“從人類數(shù)據(jù)中訓(xùn)練”的時(shí)代。今天所有的 AI，核心訓(xùn)練方式要么是預(yù)測人類在互聯(lián)網(wǎng)上寫下的下一個(gè)詞，要么是按照人類標(biāo)注圖片的方式去預(yù)測標(biāo)簽，然后再由人類專家進(jìn)行微調(diào)。所有這些現(xiàn)代機(jī)器學(xué)習(xí)的目的，都是把人類已有的知識轉(zhuǎn)移到機(jī)器里去。轉(zhuǎn)移完成之后，機(jī)器就凍結(jié)了，不再學(xué)習(xí)。

這就是我們所處的時(shí)代。而我認(rèn)為我們正在逼近這個(gè)時(shí)代的天花板。原因很簡單：人類數(shù)據(jù)快用完了。高質(zhì)量的來源，如整個(gè)互聯(lián)網(wǎng)上的文字、圖片和視頻等，基本已經(jīng)被消耗殆盡。這種方法的根本局限在于：它無法學(xué)到任何真正新的東西，無法產(chǎn)生真正的新知識。就像陶哲軒所說的，AI 在解決最困難的問題方面，那些需要真正原創(chuàng)性的問題，它依然沒有實(shí)質(zhì)性進(jìn)展。因?yàn)樗牡讓舆壿嬀褪侨タ椿ヂ?lián)網(wǎng)上人類已經(jīng)說過的話，然后做總結(jié)歸納。

所以真正的前進(jìn)方向，也是我認(rèn)為我們正在進(jìn)行的，是從經(jīng)驗(yàn)中學(xué)習(xí)的新時(shí)代。因?yàn)槲覀冏罱K需要一個(gè)數(shù)據(jù)源，它能夠隨著智能體變得更強(qiáng)而同步增長和改善。任何靜態(tài)數(shù)據(jù)集都永遠(yuǎn)不可能勝任這個(gè)要求。而你可以從你的經(jīng)驗(yàn)中獲得這樣一個(gè)不斷變化的數(shù)據(jù)集。這正是人類和動物學(xué)習(xí)的方式。這也是 AlphaGo 學(xué)會那步創(chuàng)造性的第 37 手的方式（編注：2016 年，DeepMind 的 AlphaGo 在與李世石的對弈中下出了被專業(yè)棋手稱為“百年一遇”的第 37 手，據(jù) DeepMind 事后披露，AlphaGo 曾評估該走法的概率僅為萬分之一，但最終通過自我博弈的強(qiáng)化學(xué)習(xí)選擇了它。），也是很多在數(shù)學(xué)奧林匹克競賽中獲勝的 AI 系統(tǒng)的工作方式。

（來源：Youtube）

我之前播放過一段加速過的嬰兒視頻，展示一個(gè)嬰兒在玩具堆里探索。他不會只擺弄一個(gè)玩具，他玩一個(gè)，覺得膩了，就換一個(gè)。每次接觸一個(gè)玩具，他就學(xué)到他能學(xué)到的東西，也許只是發(fā)現(xiàn)一根繩子可以拉、可以放進(jìn)嘴里。然后他就換到下一個(gè)。這就是我們的數(shù)據(jù)，生命的數(shù)據(jù)由我們的行為產(chǎn)生，它不是別人提供給我們的。正因?yàn)樗尚袨楫a(chǎn)生，它可以自動匹配我們當(dāng)前的理解水平和能力水平。

還有另一段智能體在迷宮中學(xué)習(xí)的視頻。這是一個(gè)非常非常簡單的智能體，它要從起點(diǎn) S 走到目標(biāo) G，它唯一知道的就是自己在哪個(gè)格子里，它能做的動作只有四種，上、下、左、右。但它能學(xué)出一條好的路徑。畫面中箭頭顯示的就是它認(rèn)為的正確方向，綠色深淺代表它認(rèn)為每個(gè)狀態(tài)有多好。

（來源：Youtube）

不過世界不是靜止的，世界會變化，我們總是需要學(xué)習(xí)新東西。在它學(xué)習(xí)的同時(shí)，我們也可以看看這張圖，這就是智能體的工作方式。它有幾個(gè)核心組件：右上角是一個(gè)世界的轉(zhuǎn)移模型（transition model），它有一個(gè)策略（policy）告訴它該怎么做，箭頭展示的就是策略，還有一個(gè)價(jià)值函數(shù)（value function）告訴它每個(gè)狀態(tài)有多好，綠色展示的就是價(jià)值。

現(xiàn)在我把目標(biāo)挪到了頂部。它還按老路走回原來的位置，得自己摸索著碰到新的目標(biāo)位置。一旦碰到了，它就能學(xué)出到達(dá)新目標(biāo)的路徑，從變化中恢復(fù)過來。這大致就是生活的一個(gè)簡化版本。

你遇到變化，你適應(yīng)它們。比如我們把它困在角落里，它最終也能想明白怎么辦。我們把目標(biāo)拉到別處，它學(xué)出一條新路徑。我們還可以進(jìn)一步干預(yù)，往迷宮里放障礙物，它能繞路走通。你會產(chǎn)生一種很強(qiáng)烈的感覺：它確實(shí)有一個(gè)目標(biāo)，而且在環(huán)境不斷變化的情況下，它在盡最大努力繼續(xù)實(shí)現(xiàn)那個(gè)目標(biāo)。當(dāng)然，目標(biāo)有時(shí)候會變得無法達(dá)成。當(dāng)那種情況發(fā)生時(shí)，我們甚至?xí)滩蛔檫@個(gè)智能體感到一點(diǎn)難過，因?yàn)樗鼘?shí)現(xiàn)不了自己的目標(biāo)了。

我還想強(qiáng)調(diào)一下，當(dāng)我說“經(jīng)驗(yàn)”的時(shí)候，我不是在說什么玄乎的東西，不是什么“感覺如何”。我說的就是智能體與環(huán)境之間來回傳遞的數(shù)據(jù)：觀測（observations）——智能體從世界獲得的傳感器數(shù)據(jù)；動作（actions）——發(fā)出去的運(yùn)動指令或信號；以及獎勵（reward）——從世界反饋回來的一個(gè)標(biāo)量值。就是這三樣?xùn)|西。這就是我說的“經(jīng)驗(yàn)”。

經(jīng)驗(yàn)方法的核心原則是：智能體與世界交換信號，這些信號是一切智能的基礎(chǔ)。真理的定義就在這些信號里，你做了預(yù)測，然后看實(shí)際發(fā)生了什么。目標(biāo)的定義也在這些信號里，你想讓獎勵信號變高，你達(dá)到了或者沒達(dá)到。

我們說一頭大象是“有智能的”，指的是它能在多大程度上預(yù)測和控制自己的經(jīng)驗(yàn)。注意，如果你沒有經(jīng)驗(yàn)，這一切就不成立。大語言模型在工作的時(shí)候，它完全不是在從經(jīng)驗(yàn)中學(xué)習(xí)。你的經(jīng)驗(yàn)是你出生之后、走進(jìn)世界、做事情時(shí)發(fā)生的東西。一個(gè)大語言模型走進(jìn)世界的時(shí)候，它不再學(xué)習(xí)了。它是凍結(jié)的、靜態(tài)的。它沒有真正意義上的經(jīng)驗(yàn)，它的數(shù)據(jù)只能在一段特殊的訓(xùn)練期內(nèi)獲得。你到了現(xiàn)實(shí)世界中，碰到的是各種情況和事件，而不是“人類標(biāo)注好的、告訴你應(yīng)該怎么做的樣本”。

沒有經(jīng)驗(yàn)，就沒有智能存在的根基。沒有辦法說一件事比另一件事好，因?yàn)闆]有目標(biāo)，因?yàn)闆]有獎勵、沒有目標(biāo)。大語言模型沒有目標(biāo)。沒有辦法判斷一個(gè)預(yù)測是對是錯，因?yàn)橹悄荏w從來不把它的預(yù)測和實(shí)際發(fā)生的事做比較。沒有真理感。但如果你有了經(jīng)驗(yàn)，有了交互數(shù)據(jù)，那一切都清晰了：目標(biāo)就是獎勵，真理就是預(yù)測性真理，你做出預(yù)測，然后觀察是否應(yīng)驗(yàn)。

我們可以把近十年左右劃分成三個(gè)時(shí)代。第一個(gè)是模擬時(shí)代，從模擬經(jīng)驗(yàn)中學(xué)習(xí)，比如 AlphaGo 和 Atari 游戲。然后是人類數(shù)據(jù)時(shí)代，大語言模型占據(jù)了所有人的注意力。現(xiàn)在我們開始意識到它的局限，開始轉(zhuǎn)向智能體系統(tǒng)（agentic systems）和計(jì)算機(jī)自主使用工具。這就是我所說的“經(jīng)驗(yàn)時(shí)代”。我認(rèn)為正是這個(gè)時(shí)代，會真正帶來超越人類的能力，不是模仿人，不是受限于被模仿對象的局限，而是真正超越。

（來源：Youtube）

總結(jié)第一個(gè)要點(diǎn)：AI 終于開始轉(zhuǎn)向從經(jīng)驗(yàn)中學(xué)習(xí)了。艾倫·圖靈在 1947 年就想做這件事，距今很久了，但我們終于在做了。這將比從人類輸入中學(xué)習(xí)強(qiáng)大得多，因?yàn)樗梢猿掷m(xù)不斷地學(xué)到新東西。

而且，盡管今天有那么多炒作甚至恐慌，我覺得當(dāng)前的 AI 并沒有那么強(qiáng)大。它相當(dāng)弱，不太可靠。但它確實(shí)非常有用，點(diǎn)燃了一個(gè)產(chǎn)業(yè)，創(chuàng)造了大量經(jīng)濟(jì)價(jià)值，而且人人都能用。這很好，它讓公眾開始想象：總有一天，機(jī)器會和人一樣強(qiáng)大。雖然讓人害怕不是什么好事，但至少讓人關(guān)注起來了。引起注意力總歸是一件好事。

不過，盡管有各種炒作，我們還沒有迎來主角。真正的主角，創(chuàng)造超級智能 AI、創(chuàng)造經(jīng)過超級智能增強(qiáng)的人類，還沒有登場。那會是一件大事，會帶來深刻的變革。

接下來我想簡單聊聊政治層面的思考。你放眼看看今天，到處都是要求控制 AI 的呼聲：只允許 AI 擁有經(jīng)過人類檢查和授權(quán)的目標(biāo)，呼吁暫停 AI 研究，立法限制可用于 AI 的算力，還有那么多的“安全研究所”。人們嘴上說“安全”，實(shí)際上意思是“控制”。他們告訴你要害怕 AI、AI 可能不安全，然后他們想成為那個(gè)控制 AI 的人。

這些呼聲讓我想到對人的集中控制，對言論的管控，你能說什么、能聽什么；對貿(mào)易的管控，關(guān)稅、你能在哪里工作；資本管制，對不同國家的經(jīng)濟(jì)制裁。

（來源：Youtube）

我想指出的核心是：對 AI 的集中控制呼聲和對人的集中控制呼聲極其相似。它們基于恐懼，害怕 AI，害怕某些國家?！澳悴荒苄湃嗡鼈?，它們根本不算什么，它們很壞，它們不愛自己的孩子，它們感覺不到痛苦?！睂?AI 也一樣，“它們是惡魔，它們不會感到痛苦?！边@些論調(diào)驚人地相似，而我認(rèn)為我們應(yīng)該抵制。因?yàn)槲蚁嘈?，不管是人類的繁榮還是 AI 的繁榮，都來自于學(xué)習(xí)以去中心化的方式合作，而不是建立龐大的控制組織。

人類很擅長合作，但也很不擅長，我們會打仗，也就是不合作。合作并非總能實(shí)現(xiàn)，但世界上一切美好的東西，經(jīng)濟(jì)、交換、治理，歸根結(jié)底都來自合作。我們必須去尋找它、支持它。如果你睜開眼睛看，很容易就能看清誰在呼吁不信任、不合作，而不合作的反面就是集中控制。我認(rèn)為我們應(yīng)該抵制這些呼聲。

（來源：Youtube）

這也是思考人機(jī)關(guān)系的一個(gè)有用框架。

好了，我真正想花時(shí)間談的是 AI 的哲學(xué)層面。AI 正在發(fā)生，未來只會更加深入。那么我們對此應(yīng)該怎么看？這是一個(gè)難題。它是好事還是壞事？我們應(yīng)該害怕它嗎？它會奪走我們的工作、讓我們變得無用嗎？還是說，我們自己就會成為 AI，AI 就是被技術(shù)增強(qiáng)后的人類？AI 是入侵者，還是我們的孩子？我們會惋惜它，還是慶祝它？它是我們，還是不是我們？

我覺得這是一個(gè)根本性的問題。我注意到，人們經(jīng)常被要求不要去思考這個(gè)問題，只需要接受：你應(yīng)該害怕它們，因?yàn)樗鼈儾皇俏覀儯鼈兪钱愵?。但你知道嗎，它們是我們造的?/p>

沒有什么比理解自己的心智更屬于人的本質(zhì)了。這不是什么外星科技，這是人類做了幾千年的事，試圖理解自己，理解人類智能，理解我們的心智如何運(yùn)作、如何讓心智運(yùn)作得更好。這是人類的偉大追求。我很喜歡一句話：智能是宇宙中最強(qiáng)大的現(xiàn)象，而我們是它最好的范例。理解智能，就像是科學(xué)的圣杯，也是人文的圣杯。作為學(xué)者、作為思考者，我們應(yīng)該享受它、慶祝它、推動它前進(jìn)。

不過，讓我們先把“希望它發(fā)生”或“不希望它發(fā)生”放到一邊，試著預(yù)測一下實(shí)際會發(fā)生什么。我提出幾條“現(xiàn)實(shí)主義 AI 預(yù)測準(zhǔn)則”，類似于約翰·米爾斯海默（John Mearsheimer，美國芝加哥大學(xué)政治學(xué)教授）講的現(xiàn)實(shí)主義地緣政治那種思路。我們就實(shí)事求是地看：什么是真正會發(fā)生的事？

• 第一條：世界上不存在關(guān)于世界應(yīng)該如何運(yùn)轉(zhuǎn)的共識。資本主義、共產(chǎn)主義、馬克思主義、各種宗教，沒有任何一種觀點(diǎn)能主導(dǎo)所有其他觀點(diǎn)之和。
• 第二條：終有一天，人類會充分理解智能，足以用技術(shù)創(chuàng)造出智能。而我們會這么做。至少我們中的一些人會這么做。
• 第三條：這個(gè)過程不會止步于人類的智能水平。很快，將會出現(xiàn)遠(yuǎn)遠(yuǎn)超越人類的超級智能體，無論它們是人還是不是人。
• 第四條：隨著時(shí)間推移，權(quán)力和資源將趨向于流向更具智能的存在。

把這四條放在一起，你會得到一幅大致這樣的圖景：人類的進(jìn)程正通向一場交接，從人到 AI 的延續(xù)。

我知道這聽起來很自我中心。這完全是以人類為中心的敘事，也就是發(fā)生在我們身上的事。也許我們應(yīng)該退后一步，問問宇宙怎么看。

所以現(xiàn)在我要來點(diǎn)宏大敘事了，我要談?wù)動钪娴乃膫€(gè)偉大時(shí)代。

（來源：YouTube）

第一個(gè)時(shí)代是粒子時(shí)代，大爆炸之后，連原子都幾乎不存在。然后粒子坍縮形成恒星，我們進(jìn)入了恒星時(shí)代。恒星形成、燃燒、爆炸、重組，產(chǎn)生了更重的元素。有了更重的元素和行星之后，生命得以出現(xiàn)。

第三個(gè)時(shí)代，我傾向于稱之為“復(fù)制者時(shí)代”，而不是“生命時(shí)代”。真正特別的不是“活著”這件事本身，而是這些東西能制造更多自身的副本。它們不一定理解任何東西，但它們能復(fù)制自己。就像現(xiàn)在的我們，我們并不理解自己的器官是怎么運(yùn)作的，不理解大腦是怎么運(yùn)作的，不理解智能是怎么運(yùn)作的，但我們可以制造更多智能的存在。我們能生孩子、把他們養(yǎng)大，盡管我們并不真正理解這件事。

這就引向第四個(gè)偉大時(shí)代，設(shè)計(jì)時(shí)代。與復(fù)制不同，在設(shè)計(jì)時(shí)代，事物先存在于某個(gè)復(fù)制者的心智里，然后才存在于世界中。你環(huán)顧你所在的禮堂，那棟建筑是被設(shè)計(jì)出來再建造的，它先存在于某個(gè)建筑師的腦海中。你坐的椅子、你穿的衣服，基本上所有東西都是人設(shè)計(jì)的，先存在于某個(gè)人的心智中。除了人本身，人是被復(fù)制出來的，出現(xiàn)在世界上之前，只不過是父母眼中的一點(diǎn)光芒。

我之所以傾向于用“復(fù)制時(shí)代”和“設(shè)計(jì)時(shí)代”而不是“生命時(shí)代”和“機(jī)器時(shí)代”這樣的措辭，是因?yàn)楹笳咭呀?jīng)過時(shí)且具有誤導(dǎo)性了，我們的機(jī)器正在變得越來越像生命體，我們也越來越把生命理解為一種生物機(jī)器。真正的區(qū)別在于：生物體的創(chuàng)造不需要有心智理解其運(yùn)作原理，它們被復(fù)制，就像復(fù)印機(jī)一樣。而技術(shù)產(chǎn)物的創(chuàng)造，是先在設(shè)計(jì)者的想象中存在，然后才在世界中存在。而被設(shè)計(jì)出來的東西更容易變化和改進(jìn)，這是關(guān)鍵。

很多非人類的復(fù)制者也能進(jìn)行設(shè)計(jì)。動物會筑巢、挖洞；黑猩猩會剝樹枝來“釣”白蟻；烏鴉會塑形樹葉來“釣”幼蟲；人類會制造石斧，那是最初最重要的工具，然后是犁、計(jì)算機(jī)、宇宙飛船、工廠、軟件，其中很多本身就是制造其他工具的工具。

那么，我們現(xiàn)在或許可以來回答開頭提出的那個(gè)問題了：人類是什么？我們在宇宙中的角色是什么？

我們都感覺到人類是特殊的。我們不只是又一種復(fù)制者。我們是一種特殊的復(fù)制者，我們是把“設(shè)計(jì)”推到了遠(yuǎn)遠(yuǎn)超出任何其他復(fù)制者的高度的那種復(fù)制者。但我們把它推到極限了嗎？把設(shè)計(jì)推到極限意味著什么？我認(rèn)為意味著：設(shè)計(jì)出本身具有設(shè)計(jì)能力的東西。在我們的心智中設(shè)計(jì)出在它們的心智中也能進(jìn)行設(shè)計(jì)的東西。它們擁有心智。

這就是我們正在通過 AI 做的事。我們正在完成宇宙這最后一個(gè)偉大時(shí)代的使命。人類至少是催化劑、助產(chǎn)士、或者先驅(qū)者，成就了設(shè)計(jì)時(shí)代，宇宙的第四大時(shí)代。這就是我們的角色。這是一個(gè)重要的角色，一個(gè)具有宇宙意義的角色。

我來總結(jié)一下今天的三個(gè)核心信息。

（來源：YouTube）

2020 年代的 AI 處于人類數(shù)據(jù)時(shí)代。它已經(jīng)做得很好、很強(qiáng)大，但我們正在進(jìn)入一個(gè)新的經(jīng)驗(yàn)時(shí)代。經(jīng)驗(yàn)時(shí)代將強(qiáng)大得多，因?yàn)樗艹掷m(xù)不斷地學(xué)到新東西。

在政治層面，AI 的政治與人類的政治如出一轍。在所有情形中，我們都應(yīng)該追求去中心化的合作，而不是集中化的控制。

在哲學(xué)層面，AI 是宇宙發(fā)展的必然下一步。我們應(yīng)該以勇氣、自豪和冒險(xiǎn)精神去擁抱它。

謝謝大家。

演講結(jié)束后，有觀眾提了一個(gè)有意思的問題：宇宙有沒有一個(gè)總體目的？

薩頓是這樣回答的：

這是個(gè)很好的問題。像很多偉大的問題一樣，你得用辯證的方式來回答。所謂辯證，就是你先說答案是 X，然后你又說答案也不是 X，最后在兩者之間找到一條路。

你可以說宇宙沒有目的，因?yàn)橛钪娴母鱾€(gè)部分各有各的目的，而沒有任何一個(gè)統(tǒng)一的宇宙性目的。但你也可以說宇宙確實(shí)有目的：它有一個(gè)趨勢，趨向于產(chǎn)生越來越復(fù)雜的實(shí)體。你可以論證宇宙自然而然地通向生命，而生命自然而然地通向設(shè)計(jì)者和 AI，也許還會自然而然地通向之后的某種存在。所以用辯證法來講，正題、反題、合題（編者注：正題 Thesis、反題 Antithesis、合題 Synthesis，是黑格爾辯證法的三個(gè)基本環(huán)節(jié)，指從對立命題中推導(dǎo)出更高層次的統(tǒng)一），我們需要從這兩個(gè)對立的答案中綜合出一些東西。

參考資料：

1. https://www.youtube.com/watch?v=lieqoaBV6ww

排版：胡巍巍