“AI已經(jīng)把思想生成的成本壓低到幾乎為零，就像互聯(lián)網(wǎng)曾經(jīng)把通信成本壓低到幾乎為零一樣?！?菲爾茲獎(jiǎng)得主陶哲軒日前在與播客主Dwarkesh Patel的一場深刻對談中表示，我們進(jìn)入了一個(gè)人們可以為某個(gè)科學(xué)問題瞬間生成數(shù)千種理論的時(shí)代。這直接導(dǎo)致科學(xué)發(fā)現(xiàn)的真正瓶頸，已經(jīng)從“提出理論”轉(zhuǎn)移到了“驗(yàn)證、評估與篩選”。對此，他的判斷是，“這要求我們徹底改變科學(xué)的組織結(jié)構(gòu)?！?/p>

具體到數(shù)學(xué)研究，科研范式的轉(zhuǎn)變更有挑戰(zhàn)性。在大多數(shù)科學(xué)領(lǐng)域，理論和實(shí)驗(yàn)平分秋色。但數(shù)學(xué)的獨(dú)特之處在于，它幾乎完全是理論性的。數(shù)學(xué)家非常重視構(gòu)建連貫、清晰的理論來解釋為什么某些事情是真或假。但他們幾乎沒有做過實(shí)驗(yàn)性的研究。

“現(xiàn)在我們可以做這件事了。”在陶哲軒看來，數(shù)學(xué)家們將不那么在乎單個(gè)問題和解題過程，而是想大規(guī)模地收集關(guān)于“什么方法有效、什么方法無效”的數(shù)據(jù)。換句話說，未來數(shù)學(xué)研究將在規(guī)?；瘜用嬲归_，盡管這件事還處于萌芽階段，“但就在這里，AI將完成對這一學(xué)科的底層重構(gòu)?！?/p>

實(shí)際上，在很多方面，陶哲軒寧愿生活在那個(gè)更無聊、更平靜的時(shí)代，那時(shí)的一切跟十年前、二十年前差不多。然而，他也強(qiáng)調(diào)，“變革是不可避免的。”

在這場深度對話中，陶哲軒并沒有停留在對AI能力的泛泛預(yù)測上，而是結(jié)合科學(xué)史與數(shù)學(xué)研究的經(jīng)驗(yàn)，剖析了科學(xué)研究正在發(fā)生的內(nèi)在變革。

陶哲軒與播客主Dwarkesh Patel對談 | 圖源：對談視頻截圖

以下是對話原文的翻譯版：

注：本對話出自Youtube，譯稿采用了公眾號量子位（ID: QbitAI）的翻譯，經(jīng)“返樸”二次編排修改。

我們贊頌開普勒，但也應(yīng)該贊頌布拉赫

Dwarkesh：我想請你重新講一遍開普勒發(fā)現(xiàn)行星運(yùn)動定律的故事。這會是聊AI與數(shù)學(xué)的一個(gè)很好的切入點(diǎn)。

陶哲軒：我一直對天文學(xué)有著業(yè)余愛好，也很喜歡早期天文學(xué)家探索宇宙本質(zhì)的那些故事。開普勒是站在哥白尼的肩膀上，而哥白尼又繼承了阿里斯塔克斯的工作。

哥白尼最著名的貢獻(xiàn)，是提出了日心說：不是行星和太陽繞地球轉(zhuǎn)，而是太陽位于太陽系中心，其他行星繞太陽運(yùn)行。但哥白尼堅(jiān)信行星的軌道是完美的圓形。他的理論與希臘人、阿拉伯人和印度人數(shù)百年來積累的觀測數(shù)據(jù)大致吻合，但也存在細(xì)微偏差。

開普勒在學(xué)習(xí)這些理論時(shí)，注意到哥白尼預(yù)測的各行星軌道尺寸之間的比例，似乎存在某種幾何意義。他據(jù)此提出了一個(gè)極其美妙、充滿神學(xué)色彩的假說：如果你取地球的軌道，把它包在一個(gè)正方體里，那個(gè)外接球的半徑幾乎完美匹配火星的軌道。

當(dāng)時(shí)已知六顆行星，軌道之間有五個(gè)間隔，而柏拉圖正多面體（Platonic Solids）恰好也有五種：正方體、正四面體、正二十面體、正八面體和正十二面體。于是他提出了一個(gè)理論：可以在各行星的天球之間，依次嵌套這五種柏拉圖正多面體。

開普勒深信，上帝設(shè)計(jì)行星的方式，正對應(yīng)著柏拉圖正多面體的數(shù)學(xué)完美性。他在《宇宙的神秘》（Mysterium Cosmographicum）中詳細(xì)闡述了這一觀點(diǎn)。但他需要數(shù)據(jù)來驗(yàn)證這個(gè)理論。當(dāng)時(shí)唯一真正高質(zhì)量的數(shù)據(jù)集，來自第谷·布拉赫（Tycho Brahe）。

這位極其富有、行事古怪的丹麥天文學(xué)家，說服丹麥政府出資建造了一座造價(jià)極為高昂的天文臺——實(shí)際上是一整座島嶼。他在那里用肉眼（望遠(yuǎn)鏡尚未發(fā)明）對火星、木星等所有行星進(jìn)行了長達(dá)數(shù)十年的系統(tǒng)觀測，只要天氣晴朗，每晚必記。他的觀測精度達(dá)到了角分的級別，比此前任何觀測都高出十倍。這批數(shù)據(jù)正是開普勒用來驗(yàn)證理論的材料。

開普勒開始與第谷合作，但第谷對數(shù)據(jù)極為小氣，每次只給他一點(diǎn)點(diǎn)。開普勒最終干脆“偷走”了全部數(shù)據(jù)，還因此與第谷的后人打了場官司。

誰曾想，拿到數(shù)據(jù)后，卻發(fā)現(xiàn)他那個(gè)美麗的柏拉圖立體理論根本行不通。實(shí)測數(shù)據(jù)與理論預(yù)測的偏差達(dá)到10%左右（對于火星尤為明顯）。他嘗試了各種修補(bǔ)方案，移動圓的位置，引入偏心點(diǎn)，仍然無法擬合。他在這個(gè)問題上堅(jiān)持了許多年，進(jìn)行了令人嘆為觀止的天才級數(shù)據(jù)分析。

他發(fā)現(xiàn)，只有假設(shè)行星軌道實(shí)際上是橢圓，而非圓形，才能完美擬合第谷的數(shù)據(jù)。就這樣，他推導(dǎo)出了行星運(yùn)動的前兩條定律。

又過了十年，在積累了大量數(shù)據(jù)并進(jìn)行了更深入的數(shù)學(xué)分析后，他終于得出了第三定律：行星完成一次公轉(zhuǎn)所需的時(shí)間（周期）的平方，與它到太陽的平均距離的立方成正比。這就是著名的開普勒行星運(yùn)動三定律。

他自己對此毫無物理解釋，這完全是實(shí)驗(yàn)驅(qū)動（數(shù)據(jù)驅(qū)動）的結(jié)果。整整一個(gè)世紀(jì)后，牛頓才利用萬有引力定律和微積分，給出了同時(shí)解釋這三條定律的理論框架。

Dwarkesh：牛頓給出了三條行星運(yùn)動定律必然成立的解釋，而開普勒發(fā)現(xiàn)這些定律的過程，充滿了試錯(cuò)?？v觀開普勒的職業(yè)生涯，他不過是在不斷地嘗試各種隨機(jī)的關(guān)系：先試柏拉圖立體，失敗了；再試圓形軌道加偏心點(diǎn)，失敗了；最后試橢圓，成功了。LLM完全可以做開普勒做的事。

用二十年時(shí)間嘗試各種隨機(jī)關(guān)系，其中許多根本沒有物理意義，只要背后有一個(gè)像布拉赫數(shù)據(jù)集那樣可驗(yàn)證的、高精度的數(shù)據(jù)庫。

陶哲軒：當(dāng)我們談?wù)摽茖W(xué)史時(shí)，思維一直被視為最高貴的部分。

我們傾向于神話那些“靈光乍現(xiàn)”的時(shí)刻：開普勒突然看到了橢圓的真理。但一個(gè)科學(xué)問題的解決涉及許多步驟：識別問題、找到一個(gè)真正有價(jià)值的問題來研究、收集數(shù)據(jù)、制定分析數(shù)據(jù)的策略、提出假說、驗(yàn)證假說、撰寫論文并進(jìn)行解釋。這里有十幾個(gè)不同的環(huán)節(jié)。

開普勒經(jīng)歷了無數(shù)次循環(huán)嘗試，其中絕大多數(shù)都失敗了。我相信有大量想法他甚至從未發(fā)表，因?yàn)楦緹o法與數(shù)據(jù)吻合。

但正如你所說，這必須與同等分量的驗(yàn)證相匹配，否則就只是噪聲。

我們贊頌開普勒，但也應(yīng)該贊頌布拉赫。他那勤勉的數(shù)據(jù)收集工作，精度比此前任何觀測都高出十倍。那額外的一位有效數(shù)字，對開普勒得出正確結(jié)論至關(guān)重要。如果數(shù)據(jù)誤差更大，橢圓和圓形的區(qū)別就會被噪聲淹沒，開普勒可能永遠(yuǎn)無法發(fā)現(xiàn)真相。

他用歐幾里得幾何和當(dāng)時(shí)最先進(jìn)的數(shù)學(xué)，將模型與數(shù)據(jù)進(jìn)行擬合。每個(gè)環(huán)節(jié)都必須到位：數(shù)據(jù)、理論、假說生成，缺一不可。

我不確定在今天，假說生成還是不是瓶頸所在。過去，科學(xué)的兩大范式是理論和實(shí)驗(yàn)。到了20世紀(jì)，數(shù)值模擬出現(xiàn)了，可以通過計(jì)算機(jī)仿真來檢驗(yàn)理論。然后，在20世紀(jì)末，我們進(jìn)入了大數(shù)據(jù)時(shí)代。

如今很多新進(jìn)展實(shí)際上是先從分析海量數(shù)據(jù)集開始的，這與過去科學(xué)的運(yùn)作方式頗為不同。過去是先做少量觀測，或者靈光乍現(xiàn)有了某個(gè)想法，再去收集數(shù)據(jù)加以檢驗(yàn)；而現(xiàn)在幾乎是反過來的：先有海量數(shù)據(jù)，再從中挖掘規(guī)律。

開普勒也許是最早的數(shù)據(jù)科學(xué)家之一，但即便是他，也沒有完全從第谷的數(shù)據(jù)集出發(fā)再去分析。他是先有的預(yù)設(shè)理論（柏拉圖立體），被數(shù)據(jù)證偽后，才被迫轉(zhuǎn)向純數(shù)據(jù)驅(qū)動的擬合。

Dwarkesh：有意思。布拉赫的數(shù)據(jù)相當(dāng)于一個(gè)海量仿真數(shù)據(jù)庫。如果沒有這些數(shù)據(jù)，開普勒不過是在寫關(guān)于和聲學(xué)和柏拉圖正多面體的書，根本沒有任何東西可以用來驗(yàn)證。

陶哲軒：數(shù)據(jù)的重要性毋庸置疑。傳統(tǒng)上，你先提出假說，再用數(shù)據(jù)檢驗(yàn)（假設(shè)驅(qū)動）。但如今有了機(jī)器學(xué)習(xí)、數(shù)據(jù)分析和統(tǒng)計(jì)學(xué)，你可以從數(shù)據(jù)出發(fā)，通過統(tǒng)計(jì)推導(dǎo)出此前未曾存在的定律（數(shù)據(jù)驅(qū)動）。

開普勒第三定律有點(diǎn)類似回歸分析。只不過布拉赫提供的不是成千上萬個(gè)數(shù)據(jù)點(diǎn)，開普勒手里只有六個(gè)數(shù)據(jù)點(diǎn)（當(dāng)時(shí)已知的六顆行星）。每顆行星對應(yīng)一個(gè)軌道周期和一個(gè)到太陽的距離。

但他相當(dāng)幸運(yùn)，恰好這六個(gè)數(shù)據(jù)點(diǎn)給出了正確的結(jié)論。他做了一件我們今天稱之為冪律回歸的事——把一條曲線擬合到這六個(gè)數(shù)據(jù)點(diǎn)上，得到了立方-平方定律。

后來有一位天文學(xué)家叫約翰·波得（Johann Bode），取了同樣的數(shù)據(jù)，受開普勒啟發(fā)，預(yù)測這些距離構(gòu)成一個(gè)偏移等比數(shù)列。他也做了曲線擬合，但其中有一個(gè)數(shù)據(jù)點(diǎn)缺失——火星和木星之間有一個(gè)巨大的空缺。這個(gè)定律預(yù)測：那里應(yīng)該有一顆失蹤的行星。

這聽起來像是一個(gè)怪人的理論，直到赫歇爾發(fā)現(xiàn)天王星，其距離完美符合這個(gè)規(guī)律。隨后谷神星在小行星帶被發(fā)現(xiàn)了，也同樣吻合。人們?yōu)榇伺d奮不已，以為波得發(fā)現(xiàn)了一條偉大的自然定律。但后來海王星被發(fā)現(xiàn)了，結(jié)果證明之前的推論大錯(cuò)特錯(cuò)。

說到底，這不過是一個(gè)數(shù)字上的巧合。開普勒沒有像強(qiáng)調(diào)前兩個(gè)定律那樣強(qiáng)調(diào)他的第三定律，或許他本能地感覺到僅憑六個(gè)數(shù)據(jù)點(diǎn)得出的結(jié)論必須謹(jǐn)慎一些。

我們正在經(jīng)歷一場認(rèn)知上的哥白尼革命

Dwarkesh：聽起來你并不認(rèn)為科學(xué)的瓶頸在于為每個(gè)領(lǐng)域找到更多類似“行星運(yùn)動第三定律”那樣的宏大定律。

陶哲軒：沒錯(cuò)。AI已經(jīng)把思想生成的成本壓低到幾乎為零，就像互聯(lián)網(wǎng)曾經(jīng)把通信成本壓低到幾乎為零一樣。這是一件了不起的事，但它本身并不直接創(chuàng)造“豐盛”。

瓶頸已經(jīng)轉(zhuǎn)移了。我們進(jìn)入了一個(gè)人們可以為某個(gè)科學(xué)問題瞬間生成數(shù)千種理論的時(shí)代。接下來真正的挑戰(zhàn)是：驗(yàn)證、評估與篩選。這要求我們徹底改變科學(xué)的組織結(jié)構(gòu)。

傳統(tǒng)上，我們靠的是設(shè)門檻。在AI生成內(nèi)容泛濫之前，雖然也有業(yè)余科學(xué)家提出各種宇宙理論，但大多數(shù)價(jià)值極低且數(shù)量可控。因此我們建立了同行評審和發(fā)表體系，用來過濾信息、篩選出高價(jià)值的想法加以檢驗(yàn)。

但現(xiàn)在，AI可以大規(guī)模生成各種可能的解釋，其中一些是好的，但大量是糟糕的、甚至是幻覺。人類評審員已經(jīng)不堪重負(fù)。許多期刊都反映，AI生成的投稿正在洶涌涌入。

AI讓我們能生成各種各樣的東西，這固然很好，但這意味著科學(xué)的其他環(huán)節(jié)必須跟上：驗(yàn)證、確認(rèn)，判斷哪些想法真正推動了領(lǐng)域進(jìn)展。這是我們目前不知道如何大規(guī)模完成的事。

對于單篇論文，科學(xué)家們可以展開辯論，幾年內(nèi)達(dá)成共識。但當(dāng)每天涌現(xiàn)出一千篇這樣的論文，這套機(jī)制就徹底失效了。

Dwarkesh：1940年代，貝爾實(shí)驗(yàn)室中新技術(shù)不斷涌現(xiàn)：脈沖編碼調(diào)制、信號傳輸、數(shù)字化等等。有大量關(guān)于工程約束和技術(shù)細(xì)節(jié)的論文。然后有一篇論文提出了“比特”這個(gè)概念，其影響波及許多不同領(lǐng)域。你需要一套系統(tǒng)來識別它，說：“好，這個(gè)要應(yīng)用到概率論里，要應(yīng)用到計(jì)算機(jī)科學(xué)里?！?/p>

倘若如今AI領(lǐng)域出現(xiàn)了下一個(gè)版本的統(tǒng)一性概念，怎么從數(shù)百萬篇論文中識別出那篇真正構(gòu)成進(jìn)步、卻又遠(yuǎn)不如“比特”概念那么顯眼的論文？

陶哲軒：很大程度上靠時(shí)間檢驗(yàn)。許多偉大的想法在最初提出時(shí)并沒有得到很好的反響，往往是后來其他科學(xué)家意識到可以將其推進(jìn)、應(yīng)用到自己的領(lǐng)域，它才被重新發(fā)現(xiàn)。

深度學(xué)習(xí)本身在很長一段時(shí)間里只是AI的一個(gè)小眾分支。完全通過數(shù)據(jù)訓(xùn)練而非第一性原理推理來獲得答案，這個(gè)想法曾經(jīng)極具爭議，花了很長時(shí)間才開始結(jié)出果實(shí)。

你提到了比特。歷史上其實(shí)有過其他計(jì)算架構(gòu)的提案，而不是今天通行的二進(jìn)制。我記得有三進(jìn)制、三值邏輯。在另一個(gè)平行宇宙里，也許是不同的范式勝出了。

再比如Transformer，它是所有現(xiàn)代大語言模型的基礎(chǔ)，也是第一個(gè)真正足夠復(fù)雜、能夠捕捉語言的深度學(xué)習(xí)架構(gòu)。但事情本不必如此。也許某種其他架構(gòu)率先做到了這一點(diǎn)，一旦被采用，它就成了標(biāo)準(zhǔn)。

判斷一個(gè)想法是否會結(jié)出果實(shí)之所以困難，正是因?yàn)檫@取決于未來，取決于文化和社會。

十進(jìn)制在數(shù)學(xué)中極其有用，遠(yuǎn)優(yōu)于羅馬數(shù)字，但十進(jìn)制本身并沒有什么特別之處。它之所以有用，是因?yàn)樗腥硕荚谟盟?。我們將其?biāo)準(zhǔn)化，圍繞它構(gòu)建了所有的計(jì)算機(jī)和數(shù)字表示系統(tǒng)，現(xiàn)在已經(jīng)無法脫身。偶爾有人提倡切換到其他進(jìn)制，但慣性太大了。

你無法脫離歷史和未來的語境，純粹孤立地評價(jià)某項(xiàng)科學(xué)成就，給它打一個(gè)客觀的分?jǐn)?shù)。對于這類判斷，也許永遠(yuǎn)無法像處理那些更局部的問題一樣，用強(qiáng)化學(xué)習(xí)來完成。

Dwarkesh：在科學(xué)史上，每當(dāng)一個(gè)新理論出現(xiàn)，而我們事后回頭看會意識到它是正確的，它往往會帶出一些推論：要么毫無意義，要么是正確的但在當(dāng)時(shí)看起來極不可信。

阿里斯塔克斯在公元前三世紀(jì)提出了日心說。古雅典人反駁道：這不可能，因?yàn)槿绻厍蚶@太陽轉(zhuǎn)，我們應(yīng)該能觀察到恒星的相對位置隨地球公轉(zhuǎn)而變化。唯一不出現(xiàn)視差的解釋是——恒星距離遠(yuǎn)得令人難以置信。

但有時(shí)推論是錯(cuò)的，我們需要進(jìn)階到更深層的理解。萊布尼茨曾批評牛頓的引力理論，理由是它暗含了超距作用，而他們不知道其中的機(jī)制。牛頓自己也對慣性質(zhì)量和引力質(zhì)量居然是同一個(gè)量感到困惑。這些問題后來都由愛因斯坦解決了。但那仍然是進(jìn)步。

所以，對AI同行評審體系來說，問題就變成了：即便你能證偽一個(gè)理論，你怎么判斷它相對于之前的理論仍然代表著進(jìn)步？

陶哲軒：正確的理論在最初提出時(shí)，往往在許多方面比之前的理論更差。

哥白尼的行星理論就不如托勒密的理論精確。地心說那時(shí)已經(jīng)發(fā)展了一千年，經(jīng)過無數(shù)次調(diào)整和日益復(fù)雜的臨時(shí)修補(bǔ)。哥白尼的理論雖然簡單得多，但精度卻遠(yuǎn)遠(yuǎn)不足。直到開普勒的出現(xiàn)，日心說才在精度上超過了托勒密。

科學(xué)永遠(yuǎn)是未竟之業(yè)。當(dāng)你只得到部分解答時(shí)，它看起來比那些雖然錯(cuò)誤、卻已被完善到能回答所有問題的理論更糟糕。正如你所說，牛頓的理論留下了巨大的謎題：質(zhì)量等效性和超距作用，這些都要等到幾個(gè)世紀(jì)后，通過一種概念上截然不同的進(jìn)路才得以解決。

進(jìn)步往往不是靠增加更多理論，而是靠刪除你頭腦中某些根深蒂固的假設(shè)。地心說之所以能堅(jiān)持那么久，部分原因在于我們一直覺得物體天然傾向于靜止。

這是亞里士多德的物理學(xué)，所以“地球在運(yùn)動”這個(gè)想法會讓人追問：那我們?yōu)槭裁礇]有摔倒？一旦你有了牛頓運(yùn)動定律，這一切就說得通了。

意識到地球在運(yùn)動是一次巨大的飛躍。它不像是在運(yùn)動。達(dá)爾文的進(jìn)化論也是如此，其核心是物種并非靜止不變的，而這并不直觀，因?yàn)槟阍谟猩昕床坏竭M(jìn)化的發(fā)生。當(dāng)然，現(xiàn)在我們實(shí)際上可以觀測到了，但它在感知上是永久、靜止的。

我們現(xiàn)在正在經(jīng)歷一場認(rèn)知上的哥白尼革命：我們曾經(jīng)認(rèn)為人類智能是宇宙的中心，而現(xiàn)在我們看到，存在著各種截然不同的智能形態(tài)，各有其不同的優(yōu)勢與局限。哪些任務(wù)需要智能、哪些不需要？必須進(jìn)行大幅調(diào)整。

面對AI，我們不得不提出一些以前從未真正需要提出的問題。或許哲學(xué)家們曾經(jīng)提出過這些問題，但現(xiàn)在我們所有人都必須面對它們。

Dwarkesh：有一本書叫《發(fā)條宇宙》，作者是愛德華·多爾尼克（Edward Dolnick）。他在書中有一個(gè)有趣的觀察：《物種起源》在牛頓《原理》之后整整兩個(gè)世紀(jì)才出現(xiàn)。

從概念上看，達(dá)爾文的理論似乎更簡單。同時(shí)代生物學(xué)家托馬斯·赫胥黎讀完《物種起源》后說：“我怎么蠢到?jīng)]有先想到這個(gè)。”但從沒有人這樣說過牛頓。那么問題來了：為什么《物種起源》花了更長的時(shí)間？

一個(gè)很大的原因正是你說的。自然選擇的證據(jù)是累積的、回溯性的。

牛頓可以直接說：“這是我的方程式，給我月球的軌道周期和距離，如果吻合，我們就取得了進(jìn)展?！北R克萊修在公元前一世紀(jì)就有了物種適應(yīng)環(huán)境的想法，但直到達(dá)爾文之前無人提及，因?yàn)楸R克萊修沒有辦法做實(shí)驗(yàn)。

這是否意味著，那些數(shù)據(jù)回路緊密、容易驗(yàn)證的領(lǐng)域，進(jìn)展會更為顯著？

陶哲軒：科學(xué)不只是創(chuàng)造新理論并加以驗(yàn)證，還要把它傳達(dá)給他人。

達(dá)爾文是一位了不起的科學(xué)傳播者。他用英文寫作，用自然語言表達(dá)，不用方程式，將大量零散的事實(shí)綜合在一起。他當(dāng)然也有缺失的部分：他不知道遺傳的機(jī)制，沒有DNA。但他的寫作風(fēng)格，幫了他很大的忙。

牛頓用拉丁文寫作，他甚至發(fā)明了全新的數(shù)學(xué)分支（微積分），只是為了解釋自己在做什么。他所處的時(shí)代，科學(xué)家之間的保密和競爭要激烈得多。

今天學(xué)術(shù)界仍然競爭激烈，但牛頓那個(gè)年代更甚。他刻意保留了一些最深刻的洞見，不想讓競爭對手獲得任何優(yōu)勢。從各方面的描述來看，他也是一個(gè)相當(dāng)難相處的人。直到牛頓之后幾十年，其他科學(xué)家用簡潔得多的語言重新解釋了他的工作，這些成果才得以廣泛傳播。

表達(dá)的藝術(shù)、論證的能力、構(gòu)建敘事的技巧，也是科學(xué)極其重要的組成部分。數(shù)據(jù)固然有幫助，但人們需要被說服，否則他們不會推進(jìn)這個(gè)想法，也不會投入時(shí)間去學(xué)習(xí)你的理論并真正探索它。

這也是強(qiáng)化學(xué)習(xí)極難完成的事。你怎么給“說服力”打分？

科學(xué)有其社會屬性。盡管我們以其客觀性為豪，認(rèn)為有數(shù)據(jù)、有實(shí)驗(yàn)、有驗(yàn)證，但我們?nèi)匀恍枰v故事、說服同行。這是柔軟、模糊的部分，是數(shù)據(jù)與敘事的結(jié)合，而且是一種關(guān)于“空白”的敘事。

即便是達(dá)爾文的理論也有無法解釋的部分。但他仍然能夠論證：未來人們會發(fā)現(xiàn)過渡形態(tài)，會找到遺傳的機(jī)制。而事實(shí)也確實(shí)如此。我不知道如何將這些量化得足夠精確，以至于能夠開始做強(qiáng)化學(xué)習(xí)。

也許這將永遠(yuǎn)是科學(xué)中，屬于人類的那一面。

天文學(xué)是最早真正擁抱數(shù)據(jù)分析的科學(xué)之一

Dwarkesh：在很多領(lǐng)域，演繹推理的潛力可能遠(yuǎn)比人們意識到的要大得多。只要找到了研究某個(gè)問題的正確切入點(diǎn)，你可能會驚訝于自己能從這個(gè)世界中學(xué)到多少東西。

這是天文學(xué)在特定歷史時(shí)期的特殊產(chǎn)物，還是說，僅憑目前落在地球上的那些數(shù)據(jù)，我們其實(shí)能推斷出遠(yuǎn)比我們已知的多得多的東西？

陶哲軒：天文學(xué)是最早真正擁抱數(shù)據(jù)分析的科學(xué)之一。它的從業(yè)者竭盡全力從手頭的信息中榨取每一滴可能的價(jià)值，因?yàn)閿?shù)據(jù)始終是瓶頸所在，而且至今仍然如此。

天文學(xué)家在從零散的數(shù)據(jù)痕跡中提煉各種結(jié)論方面堪稱世界級水準(zhǔn)，簡直像福爾摩斯一樣。我聽說很多量化對沖基金最喜歡招的人就是天文學(xué)博士，這些人同樣癡迷于從各種隨機(jī)數(shù)據(jù)片段中提取信號。

我們其實(shí)大大低估了從各種信號中挖掘額外信息的可能性。我曾讀過一項(xiàng)有趣的研究，研究者想測量科學(xué)家究竟有多少人真正讀了自己引用的論文。怎么測量？

他們利用了一個(gè)巧妙的指標(biāo)：很多引用文獻(xiàn)里都有小錯(cuò)誤，比如某個(gè)數(shù)字寫錯(cuò)了，或者標(biāo)點(diǎn)符號稍有出入。研究者追蹤一個(gè)特定的錯(cuò)誤從一篇參考文獻(xiàn)被“復(fù)制粘貼”到下一篇的頻率。

如果兩篇論文出現(xiàn)了完全相同的非典型錯(cuò)誤，就可以推斷后來的作者很可能只是在復(fù)制粘貼引用，根本沒有去核實(shí)原文。從這個(gè)指標(biāo)出發(fā)，他們得以推斷出人們究竟在多大程度上真正關(guān)注了所引用的內(nèi)容。

這啟發(fā)了我們：如何判斷一項(xiàng)科學(xué)進(jìn)展是否富有成效、是否有趣？

也許在數(shù)據(jù)里存在非常有用的指標(biāo)和痕跡。我們可以分析引用情況，以及看某個(gè)概念在會議上被提及的頻率。

科學(xué)社會學(xué)（Sociology of Science）這個(gè)領(lǐng)域也許還有大量研究工作可以做，也許真的能檢測出這些東西。

也許我們真的應(yīng)該讓幾位天文學(xué)家來攻克這個(gè)問題。

數(shù)學(xué)也可以做實(shí)驗(yàn)性研究了

Dwarkesh：你最近提到，過去幾個(gè)月里AI程序已經(jīng)解決了埃爾德什問題集（Erdos Problems Project）中約1100個(gè)問題里的50個(gè)。但你也指出，進(jìn)展似乎出現(xiàn)了停滯，因?yàn)?strong>“低垂的果實(shí)”已經(jīng)被摘完了。這個(gè)判斷現(xiàn)在是否還成立？

陶哲軒：看起來確實(shí)如此。借助AI解決了50多個(gè)問題，這非常了不起，但還有大約600個(gè)有待攻克。目前，人們?nèi)栽诰徛乜衅渲械囊粌蓚€(gè)硬骨頭。

純AI“一擊即中”的解法越來越少了。曾經(jīng)有過那樣一個(gè)月，AI能夠直接給出完整答案，但那個(gè)階段已經(jīng)過去了。AI能提出一些細(xì)枝末節(jié)的觀察，或者發(fā)現(xiàn)某個(gè)問題其實(shí)已經(jīng)在文獻(xiàn)中被解決過（只是未被收錄），但至今沒有出現(xiàn)任何新的、完全由純AI驅(qū)動的解答。

現(xiàn)在的模式更多是人機(jī)協(xié)作。有人用AI生成一個(gè)可能的證明策略，另一個(gè)人再用另一個(gè)AI工具來批評它、改寫它、為它生成數(shù)值數(shù)據(jù)，或者做文獻(xiàn)調(diào)查。

想象你身處一片黑暗的山脈，到處是峭壁和高墻。有的墻只有一米高，有的六米，有的十五米，還有些高達(dá)百米甚至千米。你試圖攀越盡可能多的墻壁，但周圍一片漆黑，你不知道哪堵墻高、哪堵墻矮。于是你點(diǎn)上蠟燭，慢慢繪制地圖，逐漸摸清哪些是可以攀登的，哪些墻上有可以先抵達(dá)的局部落腳點(diǎn)。

AI工具就像是能跳兩米高的彈跳機(jī)器，跳得比任何人類都高。有時(shí)它們跳錯(cuò)了方向，有時(shí)直接撞墻，但有時(shí)它們確實(shí)能夠到達(dá)那些人類此前無法觸及的最矮的墻頭。

我們就這樣把它們放進(jìn)這片山脈，讓它們四處跳躍。那段令人興奮的時(shí)期，它們找到并翻越了所有低矮的墻（即那50個(gè)問題）。等到模型下一次出現(xiàn)重大突破，人們會再次嘗試，也許又能多翻越幾道墻。

但這是一種不同的數(shù)學(xué)方式。通常我們會一步一步地爬山，做標(biāo)記，識別局部進(jìn)展。而這些工具要么成功，要么失敗。它們在創(chuàng)造局部進(jìn)展、識別應(yīng)當(dāng)優(yōu)先攻克的中間階段方面表現(xiàn)很差。

回到我們之前的討論，我們?nèi)狈σ惶自u估“局部進(jìn)展”的方法，就像我們評估一個(gè)問題被“一擊即中”地解決或失敗那樣簡單明確。

Dwarkesh：悲觀的解讀是：它們只能翻越一定高度以下的墻，而那個(gè)高度還不及人類頂尖專家所能達(dá)到的高度。樂觀的解讀是：一旦它們達(dá)到某個(gè)水位線，它們有一種強(qiáng)大的屬性，就是能夠填滿該水位線以下的每一個(gè)問題，而這是人類根本無法做到的。

我們沒辦法復(fù)制出一百萬個(gè)陶哲軒，給每一個(gè)分配一百萬美元的算力，讓它們同時(shí)在一百萬個(gè)不同的問題上做一百年的主觀時(shí)間研究。但一旦AI達(dá)到陶哲軒的水平（甚至只是中等水平），它們就可以做到這一點(diǎn)。因?yàn)榧幢闶峭瑯蛹墑e的智能，AI在寬度和并發(fā)能力上，也與人類有著本質(zhì)的差異。

陶哲軒：我同意。AI擅長廣度，人類擅長深度。兩者高度互補(bǔ)。

但我們目前做數(shù)學(xué)和科學(xué)的方式是以深度為核心的，因?yàn)槿祟惖膶ｉL在深度，人類做不到廣度。我們必須重新設(shè)計(jì)做科學(xué)的方式，才能充分發(fā)揮我們現(xiàn)在擁有的這種廣度能力。

我們應(yīng)該在構(gòu)建非常寬泛的問題集上投入更多精力，而不是只盯著一兩個(gè)極其深刻、極其重要的難題。

當(dāng)然，那些深度問題仍然應(yīng)該存在，人類也應(yīng)該繼續(xù)攻克它們。但現(xiàn)在我們有了另一種做科學(xué)的方式：先讓這些能力適中但覆蓋面廣的AI進(jìn)行大范圍探索，完成所有容易的觀察，再識別出其中幾個(gè)真正困難的“孤島”，讓人類專家集中攻克。

我非常清晰地看到一個(gè)互補(bǔ)科學(xué)的未來。最終，你希望同時(shí)擁有廣度和深度，得到兩全其美的結(jié)果。但我們需要在“廣度”這一側(cè)積累經(jīng)驗(yàn)，它太新了，我們甚至還沒有發(fā)展出充分利用它的范式。

但我們總有一天會的，那時(shí)的科學(xué)（研究）將變得煥然一新。

Dwarkesh：說到互補(bǔ)性，程序員們已經(jīng)注意到，有了這些AI工具之后，他們的生產(chǎn)力大幅提升。我不知道你作為數(shù)學(xué)家是否有同感，但軟件和研究之間似乎有一個(gè)重要的區(qū)別：

軟件的目的是通過你的工作對世界產(chǎn)生某種影響，如果它能幫你更好地理解問題或提煉出一個(gè)干凈的抽象來體現(xiàn)在代碼里，這是達(dá)成目標(biāo)的工具。

而在研究中，我們之所以在乎解決千禧年大獎(jiǎng)難題，是因?yàn)樵诮鉀Q它們的過程中，我們會發(fā)現(xiàn)新的數(shù)學(xué)對象或新的技術(shù)，推進(jìn)人類對數(shù)學(xué)的理解。所以證明本身是通往中間工作的工具，過程往往比結(jié)果更重要。

我不知道你是否認(rèn)同這個(gè)二元對立，以及它是否能解釋我們在軟件和研究上分別看到的提升程度。

陶哲軒：在數(shù)學(xué)中，過程往往比問題本身更重要。問題某種程度上只是衡量進(jìn)展的代理指標(biāo)。

即便在軟件領(lǐng)域，我認(rèn)為也存在不同類型的任務(wù)。如果你只是做一個(gè)與其他一千個(gè)網(wǎng)頁功能完全相同的網(wǎng)頁，其中可能沒有什么需要學(xué)習(xí)的技能。但代碼寫完了還需要維護(hù)。在升級和與其他系統(tǒng)兼容方面會出現(xiàn)各種問題。

我聽程序員們反映，即便AI能做出一個(gè)工具的初始原型，讓它與其他所有東西咬合、以你期望的方式與真實(shí)世界互動，仍然是一個(gè)持續(xù)進(jìn)行的過程。如果你沒有通過親手寫代碼積累下來的技能，將來維護(hù)的時(shí)候可能會捉襟見肘。

數(shù)學(xué)也是如此。我們用問題來建立直覺，訓(xùn)練人們對“什么是真的”、“什么是可以期待的”、“什么是可以證明的”、“什么是困難的”形成良好的判斷。如果一上來就直接得到答案，這個(gè)過程可能反而會被破壞。

我之前區(qū)分過理論和實(shí)驗(yàn)。在大多數(shù)科學(xué)領(lǐng)域，理論和實(shí)驗(yàn)平分秋色。數(shù)學(xué)的獨(dú)特之處在于它幾乎完全是理論性的。

我們非常重視構(gòu)建連貫、清晰的理論來解釋為什么某些事情是真或假。但我們幾乎沒有做過實(shí)驗(yàn)性的研究，比如：如果有兩種方法解決同一個(gè)問題，哪種更有效？

現(xiàn)在我們可以做這件事了。我認(rèn)為AI類工具將真正革命化數(shù)學(xué)的實(shí)驗(yàn)側(cè)。在那里，你不那么在乎單個(gè)問題和解題過程，而是想大規(guī)模地收集關(guān)于“什么方法有效、什么方法無效”的數(shù)據(jù)。就像一家軟件公司要推出一千個(gè)軟件，你不會想要精心手工打造每一個(gè)、從每一個(gè)中汲取經(jīng)驗(yàn)，你只是想找到讓你能夠規(guī)?；墓ぷ髁鞒獭?/p>

在規(guī)?；瘜用孀鰯?shù)學(xué)，這件事還處于萌芽階段。但就在這里，AI將完成對這一學(xué)科的底層重構(gòu)。

Dwarkesh：僅憑使用現(xiàn)有技術(shù)，究竟能取得多大進(jìn)展？如果我去看頂級數(shù)學(xué)期刊，里面有多少論文是在提出一種新技術(shù)，又有多少是在用現(xiàn)有技術(shù)處理新問題？那個(gè)潛力空間有多大？

如果把每一種已知技術(shù)應(yīng)用到每一個(gè)開放問題上，這會帶來人類知識的巨大飛躍，還是其實(shí)并沒有那么令人驚嘆？

陶哲軒：人類數(shù)學(xué)家的工作中，相當(dāng)一部分是這樣的：拿到一個(gè)新問題，第一件事是把過去在類似問題上行之有效的所有標(biāo)準(zhǔn)方法，逐一嘗試。有時(shí)奏效，有時(shí)差一點(diǎn)就成了，需要再加一個(gè)新的小變通。

但進(jìn)入頂級期刊的論文，通常是那些現(xiàn)有方法能解決80%，剩下20%有頑固抵抗，需要發(fā)明一種新技術(shù)來填補(bǔ)缺口的論文。

現(xiàn)在已經(jīng)極少有論文完全不依賴過去的文獻(xiàn)、所有想法都憑空而來了。過去這種情況更常見，但數(shù)學(xué)現(xiàn)在已經(jīng)如此成熟，不先利用文獻(xiàn)就是給自己設(shè)置巨大障礙。

AI工具在前半段工作上已經(jīng)做得相當(dāng)好：對一個(gè)問題嘗試所有標(biāo)準(zhǔn)技術(shù)，而且在應(yīng)用過程中犯的錯(cuò)誤往往還比人類少。它們?nèi)匀粫稿e(cuò)，但我測試過這些工具處理我能解決的小任務(wù)，有時(shí)它們能發(fā)現(xiàn)我犯的錯(cuò)誤，有時(shí)我也能發(fā)現(xiàn)它們的錯(cuò)誤，目前大致是平手。

但我還沒有看到它們走出下一步。當(dāng)論證出現(xiàn)漏洞、所有已知方法都行不通的時(shí)候，該怎么辦？

它們會隨機(jī)提出一些建議，但我發(fā)現(xiàn)去追這些建議、試圖讓它們成立、最后發(fā)現(xiàn)它們根本不成立，浪費(fèi)的時(shí)間比節(jié)省的更多。

目前我們認(rèn)為很難的問題中，有一部分會因?yàn)檫@種方法而倒下，尤其是那些沒有得到足夠關(guān)注的問題。在埃爾德什問題中，AI解決的那50個(gè)，幾乎都是此前基本沒有文獻(xiàn)積累的。

埃爾德什提過一兩次，也許有人隨手試了試，沒解出來，也沒有寫成論文。但事實(shí)證明，確實(shí)有一個(gè)解，只需要把某個(gè)鮮為人知的冷門技術(shù)與文獻(xiàn)中的某個(gè)結(jié)果結(jié)合起來就夠了。

如果你只關(guān)注那些成功的案例，那些在社交媒體上廣泛傳播的，會覺得驚艷無比：幾十年沒有人解決的問題，現(xiàn)在一個(gè)接一個(gè)地倒下了。但每當(dāng)我們做系統(tǒng)性研究，對于任意一個(gè)給定的問題，就會發(fā)現(xiàn)：AI的成功率大概只有1%到2%。只不過，它們能大規(guī)模解題，然后挑出做對的那一個(gè)。

但這樣，信號和噪聲會高度混雜。

收集標(biāo)準(zhǔn)化數(shù)據(jù)集變得越來越重要。現(xiàn)在已經(jīng)有人在努力建立一套供AI解題的標(biāo)準(zhǔn)挑戰(zhàn)問題集，而不是只依賴AI公司發(fā)布自己的勝利、隱藏負(fù)面結(jié)果。這也許能讓我們對現(xiàn)狀有更清晰的認(rèn)識。

Dwarkesh：僅僅讓模型能夠應(yīng)用某種技術(shù)，而沒有任何人事先寫下這種技術(shù)對這個(gè)特定問題的適用性，本身就已經(jīng)代表了AI的巨大進(jìn)步。

陶哲軒：這種進(jìn)步令人驚嘆，又令人失望，這是一種非常奇特的感受。但人們適應(yīng)得也非?？?。

我記得二十年前Google搜索剛出來的時(shí)候，把其他所有搜索引擎打得落花流水。你搜什么，首頁就給出你想要的相關(guān)結(jié)果。那真是令人嘆為觀止。但幾年之后，我們就把搜索引擎當(dāng)成了理所當(dāng)然。

2026年的AI放到2021年會讓人瞠目結(jié)舌：人臉識別、自然語音、解大學(xué)水平的數(shù)學(xué)題……但這些我們現(xiàn)在都習(xí)以為常了。

AI并不能讓論文更深刻

Dwarkesh：做個(gè)預(yù)測吧，“你個(gè)人因?yàn)锳I的幫助生產(chǎn)力提升了兩倍”，這會發(fā)生在哪一年？

陶哲軒：我做數(shù)學(xué)的方式正在發(fā)生相當(dāng)大的變化，我從事的工作類型也在轉(zhuǎn)變?，F(xiàn)在的論文里包含了多得多的代碼和圖像，因?yàn)樯蛇@些東西變得太容易了。

從某種角度說，我今天寫的這類論文，如果要在沒有AI輔助的情況下完成，肯定要花五倍的時(shí)間。但反過來說，如果沒有AI，我根本就不會選擇這樣寫論文。

這些目前仍屬于輔助性工作：比如進(jìn)行更深入的文獻(xiàn)檢索，或者提供更多的數(shù)值計(jì)算支持。它們讓論文變得更加豐富和立體。

然而，我核心工作的部分——也就是真正解決數(shù)學(xué)問題中最困難、最本質(zhì)的那個(gè)環(huán)節(jié)——其實(shí)沒有太大變化。那部分我仍然依賴紙和筆。

AI幫我處理了很多瑣碎的事情。例如格式調(diào)整，以前括號大小不對要手動一個(gè)一個(gè)改，現(xiàn)在可以讓AI在后臺自動處理好。

這些工具確實(shí)大大加速了許多次要任務(wù)。它們雖然還沒有加速我工作的核心部分，但讓我能夠在論文中容納更多的內(nèi)容和維度。

反過來說，如果我現(xiàn)在要重寫一篇2020年的論文，不加那些額外的新功能，只是達(dá)到當(dāng)時(shí)同等的水平，說實(shí)話并沒有節(jié)省多少時(shí)間。

AI讓論文變得更豐富、更寬泛，但不一定更深刻。

Dwarkesh：你曾提出過一個(gè)區(qū)分：人工聰明（Artificial Cleverness）和人工智能（Artificial Intelligence）。有什么例子能說明一種智能不僅僅是“聰明”？

陶哲軒：“智能”出了名地難以定義，它是那種你一看就知道、但很難說清楚的東西。

當(dāng)我和合作者試圖解決一個(gè)數(shù)學(xué)問題時(shí)，最初我們兩個(gè)都不知道怎么解。其中一個(gè)人有了某個(gè)想法，看起來有點(diǎn)希望，于是我們有了一個(gè)初步策略。測試后發(fā)現(xiàn)不行，隨后我們修改它。

這個(gè)過程中充滿了適應(yīng)性，有對想法持續(xù)不斷的改進(jìn)。最終，我們系統(tǒng)性地梳理了什么行不通、什么可以走，看到了一條路。而這條路是隨著我們的討論不斷演化出來的。

AI能在一定程度上模仿這個(gè)過程。回到跳躍機(jī)器人的比喻：它們可以跳躍、失敗，再跳躍、再失敗。但它們做不到的是：跳一點(diǎn)點(diǎn)，抓住某個(gè)支撐點(diǎn)，停在那里，把別人也拉上來，再從那個(gè)位置繼續(xù)往上跳。

這種在互動中累積建構(gòu)的過程，目前還不存在。當(dāng)前的AI更像是在進(jìn)行大量的試錯(cuò)和簡單重復(fù)，本質(zhì)上是蠻力。這種方式可以擴(kuò)展規(guī)模，在某些情境下效果驚人。但從局部進(jìn)展中累積式地向上建構(gòu)的能力，仍然缺失。

Dwarkesh：你是說，如果Gemini 3或Claude 4.5解決了一個(gè)問題，并不意味著它自身對數(shù)學(xué)的理解有所深化？甚至即便它研究了一個(gè)問題而沒有解決，它自身對數(shù)學(xué)的理解也沒有進(jìn)步？

陶哲軒：是的。你開啟一個(gè)新的會話，它已經(jīng)忘記了剛才做的一切。沒有任何新的技能可以用來處理相關(guān)問題。

也許你剛才做的事情會成為下一代訓(xùn)練數(shù)據(jù)的0.001%，最終會有一點(diǎn)點(diǎn)被吸收進(jìn)去。但在當(dāng)前這個(gè)會話中，它并沒有真正的“學(xué)習(xí)”或“成長”。

如果AI能直接解決問題，人類還需要明白原理嗎？

Dwarkesh：如果我們持續(xù)訓(xùn)練AI，讓它們在Lean等形式化系統(tǒng)中解題的能力越來越強(qiáng)，最終會不會出現(xiàn)這樣一種令人驚訝的情況：AI 給出了一個(gè)黎曼猜想的證明，但這個(gè)證明幾乎沒給我們帶來任何真正的數(shù)學(xué)洞見？

換句話說，解決像黎曼猜想這樣的難題，是否有一個(gè)必要條件：哪怕是由完全在Lean里運(yùn)行的AI來完成，它在代碼中創(chuàng)造的那些構(gòu)造和定義，也必須能推進(jìn)我們對數(shù)學(xué)的理解？

還是說，它完全可以是一堆類似匯編代碼的、人類無法理解的“亂碼”？

陶哲軒：我不知道確切答案。事實(shí)上，有些問題本質(zhì)上就是靠純蠻力解決的。四色定理就是一個(gè)著名的例子。直到今天，我們?nèi)晕凑业竭@個(gè)定理在概念上優(yōu)雅的證明，也許永遠(yuǎn)都找不到。

有些問題可能只能被拆分成海量的情形，通過對每種情形進(jìn)行缺乏洞見的計(jì)算機(jī)蠻力分析來解決。

然而，我們之所以如此重視黎曼猜想這樣的問題，部分原因在于我們相當(dāng)確信：解決它需要?jiǎng)?chuàng)造一種新型的數(shù)學(xué)，或者發(fā)現(xiàn)兩個(gè)此前毫不相關(guān)的數(shù)學(xué)領(lǐng)域之間的全新聯(lián)系。

我們甚至不知道解答的形態(tài)會是什么樣子，但它絕不像是一個(gè)靠窮舉情形就能解決的問題。

當(dāng)然，也存在另一種可能性：猜想本身就是錯(cuò)的。

雖然概率極低，但設(shè)想一下：如果有人在臨界線之外直接算出了一個(gè)零點(diǎn)，并通過龐大的計(jì)算機(jī)計(jì)算驗(yàn)證了這一點(diǎn)，那將是一個(gè)非常令人失望的結(jié)果。

對于這類問題，完全自主的“一擊即中”式解法并不適用。人類與這些工具深度協(xié)作的互動模式，將會更有成效。

我能想象這樣一類場景：聰明的人類借助極其強(qiáng)大的AI工具解決了問題，但具體的協(xié)作方式可能與我們現(xiàn)在設(shè)想的截然不同。

例如，也許有一種方法可以生成黎曼ζ函數(shù)的一百萬個(gè)變體，再利用AI輔助進(jìn)行數(shù)據(jù)分析，從中發(fā)現(xiàn)某種我們此前未知的聯(lián)系規(guī)律，從而將這個(gè)問題轉(zhuǎn)化到數(shù)學(xué)的另一個(gè)全新領(lǐng)域。

Dwarkesh：假設(shè)AI真的解出來了，而Lean代碼里潛藏著某個(gè)全新的構(gòu)造。如果我們能意識到它的意義，就能在各種不同的情境下加以應(yīng)用。

但問題是：我們怎么識別它？

如果你提出了像笛卡爾坐標(biāo)系那樣級別的想法，將代數(shù)與幾何統(tǒng)一起來，但在Lean代碼里，它可能看起來根本不起眼，甚至被淹沒在瑣碎的細(xì)節(jié)中。

陶哲軒：這正是將證明形式化到Lean這類系統(tǒng)中的美妙之處：你可以取出其中的任何一個(gè)部分，單獨(dú)地去研究它。

當(dāng)我閱讀一篇解決了困難問題的傳統(tǒng)論文時(shí)，里面往往有一長串引理和定理。理想情況下，作者會引導(dǎo)讀者理解哪些步驟是關(guān)鍵的、哪些是常規(guī)的。

但有時(shí)，作者并未點(diǎn)明哪些步驟是真正的“靈光一閃”，哪些只是機(jī)械操作。

而在形式化證明中，你可以單獨(dú)審視每一個(gè)引理。

有些引理我一眼就能看出相當(dāng)標(biāo)準(zhǔn)，跟我熟悉的東西很相似，大概沒什么特別之處。

但另一個(gè)引理，是我以前從未見過的。我能立刻判斷出來：有了這個(gè)結(jié)果，證明主定理就順暢多了。

你能清晰地判斷一個(gè)步驟究竟是論證的關(guān)鍵樞紐，還是可有可無的填充物。Lean極大地降低了這種判斷的門檻。

未來可能會出現(xiàn)一個(gè)專門的數(shù)學(xué)家群體，他們拿著一個(gè)龐大的、由AI生成的Lean證明來做消融實(shí)驗(yàn)：嘗試去掉其中的某些部分，尋找更優(yōu)雅的替代方案，或者提取出通用的新引理。

他們可能會讓其他 AI 通過強(qiáng)化學(xué)習(xí)來優(yōu)化證明的“優(yōu)雅程度”，也許還有另一些 AI 專門負(fù)責(zé)評判這個(gè)證明是否在概念上變得更好了。

我們寫論文的方式將會徹底改變。

直到不久之前，撰寫論文一直是數(shù)學(xué)工作中最耗時(shí)、代價(jià)最高的部分。只有在論證的所有其他部分都核實(shí)無誤之后，你才會著手整理文字，因?yàn)樾薷暮椭貥?gòu)實(shí)在太痛苦了。

但現(xiàn)在有了AI，這一切變得容易得多。你不必只拘泥于一個(gè)版本的論文。一旦有了一個(gè)初始版本，其他人（或AI）就可以據(jù)此生成數(shù)百個(gè)變體，嘗試不同的敘述方式和結(jié)構(gòu)。

一個(gè)龐大、混亂的Lean證明本身也許很難理解，也沒什么直接意義，但其他人可以對它進(jìn)行重構(gòu)、拆解和詮釋。

我們在埃爾德什問題網(wǎng)站（Erdos Problems Project）上已經(jīng)看到了這種模式的雛形：

1、AI 生成一個(gè)證明，產(chǎn)出數(shù)千行驗(yàn)證代碼。

2、人們利用其他 AI 工具對這個(gè)證明進(jìn)行總結(jié)及自然語言翻譯。

3、人類數(shù)學(xué)家再基于這些總結(jié)，寫出屬于自己的、更具洞察力的證明。

證明產(chǎn)生之后，存在著巨大的“后處理”空間。

一旦你擁有了“證明”這個(gè)產(chǎn)物，我們現(xiàn)在有很多工具可以對它進(jìn)行拆解、分析和重新包裝。

這是數(shù)學(xué)研究中非常新興的領(lǐng)域，但我對此并不太擔(dān)心。有些人憂慮：“如果黎曼猜想被一個(gè)完全不可理解的證明解決了，那該怎么辦？”

我認(rèn)為，一旦你擁有了證明這個(gè)客觀產(chǎn)物，我們就有了無數(shù)種分析工具去挖掘它。

數(shù)學(xué)家需要一種新的交流語言

Dwarkesh：你最近提到，為數(shù)學(xué)策略建立一種正式或半正式的語言將大有裨益，而不僅僅像Lean那樣專注于數(shù)學(xué)證明本身。這具體意味著什么？

陶哲軒：數(shù)學(xué)是幸運(yùn)的。雖然我們的邏輯和數(shù)學(xué)規(guī)律梳理工作始于兩千年前的歐幾里得，但直到20世紀(jì)初，我們才最終確立了完整的公理體系。如今，我們已經(jīng)能夠?qū)⑦@些基礎(chǔ)自動化，并為其建立了嚴(yán)謹(jǐn)?shù)男问秸Z言。

然而，在評估可信度方面，我們?nèi)悦媾R挑戰(zhàn)。當(dāng)你提出一個(gè)猜想，并測試了若干例子都成立時(shí)，這能在多大程度上增加你對該猜想為真的信心？

我們有一些數(shù)學(xué)建模工具（如貝葉斯概率）來處理這個(gè)問題，但它們往往需要預(yù)設(shè)某些基本假設(shè)，其中仍包含大量主觀判斷。與其說這是一個(gè)具體的計(jì)劃，不如說是一個(gè)愿景。

看看Lean這樣的形式化框架是如何成功地讓演繹證明的自動化和AI訓(xùn)練變得如此便捷，你就會意識到：目前利用 AI 制定策略、提出猜想的瓶頸在于，我們?nèi)员仨氁蕾嚾祟悓＜业慕?jīng)驗(yàn)和時(shí)間的檢驗(yàn)來判斷某件事是否“可信”。

形式化證明助手之所以至關(guān)重要，是因?yàn)?strong>它們杜絕了“后門”或漏洞——你不能繞過真正的證明就獲得認(rèn)證。要知道，強(qiáng)化學(xué)習(xí)算法在尋找系統(tǒng)漏洞方面可是極其擅長的。

如果未來能有一種框架，能夠模擬科學(xué)家之間那種既包含數(shù)據(jù)論證、又包含敘事交流的半形式化溝通方式，那將是一個(gè)巨大的突破。

科學(xué)中存在某種難以捉摸的主觀性成分，目前我們還不知道如何捕捉它，也就無法以有意義的方式將AI嵌入到這個(gè)過程中。

這是一個(gè)面向未來的課題。雖然已有研究在嘗試創(chuàng)建自動猜想生成器，或許我們可以找到方法對這些系統(tǒng)進(jìn)行基準(zhǔn)測試和模擬，但這仍處于早期階段。

Dwarkesh：這種科學(xué)家之間尚無法形式化的交流，究竟是什么樣子的？你一方面說我們在構(gòu)建某種敘事或自然語言解釋，另一方面又說希望將其形式化，這聽起來似乎是個(gè)悖論？

陶哲軒：讓我們以高斯為例。他對素?cái)?shù)充滿興趣，并構(gòu)建了最早的數(shù)學(xué)數(shù)據(jù)集之一。他計(jì)算了前十萬個(gè)素?cái)?shù)，發(fā)現(xiàn)了一個(gè)統(tǒng)計(jì)規(guī)律：隨著數(shù)值范圍擴(kuò)大（從100到1000，再到一百萬），素?cái)?shù)變得越來越稀疏，但其密度下降的速度與數(shù)值范圍的自然對數(shù)成反比。基于此，他提出了我們現(xiàn)在稱為素?cái)?shù)定理的猜想。當(dāng)時(shí)他無法證明這一點(diǎn)，這完全是數(shù)據(jù)驅(qū)動的發(fā)現(xiàn)。

這個(gè)猜想在當(dāng)時(shí)是革命性的，因?yàn)樗蛟S是數(shù)學(xué)史上第一個(gè)真正基于統(tǒng)計(jì)性質(zhì)的重要猜想。

通常，我們討論的是精確的模式（例如素?cái)?shù)間隔的規(guī)律性），但這個(gè)猜想并不告訴你某個(gè)范圍內(nèi)素?cái)?shù)的精確個(gè)數(shù)，只給出一個(gè)隨著范圍擴(kuò)大而越來越精確的近似值。它開創(chuàng)了今天我們所知的解析數(shù)論領(lǐng)域。

這是此類猜想中的第一個(gè)。隨后許多類似的猜想得到了證明，逐漸鞏固了一種認(rèn)知：素?cái)?shù)并沒有確定的模式，它們的表現(xiàn)就像是一個(gè)具有特定密度的隨機(jī)數(shù)集合。

素?cái)?shù)確實(shí)有一些規(guī)律，但它們并非真正的隨機(jī)，而是所謂的“偽隨機(jī)”。隨著時(shí)間的推移，將素?cái)?shù)想象成由某個(gè)神明不斷擲骰子生成的隨機(jī)集合，被證明是一種極富成效的思維方式。

這種視角讓我們得以做出各種預(yù)測。數(shù)論中有一個(gè)至今未解的著名猜想——孿生素?cái)?shù)猜想，認(rèn)為存在無窮多對相差為2的素?cái)?shù)。

雖然我們目前無法證明它，也有充分的理由解釋為何證明如此困難，但基于素?cái)?shù)的統(tǒng)計(jì)隨機(jī)模型，我們對它的正確性深信不疑。邏輯很簡單：如果素?cái)?shù)是通過拋硬幣生成的，那么根據(jù)類似“無限猴子定理”的隨機(jī)性原理，孿生素?cái)?shù)必然會一再出現(xiàn)。

久而久之，基于統(tǒng)計(jì)和概率，我們形成了一套關(guān)于素?cái)?shù)行為的極為精確的概念模型。這套模型大體上是啟發(fā)式的、非嚴(yán)格的，但其預(yù)測的精確程度令人驚嘆。

每當(dāng)我們真正能夠證明素?cái)?shù)的某些性質(zhì)時(shí)，結(jié)果總是與我們所稱的“素?cái)?shù)隨機(jī)模型”的預(yù)測完全吻合。

事實(shí)上，我們之所以如此重視黎曼猜想，部分原因在于：如果它是假的，如果我們要推翻它，那將對這個(gè)模型造成毀滅性打擊。這意味著素?cái)?shù)背后存在某種我們此前未知的隱藏規(guī)律。

如果真的發(fā)生這種情況，我認(rèn)為我們會非常迅速地放棄所有基于素?cái)?shù)的密碼學(xué)體系。因?yàn)槿绻嬖谝粋€(gè)未知規(guī)律，很可能還有更多，而這些規(guī)律可能導(dǎo)致密碼學(xué)上的致命漏洞。這將是一次巨大的沖擊。

我們對黎曼猜想這類命題的信念，是隨時(shí)間積累起來的：部分來自實(shí)驗(yàn)證據(jù)，部分來自每當(dāng)?shù)贸隼碚摻Y(jié)果時(shí)，它們總是與預(yù)測完美契合。

當(dāng)然，也存在共識有誤、大家都遺漏了某個(gè)基本要素的可能性。歷史上科學(xué)確實(shí)發(fā)生過范式轉(zhuǎn)移。但我們目前缺乏真正的方法來量化這種風(fēng)險(xiǎn)，部分原因在于我們沒有足夠的關(guān)于“數(shù)學(xué)或科學(xué)如何發(fā)展”的歷史數(shù)據(jù)。

如果我們能接觸到一百萬個(gè)外星文明，每一個(gè)都以不同的順序發(fā)展出各自的歷史和科學(xué)，也許我們才能真正理解如何衡量什么是進(jìn)步、什么是好的策略，并開始將其形式化，建立一套真正的理論框架。

既然無法接觸外星文明，也許我們現(xiàn)在能做的是：創(chuàng)建大量的“迷你宇宙”，讓AI 其中解決算術(shù)等非?；A(chǔ)的問題，讓它們自己摸索出解決策略，并用這些小型實(shí)驗(yàn)室來進(jìn)行測試。

已經(jīng)有人在研究“完成十位數(shù)乘法所需的最小神經(jīng)網(wǎng)絡(luò)”是什么樣的。僅僅通過在簡單問題上演化小型 AI，我們就能學(xué)到很多關(guān)于智能本質(zhì)的東西。

這種至關(guān)重要的體驗(yàn)現(xiàn)在基本消失了

Dwarkesh：你不僅需要迅速學(xué)習(xí)新領(lǐng)域，還要深入其中以至于能在前沿做出貢獻(xiàn)。從某種意義上說，你也是世界上最杰出的自學(xué)者之一。你是如何學(xué)習(xí)數(shù)學(xué)的新子領(lǐng)域的？

陶哲軒：我們之前討論過深度與廣度的問題，這并非純粹的人類與AI之間的區(qū)別，人類個(gè)體之間也存在這種差異。

以賽亞·伯林（Isaiah Berlin）曾將人分為兩類：“刺猬”與“狐貍”。刺猬知曉一件大事，將其鉆研得極深；而狐貍知曉許多小事，對萬事萬物略知一二。

我無疑將自己歸類為狐貍。我經(jīng)常與“刺猬”們合作，而在必要時(shí)，我也能讓自己暫時(shí)變成一只“刺猬”。

當(dāng)我讀到某個(gè)理論，覺得自己有能力理解，卻偏偏不明白它為何成立時(shí)，我就一定要搞清楚其中的訣竅。如果別人能做到我認(rèn)為自己也能做到的事，而我卻做不到，這會讓我感到非常不適。

我一直有一種強(qiáng)迫性的執(zhí)念，必須把事情做完。甚至為此我不得不戒掉電子游戲，因?yàn)橐坏╅_始玩，我就非要通關(guān)不可，必須打通每一關(guān)。

我與許多不同領(lǐng)域的學(xué)者合作，他們教會了我其他類型的數(shù)學(xué)，傳授給我基本的技巧，并告訴我哪些是已知的，哪些仍是未知的。

此外，我發(fā)現(xiàn)將所學(xué)寫下來極具幫助。我有一個(gè)博客，經(jīng)常記錄我的學(xué)習(xí)過程。年輕時(shí)，我學(xué)到某個(gè)精妙的技巧，會心想：“好，我會記住這個(gè)的?！苯Y(jié)果六個(gè)月后便忘得一干二凈。那種“理解了卻又失去”的挫敗感太過強(qiáng)烈。于是我下定決心：凡是學(xué)到的有價(jià)值的東西，一定要寫下來。這也是我開設(shè)博客的初衷之一。

Dwarkesh：你寫一篇博客通常需要多長時(shí)間？

陶哲軒：這通常是我在不想做其他工作時(shí)（比如撰寫審稿報(bào)告）會去做的事。寫博客讓我感到充滿創(chuàng)造力且樂趣無窮。

根據(jù)主題不同，耗時(shí)可能從半小時(shí)到幾小時(shí)不等。因?yàn)檫@是自愿進(jìn)行的，寫作時(shí)時(shí)間過得飛快，這與那些出于行政職責(zé)不得不完成的苦差事截然不同——現(xiàn)在我把它們交給AI了。

Dwarkesh：如果文明能夠基于第一性原理，重新規(guī)劃如何最優(yōu)配置“陶哲軒”這一有限資源，最大的差異會是什么？或者說，如果在“無知之幕”背后決定你的時(shí)間分配，與現(xiàn)在相比會有什么不同？

陶哲軒：在學(xué)術(shù)界，資歷越深，責(zé)任就越重，需要參與的委員會也越來越多，這讓我偶爾也會抱怨。

但事實(shí)上，正是這些超出我舒適區(qū)的任務(wù)，帶來了與更多人接觸的機(jī)會——比如你。

因此，我非常相信緣分的力量。一味追求效率本身，可能并不是最優(yōu)解。

我會精心安排一天中的某些時(shí)段，但也愿意留出一些空白，去嘗試一些不那么尋常的事情。這看似可能在浪費(fèi)時(shí)間，但也可能帶來意想不到的收獲。

前幾年，我們大量轉(zhuǎn)向遠(yuǎn)程會議，一切都被嚴(yán)格日程化了。在學(xué)術(shù)界，我們依然忙碌，見面的人數(shù)也與線下時(shí)期相當(dāng)，但所有互動都必須提前計(jì)劃。

我們失去的，是那種隨手敲開走廊里同事的房門、或在咖啡間偶遇某人的時(shí)刻。那些偶發(fā)性的互動看似低效，實(shí)則至關(guān)重要。

回想我讀研究生時(shí)，去圖書館查閱期刊文章，需要親自找到那本刊物，坐下來閱讀。在翻閱過程中，旁邊那篇原本不在計(jì)劃內(nèi)的文章有時(shí)也很有意思。你會偶然發(fā)現(xiàn)一些有趣的東西，哪怕有時(shí)并非如此。

而現(xiàn)在，這種體驗(yàn)基本上消失了。想找一篇文章，直接在搜索引擎或AI中輸入關(guān)鍵詞，立刻就能得到目標(biāo)結(jié)果，但我們卻錯(cuò)過了那些只有走“低效路線”才可能遇到的意外驚喜。

我曾有一年在普林斯頓高等研究院（IAS）度過，那是一個(gè)沒有任何干擾的絕佳之地，只需專注于研究。頭幾周非常美妙，我將積壓已久的論文一篇接一篇地寫出來，能夠進(jìn)行整塊的深度思考。但超過幾個(gè)月后，靈感開始枯竭，生活變得單調(diào)無聊，我開始大量上網(wǎng)消磨時(shí)間。

事實(shí)證明，生活其實(shí)需要一定程度的“干擾”。

“人類+AI”的混合模式將在很長時(shí)間內(nèi)主導(dǎo)數(shù)學(xué)界

Dwarkesh：AI何時(shí)能在前沿?cái)?shù)學(xué)研究上，達(dá)到與最優(yōu)秀人類數(shù)學(xué)家比肩的水平？

陶哲軒：從某種意義上說，它們已經(jīng)在做人類無法完成的前沿?cái)?shù)學(xué)工作了，但那是一種與我們習(xí)慣截然不同的“前沿”。

這就好比計(jì)算器在進(jìn)行人類難以企及的數(shù)字運(yùn)算，你可以稱之為“前沿計(jì)算”，但這并非我們傳統(tǒng)認(rèn)知中的數(shù)學(xué)探索。

Dwarkesh：但我指的是完全取代像您這樣的數(shù)學(xué)家。

陶哲軒：（笑）那我該做什么呢？

Dwarkesh：您可以去上播客節(jié)目。

陶哲軒：“完全取代”可能根本就不是一個(gè)正確的問題。在未來十年內(nèi)，確實(shí)會有大量工作由AI來完成。但我們終將發(fā)現(xiàn)，那些其實(shí)并不是我們工作中最核心、最重要的部分。

回顧一百年前，許多數(shù)家的主要工作就是求解微分方程。當(dāng)時(shí)，物理學(xué)家如果需要某個(gè)方程組的精確解，就會雇傭數(shù)學(xué)家費(fèi)力地進(jìn)行微積分運(yùn)算，以此求出流體方程的解，諸如此類。

而19世紀(jì)數(shù)學(xué)家所做的許多繁瑣工作，現(xiàn)在只需調(diào)用Mathematica、Wolfram Alpha等計(jì)算機(jī)代數(shù)系統(tǒng)，或者借助最新的AI工具，幾分鐘內(nèi)就能解決。

在計(jì)算機(jī)誕生之前，Computer這個(gè)詞指代的其實(shí)是“人”。曾經(jīng)，人們像高斯那樣耗費(fèi)心力地制作對數(shù)表、計(jì)算素?cái)?shù)，如今這些任務(wù)早已外包給了機(jī)器。但數(shù)學(xué)學(xué)科并沒有因此停滯，我們繼續(xù)向前邁進(jìn)。

同樣的情況也發(fā)生在遺傳學(xué)領(lǐng)域。過去，對單個(gè)生物體進(jìn)行基因組測序是一個(gè)遺傳學(xué)家整個(gè)博士階段的工作量，需要仔細(xì)分離所有染色體；而現(xiàn)在，只需花費(fèi)一千美元將樣本寄給測序儀即可搞定。

然而，遺傳學(xué)作為一門學(xué)科并未消亡，研究者只是轉(zhuǎn)向了不同的尺度——也許是從研究個(gè)體轉(zhuǎn)向了研究整個(gè)生態(tài)系統(tǒng)。

Dwarkesh：但是，大多數(shù)、甚至幾乎所有的數(shù)學(xué)進(jìn)展，什么時(shí)候會主要由AI來完成？

陶哲軒：“人類+AI”的混合模式將在更長時(shí)間內(nèi)主導(dǎo)數(shù)學(xué)界。這取決于諸多因素，也需要一些超越我們目前成果的突破性進(jìn)展，因此這其中充滿了隨機(jī)性。

當(dāng)前的AI在某些任務(wù)上表現(xiàn)出色，而在另一些任務(wù)上則極為糟糕。雖然我們可以通過疊加更多框架來降低錯(cuò)誤率、讓它們協(xié)同工作，但目前仍缺乏能夠真正令人滿意地替代所有智識性工作的關(guān)鍵要素。

現(xiàn)階段，這是一種互補(bǔ)關(guān)系，而非替代關(guān)系。當(dāng)前水平的AI將以各種方式加速科學(xué)研究，我們希望新發(fā)現(xiàn)和新突破能因此來得更快。

當(dāng)然，也存在一種可能性：如果過度依賴AI破壞了科學(xué)探索中的偶然性和直覺，反而可能會抑制某些類型的進(jìn)步。

Dwarkesh：對于那些考慮從事數(shù)學(xué)職業(yè)，或剛剛起步的年輕人，尤其是考慮到AI的迅猛進(jìn)展，您有什么建議？他們應(yīng)該如何因應(yīng)AI的進(jìn)步而重新思考自己的職業(yè)規(guī)劃？

陶哲軒：我們正生活在一個(gè)變革的時(shí)代，這也是一個(gè)特別難以預(yù)測的時(shí)代。

幾個(gè)世紀(jì)以來我們視為理所當(dāng)然的規(guī)則，可能已不再適用。不僅是數(shù)學(xué)，我們做一切事情的方式都將發(fā)生巨變。

在很多方面，我寧愿生活在那個(gè)更無聊、更平靜的時(shí)代，那時(shí)的一切跟十年前、二十年前差不多。但我認(rèn)為人們必須接受一個(gè)事實(shí)：變革是不可避免的。你必須始終保持對新機(jī)會的敏感度，去嘗試以前不可能做到的事情。

在數(shù)學(xué)領(lǐng)域，過去你需要經(jīng)過多年的嚴(yán)苛教育，拿到數(shù)學(xué)博士學(xué)位，才有可能在前沿研究上做出貢獻(xiàn)。但現(xiàn)在，在各類AI工具、形式化證明助手（如 Lean）等的輔助下，高中生很可能就能參與數(shù)學(xué)項(xiàng)目并做出實(shí)質(zhì)性貢獻(xiàn)。

因此，你需要具備一種高度適應(yīng)的心態(tài)。未來將有更多的空間供人們純粹出于好奇心去探索、去“玩耍”。

當(dāng)然，獲取學(xué)歷資質(zhì)依然重要，傳統(tǒng)教育仍有其價(jià)值，用老方法打牢數(shù)學(xué)和科學(xué)基礎(chǔ)也是必要的。但同時(shí)，你也應(yīng)該對完全不同的科研范式保持開放。

這是一個(gè)令人忐忑的時(shí)代，但也同樣令人興奮。

本譯稿采用了公眾號量子位（ID: QbitAI）的翻譯，經(jīng)“返樸”二次修改。

特 別 提 示

1. 進(jìn)入『返樸』微信公眾號底部菜單“精品專欄“，可查閱不同主題系列科普文章。

2.『返樸』提供按月檢索文章功能。關(guān)注公眾號，回復(fù)四位數(shù)組成的年份+月份，如“1903”，可獲取2019年3月的文章索引，以此類推。