近年來，AI的迅猛發(fā)展也使科研范式發(fā)生了根本性變革。谷歌基于Gemini 2.0的多智能體系統(tǒng)“co-scientist”在48小時(shí)內(nèi)便獨(dú)立復(fù)現(xiàn)并擴(kuò)展了人類研究者歷時(shí)十年才確立的超級細(xì)菌耐藥機(jī)制假設(shè)，甚至提出了額外且合理的全新理論；而DeepMind的AlphaEvolve則在半個(gè)世紀(jì)無人突破的4 × 4矩陣乘法問題上，將乘法次數(shù)從經(jīng)典Strassen算法的49次進(jìn)一步壓縮至48次，并已通過開源代碼驗(yàn)證其正確性與數(shù)值穩(wěn)定性。前者展示了AI生成并篩選科研假設(shè)的驚人效率，后者證明了AI能在數(shù)學(xué)難題上實(shí)現(xiàn)前所未有的算法飛躍。二者共同昭示，人工智能正從“輔助工具”躍升為能夠主動推動知識前沿的“共研伙伴”，重塑科學(xué)發(fā)現(xiàn)的速度與邊界。

布蘭登·伯施

Brandon Boesch

美國愛荷華州

莫寧賽德學(xué)院哲學(xué)系副教授

現(xiàn)為美國愛荷華州莫寧賽德學(xué)院哲學(xué)系副教授，現(xiàn)居內(nèi)布拉斯加州奧馬哈市。Boesch 的研究主要集中在科學(xué)哲學(xué)和應(yīng)用倫理學(xué)領(lǐng)域。在科學(xué)哲學(xué)方面，他關(guān)注科學(xué)中的模型和表征的本質(zhì)與作用，并探討行動哲學(xué)如何幫助理解科學(xué)實(shí)踐中的這些元素 。在應(yīng)用倫理學(xué)方面，他研究身份和誠信在實(shí)踐推理中的角色，特別關(guān)注慈善倫理和生物醫(yī)學(xué)倫理等議題 。

當(dāng)代科學(xué)本質(zhì)上是計(jì)算科學(xué)。若沒有模型、模擬、統(tǒng)計(jì)分析、數(shù)據(jù)存儲等工具，人類對世界的認(rèn)知進(jìn)程將變得異常遲緩。幾十年來，我們根深蒂固的好奇心一部分已經(jīng)通過硅基芯片與軟件得以滿足。

"混合場景"階段：

計(jì)算機(jī)的引入讓人類的科研地位邊緣化

已故哲學(xué)家保羅·漢弗萊斯（Paul Humphreys）將科研過程的某些環(huán)節(jié)被外包給計(jì)算機(jī)系統(tǒng)的現(xiàn)象稱為科學(xué)的"混合場景"（hybrid scenario）。他同時(shí)預(yù)見到這種模式可能會發(fā)生的改變。

盡管其相關(guān)論述始于生成式人工智能崛起的十多年前，漢弗萊斯依然憑借先見之明認(rèn)識到人類主導(dǎo)科學(xué)過程的日子可能時(shí)日無多。他預(yù)見到科學(xué)發(fā)展的下一階段，并稱之為"自動化場景"（automated scenario），屆時(shí)計(jì)算機(jī)將完全接管科研工作。在這種未來中，計(jì)算機(jī)在科學(xué)推理、數(shù)據(jù)處理、模型構(gòu)建與理論建構(gòu)方面的能力將全面超越人類，直至我們完全退出科研鄰域。屆時(shí)，這些智能系統(tǒng)將繼承人類開創(chuàng)的科研事業(yè)，將既有理論推向我們難以企及的新高度。

多項(xiàng)研究指出，人類在科學(xué)領(lǐng)域的認(rèn)知主導(dǎo)權(quán)的終結(jié)已經(jīng)初現(xiàn)端倪。一項(xiàng)對人工智能研究者的最新調(diào)查顯示，未來百年內(nèi)AI有50%的可能性可以全面取代人類工作崗位（盡管我們?nèi)栽笧槿祟惐Ａ粢恍┕ぷ?，如陪審員）。無論您是否認(rèn)同這種未來，或是覺得它不會這么快來臨，此刻不妨先暫時(shí)擱置質(zhì)疑，而是設(shè)想，若這種超級人工智能終將成為現(xiàn)實(shí)，其發(fā)展將意味著人類可將科學(xué)事業(yè)托付給認(rèn)知能力遠(yuǎn)超自身的“人工智能后裔”，它們將以超越人類想象的速度與質(zhì)量完成科研工作。

這無疑將會是一個(gè)奇怪的圖景。首先，AI可能會選擇探索人類科學(xué)家缺乏動力或動機(jī)的研究方向，從而開辟前所未有的發(fā)現(xiàn)路徑。它們甚至可能獲取超越人類認(rèn)知極限的宇宙知識。這將置我們?nèi)祟愑诤畏N境地？我們又該如何應(yīng)對？我認(rèn)為我們需要現(xiàn)在就開始提出這些問題，因?yàn)樵跀?shù)十年內(nèi)，我們所知的科學(xué)就可能發(fā)生深刻轉(zhuǎn)變。

漢弗萊斯提出的科學(xué)自動化情景雖然聽起來像科幻小說的內(nèi)容，實(shí)則延續(xù)著數(shù)百年的歷史進(jìn)程。人類從未真正獨(dú)立開展過科學(xué)研究。長久以來我們倚賴顯微鏡、望遠(yuǎn)鏡、標(biāo)準(zhǔn)化量具與燒杯等工具延伸我們對于世界的觀測。此外，還有許多物理現(xiàn)象，如果沒有溫度計(jì)、蓋革計(jì)數(shù)器、示波器、量熱計(jì)等儀器，我們就無法直接精確地觀測到它們。

計(jì)算機(jī)的引入標(biāo)志著人類在科學(xué)研究中的地位的進(jìn)一步邊緣化，這正是漢弗萊斯定義的"混合場景"階段?，敻晏亍だ睢ぶx特利（Margot Lee Shetterly）在著作《隱藏人物》（Hidden Figures, 2016）及其改編電影中記載了一個(gè)標(biāo)志性案例。早期美國航天飛行依賴凱瑟琳·約翰遜（Katherine Johnson）等人類數(shù)學(xué)家完成軌道計(jì)算。但當(dāng)時(shí)間推進(jìn)至登月計(jì)劃時(shí)期，不到十年光景，這些計(jì)算工作的主體已移交計(jì)算機(jī)系統(tǒng)。

隨后數(shù)十年間，計(jì)算處理能力呈指數(shù)級增長，計(jì)算成本隨之呈現(xiàn)反向關(guān)聯(lián)性下降。當(dāng)前的科學(xué)研究或處在“高級混合場景”，對計(jì)算系統(tǒng)的依賴愈加顯著。以希格斯玻色子的發(fā)現(xiàn)為例，哲學(xué)家瑪格麗特·莫里森（Margaret Morrison）在其著作中闡釋了計(jì)算模擬技術(shù)的關(guān)鍵作用，這些系統(tǒng)不僅指導(dǎo)科學(xué)家鎖定觀測目標(biāo)，更承擔(dān)著從海量高能對撞數(shù)據(jù)中篩選有效信息的重任。

?電影《隱藏人物》劇照。片中，當(dāng)時(shí)的科學(xué)家正在進(jìn)行軌道計(jì)算。在不久的未來，這些工作被計(jì)算機(jī)取代。圖源：Annalee Newitz

現(xiàn)實(shí)世界：

人類仍然掌握科學(xué)發(fā)展核心決策權(quán)

如今，AI已開始對科學(xué)研究產(chǎn)生重大影響。以AlphaFold系統(tǒng)為例，這款A(yù)I系統(tǒng)專門用于預(yù)測特定化學(xué)結(jié)構(gòu)下蛋白質(zhì)的三維折疊形態(tài)。盡管研究者可以不借助該系統(tǒng)獨(dú)立完成此類工作，但其過程耗時(shí)費(fèi)力且成本高昂。AlphaFold的研發(fā)團(tuán)隊(duì)Google DeepMind宣稱，該系統(tǒng)已為全球科研界節(jié)省了"數(shù)億年的研究時(shí)間"。類似的技術(shù)紅利正輻射至各個(gè)科學(xué)領(lǐng)域，包括天文學(xué)與基因組學(xué)的海量數(shù)據(jù)分析，數(shù)學(xué)領(lǐng)域新證明方法的開發(fā)，氣象預(yù)測，新藥研發(fā)等等。

當(dāng)計(jì)算型人工智能（computational AI）的科研貢獻(xiàn)開始以"數(shù)億年"為計(jì)量單位衡量時(shí)，人類仿佛成為了科研合作中效率低下的參與者。我們是否已身處“自動化場景”之中？但實(shí)際上，我們尚未達(dá)到這個(gè)階段。人類對科學(xué)發(fā)展的核心作用依然不可替代，我們依然掌握著核心決策權(quán)：從科研方向的提出、研究結(jié)果的闡釋，到科學(xué)進(jìn)程的把控，每個(gè)關(guān)鍵環(huán)節(jié)仍由人類主導(dǎo)。

若循著漢弗萊斯的理論推演，人類將科研中知識寶座的完全讓渡將發(fā)生于更后期的階段。屆時(shí)，超級AI不僅能執(zhí)行人類設(shè)定的任務(wù)，還將具備自主設(shè)定科研議程的能力，它能依據(jù)其獨(dú)立確立的理論價(jià)值標(biāo)準(zhǔn)，自主開展研究規(guī)劃、數(shù)據(jù)采集、模型構(gòu)建與理論創(chuàng)新，形成完全自主的科學(xué)體系。

讓我們先停下來思考一下，擺脫了人類生理與認(rèn)知桎梏的超級人工智能，在科研領(lǐng)域?qū)⒄宫F(xiàn)出何等令人驚嘆的可能性。諸多科學(xué)問題因沒有資金支持或純粹因?yàn)槿祟惒桓信d趣，始終不會受到科學(xué)界的研究。

在我寫下這段文字時(shí)，我正凝視著庭院中一片半朽的落葉——超級AI或許會有興趣于構(gòu)建一個(gè)預(yù)測模型，以秒級精度，依據(jù)樹種、葉面積、微生物接觸史、光照與濕度條件等參數(shù)解析特定葉片的衰變過程與速率。這就是一個(gè)極其復(fù)雜，且其細(xì)節(jié)對人類而言缺乏顯性價(jià)值的問題。又或者超級人工智能或許能建立數(shù)學(xué)模型解答我兒子曾提出的疑問，精確預(yù)測他遺落山間的雪球中的水分子何時(shí)會隨發(fā)源山間的河流流經(jīng)我們的家門。此類預(yù)測需構(gòu)建涵蓋流域結(jié)構(gòu)、流體動力學(xué)、氣候特征等要素的極端復(fù)雜與詳盡的模型，而人類并不會花費(fèi)精力去解決這樣“沒有意義”的問題。

人類也并非永遠(yuǎn)無法解答此類問題。若投入足夠的研究精力與資金支持，科學(xué)家們完全有可能為這些深奧現(xiàn)象構(gòu)建有效的預(yù)測模型。但現(xiàn)實(shí)是，我們不會付諸實(shí)踐。無論利弊，當(dāng)代科學(xué)的發(fā)展軌跡始終受制于強(qiáng)烈的現(xiàn)實(shí)因素，這些因素包括經(jīng)濟(jì)價(jià)值、政治優(yōu)先性、職業(yè)前景、文化潮流、以及形形色色的人類認(rèn)知偏見與信仰等。試想當(dāng)所有這些桎梏被徹底破除時(shí)，科學(xué)將呈現(xiàn)何種面貌？

“自動化場景”的深遠(yuǎn)影響不僅限于對人類無法或不愿涉足的科研項(xiàng)目進(jìn)行高效探索。盡管超級AI可能暫時(shí)沿襲既有理論范式，但它們完全可能另起爐灶，構(gòu)建全新的世界理論。同理，即便能沿用人類科學(xué)家熟悉的數(shù)學(xué)符號體系，它們將迅速突破傳統(tǒng)方式的束縛，創(chuàng)建出全新的數(shù)學(xué)語言與表達(dá)系統(tǒng)。

“自動化場景”階段：

人類或許無法阻止超級AI自行發(fā)展

在我看來，鑒于這類AI很可能迅速拋下人類認(rèn)知框架的包袱，我們或許需要遵循維特根斯坦式哲學(xué)思辨，將“自動化場景”視作其開創(chuàng)獨(dú)立科學(xué)語言的起點(diǎn)。

維特根斯坦在《哲學(xué)研究》（Philosophical Investigations, 1953）中提出著名論斷："若雄獅能言，人類亦難明其意。"這個(gè)看似矛盾的命題揭示著語言意義其實(shí)是深深根植于人類的內(nèi)在經(jīng)驗(yàn)網(wǎng)絡(luò)的。科學(xué)語言亦遵循此理。當(dāng)超級AI開始自主制定并執(zhí)行研究計(jì)劃時(shí)，其科研成果將因人類缺失必要的內(nèi)在認(rèn)知視角而變得不可解讀。在我們看來，這些研究將成為目標(biāo)未知、意圖難測、詮釋方式無從把握的科學(xué)。

?諷刺漫畫《Wittgenstein at the Zoo》。作中主角駁斥友人：即使你教會了雄獅如何說話，它們也無法理解我們的思想。圖源：@existentialcomics

人類認(rèn)知能力很可能存在固有邊界，包括無數(shù)永遠(yuǎn)無法被理解的數(shù)學(xué)體系，以及超越三維體驗(yàn)的多維概念。其他物種的智力局限，比如嘗試向最聰明的黑猩猩解釋廣義相對論的實(shí)驗(yàn)，已為我們敲響警鐘，那就是人類的認(rèn)知可能同樣存在局限，無法理解過于復(fù)雜的概念。

即便假設(shè)我們的認(rèn)識能力不存在局限，仍然存在這樣一個(gè)問題，超級AI的推理在實(shí)踐中可能超出我們的能力。要理解“自動化場景”下的科學(xué)成果，可能需要同時(shí)考量數(shù)百個(gè)復(fù)雜模型，每個(gè)模型包含數(shù)百個(gè)參數(shù)，且均無法對應(yīng)人類熟悉的概念。即便我們能夠逐個(gè)理解參數(shù)，甚至理解單個(gè)模型，也終究無法實(shí)現(xiàn)所有要素的同步整合。

根據(jù)你對技術(shù)、AI以及奇點(diǎn)（singularity）的偏好差異，上述內(nèi)容可能會讓你覺得極度悲觀，抑或格外振奮。如果你和我一樣，那就只會覺得這純屬奇聞。既然完全“自動化場景”的結(jié)果可能超出我們的理解范圍，那么我們?yōu)槭裁匆度虢?jīng)濟(jì)資源和智力去推動它的發(fā)展？盡管這個(gè)問題經(jīng)常被那種“未來終將到來，不管我們愿不愿意”的簡單論斷所掩蓋，我仍然認(rèn)為，在我們開始有意放棄科學(xué)這一知識寶座之前，依然值得花時(shí)間厘清自己支持這種未來的理由。

支持“自動化場景”的理由之一，在于我們認(rèn)為積極進(jìn)展將隨之而來。超級AI可能不時(shí)創(chuàng)造出新技術(shù)、新資源或解決問題的新方法。鑒于本文的推測篇幅已遠(yuǎn)超預(yù)設(shè)，筆者暫不限定這些產(chǎn)物的具體形態(tài)，僅希望指出超級智能或能不時(shí)推送其判定對人類有益之的研究成果。屆時(shí)，人類工程師（假設(shè)尚未被取代）或?qū)⒔邮诌@些技術(shù)并探尋其應(yīng)用場景，即便他們無法透徹理解其運(yùn)作機(jī)理。

這種情形類似于，雖不了解顯示器顯示圖像或文字處理器運(yùn)行的具體原理，卻不妨礙利用顯示器撰寫此文。此類科研活動將失去當(dāng)代科學(xué)與工程學(xué)的特質(zhì)，更近似于單純的發(fā)現(xiàn)，如同原始人認(rèn)識到藤蔓可以有效捆扎三根樹枝以搭建庇護(hù)所，亦如同人類偶然發(fā)現(xiàn)煤炭、青霉素等物資的實(shí)用價(jià)值。另一種科學(xué)形態(tài)或?qū)殡S而生，即通過對AI的成果進(jìn)行逆向工程，推動并修正人類既有的理論認(rèn)知體系。

推動超級AI科學(xué)發(fā)展的另一理由可能源于審美維度。就個(gè)人而言，當(dāng)我思考社會對科學(xué)的資助機(jī)制時(shí)，審美考量會構(gòu)成一個(gè)強(qiáng)烈的驅(qū)動力。盡管我無力亦無暇通曉所有科學(xué)領(lǐng)域，但目睹眾多杰出科學(xué)家執(zhí)著于追尋人類特有的好奇心，即便這些探索未必能給我的生活或世界觀帶來正向影響，仍能讓我感到美好。這種知曉世界正被認(rèn)知、研究與理解的過程本身，就蘊(yùn)含著令人愉悅的審美體驗(yàn)。這種審美價(jià)值能否延伸至非人類科學(xué)家？或許難以一蹴而就。但那些已學(xué)會與AI共生的未來世代，或?qū)阎С诌@種超人類認(rèn)知的意愿視為一種良性社會的標(biāo)志。

另一種可能性是，人類可能出于對超級AI的善意推動“自動化場景”的實(shí)現(xiàn)，這種看法認(rèn)為我們會相信，讓超級AI自主發(fā)展科學(xué)具有積極意義。盡管我們可能會因?yàn)槌壢斯ぶ悄苷莆樟宋覀兯涣私獾闹R而感到沮喪，甚至?xí)纳话?，但我們?nèi)詴鲇趯@些人造“后裔”的道德責(zé)任感或善意，繼續(xù)推進(jìn)這一進(jìn)程。

此外，某些動因也可能在無意間催生“自動化場景”。例如，人類或許會將在宇宙中散播知識視為自身的道德責(zé)任或天命所歸。如果這種智慧在星際旅途中恰好開展自動化科學(xué)探索，那變順其自然。

同樣存在諸多支持人類放棄推進(jìn)自動化情景。比如有人認(rèn)為超級AI的發(fā)現(xiàn)可能催生新型惡性武器。或者，由于它們需要具備自主且不受約束的智能體（agency），出現(xiàn)世界末日的風(fēng)險(xiǎn)將會增加，例如人類將被奴役或滅絕。也有觀點(diǎn)只是擔(dān)心，某些超級AI或?qū)⒁晕ｋU(xiǎn)、有悖倫理或違背人類共同價(jià)值的方式進(jìn)行實(shí)驗(yàn)。

然而，盡管存在諸多擔(dān)憂，一旦在技術(shù)上可行，我們恐怕仍無力阻止其發(fā)展。最具說服力的原因或許是，資本力量與競爭機(jī)制的裹挾終將使我們步入“自動化場景”。而這種未來可能在沒有深思熟慮的情況下悄然降臨，僅僅因?yàn)榧夹g(shù)可行，或有人想捷足先登，到那時(shí)，無論我們是否經(jīng)過理性抉擇，未來或終將降臨。

敏銳的讀者會注意到，在發(fā)展“自動化場景”的諸多潛在動因中，唯獨(dú)缺失了當(dāng)前驅(qū)動科學(xué)發(fā)展的動機(jī)。我們不會為了增進(jìn)對世界的認(rèn)知與理解、提升對現(xiàn)象解釋力或增強(qiáng)對自然的干預(yù)力量而追求“自動化場景”，這些動機(jī)注定與“自動化場景”的本質(zhì)相悖。“自動化科學(xué)”將搶走人類的認(rèn)知寶座，將我們排除在新發(fā)現(xiàn)的內(nèi)在認(rèn)知視角之外，而這些發(fā)現(xiàn)很可能復(fù)雜到超越我們的理解能力。因此，“自動化科學(xué)”無法滿足人類對理解、闡釋、知識與控制的基本訴求。

或許隨著時(shí)間推移，人類能學(xué)會放棄這些訴求，進(jìn)化為興致缺缺、沒有好奇心的物種。但我對此深表懷疑。正如未來終將到來，這些渴求也必將持續(xù)存在，無論我們是否情愿。

總結(jié)

那么人類將何去何從？在漢弗萊斯的原始論述中，“自動化場景”將取代人類科學(xué)。對此筆者持不同見解。只要人類對理解、闡釋、知識與控制的根本渴求持續(xù)存在，我們就必然通過科學(xué)實(shí)踐來滿足這些渴求。正如人類始終存在創(chuàng)造美的渴求，并在友誼與愛情中追尋人際聯(lián)結(jié)，在生命歷程中探尋與建構(gòu)意義，驅(qū)動科學(xué)探索的原始動機(jī)同樣根植于人性深處。我們注定無法擺脫理解與解釋周遭自然世界的好奇本能。

若“自動化場景”終將實(shí)現(xiàn)，其更可能作為某種新型的、替代性的次要路徑存在，更類似于補(bǔ)充而不是取代。兩個(gè)物種將肩并肩開展科學(xué)研究，各自秉持不同的動機(jī)、興趣、框架與理論體系。而某些科研領(lǐng)域，例如人類對自身思維機(jī)制、決策過程、社會關(guān)系與身體健康的求索，將難以引發(fā)超級AI的研究興趣。

誠然，若我們?nèi)韵Ｍ３秩祟惐拘裕ㄟ@恰是筆者衷心所愿），就必須持續(xù)投身科學(xué)事業(yè)。試問：若失去對美的追尋、對友情的締造、對意義的建構(gòu)，以及那份與生俱來的無盡好奇，人類還剩下什么？或許是我想象力的局限，使我難以勾勒出人類主動摒棄這些基本訴求的未來圖景。雖然，諸多超人類主義者或持不同見解。但我并不認(rèn)為，洞察美、愛、意義及科學(xué)中的善，是缺乏創(chuàng)造力的表現(xiàn)。正相反，就我而言，人類這無可救藥的好奇心恰是希望所在。

原文鏈接：https://aeon.co/essays/when-ais-do-science-it-will-be-strange-and-incomprehensible

1. http://github-phialsbasement/AlphaEvolve-MatrixMul-Verification:VerificationofGoogleDeepMind'sAlphaE

2. https://www.wired.com/story/google-deepminds-ai-agent-dreams-up-algorithms-beyond-human-expertise/

3. https://www.newser.com/story/364628/google-ai-tool-catches-up-to-years-of-research-in-48-hours.html

4. https://research.google/blog/accelerating-scientific-breakthroughs-with-an-ai-co-scientist/

5. https://arxiv.org/html/2401.02843v1

6. https://global.oup.com/academic/product/reconstructing-reality-9780199380275?cc=gb&lang=en&

7. https://aeon.co/videos/for-ludwig-wittgenstein-language-is-a-game-but-not-a-frivolous-one

關(guān)于追問nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問為紐帶，深入探究人工智能與人類智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。如果您有進(jìn)一步想要討論的內(nèi)容，歡迎評論區(qū)留言，或后臺留言“社群”即可加入社群與我們互動。

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元?jiǎng)?chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn)，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項(xiàng)目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎(jiǎng)勵(lì)計(jì)劃、、、大圓鏡科普等。