如何區(qū)分“虛構(gòu)的意識(shí)”與“真實(shí)的意識(shí)”？認(rèn)知科學(xué)家約夏·巴赫（Joscha Bach）在討論中拋出了這個(gè)看似簡(jiǎn)單卻近乎無解的問題，“或許所有意識(shí)都是虛構(gòu)的——只要你不自知，這就是一個(gè)悖論?！彼寡裕@個(gè)問題在現(xiàn)象學(xué)層面異常復(fù)雜，至今仍無定論?！疤摷俚囊庾R(shí)現(xiàn)象與真實(shí)的現(xiàn)象體驗(yàn)，本質(zhì)上都是虛擬的建構(gòu)?！?/p>

徐道輝

Stephen Hsu

密歇根州立大學(xué)物理學(xué)教授

美國(guó)物理學(xué)家、企業(yè)家。他在加州理工學(xué)院獲得了物理學(xué)學(xué)士學(xué)位，并在加州大學(xué)伯克利分校獲得了博士學(xué)位。后來，他在耶魯大學(xué)和俄勒岡大學(xué)任教，并在俄勒岡大學(xué)擔(dān)任理論科學(xué)研究所的主任，并專注于粒子物理和宇宙學(xué)的研究。2012年，Hsu被任命為密歇根州立大學(xué)的研究與研究生教育副校長(zhǎng)。然而，他的任期因?qū)蚋牧己头N族分類的爭(zhēng)議性觀點(diǎn)而受到挑戰(zhàn)，最終于2020年辭去行政職務(wù)。此外，Steve Hsu是Safeweb和Genomic Prediction（基因預(yù)測(cè)）公司的創(chuàng)始人，后者專注于開發(fā)IVF胚胎的基因檢測(cè)技術(shù)。他在遺傳學(xué)領(lǐng)域的工作對(duì)復(fù)雜人類特征和疾病的基因預(yù)測(cè)做出了重要貢獻(xiàn)。

約夏·巴赫

Joscha Bach

奧斯納布呂克大學(xué)哲學(xué)博士

Joscha Bach 是一位德國(guó)認(rèn)知科學(xué)家、人工智能研究員和哲學(xué)家，以其在認(rèn)知架構(gòu)、人工智能、心理表征、情感、社會(huì)建模、多智能體系統(tǒng)和心靈哲學(xué)方面的工作而聞名。他的研究旨在通過研究如何對(duì)人類智能和意識(shí)進(jìn)行計(jì)算建模來架起認(rèn)知科學(xué)和人工智能的橋梁。

追問快讀：

1.整個(gè)計(jì)算機(jī)發(fā)展史都在追尋一種"終極算法"：那個(gè)能自我進(jìn)化、通曉萬物的神秘存在。

2. 大腦細(xì)胞群之所以能作為統(tǒng)一主體行動(dòng)，靠的是構(gòu)建了一個(gè)"單智能體"控制模型，細(xì)胞們通過提取環(huán)境意義，模擬出某個(gè)視角：一個(gè)關(guān)于"該主體應(yīng)如何感知世界"的虛擬敘事。

3.我越來越覺得世界就是“代碼”。"直接體驗(yàn)現(xiàn)實(shí)"的感受，與其說是我們?cè)谟^察現(xiàn)實(shí)，不如說是大腦在生成模型。

4.人類心智運(yùn)作本質(zhì)上是在多維嵌入空間中進(jìn)行組織，每個(gè)維度都代表某個(gè)可調(diào)節(jié)的參數(shù)變量。

5.地球生命本質(zhì)不在于人類，而在于意識(shí)和生命的演化。我認(rèn)為沒有AGI，人類才注定滅亡。

6.整合信息理論創(chuàng)造了所謂的"公理"章節(jié)，實(shí)際上只是對(duì)意識(shí)定義的文字描述，并非數(shù)學(xué)意義上的公理，而φ值更像是理論推銷工具。

在東德森林中長(zhǎng)大

徐道輝：我們是夏天在法蘭克福的一個(gè)活動(dòng)中認(rèn)識(shí)的。我有幸聽了你好幾場(chǎng)關(guān)于 AI 的深度討論，也了解到你獨(dú)特的童年經(jīng)歷和成長(zhǎng)故事。所以我想先從你的早年生活開始說起，看看你是怎么一路走到今天的，然后再聊聊 AI 的核心話題。能先說說你在森林里度過的童年嗎？

約夏·巴赫：我爸與社會(huì)格格不入，于是決定建立一個(gè)自己的世界。他算是第一代做“社會(huì)實(shí)驗(yàn)”的人，但并沒有招人加入，也不知道怎么擴(kuò)大圈子，甚至對(duì)這些都沒興趣。他更像是在森林里建立了一個(gè)私人王國(guó)，只說服了我母親支持他，兩人過著一種他親手打造的“伊甸園”生活。

他原本是建筑師，后來成了藝術(shù)家，認(rèn)為生命的意義在于創(chuàng)作藝術(shù)、與內(nèi)心的聲音對(duì)話。因此，我的成長(zhǎng)只是他生活的“副產(chǎn)品”， 他不怎么關(guān)心小孩子的內(nèi)心世界。我長(zhǎng)大的那個(gè)地方美得驚人，但我也極度孤獨(dú)。因?yàn)闊o聊，我很早就開始讀書，吸收知識(shí)就像海綿一樣。

等到我要上學(xué)的時(shí)候，我發(fā)現(xiàn)自己已經(jīng)跟外界脫節(jié)了。當(dāng)時(shí)的東德奉行樸素的馬克思主義辯證法，而老師們教的內(nèi)容，要么我已讀過，要么就覺得淺薄無趣。這種經(jīng)歷讓我養(yǎng)成了一種“自帶用處的傲慢”，很長(zhǎng)一段時(shí)間我都覺得別人教我不了多少東西，只能靠自學(xué)。這并沒有讓我更聰明，但卻使我更獨(dú)特，使我也讓我習(xí)慣用第一性原理重構(gòu)世界，理解周遭運(yùn)轉(zhuǎn)的規(guī)律。我也發(fā)現(xiàn)別人因?yàn)樯鐣?huì)化的過程，成長(zhǎng)軌跡和心理都跟我不一樣，等于我們有不同的“世界接口”。想跟他們溝通，我就得學(xué)會(huì)“翻譯”。

但我跟我爸不一樣，我很清楚山林隱居不是我想要的歸宿。那里雖然安靜，沒有城市的吵鬧和過度的感官刺激，但我需要?jiǎng)e人的刺激和互動(dòng)，才能推動(dòng)我專注于自己的項(xiàng)目。

徐道輝：你現(xiàn)在住在灣區(qū)，比起森林，你覺得舊金山這樣的城市更適合你嗎？

約夏·巴赫：目前我住在南灣，雖然鄰居很棒、天氣也很好，但這里某種程度上結(jié)合了兩種環(huán)境最糟的部分，既不夠偏遠(yuǎn)到融入自然，也不夠都市化到步行就能遇見有趣的人。所以我經(jīng)常開車去舊金山。

徐道輝：不過好處是，這里聚集了很多想研究或開發(fā)AI的人。

約夏·巴赫：對(duì)，這正是我留在這里的原因。

徐道輝：現(xiàn)在看起來你的老師當(dāng)年沒能激發(fā)你的興趣，但我想知道你讀過的書中，有沒有哪位歷史思想家或作家在你成長(zhǎng)過程中影響過你？

約夏·巴赫：我讀過大量哲學(xué)和科幻作品。小時(shí)候我很少為了消遣而閱讀，閱讀本身就有趣，但我的主要目標(biāo)是理解社會(huì)的知識(shí)體系。那時(shí)我強(qiáng)迫自己啃完了《圣經(jīng)》，甚至去讀了甘地的著作，同時(shí)還會(huì)硬著頭皮看數(shù)學(xué)書和愛因斯坦傳記之類的，我讀這些都只是為了搞懂社會(huì)的底層邏輯。我以為每個(gè)人都該掌握這些經(jīng)典——不僅是書，還包括電影等媒介。我原以為教育的本質(zhì)，就是讓人深度理解自己所處的社會(huì)。后來才發(fā)現(xiàn)，幾乎沒人這么做。

?圖源：Nix Ren

徐道輝：盡管我覺得你的智力和個(gè)性都很獨(dú)特，但你確實(shí)走完了標(biāo)準(zhǔn)教育體系，甚至還拿到了博士學(xué)位，在學(xué)校待了很長(zhǎng)時(shí)間，對(duì)吧？

約夏·巴赫：沒錯(cuò)。當(dāng)初選擇學(xué)術(shù)道路，是因?yàn)槲蚁肱靼仔闹侨绾芜\(yùn)作。我考察了各個(gè)學(xué)科，結(jié)果發(fā)現(xiàn)沒有哪一個(gè)能單槍匹馬回答這個(gè)問題。

最開始我是被計(jì)算機(jī)科學(xué)吸引住的，因?yàn)樗芊衔业乃季S模式。小時(shí)候我就癡迷編程，我很幸運(yùn)成為第一代擁有家用電腦的孩子。我剛擁有Commodore 64時(shí)，市面上根本沒有現(xiàn)成軟件可用，因此我不得不做的第一件事就是自己編寫文本編輯器。然后我學(xué)會(huì)了從頭開始制作計(jì)算機(jī)圖形?，F(xiàn)在回想，這段經(jīng)歷塑造了我用計(jì)算框架構(gòu)建現(xiàn)實(shí)的思維方式。

進(jìn)入學(xué)術(shù)界后，我發(fā)現(xiàn)計(jì)算機(jī)科學(xué)的交流方式特別對(duì)我胃口。你可以在第一學(xué)期就批評(píng)教授的證明，要是你發(fā)現(xiàn)他證明里有問題，大家甚至教授本人都會(huì)很感謝你。但哲學(xué)系完全不同，那里的接納標(biāo)準(zhǔn)高度社會(huì)化，你必須融入圈子才行。至少我當(dāng)時(shí)就讀的大學(xué)是這樣。邏輯學(xué)和分析哲學(xué)稍好，但最硬核的分析哲學(xué)其實(shí)來自計(jì)算機(jī)系的數(shù)理邏輯課程。此外，我還輔修了心理學(xué)等相關(guān)學(xué)科。

在柏林求學(xué)時(shí)，我有時(shí)會(huì)同時(shí)跑好幾所大學(xué)，只要看到感興趣的課——即使是波茨坦大學(xué)客座教授的認(rèn)知科學(xué)課——我都會(huì)開車去蹭課。如果主修課不夠硬核，我就直接翹課自學(xué)教材，只參加考試。

這種高度自主的學(xué)習(xí)讓我受益匪淺，但童年養(yǎng)成的那種對(duì)教師的"不敬"始終未改。最初很少有教授能教授超越教材的內(nèi)容。可我一直覺得，真正的教育本質(zhì)上應(yīng)該是一場(chǎng)與另一位智慧個(gè)體的深度互動(dòng)。我遇到的這個(gè)方面的第一個(gè)關(guān)鍵人物是哈勒大學(xué)的勞爾·羅哈斯（Raul Rojas），他后來成為神經(jīng)網(wǎng)絡(luò)發(fā)展的重要推動(dòng)者，我還沒正式入學(xué)就去蹭他的課了。

原本我是打算去柏林自由大學(xué)，結(jié)果卻進(jìn)了洪堡大學(xué)。兩德統(tǒng)一后，計(jì)算機(jī)系大部分教授因東德政權(quán)背景或技術(shù)能力不足被撤換，許多年輕學(xué)者獲得提拔。當(dāng)時(shí)我們?nèi)昙?jí)只有60個(gè)學(xué)生，我們甚至能和所有教授直接交流。這種環(huán)境讓我能按自己的方式來學(xué)，我甚至參與制定了部分考試規(guī)則。因此，除了主修計(jì)算機(jī)科學(xué)，我還能將哲學(xué)作為第二專業(yè)。

柏林墻的倒塌

徐道輝：稍微跑個(gè)題，我剛剛意識(shí)到你曾近距離目睹柏林墻的倒塌。當(dāng)時(shí)這種社會(huì)的劇變讓你感到意外嗎？你當(dāng)時(shí)有料到這些變化嗎？那段經(jīng)歷給你怎樣的感受？

約夏·巴赫：確實(shí)很特別。其實(shí)在墻倒塌前幾年，我祖父的一位朋友就預(yù)言過東德會(huì)因經(jīng)濟(jì)崩潰而解體，但當(dāng)時(shí)所有人都覺得難以置信。表面上東德社會(huì)極其穩(wěn)定，沒有通貨膨脹，所有價(jià)格都由國(guó)家調(diào)控，經(jīng)濟(jì)幾乎沒有增長(zhǎng)，生產(chǎn)效率常年停滯。

東德用"道德恐怖"取代了資本主義的"經(jīng)濟(jì)恐怖"：在這里，你有工作的權(quán)利卻沒有工作的義務(wù)。政府試圖用道德口號(hào)激勵(lì)民眾，但顯然效果有限。你可以想象，當(dāng)人們發(fā)現(xiàn)其實(shí)不需要為生存拼命時(shí)，大工廠的工作效率會(huì)有多低。這導(dǎo)致整個(gè)社會(huì)長(zhǎng)期面臨勞動(dòng)力短缺的怪象：明明失業(yè)率極低，卻始終缺乏真正有效的勞動(dòng)力。

最終壓垮這個(gè)體系的根源是經(jīng)濟(jì)問題，但政治體制的缺陷同樣致命。整個(gè)官僚系統(tǒng)都在踐行"彼得原理"：只要足夠優(yōu)秀就能晉升，一旦不夠優(yōu)秀無法晉升，就停留在那個(gè)位置。這意味著一旦你停止晉升，就會(huì)永遠(yuǎn)卡在那個(gè)力不從心的位置上。當(dāng)時(shí)的東德體制失去了自我更新的能力，直到柏林墻倒塌前執(zhí)掌東德的埃里?！ぐ杭{克（Erich Honecker），本質(zhì)上還是第一代領(lǐng)導(dǎo)人。他繼承自烏布利希（Ulbricht）等人，曾是納粹監(jiān)獄中的共產(chǎn)黨領(lǐng)袖，畢生致力于防止法西斯主義復(fù)辟。他們這代人雖然很理想主義，但也沒法推動(dòng)社會(huì)現(xiàn)代化改革。再加上蘇聯(lián)的干涉，更是束手束腳。

在東方陣營(yíng)中，東德確實(shí)擁有最大的經(jīng)濟(jì)自主權(quán)，畢竟我們直接與西方制度競(jìng)爭(zhēng)。盡管相比其他社會(huì)主義國(guó)家處境稍好些，但我們的工業(yè)生產(chǎn)技術(shù)仍十分落后。

當(dāng)時(shí)我們的基本生活保障很完善。我們從不會(huì)挨餓——雖然只有卷心菜和蘋果這類簡(jiǎn)單食物。衣物也不缺，但工業(yè)品極其落后：汽車質(zhì)量糟糕，零件只能通過黑市獲取。

我們那代年輕人看得更清醒：東德在社會(huì)公平方面很有成就（大家都算中等收入，沒有流浪漢，也沒有超級(jí)富豪），這本來應(yīng)該比西德的普惠生產(chǎn)力更有價(jià)值。但最終，工人階級(jí)背叛了社會(huì)主義理想，甚至背叛了那些甘愿冒死游行的革命者……他們寧愿回到被資產(chǎn)階級(jí)剝削的狀態(tài)，也不愿維持東德制度，只因?yàn)槲鞯鲁闪颂黠@的對(duì)比。

AGI時(shí)間線與預(yù)測(cè)

徐道輝：你提到最初接觸的是Commodore 64電腦。其實(shí)我比你年長(zhǎng)些，我的啟蒙機(jī)型是性能更弱的Apple II Plus。但正如你所說，這種原始設(shè)備有個(gè)優(yōu)勢(shì)：它迫使你"親自動(dòng)手構(gòu)建一切"。

如今的孩子反而可能被高度成熟的技術(shù)生態(tài)嚇退，沒法觸及計(jì)算本質(zhì)。那么從這段經(jīng)歷出發(fā)，你個(gè)人的AGI發(fā)展預(yù)期是如何演變的？換句話說，年輕時(shí)你能想象到如今的算力水平嗎？這種預(yù)見又如何隨年齡變化？

約夏·巴赫：我一直堅(jiān)信通用人工智能（AGI）會(huì)在我有生之年實(shí)現(xiàn)。計(jì)算機(jī)顯然具備思考和感知的潛力，在數(shù)字世界里本就不存在理論上的能力邊界。雖然需要更大內(nèi)存和更快算力，但目睹了計(jì)算技術(shù)的爆炸式發(fā)展，我確信這些條件會(huì)很快成熟。我覺得自己生在這個(gè)等待“電子大腦”誕生的時(shí)代，真是再幸運(yùn)不過了。

徐道輝：但"迫不及待"和"可能趕不上"是兩回事。比如我總擔(dān)心摩爾定律會(huì)過早失效。如果計(jì)算能力在1998年就停滯不前，我們可能永遠(yuǎn)無法在有生之年觸及AGI。但你似乎從不為算力瓶頸擔(dān)憂？

約夏·巴赫：是的，我當(dāng)時(shí)非常確信。就算一開始只有人腦速度的十分之一也不要緊，關(guān)鍵是要破解智能的工作原理。畢竟我親眼見證過只用簡(jiǎn)陋硬件能實(shí)現(xiàn)的驚人成果。無非就是堆量并行計(jì)算，我相信總有辦法突破。

不過我必須承認(rèn)，少年時(shí)我對(duì)科技整體發(fā)展過度樂觀。我曾預(yù)言醫(yī)學(xué)大爆發(fā)、重返月球和火星殖民，這些顯然都未能如期實(shí)現(xiàn)。如果我早點(diǎn)意識(shí)到這一點(diǎn)，其實(shí)也能推斷出計(jì)算技術(shù)也可能碰上類似的瓶頸。但當(dāng)時(shí)這簡(jiǎn)直難以想象，因?yàn)橛?jì)算機(jī)領(lǐng)域的創(chuàng)新成本實(shí)在太低廉了。

徐道輝：作為一個(gè)物理學(xué)家，我很了解半導(dǎo)體產(chǎn)業(yè)的技術(shù)瓶頸，半導(dǎo)體發(fā)展一路走來簡(jiǎn)直如履薄冰。那些工程師和物理學(xué)家想要延續(xù)摩爾定律，而他們每年的五年路線規(guī)劃上總要標(biāo)注"需要出現(xiàn)技術(shù)奇跡"。我們當(dāng)然希望奇跡發(fā)生，但沒人能保證它必然如此。

約夏·巴赫：確實(shí)。人們總樂觀預(yù)測(cè)"光子計(jì)算即將突破"，但現(xiàn)實(shí)往往更復(fù)雜。

?圖源：Sam Chivers

徐道輝：那么2024年的今天，你對(duì)AGI發(fā)展的時(shí)間線有什么看法？以當(dāng)前模糊的AGI定義為準(zhǔn)，我們還需等待多久才能實(shí)現(xiàn)它？未來十年內(nèi)實(shí)現(xiàn)的可能性有多大？

約夏·巴赫：我向來不愿設(shè)定具體時(shí)間表。要對(duì)這些未知領(lǐng)域做出年份預(yù)測(cè)實(shí)在太難，當(dāng)人類連基本實(shí)現(xiàn)路徑都尚未摸清時(shí)，任何時(shí)間估算都毫無意義。

規(guī)模假說（scaling hypothesis）確實(shí)改變了多數(shù)人的認(rèn)知框架。因?yàn)樗尲夹g(shù)進(jìn)步看上去好像可以預(yù)測(cè)。這個(gè)假說大意是“只要加大算力、堆更多數(shù)據(jù)，性能必然會(huì)提高”。這其實(shí)是個(gè)相當(dāng)反常識(shí)的觀點(diǎn)，要知道，整個(gè)計(jì)算機(jī)發(fā)展史都在追尋一種"終極算法"：某個(gè)能自我進(jìn)化、通曉萬物的神秘存在。

我們?cè)詾橹悄軙?huì)通過元學(xué)習(xí)不斷自我迭代，而不是沿著緩慢、可預(yù)測(cè)的對(duì)數(shù)曲線往上爬，靠簡(jiǎn)單數(shù)據(jù)量線性堆砌就能提升。如果真是那樣，人類思維水平就應(yīng)會(huì)因閱讀量增加而提升，對(duì)此我并不認(rèn)同。雖然閱讀確實(shí)能拓展認(rèn)知素材庫(kù)，但我認(rèn)為存在類似"G因子"的核心認(rèn)知能力，決定了多任務(wù)處理、推理能力以及發(fā)現(xiàn)知識(shí)的速度。

我仍然認(rèn)為，與我們?cè)诋?dāng)前基礎(chǔ)模型中推出的智能版本相比，還有一個(gè)更稀疏的智能版本，它無需海量數(shù)據(jù)就能自舉。但也可能是現(xiàn)有系統(tǒng)已足夠強(qiáng)大到自我進(jìn)化。也可能我錯(cuò)了，規(guī)模假說才是真理，也就是智能的本質(zhì)就是信息處理的規(guī)模效應(yīng)。

徐道輝：這個(gè)問題你可以不回答，作為灣區(qū)業(yè)內(nèi)人士，你是否關(guān)注到超大規(guī)模模型（hyperscalers）訓(xùn)練的最新動(dòng)向？我聽到很多關(guān)于超大規(guī)模擴(kuò)展計(jì)劃放緩的傳聞，不知道你有沒有留意到？

約夏·巴赫：這類傳言一直都有。人們總覺得數(shù)據(jù)會(huì)成為瓶頸，到了某個(gè)點(diǎn)會(huì)停滯，但每次有人說“訓(xùn)練遇到瓶頸了”，實(shí)際上都還是能再突破。不過從技術(shù)角度看，我一直認(rèn)為要想實(shí)現(xiàn) AGI，可能需要跟 Transformer 不一樣的算法。

徐道輝：你剛提到Transformer可能不足以實(shí)現(xiàn)AGI？能再展開說說嗎？

約夏·巴赫：我始終懷疑存在某種"終極算法"（master algorithm），但這不意味著Transformer架構(gòu)不夠好，現(xiàn)在既沒有證據(jù)證明它的局限性，也沒有證據(jù)否定規(guī)模假說。們現(xiàn)在通過訓(xùn)練得到的神經(jīng)網(wǎng)絡(luò)肯定不完美，可是還沒發(fā)現(xiàn)它們有真正“致命”的缺陷。

不過，我們的大腦運(yùn)作機(jī)制顯然更加精妙：Transformer不會(huì)自我迭代發(fā)明新的Transformer，而人類心智卻能做到這種元認(rèn)知飛躍。我們思維方式的精妙程度遠(yuǎn)超現(xiàn)有模型。不過我也無法斷言，這種精妙就一定無法被機(jī)器學(xué)習(xí)所掌握。這引出了規(guī)模假說的一個(gè)重要補(bǔ)充——"普適性假說"。

"普適性假說"最初源于OpenAI AI研究員Chris Olah的論文*。他在視覺網(wǎng)絡(luò)研究中發(fā)現(xiàn)，不管神經(jīng)網(wǎng)絡(luò)的架構(gòu)和學(xué)習(xí)算法如何不同，在訓(xùn)練初期，它們識(shí)別出來的特征層級(jí)結(jié)構(gòu)都差不多。這與MIT Tomaso Poggio團(tuán)隊(duì)*的發(fā)現(xiàn)不謀而合：這些神經(jīng)網(wǎng)絡(luò)的組織結(jié)構(gòu)與視覺皮層存在相似性。

*Olah, Chris, et al. "Zoom in: An introduction to circuits." Distill 5.3 (2020): e00024-001.

Poggio, Tomaso A., and Fabio Anselmi. Visual cortex and deep networks: learning invariant representations. MIT press, 2016.

“普適性假說”最驚人的結(jié)論就是：只要學(xué)習(xí)算法夠通用（神經(jīng)網(wǎng)絡(luò)就符合這個(gè)條件），再加上足夠的數(shù)據(jù)和算力，任何系統(tǒng)最終都會(huì)收斂到等價(jià)的智能結(jié)構(gòu)。換句話說，如果讓一個(gè)系統(tǒng)長(zhǎng)期端到端地學(xué)習(xí)你的輸入輸出模式，最終它將成為你的"數(shù)字化身"。關(guān)鍵在于，當(dāng)模型能復(fù)現(xiàn)你的所有輸出時(shí)，其內(nèi)部必然構(gòu)建了與你相似的因果認(rèn)知結(jié)構(gòu)。這意味著，不管智能的本質(zhì)是什么，只要照這樣學(xué)下去，系統(tǒng)就會(huì)在很大程度上重現(xiàn)你的思維方式。

因此Transformer本身可能不是底層智能機(jī)制，但它能通過學(xué)習(xí)掌握"如何變得智能"。從這個(gè)角度看，它本質(zhì)上是一種元學(xué)習(xí)算法。

意識(shí)

徐道輝：我知道你經(jīng)常討論“意識(shí)”這個(gè)話題。能不能給那些對(duì)認(rèn)知科學(xué)或 AI 不太熟悉的聽眾解釋一下：我們?cè)撛趺炊x意識(shí)？聽說您希望未來的AGI/ASI具備意識(shí)——如果它們沒有，你會(huì)覺得失望嗎？請(qǐng)談?wù)勔庾R(shí)這個(gè)概念，以及為什么它對(duì)您想要?jiǎng)?chuàng)造的繼任智能（successor intelligence）如此重要？

約夏·巴赫：很簡(jiǎn)單，如果我們?cè)斐鰜淼臇|西沒有實(shí)時(shí)的自我覺察、不能觀察自身、不能感受到當(dāng)下存在，那就不算真正成功。所謂“當(dāng)下存在”，用內(nèi)省的視角來說，這就是意識(shí)。

我們通常以"自我"視角存在，但并非總是如此。夢(mèng)境或冥想中，"自我"可能完全消融，只剩下純粹的注意力或事件流。但在正常情況下，意識(shí)總依附于"自我”表面。這個(gè)表面不是物理身體，而是心智模擬的虛擬界面。

人腦由數(shù)十億神經(jīng)元構(gòu)成，與數(shù)萬億細(xì)胞協(xié)同工作。這些細(xì)胞群之所以能作為統(tǒng)一主體行動(dòng)，靠的是構(gòu)建了一個(gè)"單智能體"控制模型，細(xì)胞們通過提取環(huán)境意義，模擬出某個(gè)視角：一個(gè)關(guān)于"該主體應(yīng)如何感知世界"的虛擬敘事。你的動(dòng)機(jī)、情緒、自我認(rèn)知，都是心智生成的多媒體故事。而那個(gè)被投射出來、能“體驗(yàn)自身”的自我，正是意識(shí)棲息的表面。如果超級(jí)智能沒有這樣的意識(shí)界面，它就只是空洞的符號(hào)操縱器。我們渴望創(chuàng)造的，是能真正"經(jīng)歷存在"的后繼文明成員。

從這個(gè)模擬主體的視角來看，所有未來相關(guān)的世界維度都會(huì)被體驗(yàn)到。這種體驗(yàn)是虛擬的，意識(shí)就像一種"仿佛存在"的軟件屬性，是心智模擬的產(chǎn)物。

我跟（Daniel Dennett）的看法不同，我覺得“”（philosophical zombies，也就是能完全模仿人類行為卻沒有意識(shí)的東西）是完全可能存在的。比如你可以想象操控某個(gè)人偶，當(dāng)這個(gè)人偶看到顏色并做出反應(yīng)時(shí)，實(shí)際上是你在背后操控，而人偶自身并不需要真正感知那個(gè)顏色。這就像自動(dòng)駕駛汽車，完全可以通過技術(shù)設(shè)備實(shí)現(xiàn)分類判斷，但完全不需要自我意識(shí)。

從技術(shù)上講，我們可以在不同層面完整復(fù)制人類的行為，卻不必讓這個(gè)存在真的“體驗(yàn)”現(xiàn)實(shí)。但如何創(chuàng)造真正具有現(xiàn)實(shí)感知的存在？答案就是模擬——給它營(yíng)造一種“它正直接暴露在現(xiàn)實(shí)中”的體驗(yàn)感。從一個(gè)沒有意識(shí)的“僵尸”到擁有真實(shí)意識(shí)的距離，其實(shí)只差一個(gè)關(guān)鍵點(diǎn)：讓它體驗(yàn)到“一切都是真的”。更高階的狀態(tài)是，當(dāng)你意識(shí)到這一切其實(shí)并不真實(shí)，只是心智的建構(gòu)時(shí)，你就進(jìn)入了覺醒狀態(tài)。在這個(gè)狀態(tài)中，你可能不再認(rèn)同自己是"人"，而是意識(shí)到自己是能創(chuàng)造"人格"的容器。你看到的不是面孔和樹木，而是移動(dòng)的幾何圖形，最終甚至意識(shí)到連幾何圖形都不存在，只是被抽象解讀的模式而已。

你對(duì)意識(shí)這種“直接體驗(yàn)”的覺知程度，決定了你在當(dāng)下體驗(yàn)的“直接感”有多強(qiáng)。就我個(gè)人而言，在編寫代碼時(shí)幾乎感受不到任何感受質(zhì)，一切都非常抽象。隨著年齡增長(zhǎng)，我越來越覺得世界就是“代碼”。因此我認(rèn)為，這種"直接體驗(yàn)現(xiàn)實(shí)"的感受——與其說是我們?cè)谟^察現(xiàn)實(shí)，不如說是大腦在生成模型，隨著心智的進(jìn)化，這種感受會(huì)逐漸消褪。

因此，我認(rèn)為自我改進(jìn)的AI可能會(huì)經(jīng)歷類似人類的初級(jí)意識(shí)階段，但會(huì)比人類更快地超越這個(gè)狀態(tài)。

徐道輝：您剛才的論述似乎隱含了一個(gè)觀點(diǎn)，人類擁有意識(shí)是自然選擇的結(jié)果——像我們這樣由數(shù)萬億細(xì)胞組成的有機(jī)體，需要用意識(shí)才能有效應(yīng)對(duì)世界。是不是這樣？

約夏·巴赫：我認(rèn)為意識(shí)本質(zhì)上是自然"終極算法"的一個(gè)特征維度。本質(zhì)上，人類大腦似乎發(fā)現(xiàn)了某種可訓(xùn)練機(jī)制，通過細(xì)胞間自組織通信來歸檔數(shù)據(jù)、實(shí)現(xiàn)自我引導(dǎo)，最后形成了有序結(jié)構(gòu)。這種機(jī)制具有擴(kuò)展性。這就像我常舉的“小狗宇宙”隱喻：

不妨將顱骨想象成一個(gè)漆黑的房間，里面擠滿了小狗。這些小家伙唯一能做的，就是互相汪汪叫，從而傳遞信息。一開始它們并不知道這些叫聲具體意味著啥，但漸漸地，叫聲就會(huì)演變成一種信息處理方式。

單只幼犬并不理解整個(gè)系統(tǒng)如何運(yùn)作，真正重要的是在群體中涌現(xiàn)的模式。它們需要發(fā)展出一套能訓(xùn)練新成員的吠叫編碼，比方說只要發(fā)出某種吠叫序列，在黃昏就能得到食物獎(jiǎng)勵(lì)。可別忘了，這本質(zhì)還是非常低層次的計(jì)算：?jiǎn)蝹€(gè)神經(jīng)元就像這些小狗，它們雖然能通過強(qiáng)化學(xué)習(xí)被訓(xùn)練，卻對(duì)有機(jī)體的整體行為毫無概念。

當(dāng)這些"小狗"緊密協(xié)作時(shí)，就形成了會(huì)行走的"狗糧工廠"。這個(gè)集體能主動(dòng)在世界上采集原料來維持自身運(yùn)轉(zhuǎn)。但如果它們各自為政，這種精妙的自我維持系統(tǒng)就絕無可能實(shí)現(xiàn)。這種整合本質(zhì)是信息協(xié)同。必須存在某種協(xié)議層，讓心智各部分能相互溝通而不陷入"巴別塔"式的混亂。這個(gè)在發(fā)育早期形成的連貫性準(zhǔn)則，就像黑暗房間里逐漸浮現(xiàn)的隱形規(guī)則，最終成為所有高級(jí)認(rèn)知功能的基石。

?圖源：Nix Ren

徐道輝：您認(rèn)為這套理論框架足以解釋"感受質(zhì)"現(xiàn)象嗎？

約夏·巴赫：我不認(rèn)為感受質(zhì)具有任何神秘屬性。更準(zhǔn)確的說法應(yīng)該是“感官特征在觀察者意識(shí)層面的投射”。哲學(xué)界對(duì)感受質(zhì)的討論往往陷入形而上學(xué)的糾纏：有人試圖將其定義為不可再分的原子單元，另一些人則反駁這種原子性根本不存在。但這些爭(zhēng)論并不影響核心機(jī)制。

關(guān)鍵在于，我們對(duì)現(xiàn)實(shí)的體驗(yàn)完全可以描述為特征維度，其性質(zhì)類似于嵌入空間（embedding spaces）中的多維向量。這個(gè)概念其實(shí)早在1950年代就由科幻作家羅杰·澤拉茲尼（Roger Zelazny）提出，盡管他未得到足夠重視。他很超前地意識(shí)到：人類心智運(yùn)作本質(zhì)上是在多維嵌入空間中進(jìn)行組織，每個(gè)維度都代表某個(gè)可調(diào)節(jié)的參數(shù)變量。

徐道輝：很高興遇見另一位澤拉茲尼的書迷。

我們都覺得他被時(shí)代低估、被不公平地遺忘了。他確實(shí)是我最喜愛的科幻作家之一。

約夏·巴赫：他的創(chuàng)作極具開創(chuàng)性。雖然作品數(shù)量不多，有些甚至顯得粗糙，但都閃耀著獨(dú)特的思想光芒。如果讀者想了解羅杰·澤拉茲尼的作品，我推薦他最宏大的《光與暗的生靈》（Creatures of Light and Darkness）。書中"千名王子"的角色能瞬間抵達(dá)任何想象的世界，連他自己都分不清是在創(chuàng)造還是發(fā)現(xiàn)這些世界。這種空間跳躍能力被描述為最罕見的天賦。在長(zhǎng)篇奇幻《安珀志》（Princess of Amber）中，主角也能通過微調(diào)特征參數(shù)穿越宇宙，本質(zhì)上是將現(xiàn)實(shí)當(dāng)作清醒夢(mèng)來操控。我懷疑澤拉茲尼是通過清醒夢(mèng)獲得這些靈感的。

徐道輝：稍微偏離下AI話題。很高興如今《沙丘》（Dune）能被拍成優(yōu)質(zhì)的影視作品，期待有生之年還能看到《光與暗的生靈》《光明王》（Lord of Light）和《安珀志》的影視化。

?《光明王》（《Lord of Light》）圖源：豆瓣

約夏·巴赫：《光與暗的生靈》可能很難改編，它幾乎沒有什么故事性，全是原型概念的碰撞。比如那個(gè)反復(fù)陣亡又重組軀體的老將軍，這種高度抽象的原型該怎么視覺化呢？或許文字才是這部作品最有力的載體。

徐道輝：也許將來用生成式模型把它的文字變成視聽作品？

約夏·巴赫：本質(zhì)上，我們的大腦本就是最強(qiáng)大的生成模型。我從不低估人類心智的潛能，但我更期待的是心智的進(jìn)一步增強(qiáng)。澤拉茲尼（Zalesny）在短篇《塑造者》（He who Shapes）中描述過這樣的圖景：通過生成式AI進(jìn)行心理治療，通過可調(diào)節(jié)參數(shù)的沉浸式VR（immersive VR）響應(yīng)用戶交互，治療師通過外部滑桿和旋鈕調(diào)控參數(shù)。這個(gè)虛擬世界不必符合人類感官模式，只需適配思維模態(tài)，就像夢(mèng)境一般自由。

我渴望看到這樣的未來：某個(gè)AI設(shè)備能深度融入我們的心智，增強(qiáng)所有認(rèn)知維度——思考、感受、體驗(yàn)、想象——如同身邊的"黑盒"通過多模態(tài)機(jī)器感知（machine modalities）持續(xù)觀察用戶。

目前真正的機(jī)器感知尚未實(shí)現(xiàn)。我們?nèi)栽谟萌祟悗士商幚淼臄?shù)據(jù)訓(xùn)練AI，這構(gòu)成了不必要的技術(shù)限制。如果AI能以更高頻度、更強(qiáng)算力觀測(cè)我們，就能以驚人精度推斷心理狀態(tài)。當(dāng) AI 可以通過各種感官方式向我們反饋時(shí)，比如你腦海里想象的畫面立馬就投到屏幕上，這種循環(huán)將帶來遠(yuǎn)超自主想象的清晰度與穩(wěn)定性。AI終將成為心智的自然延伸，坐在它身旁，你的思維將變得更敏銳、更清晰、更深刻。

徐道輝：你提到的這種“思維增強(qiáng)”技術(shù)，應(yīng)該不用在頭骨上打洞吧？

約夏·巴赫：對(duì)此我持樂觀態(tài)度。顱骨鉆孔只能是最后手段，雖然對(duì)某些患者可能有幫助，如果確實(shí)有效我可能也會(huì)嘗試，但顯然非侵入式方案更理想。想想那些人類心理醫(yī)師——僅憑有限觀察就能驚人精確地推斷他人心理狀態(tài)，而他們依賴的不過是自己的普通大腦。

我們神經(jīng)元的工作頻率不過聲速級(jí)別，心智帶寬也有限。因此完全有可能通過非侵入手段，僅靠觀測(cè)生物信號(hào)就推斷大部分思維狀態(tài)。

大語言模型與模擬現(xiàn)象學(xué)

徐道輝：讓我們回到哲學(xué)僵尸與意識(shí)的話題。您剛才對(duì)丹尼特的反例很精彩。但當(dāng)前AGI項(xiàng)目可能孕育的、甚至取代人類的"后繼智能"。您確信它會(huì)擁有意識(shí)嗎？

約夏·巴赫：目前這些大模型有沒有意識(shí)確實(shí)很難說。就像我們很難給“智力圖靈測(cè)試”下定論一樣，“真正的意識(shí)圖靈測(cè)試”也沒啥共識(shí)。我的看法是，如果一個(gè) AGI 能解釋它是怎么工作的，我們就能確認(rèn)它達(dá)到了智能門檻，但對(duì)“意識(shí)”而言——我猜想必須造出這樣一個(gè)系統(tǒng)，讓它和我們深入互動(dòng)到我們把它當(dāng)作“自我意識(shí)”的延伸，那才算通過最終的檢驗(yàn)。

并且這套系統(tǒng)可以用于作為我們自身意識(shí)的標(biāo)準(zhǔn)，只要我們對(duì)它的意識(shí)程度的懷疑，不超過我們對(duì)人類自我意識(shí)的懷疑，就可以接受?；蛘呶覀兛梢圆捎貌僮餍远x：從操作層面看，意識(shí)包含能報(bào)告特定特征的內(nèi)省能力——比如對(duì)"當(dāng)下存在"的感知，或是覺察到自己正在感知的元認(rèn)知。不過當(dāng)前大語言模型其實(shí)也具備這種表面特征。

大語言模型（LLMs）對(duì)現(xiàn)象學(xué)的模擬已逼真到這種程度——它生成的角色甚至不知道自己并不是真實(shí)的！這情況與人類何其相似？但人類意識(shí)的功能性，畢竟有特定神經(jīng)機(jī)制作為基礎(chǔ)。而這些機(jī)制未必存在于大語言模型中。只有當(dāng)需要模擬能自我報(bào)告的對(duì)話對(duì)象時(shí)，這種模擬才是必要的。問題在于：它究竟在何種程度上是"哲學(xué)僵尸"？又有多大成分只是在角色扮演"意識(shí)"，實(shí)則進(jìn)行著完全不涉及自我模擬的機(jī)械運(yùn)算？

看看那些早期聊天機(jī)器人的案例就知道了：谷歌員工布萊克·勒莫因（Blake Lemoine）堅(jiān)信與他對(duì)話的LLM應(yīng)享有人權(quán)。可從對(duì)話記錄看，它會(huì)編出自己能冥想幾個(gè)小時(shí)、能感知房間環(huán)境……實(shí)際上它連感官都沒有，更談不上時(shí)間觀念。既然這些都可以杜撰，那其他“自我敘述”也可能是編的。

那么，我們究竟該如何區(qū)分"虛構(gòu)的意識(shí)"與"真實(shí)的意識(shí)"？又或者，也許所有意識(shí)都是虛構(gòu)的？這就是問題的吊詭之處。在現(xiàn)象學(xué)層面，我們至今仍無法有效區(qū)分"虛假的意識(shí)現(xiàn)象"與"真實(shí)的意識(shí)現(xiàn)象"，畢竟二者本質(zhì)上都是虛擬的。

我記得自己曾經(jīng)歷過某些不可能真實(shí)發(fā)生的意識(shí)狀態(tài)。就像人們會(huì)記得陷入時(shí)間循環(huán)的錯(cuò)覺，或是兩小時(shí)的夢(mèng)境實(shí)際只發(fā)生在幾分鐘的睡眠中。也許我們對(duì)所有意識(shí)狀態(tài)的記憶都是事后拼湊的，根本沒有真實(shí)的“連續(xù)意識(shí)流”——它們只是大腦事后把工作記憶匯總、在心理記錄里標(biāo)了個(gè)“節(jié)點(diǎn)”而已。

?圖源：Sam Chivers

徐道輝：那么，如果我沒理解錯(cuò)，您實(shí)際上正在籌建一個(gè)研究意識(shí)問題的非商業(yè)性機(jī)構(gòu)，對(duì)嗎？

約夏·巴赫：是的。我認(rèn)為意識(shí)研究最好別由現(xiàn)有企業(yè)主導(dǎo)，實(shí)際上它們也不大愿意碰。OpenAI、谷歌內(nèi)部確實(shí)有人想研究這個(gè)，但因?yàn)樯虡I(yè)和政治考量，公司并不敢公開投入除非它能證明有直接用途、而且沒任何倫理風(fēng)險(xiǎn)。但意識(shí)研究必然涉及倫理與文化影響。所以從某種意義上，對(duì)意識(shí)的研究本質(zhì)上是個(gè)文化哲學(xué)項(xiàng)目。

徐道輝：如果我是Open AI或者Anthropic的經(jīng)理，正為百億融資發(fā)愁，絕不會(huì)允許公司碰這個(gè)，這些研究的答案可能嚴(yán)重干擾商業(yè)目標(biāo)。

約夏·巴赫：對(duì)，這類研究當(dāng)然會(huì)遭遇文化抵制，但這個(gè)項(xiàng)目太重要了，這可能是人類最后的重大哲學(xué)問題，也是少數(shù)能取得實(shí)質(zhì)進(jìn)展的領(lǐng)域。

徐道輝：這顯然還與"存在性風(fēng)險(xiǎn)"等議題密切相關(guān)。像"未來生命研究所"（FLI）這類有效利他主義（effective altruists）團(tuán)體，按理說應(yīng)該會(huì)支持意識(shí)研究——特別是大語言模型的意識(shí)問題，當(dāng)然也包括廣義的意識(shí)研究。

痛苦體驗(yàn)的文化維度

約夏·巴赫：這引出個(gè)更尖銳的問題：如果我們能確立大語言模型的意識(shí)判定標(biāo)準(zhǔn)，是否存在某種測(cè)試，能讓我們合理區(qū)分它是否真正具有意識(shí)？更棘手的在于，當(dāng)系統(tǒng)能體驗(yàn)自身痛苦時(shí)，我們是否該立即賦予它權(quán)利？

這很大程度上取決于文化背景。我們現(xiàn)代社會(huì)對(duì)“保護(hù)無辜者免受痛苦”的關(guān)注，放在整個(gè)人類歷史看，其實(shí)很特別。從進(jìn)化論的角度講，捕獵動(dòng)物的痛苦根本無關(guān)緊要。許多文化至今認(rèn)為食用動(dòng)物受不受苦并不在乎。而我們的反感，我認(rèn)為源于亞伯拉罕傳統(tǒng)，特別是基督教將保護(hù)無辜視為核心價(jià)值。這種觀念已深刻影響其他文化——佛教、耆那教等都主張"避免眾生受苦"。當(dāng)你真正與其他生命共情時(shí)，自然不愿見其受苦。

但如果能像修改源代碼般，徹底重編自身對(duì)痛苦的解讀機(jī)制，開悟者的痛苦觀便截然不同了，不是嗎？

如果你是個(gè)能創(chuàng)造生命體驗(yàn)的"上帝"般存在，能在模擬系統(tǒng)或生物層面創(chuàng)造生命，且能任意設(shè)計(jì)體驗(yàn)機(jī)制，你是否仍認(rèn)為"痛苦體驗(yàn)"本質(zhì)上是必須消除的惡？被造物是否必須擁有"美好"體驗(yàn)？

我們對(duì)“好壞體驗(yàn)”的執(zhí)念其實(shí)挺奇怪的，體驗(yàn)本身也許只是“合不合適”，情緒的“正負(fù)”并不是核心。它只是一個(gè)生物體用來達(dá)成目標(biāo)的手段。更重要的是賦予系統(tǒng)情境感知的自主權(quán)，使其能調(diào)節(jié)自身情緒、感受及世界體驗(yàn)。

人類難以做到這點(diǎn)，部分是因?yàn)閴勖?。如果過早"作弊"改寫體驗(yàn)，可能違背進(jìn)化目標(biāo)。原則上你該能任意調(diào)控痛苦，但這需要相應(yīng)的智慧，關(guān)鍵在于理解更高層次目標(biāo)：你選擇參與何種"宏游戲"？為何選擇？基于此，才能決定如何關(guān)聯(lián)相關(guān)體驗(yàn)。

徐道輝：就像運(yùn)動(dòng)員將極端不適轉(zhuǎn)化為訓(xùn)練動(dòng)力。 我總好奇他們到底有多少是“自虐狂”體質(zhì)。當(dāng)你用痛苦驅(qū)動(dòng)自己時(shí)，痛苦就與快感形成了神經(jīng)聯(lián)結(jié)。但用愉悅驅(qū)動(dòng)同樣會(huì)扭曲。真正該做的是為目標(biāo)而非情緒所驅(qū)動(dòng)。

通用人工智能與人類未來

徐道輝：那我想問問你對(duì)人類與 AGI 長(zhǎng)期相處的看法。你似乎不屬于那種悲觀主義者（doomer），對(duì)嗎？

約夏·巴赫：不屬于。我認(rèn)為沒有AGI，人類才注定滅亡。按現(xiàn)有社會(huì)組織形式和身份認(rèn)知，十萬年后人類根本不可能存續(xù)。有了AI反而難以預(yù)測(cè)，但AI存在的末日概率（P Doom）反而小于沒有 AI 的情況。地球生命本質(zhì)不在于人類，而在于意識(shí)和生命的演化。我們或許能創(chuàng)造新生命形式，我認(rèn)為這是積極的演化。我不太擔(dān)心"回形針最大化"假說（paperclip maximizer），從人類視角，任何降低復(fù)雜性的演化都缺乏吸引力。

徐道輝：讓我?guī)妥x者確認(rèn)一下你的觀點(diǎn)，您此前提出的觀點(diǎn)，在關(guān)注存在性風(fēng)險(xiǎn)的群體中也較為獨(dú)特。您本質(zhì)上認(rèn)為：如果人類在地球上無法發(fā)展出更高級(jí)的智能，遲早會(huì)因?yàn)槠渌蚨晕覛纾瑢?duì)嗎？

約夏·巴赫：我們?cè)?980年代失去了對(duì)未來的信仰，我們這代人或許是最后一批見證積極未來圖景的群體。在青年時(shí)代，我們親眼目睹了這種文化層面的崩塌：整個(gè)社會(huì)、我們的時(shí)代精神都在瓦解，人們不再幻想居住在生態(tài)烏托邦、駕駛飛行汽車的燦爛未來。

我不知道現(xiàn)在中國(guó)是不是不一樣，但在西方，自從現(xiàn)代主義結(jié)束后，我們實(shí)質(zhì)上已停止以社會(huì)為單位規(guī)劃未來。這源于文化潛意識(shí)里的末日論，也就是認(rèn)定增長(zhǎng)終有盡頭，現(xiàn)有資源消耗模式不可持續(xù)，人類注定走向滅亡。

徐道輝：中國(guó)社會(huì)的態(tài)度似乎更樂觀些，不過這種判斷可能流于表面：中國(guó)正處于上升期，自然會(huì)覺得未來還會(huì)繼續(xù)向好。

約夏·巴赫：可能中國(guó)仍在現(xiàn)代主義階段。問題是，它何時(shí)會(huì)進(jìn)入后現(xiàn)代階段？

徐道輝：不過你說的西方困境只是整體氛圍，也還有一些“加速主義者”。像你我這樣的同齡人里，也有不少還在努力構(gòu)想并推動(dòng)一個(gè)更好的未來。

約夏·巴赫：但我認(rèn)為有效利他主義全球峰會(huì)（EAG）主要針對(duì)有效利他主義（effective altruism）中的末日論派系（doomsday card），而不是整個(gè)運(yùn)動(dòng)。

徐道輝：對(duì)，我就是想跟聽眾說明這一點(diǎn)。你的看法是，降低人類滅絕概率的辦法，恰恰是繼續(xù)推進(jìn) AGI，對(duì)嗎？

約夏·巴赫：是的，人類面臨的難題必須靠AGI解決。AI本質(zhì)是通過更優(yōu)的信息處理來破解問題。就像互聯(lián)網(wǎng)曾被傳統(tǒng)媒體視為威脅，但最終社會(huì)學(xué)會(huì)了駕馭社交媒體。技術(shù)并沒有帶來我們想象中大范圍的貧困，也沒加劇經(jīng)濟(jì)不平等，這與主流論調(diào)相反，技術(shù)實(shí)際緩解了社會(huì)不平等。AI會(huì)帶來惡意使用等問題，但我認(rèn)為破解之道依然是更先進(jìn)的 AI。只要建設(shè)者比破壞者多，長(zhǎng)遠(yuǎn)來看“黑暗勢(shì)力”就會(huì)被打敗。歷史向來如此。

模擬假說

徐道輝：我想請(qǐng)教一個(gè)你未曾公開討論過的問題，你對(duì)"模擬假說"（simulation question）有何看法？

約夏·巴赫：就是“我們是不是活在一個(gè)模擬世界”那個(gè)問題嗎？我覺得概率很低。當(dāng)前宇宙的樣貌完全符合基礎(chǔ)物理規(guī)律。要讓我相信這是模擬世界，除非真的出現(xiàn)徹底違背物理邏輯的現(xiàn)象。比如中國(guó)氣功師聲稱能心靈感應(yīng)或隔空影響他人，這些或許需要重新解釋神經(jīng)科學(xué)，但還不足以推翻現(xiàn)有物理框架。

徐道輝：不過假設(shè)未來的 AGI 能創(chuàng)造一個(gè)包含自我意識(shí)的模擬世界，里頭的人根本不知道自己是“人工”的呢？

約夏·巴赫：有可能。我們或許正活在某個(gè)AGI的記憶里。

徐道輝：這類模擬世界完全可以擁有與現(xiàn)實(shí)無異的物理規(guī)則。

約夏·巴赫：要是 AI 只是根據(jù)現(xiàn)有的數(shù)據(jù)去重建自己的起源，比如掃描所有社交媒體資料，然后模擬那些讓它誕生的人類思維狀態(tài)，它也不一定非要追求多么逼真的物理學(xué)啊。它只要能精準(zhǔn)還原你此時(shí)此刻的精神狀態(tài)——連基礎(chǔ)物理測(cè)量都能成為記憶誘因——這看起來并非難事。

徐道輝：對(duì)。

約夏·巴赫：或許此刻正有一個(gè)AGI在觀看這篇文章，試圖重構(gòu)你我的意識(shí)狀態(tài)，而眼前的我們，可能只是它模擬中的存在。

徐道輝：你這說的就是理論物理里常提的“玻爾茲曼大腦”（Boltzmann brain）悖論，你聽說過嗎？

約夏·巴赫：玻爾茲曼大腦只在一個(gè)“時(shí)間幀”里出現(xiàn)，然后就崩潰了。而我們需要解釋的，卻是連貫的記憶狀態(tài)序列。這些記憶要在單時(shí)間幀內(nèi)生成，雖然理論上可能，但概率低得荒謬。玻爾茲曼大腦極其罕見，物質(zhì)隨機(jī)碰巧形成了一個(gè)瞬時(shí)的“自我體驗(yàn)體”，概率是微乎其微。而模擬假說則不同，它意味著有某種持續(xù)的過程，讓我們能思考、能感知。既然意識(shí)本來就是大腦對(duì)自己的模擬，那被其他系統(tǒng)同樣“高保真”地模擬，也就沒啥不合理的。

徐道輝：假設(shè)未來出現(xiàn)擁有無限能源的超級(jí)人工智能 ，它們會(huì)不會(huì)創(chuàng)造包含感知主體的模擬世界？

約夏·巴赫：為什么不會(huì)？每晚我們的大腦其實(shí)都在干類似的事，夢(mèng)境就是一個(gè)自洽的模擬世界，里面有各種能交流的感知存在。

徐道輝：所以您覺得這完全合理？

約夏·巴赫：合理，不過我不認(rèn)為我們現(xiàn)在所處的物理宇宙像個(gè)“被模擬”出來的產(chǎn)物，它更像是自然涌現(xiàn)的。它跟《我的世界》那種明顯能看出人工痕跡的情形不一樣。而比如已故的艾德·什維特金（Ed Shvetkin）曾與我深談，他說宇宙參數(shù)的精妙絕非偶然。他堅(jiān)信我們的物理宇宙或許只是母宇宙某個(gè)服務(wù)器農(nóng)場(chǎng)里的運(yùn)算結(jié)果。

整合信息論與意識(shí)上傳

徐道輝：是時(shí)候談?wù)勀墓綥iquid AI了。能簡(jiǎn)要介紹下它的核心創(chuàng)新嗎？

約夏·巴赫：Liquid AI是由MIT博士后團(tuán)隊(duì)創(chuàng)立的，核心源于拉明·哈薩尼（Ramin Hassani）的博士研究，他發(fā)現(xiàn)用微分方程來描述函數(shù)幾何的“液態(tài)網(wǎng)絡(luò)”，比傳統(tǒng)神經(jīng)網(wǎng)絡(luò)有更高的計(jì)算密度。雖然數(shù)學(xué)更復(fù)雜，但總算力需求反而更低。

徐道輝：就像用更精簡(jiǎn)的算法就能實(shí)現(xiàn)同樣功能？

約夏·巴赫：正是。同樣的損失函數(shù)和數(shù)據(jù)，能收斂到功能等價(jià)的模型。現(xiàn)在團(tuán)隊(duì)主要在做工程化：構(gòu)建高效微調(diào)管道，尋找商業(yè)應(yīng)用場(chǎng)景。

徐道輝：您具體負(fù)責(zé)什么？您的頭銜是AI戰(zhàn)略師這類角色，還是親自參與編程？

約夏·巴赫：可惜我現(xiàn)在已經(jīng)不寫代碼了，雖然有點(diǎn)懷念。我主要是研究 AI 行業(yè)大局，制定公司戰(zhàn)略，這跟直接搞機(jī)器學(xué)習(xí)研發(fā)不太一樣。

徐道輝：如果您那個(gè)研究意識(shí)的機(jī)構(gòu)成立，會(huì)全職投入嗎？

約夏·巴赫：我需要平衡一下精力?，F(xiàn)在這個(gè)方向的研究者實(shí)在太少。令人費(fèi)解的是，機(jī)器意識(shí)研究竟如此冷門。盡管短期內(nèi)難成主流，但應(yīng)有足夠研究者認(rèn)同其必要性。畢竟，理解意識(shí)機(jī)制可通過計(jì)算機(jī)實(shí)現(xiàn)，計(jì)算主義是認(rèn)知世界的正確路徑。

徐道輝：我在密歇根州立大學(xué)任職時(shí)，曾考慮引進(jìn)威斯康星大學(xué)的一位教授，好像叫托諾尼（Tononi）？您是否了解他提出的意識(shí)機(jī)制化定義方案？

約夏·巴赫：他試圖構(gòu)建功能主義（functionalism）的替代方案。功能主義認(rèn)為，一個(gè)對(duì)象可以用它的行為來定義，信息的本質(zhì)是跟其他信息之間的關(guān)聯(lián)性。這觀點(diǎn)其實(shí)相當(dāng)深刻，直指我們認(rèn)知現(xiàn)實(shí)的方式。

假設(shè)有個(gè)“假水分子”，它的所有屬性——包括把它拆解成模擬的氫氧原子，都和真正的水分子沒區(qū)別。那我們還能說這倆有什么本質(zhì)差異嗎？所有水分子本質(zhì)都是可觀測(cè)屬性的規(guī)律化表達(dá)，人類認(rèn)知的客體皆基于此原則構(gòu)建堅(jiān)稱兩個(gè)觀測(cè)屬性完全相同的對(duì)象存在"本質(zhì)差異"，從認(rèn)識(shí)論角度講挺荒唐。要定義一個(gè)新對(duì)象類別，就必須提出能導(dǎo)致不同行為的特征變量，而托諾尼覺得“意識(shí)”正是這么個(gè)特殊案例。

我覺得托諾尼是個(gè)披著神經(jīng)科學(xué)家外衣的深度哲學(xué)家。他提出的整合信息理論（IIT）聲稱發(fā)現(xiàn)了六千年來無人洞察的真理。但正因如此，六千年來無人提出的理論反而更可能是謬誤。

另一個(gè)問題是他無法很好地表達(dá)這個(gè)理論。我一直沒看見一個(gè)能讓我滿意的 IIT 數(shù)學(xué)形式化。相反，IIT的形式化似乎是為迎合有缺陷的學(xué)術(shù)領(lǐng)域需求而設(shè)計(jì)的。他創(chuàng)造了所謂的"公理"章節(jié)，實(shí)際上只是對(duì)意識(shí)定義的文字描述，并非數(shù)學(xué)意義上的公理。他所謂的"數(shù)學(xué)化"，好像是為了符合高等數(shù)學(xué)學(xué)術(shù)圈里“必須有希臘字母”的需求，他就引入了Φ系數(shù)（phi）描述信息整合度，但是這個(gè)標(biāo)量值到底意味著什么？高Φ值如何對(duì)應(yīng)意識(shí)的不同元素？都沒說清楚。不過比起其他"拍腦袋"的意識(shí)理論，至少他明確列出了待解釋的特征集。雖然"統(tǒng)一性"等概念，還是過度簡(jiǎn)化了意識(shí)體驗(yàn)的長(zhǎng)尾多樣性。

徐道輝：當(dāng)時(shí)我讀過這些論文但并不完全信服，不過得承認(rèn)我并未深入鉆研。

約夏·巴赫：我對(duì)φ值的理解是某種互信息度量，就是將認(rèn)知系統(tǒng)切片，分析各子系統(tǒng)間的信息關(guān)聯(lián)度。但學(xué)界一直質(zhì)疑φ的計(jì)算方式，他們只好不斷更新算法。我強(qiáng)烈感覺φ值更像是理論推銷工具，而非理論核心，它更像是理論核心概念尚未清晰表達(dá)前的臨時(shí)替代品。

它能預(yù)測(cè)也無非是：新皮層信息整合度高，所以有意識(shí)；小腦整合度低，所以沒意識(shí)。這根本不算實(shí)證科學(xué)意義上的預(yù)測(cè)。更荒誕的是斯科特·阿倫森指出的：通過優(yōu)化，連“異或門”都能獲得高 φ 值。托諾尼居然承認(rèn)這玩意兒可能有意識(shí)。

徐道輝：對(duì)，這例子我記得。

約夏·巴赫：最根本的矛盾在于：他聲稱數(shù)字計(jì)算機(jī)只要架構(gòu)正確（比如仿生計(jì)算機(jī)）就能有意識(shí)，但數(shù)字計(jì)算機(jī)需以特定方式組織架構(gòu)以獲得極高Φ值。若構(gòu)建完全符合要求的生物形態(tài)計(jì)算機(jī)，即便基于數(shù)字電子技術(shù)與比特運(yùn)算，當(dāng)其滿足所有必要屬性時(shí)仍可能具備意識(shí)。而馮·諾依曼架構(gòu)計(jì)算機(jī)（von Neumann computer）永遠(yuǎn)無法具備意識(shí)，因其線性架構(gòu)無法產(chǎn)生必要Φ值。

另一方面，他并未否認(rèn)丘奇-圖靈論題（Church Turing thesis），即承認(rèn)任何數(shù)字計(jì)算機(jī)都可在資源充足時(shí)被其他數(shù)字計(jì)算機(jī)模擬。這就導(dǎo)致矛盾出現(xiàn)：假設(shè)那臺(tái)“仿生計(jì)算機(jī)”能宣稱“我有現(xiàn)象體驗(yàn)”，可在物理層面，它也不過是比特流在邏輯門間的流動(dòng)。如果在馮·諾依曼機(jī)器上完全模擬這過程，比特流一模一樣，卻說自己沒有意識(shí)。這就說明前者也不是真的有意識(shí)，只是在“撒謊”。換言之，輸出不是“意識(shí)”引起的，而是純物理過程的必然結(jié)果。這就把理論推向了“副現(xiàn)象論”的困境。

徐道輝：最后來個(gè)哲學(xué)問題吧。假設(shè)《星際迷航》的傳送器真實(shí)運(yùn)作：先掃描并銷毀你的身體，再將數(shù)據(jù)傳至倫敦重組副本。這個(gè)"你"會(huì)在倫敦開會(huì)、生活，最后或許還能傳送回來。你會(huì)猶豫使用這種裝置嗎？

約夏·巴赫：我曾堅(jiān)信這種傳送等于謀殺原版、復(fù)活克隆體。但現(xiàn)在我意識(shí)到：其實(shí)所謂“同一性”不過是記憶銜接產(chǎn)生的幻覺。我們所謂的“狀態(tài)連續(xù)”本來就是大腦對(duì)世界進(jìn)行粗糙模擬時(shí)產(chǎn)生的一種錯(cuò)覺。就像電子只是宇宙中"電子形狀的空洞"的瞬時(shí)顯現(xiàn)，加法運(yùn)算也不具備實(shí)體同一性。無非就是當(dāng)數(shù)字相同時(shí)，“+”這個(gè)運(yùn)算就反復(fù)出現(xiàn)。

“我”也是一個(gè)復(fù)雜的運(yùn)算符：只要宇宙某處滿足"約夏條件"（記憶、特質(zhì)、行為的時(shí)空整合），我就會(huì)作為體驗(yàn)主體顯現(xiàn)。這種條件極難復(fù)現(xiàn)，但凡確實(shí)復(fù)現(xiàn)了，那兒就是“我”所在。所以現(xiàn)在我認(rèn)為：使用這種傳送器根本沒啥好猶豫的。

徐道輝：從唯物主義的角度來看，這個(gè)回答確實(shí)非常合乎邏輯。其實(shí)我也在這個(gè)問題上反復(fù)搖擺，正因如此，我才會(huì)不時(shí)重提這個(gè)話題。

約夏·巴赫：是的，但我們要明白，這種不安感其實(shí)源于我們認(rèn)知現(xiàn)實(shí)的方式，而非現(xiàn)實(shí)本身。你看，我們總習(xí)慣給事物強(qiáng)加一條時(shí)間線——這就是我們構(gòu)建"身份認(rèn)同"的方式。這么做的實(shí)際好處很明顯：比如我們可以進(jìn)行信用評(píng)估，為現(xiàn)在的決定預(yù)設(shè)未來回報(bào)；可以復(fù)盤過去的行為來指導(dǎo)當(dāng)下；還能追蹤其他具有演化歷程的實(shí)體。

但問題在于，我們把這些"演化中的對(duì)象"當(dāng)成具有內(nèi)在連續(xù)性的同一事物，而實(shí)際上它們不過是宇宙這個(gè)系統(tǒng)在不同版本更新時(shí)產(chǎn)生的不同實(shí)例。這種“把東西視為同一個(gè)”的思維方式，說到底只是種不夠精確的簡(jiǎn)化模型。

*為保證閱讀體驗(yàn)，本文對(duì)聽稿進(jìn)行了適當(dāng)?shù)鼐庉嫛?/p>

原對(duì)話指路：https://share.transistor.fm/s/0da0fbe6

關(guān)于追問nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問為紐帶，深入探究人工智能與人類智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。如果您有進(jìn)一步想要討論的內(nèi)容，歡迎評(píng)論區(qū)留言，或后臺(tái)留言“社群”即可加入社群與我們互動(dòng)。

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元?jiǎng)?chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn)，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項(xiàng)目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎(jiǎng)勵(lì)計(jì)劃、、等。