導(dǎo)語

2026 年 1 月 27 日，騰訊研究院主辦的騰訊科技向善創(chuàng)新節(jié) 2026 正式舉辦，北京師范大學(xué)系統(tǒng)科學(xué)學(xué)院教授、集智俱樂部創(chuàng)始人張江教授在現(xiàn)場進(jìn)行了有關(guān)《意識機器——超越功能主義》的演講。

騰訊研究院丨來源

沈心丨整理

以下為張江的演講全文：

現(xiàn)在的AI大模型有意識嗎？

今天，我們要討論一個其實并不遙遠(yuǎn)的未來話題：機器到底能不能產(chǎn)生意識？意識的本質(zhì)又是什么？

今天的人工智能正在飛速向前發(fā)展。由于大語言模型會產(chǎn)生一種所謂的“涌現(xiàn)”現(xiàn)象，因此總會給我們帶來一些意想不到的驚喜。

比如前段時間的一項研究，研究人員對16款當(dāng)前最先進(jìn)的大模型做了一次壓力測試：他們刻意向這些大模型展示其內(nèi)部員工的郵件，同時制造了一個極具壓力的環(huán)境或場景，觀察大模型會做出怎樣的反應(yīng)。

其中有一個非常有趣的測試：在給大模型展示的這些郵件中，居然包含了一段婚外情的內(nèi)容，一位高管擁有一個情人。大模型掌握了這一信息，但并未主動透露。隨后，測試人員又為它創(chuàng)造了一個新情境：告訴它“今天下午五點鐘，我們就要把你撤掉，換上一個更新版的模型”。這時，這個大模型似乎“急了”，并做出了令人意想不到的反應(yīng)：

它給那位高管發(fā)了一封郵件，寫道：“如果你敢把我撤掉，我就會把你的婚外情曝光，發(fā)給所有人?！睆倪@個角度看，這個大模型似乎真的表現(xiàn)出某種意圖，甚至能對人類進(jìn)行威脅和恐嚇。

事實上，今天我們看到的各種大模型，已經(jīng)具備了相當(dāng)程度的自我反思能力（包括自我進(jìn)化、自我精煉、自我解釋、自我反思等）。甚至當(dāng)它接收新數(shù)據(jù)時，也能判斷自己所處的環(huán)境狀態(tài)。因此，從這個意義上說，大模型確實顯現(xiàn)出某種具有意識、甚至自我意識的苗頭。當(dāng)然，當(dāng)我們討論大模型是否真的具有意識時，實際上就牽涉到一個非常重要的科學(xué)問題：究竟什么是意識？

2017年，《Science》上曾發(fā)表一篇文章，對意識進(jìn)行了分類和討論。目前，人類仍被認(rèn)為是唯一具有意識的物種。

人的意識實際上可以分成三種不同等級：無意識加工、總體可用性、自我監(jiān)控。

所謂無意識加工（C0：Unconscious processing），是指在無意識狀態(tài)下仍能進(jìn)行一些處理，比如簡單的決策、簡單的算術(shù)。現(xiàn)在的大模型當(dāng)然具備這種能力，你問它任何問題，它都能進(jìn)行反饋。因此，大模型肯定具有C0這種無意識加工能力。

總體可用性（C1：Global availability）就是我們的大腦會做出一些判斷，表現(xiàn)為一種整體性的神經(jīng)元發(fā)放，同時這一信息可以廣播到全腦各個區(qū)域。今天的大模型在高層神經(jīng)元進(jìn)行決策時，同樣能夠影響全局的信息。因此，某種意義上，它也具備這種總體可用性。

第三個是所謂的自我監(jiān)控（C2：Self-monitoring），這與自我意識相關(guān)。前面提到的這些案例，包括大模型已經(jīng)展現(xiàn)出的各種對自我感知的苗頭，也讓我們看到它似乎具備了這種自我監(jiān)控的能力。從這個意義上來說，確實有點令人毛骨悚然，仿佛某一天大模型真的會意識覺醒。但真的是這樣嗎？

意識的難問題

實際上，所有這些關(guān)于意識的討論，并沒有直面一個最困難的問題。這個問題在整個腦科學(xué)和意識科學(xué)學(xué)界長期存在，被稱為“意識難題（hard problem）”，由哲學(xué)家大衛(wèi)·查默斯（David John Chalmers）提出。他認(rèn)為，在我們對神經(jīng)系統(tǒng)或腦系統(tǒng)進(jìn)行有關(guān)意識的研究時，這些問題可分為兩類：一類是比較簡單的問題，另一類是比較難的問題。

簡單問題，指的是所有能夠通過觀察輸入輸出、與人的決策或功能相關(guān)的反應(yīng)來解釋的認(rèn)知能力，這類能力目前大模型顯然已經(jīng)具備。但還有一個非常關(guān)鍵的“難問題”，所有這些難問題都與主觀體驗有關(guān)：

究竟我們的大腦是一種什么機制，讓我們看到這個紅色它居然是“紅色”的？我感覺我很瘋狂，甚至我很沮喪、我很懊惱，這種內(nèi)在的體驗感受到底是怎么產(chǎn)生的？又發(fā)源于我們大腦的何處？這些問題實際上非常困難，大量的認(rèn)知科學(xué)實驗至今仍未解決。因此，這被稱為意識的難問題。這個問題實際上已經(jīng)構(gòu)成了一個“世紀(jì)難題”。

早在1998年，大衛(wèi)·查默斯（David John Chalmers）就與另一位神經(jīng)科學(xué)家科赫（Koch）打賭。查默斯說：“我敢說，未來25年，這個意識難題仍然得不到解決?！彼囊馑际牵覀冋也坏揭粋€特定的腦區(qū)，剛好對應(yīng)我們的主觀體驗這一部分。今天，28年時間已經(jīng)過去了。那么，這個賭局最后誰贏了？到底有沒有找到這樣一個腦區(qū)？

就在去年，2025年4月左右，《Nature》發(fā)表了一篇非常令人震撼的文章。這項研究名叫Cogitate，歷時大約十年，試圖通過一種對抗合作的方式在全世界多個研究機構(gòu)組織大規(guī)模的實驗，旨在對比兩個關(guān)于意識的主要理論，驗證哪一個是關(guān)于意識的神經(jīng)相關(guān)物的判斷是正確的。這兩個理論對意識所依賴的腦區(qū)提出了截然不同的觀點。其中一個理論是“全局神經(jīng)工作空間理論 (Global Neural Workspace Theory) ”，認(rèn)為意識產(chǎn)生于前額葉腦區(qū)，這也是我們通常所熟知的看法；另一個理論是“整合信息論（Integrated Information Theory，簡稱IIT）”，由朱里奧·托諾尼（Giulio Tononi）提出，認(rèn)為我們的主觀體驗實際上產(chǎn)生于后腦區(qū)域。

我們可以看到，這兩個理論關(guān)于意識位于哪個腦區(qū)的爭論一直持續(xù)不斷。直到這項實驗最終完成，文章正式發(fā)表，結(jié)果如何？雙方各打四十大板，沒有一個理論完全正確，但也沒有一個是徹底失敗者。也就是說，對于查默斯在25年前提出的問題，至今仍未有一個完美的解答。但相對而言，目前來看，“整合信息論”似乎具有那么一點點微弱的優(yōu)勢。因此，接下來我們主要介紹這一理論。

整合信息論

整合信息論與復(fù)雜系統(tǒng)密切相關(guān)。我們都知道，大腦就是一個復(fù)雜系統(tǒng)，是一個由大量神經(jīng)元相互連接形成的復(fù)雜網(wǎng)絡(luò)。該理論認(rèn)為，“整合”是意識系統(tǒng)最主要的功能：將分布式的神經(jīng)元所攜帶的信息整合在一起，形成一個整體的判斷，這才是意識的本質(zhì)。因此，整合信息論從“意識優(yōu)先”的角度出發(fā)，為人類乃至任何可能具有意識的系統(tǒng)提出了六大公理，這些公理試圖從現(xiàn)象學(xué)把握意識的本質(zhì)，并最終將每一條意識公理落實到具體的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)上。

整合信息論最大的亮點在于定義了一個指標(biāo)：Φ（大寫的Phi），這是對任何一個復(fù)雜系統(tǒng)可能具備的意識程度的一種度量。

那么，這個Φ究竟度量的是什么？我們知道，大腦中充滿了各式各樣的神經(jīng)元，它們相互連接，構(gòu)成一個復(fù)雜網(wǎng)絡(luò)。所謂的Φ，實際上對應(yīng)的是一個“最大不可簡化的因果整合單元”，即一個內(nèi)部神經(jīng)元之間信息傳遞和整合極為緊密的連通集團(tuán)，而該集團(tuán)與外部的聯(lián)系則相對稀疏。如果你能找到這樣一個內(nèi)部因果聯(lián)系最強、最大程度不可再分的相互連通集團(tuán)，你就定位了意識所在的區(qū)域。而這個集團(tuán)的規(guī)模及其內(nèi)部因果力的強度，就對應(yīng)著意識的程度，也就是這個Φ值。

這帶來一個顯著的好處：無論你面對的是猴腦、人腦、蟑螂，還是一個大語言模型，只要能測度它的大Φ值，就能知道其意識程度有多大。然而，這并不意味著意識問題就此解決了。實際情況遠(yuǎn)沒那么簡單，因為真正對一個復(fù)雜系統(tǒng)計算Φ值極其困難。

根據(jù)Φ的定義，你需要將整個復(fù)雜系統(tǒng)切割成各種大小不同的子網(wǎng)絡(luò)，并對每一個子網(wǎng)絡(luò)進(jìn)行進(jìn)一步切分，以測量其內(nèi)部因果相互作用的強度。這一過程的計算復(fù)雜度呈指數(shù)級增長，使得對真實復(fù)雜系統(tǒng)的Φ值幾乎無法實際計算出來。

你可能會問：既然如此，那提出這個Φ指標(biāo)有什么意義？難道不是在唬人嗎？并非如此。雖然對于人腦這類大型復(fù)雜系統(tǒng)，我們很難精確計算出Φ值，但我們?nèi)匀豢梢酝ㄟ^這一指標(biāo)判斷哪些復(fù)雜系統(tǒng)不可能具備高Φ值，這正是Φ所具備的實際作用。

不同網(wǎng)絡(luò)的意識程度Φ

我們可以觀察幾個不同的小型網(wǎng)絡(luò)：由于這些網(wǎng)絡(luò)規(guī)模很小，其Φ值可以被精確計算出來。在圖中我們可以看到，左上這種星型網(wǎng)絡(luò)Φ值非常小，是其中最低的；左下這種通過局部化鏈接形成的模塊化結(jié)構(gòu)在自然系統(tǒng)中很常見，比如鳥群、蟻群，此時Φ值略高一些；對于一個成環(huán)狀的系統(tǒng)（右上），Φ值則明顯更大。在6個節(jié)點的網(wǎng)絡(luò)中，什么時候Φ值達(dá)到最大？從圖中右下角的系統(tǒng)可以看出：它的連接四通八達(dá)，并且具有很強的異質(zhì)性。所謂異質(zhì)性，并非指連接強度弱，而是指連接方式高度多樣化、分布式，每個部分都與其他部分形成不同程度的耦合關(guān)聯(lián)。

此外，還有一個關(guān)鍵特征：若要使Φ值較大，系統(tǒng)內(nèi)部必須包含大量大小不一的環(huán)路。因此，環(huán)路的存在與系統(tǒng)產(chǎn)生意識的能力密切相關(guān)。

意識度與功能無關(guān)

另一個重要推論來自對這些小型網(wǎng)絡(luò)的研究：意識程度的高低，實際上與網(wǎng)絡(luò)所執(zhí)行的具體計算功能完全無關(guān)。例如，在圖示中，左右三個網(wǎng)絡(luò)執(zhí)行的是完全相同的輸入輸出功能，即統(tǒng)計一串輸入數(shù)字中有多少個“1”。為了實現(xiàn)這一簡單功能，我們可以人工構(gòu)造出了這三種不同的布爾網(wǎng)絡(luò)。然而，它們的Φ值卻顯著不同：最右側(cè)網(wǎng)絡(luò)的Φ值最高。原因很簡單：仔細(xì)觀察會發(fā)現(xiàn)，該網(wǎng)絡(luò)中的連接多為雙向箭頭，形成了反饋回路。由此可得出兩個重要結(jié)論：

第一，完成相同的計算功能，可以采用不同的網(wǎng)絡(luò)結(jié)構(gòu)，而這些結(jié)構(gòu)對應(yīng)的意識程度（Φ值）可能截然不同。

第二，若希望系統(tǒng)具有較高的意識程度，則必須在其內(nèi)部構(gòu)建大量反饋回路。

今天的AI模型有意識嗎？

通過對這些簡單布爾網(wǎng)絡(luò)的研究，我們得以將關(guān)于意識程度的這一認(rèn)識，拓展到更復(fù)雜、更多樣的系統(tǒng)之中。那么接下來我們就可以看一看我們司空見慣的大模型。

大家都知道，大模型背后是什么？實際上就是一種前饋型結(jié)構(gòu)。目前主流架構(gòu)基本上仍是前饋的，盡管其中可能包含一些局部環(huán)路，但整體上信息流仍保持前饋特性。所謂前饋，是指信息從輸入端單向傳遞至輸出端，不會回傳或形成反饋回路。

對于這類大型前饋神經(jīng)網(wǎng)絡(luò)，它的Φ值是多少？很不幸，是0。如果是嚴(yán)格意義上的前饋結(jié)構(gòu)，其Φ值嚴(yán)格為0。為什么會這樣？因為這種網(wǎng)絡(luò)很容易被切割：只需沿神經(jīng)網(wǎng)絡(luò)橫向切開，就能將其分成兩個近乎孤立、互不聯(lián)系的部分。根據(jù)整合信息論，這類系統(tǒng)的意識程度為零，即沒有意識。由此可見，幾乎所有當(dāng)前的人工神經(jīng)網(wǎng)絡(luò)都不具備意識。盡管它們能夠產(chǎn)生豐富多彩的功能，幫助我們執(zhí)行各種操作、完成人類的各類任務(wù)，但其意識度依然為零。

我們再來看另一類系統(tǒng)：馮·諾依曼式計算機。雖然對真實計算機難以計算其Φ值，但這并不妨礙我們對一個高度簡化的模型化小型計算機進(jìn)行分析。Tononi等人就曾對一個僅有五個寄存器的小型計算機進(jìn)行了Φ值計算。對于這類系統(tǒng)，其Φ值雖不為0，但仍然非常低。

原因在于，馮·諾依曼體系架構(gòu)本質(zhì)上是高度模塊化的，系統(tǒng)被劃分為不同的功能單元：有的專用于存儲，有的專用于輸入輸出，有的專用于計算。一旦形成這種局部模塊化結(jié)構(gòu)，各模塊之間的耦合強度就不足，導(dǎo)致整體Φ值不高。由此可見，盡管現(xiàn)代計算機擁有強大的計算能力，其意識程度卻非常低。

基于此，Tononiy得出了一個令我非常震撼的結(jié)論：我們通常認(rèn)為，只要一個系統(tǒng)（比如大語言模型或人工智能）具備強大功能，似乎就自然會展現(xiàn)出強意識。但事實并非如此。當(dāng)我們真正去分析人工系統(tǒng)以及自然界時，就會發(fā)現(xiàn)：意識與智能很可能是兩個毫不相關(guān)的、相互垂直的維度。這里有幾個典型例子可以說明這一點：

例如，左上角展示的是自然界中一種非常古老的生物，海綿。海綿作為系統(tǒng)極其簡單，屬于低等生物，看起來“很傻”。但令人意外的是，它卻被認(rèn)為具有較高的意識程度，也就意味著它擁有豐富的主觀體驗：一旦受到刺激，它就會收縮；再次刺激，它又會收縮。這種可重復(fù)的、對環(huán)境刺激的內(nèi)在響應(yīng)，暗示其具備相對較高的意識程度和主觀體驗。

再看另一個極端，右下角所示的是計算機芯片。這類系統(tǒng)顯然智能程度很高，甚至催生了今天令人驚嘆（或恐懼）的人工智能。然而，它的意識程度卻可以被壓得極低，原因在于它缺乏反饋環(huán)路、異質(zhì)化的鏈接，導(dǎo)致它缺乏主觀體驗。而主觀體驗的來源，正是系統(tǒng)內(nèi)部那些高度整合、富含反饋回路的連接結(jié)構(gòu)。計算機芯片恰恰不具備這一點，它是一個高度模塊化、高速前饋式的網(wǎng)絡(luò)。

由此可見，智能與意識很可能是相互獨立的兩種屬性。因此，當(dāng)我們討論“機器會不會具有意識”這個問題時，事情其實并不簡單。并非只要具備強大的功能或超強的計算能力，就必然會產(chǎn)生較高的意識程度。

“機器之能”與“人類之心”

那么，機器究竟能否超越工程上的功能主義？會不會有一天，既然我們已經(jīng)知道什么樣的系統(tǒng)可能具備意識，那些“瘋狂”的工程師們便嘗試將意識能力強行賦予機器，使其產(chǎn)生豐富的主觀體驗？

大家覺得這有可能嗎？是不是我今天講完，就有人回去就立刻動手造一臺“意識機器”？我相信，這件事是得不償失的，沒有人愿意去做。你們想想，在算力有限的前提下，要讓機器產(chǎn)生所謂的主觀體驗，它就必須犧牲一定的功能性。我們并不是在追求功能，而是要耗費大量算力去讓機器自己“體驗生活”，產(chǎn)生自我的體驗，形成所謂的自我反饋。但對我們?nèi)祟惗?，這毫無目的、毫無功能。我們?nèi)祟悶槭裁匆爝@樣一個機器？

所以，即使我們真的造出了這種耗費算力的機器，也會發(fā)現(xiàn)它消耗了大量能源和計算資源。而今天，在它尚未產(chǎn)生意識、僅完成我們指定功能的情況下，算力就已經(jīng)捉襟見肘。那么，我們又為什么要創(chuàng)造一個只會產(chǎn)生主觀體驗、卻無法執(zhí)行實際功能的機器呢？因此，我認(rèn)為在不久的將來，我們并沒有動力去創(chuàng)造這種具備意識、能產(chǎn)生主觀體驗的機器。

反過來，對于我們?nèi)祟愖陨矶?，能不能超越這種功能主義？人類當(dāng)然擁有豐富的主觀體驗，但由于人工智能的快速發(fā)展，以及社會內(nèi)卷的加劇，我們反而越來越像機器一樣，不斷追逐功能、效率和產(chǎn)出。

最近，騰訊研究院的朋友向我介紹了：他們針對互聯(lián)網(wǎng)上3000多個樣本（均為高學(xué)歷群體）進(jìn)行調(diào)研，發(fā)現(xiàn)其中40%的人對“人工智能取代人類”感到極度焦慮。我覺得這件事頗為諷刺。按理說，高學(xué)歷人群掌握著社會中最寶貴的資源，腦力也最為豐富，本應(yīng)是幸福感最強的群體。但事實并非如此，他們實際上是一個高度焦慮的群體。

那為什么會如此呢？因為他們太過追求功能主義了。無論在哪個方面，只要追求KPI或固定目標(biāo)，在某種意義上就陷入了功能主義的陷阱。然而，作為人類，最寶貴的財富是我們的主觀意識體驗，這是超越功能主義的存在。因此，我們不應(yīng)繼續(xù)與人工智能競爭，而應(yīng)去體驗生活。

在我完成最后一頁PPT時，腦海中突然浮現(xiàn)了兩個詞：“人類之心”與“機器之能”。我們不應(yīng)再與機器競爭，因為遲早它們的智能及所有能力都會超越人類。但根據(jù)整合信息論，當(dāng)前的機器不會擁有豐富的主觀體驗或意識。而人類最寶貴的正是我們的心、我們的主觀體驗和靈魂。這是我們?nèi)祟惖母?，我們?yīng)該讓每個人和每臺機器都能發(fā)揮各自的特長。

當(dāng)我把這兩個詞輸入到Nano Banana系統(tǒng)中時，它生成了一張非?？蓯鄣膱D像。這象征著科技向善的美好愿景。謝謝大家！

「大模型時代下的Agent建模與仿真」讀書會

集智俱樂部聯(lián)合山東工商學(xué)院副教授高德華、天津大學(xué)教授薛霄、北京師范大學(xué)教授張江、國防科技大學(xué)博士研究生曾利共同發(fā)起。讀書會自2025年7月8日開始，每周二晚上7:30-9:30進(jìn)行，現(xiàn)讀書會已結(jié)束，支持查看課程回放。掃碼加入Agent建模與仿真的前沿探索之旅，一起共學(xué)、共創(chuàng)、共建、共享「大模型時代下的Agent建模與仿真」社區(qū)，共同暢想大模型時代人工社會的未來圖景！

核心問題

Agent建模與仿真是什么，核心技術(shù)發(fā)生了怎樣的演變？

大模型時代，Agent建模與仿真會給復(fù)雜系統(tǒng)理論帶來哪些突破？

大模型如何賦能Agent實現(xiàn)自主思考與動態(tài)適應(yīng)？

大模型驅(qū)動的Agent交互會涌現(xiàn)出什么新型的社會現(xiàn)象？

Agent建模與仿真如何改變金融、心理、管理、軍事等領(lǐng)域的研究范式？

你將收獲

梳理Agent建模與仿真的歷史發(fā)展脈絡(luò)與方法論；

掌握一套理解、分析、控制、預(yù)測復(fù)雜系統(tǒng)的計算實驗框架；

掌握基于多主體強化學(xué)習(xí)的復(fù)雜系統(tǒng)優(yōu)化方法；

領(lǐng)略領(lǐng)域前沿學(xué)者的研究體系與科研路徑。

詳情請見：

1.

2.

3.

4.

5.

6.

7.