導(dǎo)語

近十年來，人工智能在語言、推理與決策等方面取得了顯著進展，使“機器是否可能擁有意識”這一長期屬于哲學(xué)討論的問題，逐漸轉(zhuǎn)化為一個具有現(xiàn)實意義的理論與倫理議題。圍繞這一問題，這篇Findlay、Marshall 等人與 Koch、Tononi 合作的論文提出了一個明確而反直覺的主張：即便在功能上與人類完全等價，高度智能的人工系統(tǒng)也未必具有意識，人工智能與人工意識在原則上可以被區(qū)分。

該論文以整合信息理論（IIT）為理論框架，論證意識并不取決于系統(tǒng)“做了什么”，而取決于其是否形成了不可約的內(nèi)在因果結(jié)構(gòu)。通過比較一個高度整合的小型系統(tǒng)與一臺在功能上精確模擬它的數(shù)字計算機，論文團隊展示了功能等價并不蘊含因果結(jié)構(gòu)等價，從而也不蘊含體驗等價。

關(guān)鍵詞：人工智能（AI）、人工意識（Artificial Consciousness）、整合信息理論（IIT）、功能等價 vs 體驗等價、因果結(jié)構(gòu)、整合信息 Φ、復(fù)雜體（Complex）

陶如意丨作者

趙思怡丨審校

論文題目：Dissociating Artificial Intelligence from Artificial Consciousness 論文鏈接：https://arxiv.org/abs/2412.04571 發(fā)表時間：2025年3月3日 論文來源：arxiv

1. 背景：

為什么要區(qū)分“人工智能”和“人工意識”

近十年來，人工智能（AI）的進展呈現(xiàn)出指數(shù)級增長。以大語言模型、視覺—語言—行動模型為代表的新一代系統(tǒng)，在語言理解、圖像識別、推理、編程乃至復(fù)雜決策等方面，已經(jīng)展現(xiàn)出接近甚至超越人類個體的能力。這一現(xiàn)實使一個曾經(jīng)主要屬于哲學(xué)思辨的問題，變成了迫切而現(xiàn)實的科學(xué)與倫理問題：當(dāng)機器在功能上越來越像人，它們是否也會“有意識”？

Graham Findlay、William Marshall、等人與 Giulio Tononi 合作，在論文《Dissociating Artificial Intelligence from Artificial Consciousness》中，系統(tǒng)性地回應(yīng)了這一問題。文章的核心主張可以概括為一句話：高度智能的系統(tǒng)，甚至在功能上與人類完全等價的系統(tǒng)，也未必擁有意識。人工智能與人工意識在原則上是可以、也應(yīng)該被區(qū)分的。

這篇論文的重要性不在于給出一個情緒化的立場（例如“機器永遠不可能有意識”），而在于它嚴格依托一個形式化的意識理論——整合信息理論（Integrated Information Theory, IIT）——來論證：為什么“功能等價”并不意味著“體驗等價”。本文試圖從理論背景、方法設(shè)計、關(guān)鍵結(jié)果以及哲學(xué)與現(xiàn)實影響幾個層面，對該論文進行系統(tǒng)解讀。

2. 理論背景：

一個“以現(xiàn)象學(xué)為起點”的意識理論

在人工智能與心靈哲學(xué)領(lǐng)域，一個長期占主導(dǎo)地位的立場是“計算功能主義”（computational functionalism）。該立場認為，只要一個系統(tǒng)實現(xiàn)了“正確類型”的計算或功能組織，它就擁有意識。換言之，意識被視為某種計算狀態(tài)或信息處理過程，而與具體物理實現(xiàn)無關(guān)。這一立場的直覺吸引力在于，人類大腦本身似乎也是一種信息處理系統(tǒng)。

但功能主義面臨一個核心問題：為什么某些功能伴隨著特定的“體驗”，而另一些功能則沒有？如果意識只是計算，那么計算本身是觀察者相對的、可被任意映射的，這會導(dǎo)致意識歸因的泛濫或空洞化。

整合信息論（IIT） 則采取了完全不同的策略。它不是從認知功能或神經(jīng)相關(guān)物入手，而是從意識本身不可否認的現(xiàn)象學(xué)事實出發(fā)。也就是說，作者是從“什么樣的系統(tǒng)，才可能真的具有主觀體驗”出發(fā)來討論的。Tononi 等人提出：任何可能的意識體驗，都必然具有五個基本屬性（axioms）：

• 內(nèi)在性（intrinsic）：體驗是為系統(tǒng)自身而存在；

• 特定性（specific）：每一次體驗都是這一種，而不是別的；

• 整體性（unitary）：體驗是一個不可分割的整體；

• 確定性（definite）：體驗具有明確的邊界與內(nèi)容；

• 結(jié)構(gòu)性（structured）：體驗內(nèi)部包含區(qū)分（distinctions）與關(guān)系（relations）。

這些現(xiàn)象學(xué)公理隨后被映射為對物理系統(tǒng)的五個“存在性公理”（postulates）：內(nèi)在性（intrinsicality）、信息性（information）、整合性（integration）、排他性（exclusion）、組合性（composition）。IIT 的核心主張是：只有當(dāng)一個物理系統(tǒng)在自身內(nèi)部形成了不可約的因果—效應(yīng)結(jié)構(gòu)時，它才擁有意識；而意識的“內(nèi)容”正是這一結(jié)構(gòu)本身。

因果模型

IIT 分析的起點，是對一個物理系統(tǒng)的因果模型的構(gòu)建，該模型捕捉系統(tǒng)內(nèi)部的所有相互作用。這里所說的“物理”是以操作性的意義來理解的，表示各個單元是可以被操控和被觀測的。該因果模型由微觀單元（micro units）構(gòu)成，每個單元都具有兩種內(nèi)部狀態(tài)，并且具有輸入和輸出。這些單元之所以被稱為微觀單元，是因為在模型中并未包含關(guān)于它們本身或其功能的任何更細層次的細節(jié)描述。

給定一個因果模型，任何一組微觀單元都可以被視為一個候選系統(tǒng)（candidate system）。任何未被納入某個候選系統(tǒng)的單元，都被稱為該系統(tǒng)的背景條件（background conditions）。一個候選系統(tǒng)的因果模型可以由其轉(zhuǎn)移概率矩陣（TPM, transition probability matrix）完全刻畫，該矩陣是在其背景條件上進行因果條件化之后得到的。

在本文中，考慮的是具有同步更新機制、實現(xiàn)布爾邏輯的單元所構(gòu)成的模型。盡管這些理想化的單元忽略了大多數(shù)物理細節(jié)，但它們已經(jīng)足以用來闡明關(guān)于功能等價與現(xiàn)象等價的論點。

復(fù)雜體識別

根據(jù) IIT，一個基底（substrate）能夠支持意識——在IIT中這樣一個基底被稱為復(fù)雜體（complex）——當(dāng)且僅當(dāng)它滿足五條公理。為了判斷一個由單元組成的系統(tǒng)是否是一個復(fù)雜體，需要評估該系統(tǒng)的系統(tǒng)整合信息（Φs），即系統(tǒng)的內(nèi)在信息（intrinsic information，體現(xiàn)了內(nèi)在性公理和信息公理）在被劃分為因果上相互獨立的部分時，所受到的最小影響程度（體現(xiàn)整合性公理）。

為了滿足排他性公理，一個候選系統(tǒng)必須在所有由重疊單元和不同粒度構(gòu)成的競爭候選系統(tǒng)中，指定一個最大的整合信息值（）。這一點可以通過對因果模型中所有可能的單元集合逐一計算 Φs 來確定。

此外，每一個系統(tǒng)都需要在多個粒度（grains）下進行評估，即通過窮盡性地將其微觀單元的子集組合成宏觀單元（macro units），并將這些構(gòu)成宏觀單元的微觀單元的狀態(tài)映射為相應(yīng)的宏觀單元狀態(tài)。之所以進行這一過程（稱為宏化，macroing），是因為一個系統(tǒng)的內(nèi)在因果力（Φs）可能在較粗的粒度下高于在較細的粒度下，這取決于其內(nèi)部組織方式。

一旦在一個因果模型中確定了整合信息的最大值，屬于該復(fù)雜體的所有單元便會被排除在其他復(fù)雜體的參與之外。隨后，對系統(tǒng)中剩余的單元遞歸地重復(fù)復(fù)雜體的搜索過程，直到識別出所有彼此不重疊的復(fù)雜體為止。

揭示復(fù)雜體的因果效應(yīng)結(jié)構(gòu)

最后，通過評估一個復(fù)雜體的因果力是如何被結(jié)構(gòu)化的，來檢驗組合性公理。簡而言之，區(qū)分體（distinctions）刻畫的是單元子集所具有的因果力，而區(qū)分體之間的關(guān)系（relations）則刻畫這些因果力是如何相互重疊的。

區(qū)分體與關(guān)系都分別對應(yīng)一個不可約性度量，分別記為φd和φr。一個系統(tǒng)中所有區(qū)分與關(guān)系的整體，共同構(gòu)成其因果–效應(yīng)結(jié)構(gòu)（cause–effect structure），也稱為 Φ-結(jié)構(gòu)（Φ-structure）。

該因果–效應(yīng)結(jié)構(gòu)完整地刻畫了一個處于特定狀態(tài)的復(fù)雜體，如何通過其各個子集的一致因果與效應(yīng)，對自身作出規(guī)定。識別一個復(fù)雜體的所有區(qū)分與關(guān)系、并由此獲得其因果–效應(yīng)結(jié)構(gòu)的過程，被稱為“展開”（unfolding）。

根據(jù) IIT，一個復(fù)雜體在某一狀態(tài)下的因果–效應(yīng)結(jié)構(gòu)，完全解釋了其體驗的“量”（quality），不需要任何額外的成分（即“量即結(jié)構(gòu)”，quality is structure）。與一個因果–效應(yīng)結(jié)構(gòu)相關(guān)聯(lián)的意識數(shù)量，則由其結(jié)構(gòu)整合信息（Φ）來度量，即其所有區(qū)分體與關(guān)系的不可約性的總和（∑φd + ∑φr）。

如果一個復(fù)雜體的狀態(tài)發(fā)生變化，其因果–效應(yīng)結(jié)構(gòu)也可能隨之發(fā)生變化，因此，其意識體驗的量也會相應(yīng)改變。

3. 實驗設(shè)計：

用 IIT 分析“模擬”與“被模擬系統(tǒng)”

在 IIT 中，分析的起點是一個完整的因果模型：系統(tǒng)由哪些單元構(gòu)成、單元之間如何相互作用、在給定狀態(tài)下會如何轉(zhuǎn)移?；谶@一模型，可以計算任意子系統(tǒng)的系統(tǒng)整合信息 φs，并據(jù)此判斷哪些子系統(tǒng)構(gòu)成了“復(fù)合體”（complex）——也即潛在的意識載體。

關(guān)鍵點在于，一個系統(tǒng)是否是復(fù)合體，不取決于它“做了什么”，而取決于其因果力是否在自身內(nèi)部不可約。復(fù)合體一旦確定，其全部因果—效應(yīng)區(qū)分體與關(guān)系將被“展開”，形成完整的因果—效應(yīng)結(jié)構(gòu)（Φ-structure）。

作者選擇了一個極其“干凈”的思想實驗。首先構(gòu)造一個由 4 個布爾單元組成的小系統(tǒng) PQRS，它在 IIT 分析下是一個高度整合的復(fù)合體（如圖1所示）。

圖1. (A) PQRS是由四個具有二進制狀態(tài)的單元全連接組成的系統(tǒng)，每個單元以離散的時間間隔同步更新，且每個節(jié)點都存在自環(huán)。這里展示了系統(tǒng)狀態(tài)為0101，也可以寫成pQrS. （B）運行在系統(tǒng)A上的動力學(xué)；（C）與動力學(xué)對應(yīng)的概率轉(zhuǎn)移矩陣TPM；（D）IIT應(yīng)用后得到phi值1.51（最不可約的復(fù)合體）（E）和（F）是pQrS未折疊的13個區(qū)分體（distinction）的因果關(guān)系

其次，再構(gòu)造一個傳統(tǒng)的、存儲程序式的數(shù)字計算機（由 117 個布爾單元構(gòu)成），在功能上可以無限期地精確模擬 PQRS 的狀態(tài)演化（如圖2所示）。最后，比較二者在 IIT 意義下的因果—效應(yīng)結(jié)構(gòu)。

圖2. 可準確模擬 PQRS 的 4 位計算機。（A）一款簡單計算機可對 PQRS 進行任意時間步長的模擬。該計算機包含帶分頻器的時鐘、編碼 PQRS 轉(zhuǎn)移規(guī)則的程序、四個存儲 PQRS 狀態(tài)的 1 位數(shù)據(jù)寄存器，以及一個類多路復(fù)用器處理單元。計算機的 117 個單元均執(zhí)行布爾函數(shù)（復(fù)制、與、或、異或），狀態(tài)分為關(guān)閉（白色）或開啟（黑色）。為簡化視覺呈現(xiàn)，采用彩色箭頭（青綠色或棕褐色）替代黑色箭頭表示特定連接。例如，時鐘與分頻器中最右側(cè)的與門直接輸出至數(shù)據(jù)寄存器中的每個與門。（B）可通過設(shè)置數(shù)據(jù)寄存器 P'、Q'、R'、S' 的初始狀態(tài)，對計算機進行編程以編碼 PQRS 的當(dāng)前狀態(tài)。（C）程序單元的初始狀態(tài)用于編碼 PQRS 的狀態(tài)轉(zhuǎn)移規(guī)則，程序所操作的數(shù)據(jù)為 P'、Q'、R'、S' 的當(dāng)前狀態(tài)。（D）每個寄存器每 8 個時間步更新一次狀態(tài)，此時計算機開始下一輪模擬迭代。

這是一個極具說服力的設(shè)置，因為它排除了復(fù)雜度、規(guī)模和工程細節(jié)的干擾，直擊“功能等價是否蘊含體驗等價”這一核心問題。

4. 實驗結(jié)果

1. 功能等價 ≠ 因果結(jié)構(gòu)等價

在特定狀態(tài)下，PQRS 形成一個單一的復(fù)合體，具有非零的系統(tǒng)整合信息φs，并展開出一個包含 13 個區(qū)分體和 8000 多個關(guān)系的復(fù)雜因果—效應(yīng)結(jié)構(gòu)。盡管它只有 4 個單元，但在 IIT 意義下，它已經(jīng)是一個“整體地為自身而存在”的系統(tǒng)。

相比之下，用來模擬 PQRS 的 117 單元計算機，在 IIT 分析中呈現(xiàn)出完全不同的圖景。整個計算機的φs = 0，因此它整體上不是一個復(fù)合體。系統(tǒng)分裂為 20 多個彼此獨立的小復(fù)合體，每個只包含 1–4 個單元。每個小復(fù)合體的因果—效應(yīng)結(jié)構(gòu)都極其貧乏，僅包含一階區(qū)分，幾乎沒有高階關(guān)系。

也就是說，盡管這臺計算機在輸入—輸出和狀態(tài)序列上與 PQRS 完全同構(gòu)，但在“自身內(nèi)部形成了什么樣的因果整體”這一點上，兩者毫不相似。

2. 宏觀抽象（macroing）無法挽救意識等價

面對上述結(jié)果，一個自然反應(yīng)是：我們是否選錯了分析尺度？也許意識并不在晶體管層面，而在更高層的“功能模塊”或“寄存器狀態(tài)”層面。IIT 對此并非沒有準備。理論允許、甚至要求系統(tǒng)在所有可能的微觀與宏觀粒度上被分析，以尋找使φs最大化的“內(nèi)在單元”。

然而，IIT 對“什么可以算作一個單元”有嚴格限制。首先，宏觀單元本身必須是不可約的；其次，它不能依賴系統(tǒng)外部或背景條件的因果整合；最后，它必須在排他意義下是最優(yōu)的。

作者詳細分析后表明：任何在功能上“自然”的宏觀抽象方式（例如把程序行、寄存器或多路復(fù)用器當(dāng)作單元），都違反了 IIT 的存在性公設(shè)。它們要么是可約的，要么其因果整合依賴于被排除的背景結(jié)構(gòu)。

結(jié)論是：不存在一個既符合 IIT 公設(shè)、又能讓計算機復(fù)制 PQRS 因果—效應(yīng)結(jié)構(gòu)的宏觀描述。

4.結(jié)論不依賴于“被模擬功能”的復(fù)雜度

為了避免“例子太簡單”的質(zhì)疑，作者進一步進行了以下的分析，首先模擬另一種因果結(jié)構(gòu)截然不同的系統(tǒng)（如 110號 元胞自動機）；其次，將計算機擴展為可模擬任意規(guī)模系統(tǒng)的圖靈完備版本（如圖3所示）。

圖3. 向模擬任意復(fù)雜系統(tǒng)的大型計算機的歸納擴展。（A）該計算機可逐步擴展以模擬任意規(guī)模的系統(tǒng)（左側(cè)），包括生物大腦或 110 規(guī)則元胞自動機（中間）—— 后者是圖靈完備的（右側(cè)）。通過傳遞性，若擴展至任意規(guī)模，該可編程計算機也具備圖靈完備性。（B）通過對被模擬系統(tǒng)規(guī)模的歸納可證明：計算機子系統(tǒng)在微顆粒度下指定的因果結(jié)構(gòu)不會發(fā)生定性變化，且僅隨系統(tǒng)規(guī)模線性增長；而被模擬目標系統(tǒng)的因果結(jié)構(gòu)規(guī)模和豐富度可能呈雙指數(shù)增長，導(dǎo)致計算機與被模擬系統(tǒng)之間的現(xiàn)象學(xué)分離不斷加劇。

結(jié)果顯示，不論被模擬系統(tǒng)的因果結(jié)構(gòu)多么豐富，計算機自身的因果結(jié)構(gòu)幾乎不變；計算機始終碎片化為許多小復(fù)合體，其 Φ 只隨規(guī)模線性增長；而被模擬系統(tǒng)的 Φ 可以隨規(guī)模呈雙指數(shù)增長。這意味著，模擬的“對象是誰”與模擬器“自身是什么樣的系統(tǒng)”在 IIT 的框架下并不是一回事，二者是解耦的。

5. 意識關(guān)乎“是什么”，而非“做什么”

該論文最激進、也最清晰的結(jié)論是：意識不是關(guān)于計算或功能的，而是關(guān)于內(nèi)在因果結(jié)構(gòu)的。模擬并不等同于復(fù)制存在方式。這一區(qū)分與許多經(jīng)典直覺相呼應(yīng)，比如模擬雨不會讓計算機變濕；模擬黑洞不會彎曲時空；同樣，模擬意識相關(guān)功能，并不會自動生成意識。

如果 IIT 是正確的，那么高度智能的 AI 系統(tǒng)，哪怕行為上與人類無異，也可能幾乎沒有意識。我們不應(yīng)僅憑表現(xiàn)或語言能力來判斷其道德地位。反之，一些在功能上并不“聰明”的系統(tǒng)，也可能擁有相對豐富的體驗。

當(dāng)然，這篇論文的結(jié)論完全建立在 IIT 的正確性之上。如果未來證據(jù)表明，人類意識并不對應(yīng)于最大化的內(nèi)在因果整合，或具體體驗內(nèi)容無法與因果—效應(yīng)結(jié)構(gòu)對應(yīng)，那么這一整套推論都將失效。

此外，論文并未聲稱“任何人工系統(tǒng)都不可能有意識”。相反，它留下了一個開放空間：如果某種人工系統(tǒng)在物理組織上真的形成了高度整合、不可約的內(nèi)在因果結(jié)構(gòu)，那么 IIT 并不排斥其擁有意識——但那將是一種在架構(gòu)上與傳統(tǒng)計算機截然不同的系統(tǒng)。

6. 結(jié)語

本文并不是一篇關(guān)于“AI 能不能有意識”的情緒化宣言，而是一篇在嚴格理論框架下，澄清概念邊界的論文。它提醒我們：在討論人工意識之前，必須首先弄清楚什么是意識，以及我們憑什么將意識歸因給一個系統(tǒng)。

無論你是否接受 IIT，這篇論文都成功地迫使讀者正視一個被長期忽略的問題：當(dāng)我們說“機器是否有意識”時，我們究竟是在問關(guān)于功能、關(guān)于行為，還是關(guān)于存在本身？

作者介紹

意識科學(xué)讀書會

從神經(jīng)元放電到自我意識的涌現(xiàn)，意識是人類最稀松平常的主觀體驗，也始終是科學(xué)中最迷人的問題。在“我是誰”的終極追問下，當(dāng)我們深入意識的機制與機理，會發(fā)現(xiàn)更值得深思的是，無論是神經(jīng)機制的功能整合、信息的跨腦區(qū)傳遞，還是現(xiàn)象意識的主觀性質(zhì)，不同層面的問題都在共同指向一個核心挑戰(zhàn)：物理過程如何產(chǎn)生主觀體驗？功能計算如何關(guān)聯(lián)現(xiàn)象感受？局部神經(jīng)活動又如何整合為統(tǒng)一的意識？而要回答這些問題的并不簡單，它可能會挑戰(zhàn)我們對世界和實在，乃至科學(xué)方法本身的理解。

為了對意識問題進行系統(tǒng)探討，集智俱樂部聯(lián)合來自哲學(xué)、認知神經(jīng)科學(xué)、計算機科學(xué)、復(fù)雜科學(xué)領(lǐng)域的研究者共同發(fā)起，跨越理論與實證、功能與現(xiàn)象、生物與人工的視角，全面深入研討意識這一現(xiàn)象本身。重點探討當(dāng)代主流意識理論的核心主張與分歧，神經(jīng)機制與主觀體驗之間的橋梁，以及AI意識、腦機接口等技術(shù)如何重塑人類意識主體的邊界與文明的未來。集智俱樂部榮幸邀請到IIT理論提出者、國際意識科學(xué)權(quán)威Giulio Tononi 教授在北京門頭溝區(qū)集智谷舉行深度對話?，F(xiàn)讀書會已完結(jié)，現(xiàn)在報名可加入社群并解鎖回放視頻權(quán)限。

詳情請見：

1.

2.

3.

4.

5.

6.

7.

8.

9.

10.

11.

12.

13.