The unfolding argument: Why IIT and other causal structure theories cannot explain consciousness

展開論證：為何 IIT 等因果結構理論無法解釋意識

https://www.researchgate.net/publication/333802932_The_Unfolding_Argument_Why_IIT_and_Other_Causal_Structure_Theories_Cannot_Explain_Consciousness

摘 要

我們如何解釋意識？近幾十年來，這個問題已成為神經科學研究的一個活躍話題。大量的實證結果得以積累，許多理論被提出。某些理論表明，意識應根據腦功能來解釋，例如在全局工作空間中訪問信息、將高階應用于低階表征，或預測編碼。這些功能可以由多種腦連接模式來實現。其他理論，如信息整合理論（IIT）和遞歸處理理論（RPT），將因果結構與意識等同。例如，根據這些理論，前饋系統(tǒng)絕不會有意識，而反饋系統(tǒng)總是有意識的。在此，利用計算理論中的定理，我們表明因果結構理論要么是錯誤的，要么處于科學領域之外。

關鍵詞：意識；理論；因果結構；IIT（信息整合理論）；RPT（遞歸處理理論）；神經網絡

1. 意識的因果結構理論

1.1. 意識與實證數據

我們每天醒來，從無意識狀態(tài)過渡到有意識狀態(tài)。顯然，這其中必有待解釋之處。在雙眼競爭和視覺掩蔽中，我們可以使清晰可見的刺激變得不可見。顯然，此處同樣必有待解釋之處。這些例子以及許多其他例子，被科學界常規(guī)用作研究意識的手段，且處于所有注重實證的意識理論的核心位置（圖 1a）。由于意識的主觀性，這些實驗中的因變量測量為主觀報告（或其他已知與主觀報告可靠相關的測量）。我們不能將腦活動測量作為意識的先驗指標，因為我們首要想要理解的是腦活動如何產生意識。

1.2. 意識的因果結構理論

意識理論旨在解釋所提出機制的變化如何導致從無意識狀態(tài)到有意識狀態(tài)的轉變，反之亦然。為此，許多理論提出，理解意識的基本要素在于系統(tǒng)的各個部分如何相互作用。如果一個系統(tǒng)擁有“正確”類型的因果結構，換言之，如果其元素以“正確”的方式相互作用，它就是有意識的。否則，它就不是。我們將此類理論稱為因果結構理論。例如，在遞歸處理理論（RPT）中，Lamme 提出遞歸處理對于意識而言既是必要的也是充分的（Lamme, 2006）。視覺前饋處理的首次掃描是無意識的。當遞歸的、自上而下的處理與初始前饋掃描期間激活的神經元相互作用時，意識便開始產生（Lamme, 2006）。根據 RPT，關鍵在于因果結構，因為意識僅取決于神經元如何彼此相互作用：存在遞歸處理時即有意識，否則便無意識。據提出，神經生理實驗可為 RPT 提供實證支持（圖 1c），在這些實驗中，當視覺刺激被有意識感知時，遞歸處理增強了 V1 區(qū)的神經活動。當刺激未被有意識感知時（如在麻醉期間或刺激被掩蔽時），則不存在遞歸處理（Fahrenfort, Scholte, & Lamme, 2007）。

信息整合理論（IIT）是意識因果結構理論的另一個例子。IIT 提出，一個稱為φ的信息整合度量（基于系統(tǒng)的因果結構計算而成）可量化意識（Oizumi, Albantakis, & Tononi, 2014）。意識被等同于φ > 0 的系統(tǒng)：若系統(tǒng)元素以“正確”的方式相互作用，則該系統(tǒng)φ > 0 且具有意識。若φ = 0，則為無意識。例如，在遞歸系統(tǒng)中φ始終大于零（它們始終有意識），而在前饋系統(tǒng)中φ始終等于零（它們絕無意識）。據斷言，相關研究可為 IIT 提供實證支持，這些研究顯示φ的實際代理指標在昏迷狀態(tài)下較低，在最小意識狀態(tài)下居中，而在清醒狀態(tài)下最高（Casali et al., 2013; Tononi, Boly, Massimini, & Koch, 2016）。

IIT 和 RPT 是最早對哪些系統(tǒng)具有意識做出精確預測的意識理論之一。因此，它們極大地推動了意識科學的發(fā)展。然而，我們將表明，出于原則性原因，因果結構理論最終會陷入實證僵局：它們要么是錯誤的，要么處于科學領域之外。

1. 展開論證

遞歸神經網絡是通用函數逼近器（圖 2; Sch?fer & Zimmermann, 2006）。也就是說，任何輸入-輸出函數都可以被逼近到任意精度。視覺就是這樣一個輸入-輸出函數。例如，動物圖片作為輸入呈現在視網膜上，輸出則是引發(fā)的動物知覺（或關于這些知覺的報告）。同樣，視覺掩蔽實驗中的刺激是輸入，輸出可能是按鈕按壓、口頭報告或任何其他被顯示為與主觀報告可靠相關的測量。重要的是，直接干預大腦的實驗，例如使用植入電極或經顱磁刺激（TMS），仍然是輸入-輸出函數。唯一的區(qū)別在于，部分輸入是通過電極或 TMS 提供的，而不是通過感覺器官。

前饋神經網絡也是通用函數逼近器（圖 2; Hornik, Stinchcombe, & White, 1989）。因此，對于給定的輸入-輸出函數，我們可以找到前饋網絡和遞歸網絡，它們以不同的方式實現相同的函數（LeCun, Bengio, & Hinton, 2015; Oizumi et al., 2014; Werbos, 1988）。例如，如果存在一個執(zhí)行圖像識別的遞歸網絡，那么就存在一個同等效果的前饋網絡。如果存在一個表現出雙眼競爭特征的遞歸網絡，那么就存在一個同樣如此的前饋網絡。如果存在一個以一組脈沖序列作為輸入并輸出另一組脈沖序列的遞歸網絡，那么就存在一個做同樣事情的前饋網絡。任何可以由遞歸網絡完成的事情，也可以以前饋方式完成（圖 2）。我們稱此為展開：任何遞歸網絡都可以展開為實現相同函數的前饋網絡。特別是，任何行為實驗都可以被視為一個輸入-輸出函數，因此可以由遞歸網絡和前饋網絡兩者實現。

任何輸入-輸出行為不僅可以由一個特定的前饋網絡實現，還可以由無限多個等價的前饋網絡和無限多個等價的遞歸網絡實現，因為通用逼近器屬性不依賴于結構細節(jié)，如層數或精確的連接性。事實上，給定一個輸入-輸出函數，我們可以找到無限多個網絡，每個網絡具有不同的φ，它們都實現相同的輸入-輸出函數（見附錄 A 和 B，另見 Chalmers, 2018）。此外，通用函數逼近器屬性不僅限于神經網絡，也適用于圖靈機、元胞自動機、循環(huán)標簽系統(tǒng)，更普遍地適用于任何通用計算系統(tǒng)（Turing, 1937; Wolfram, 2002）。這些事實是無爭議的且被廣泛接受的（包括 IIT 的支持者：見 Oizumi et al., 2014）。

2.1. 推論 I：因果結構理論與實證數據雙重解離

展開論證的一個推論是，因果結構理論要么是錯誤的，要么處于科學領域之外。換句話說，因果結構理論與實證數據是雙重解離的：它們既不是解釋實證數據的必要條件，也不是充分條件（見圖 3）。例如，根據 IIT，意識水平隨 ? 變化。一個系統(tǒng)有意識，當且僅當 ? > 0
（圖 3 中的紅色斜箭頭）。一個實驗可以被視為一個輸入-輸出函數（圖 2）。因此，對于任何能復現實驗結果且 ? > 0的遞歸系統(tǒng)，都存在 ? = 0
的前饋系統(tǒng)也能復現該結果。根據 IIT，一個系統(tǒng)有意識而另一個沒有。反之，對于任何 ? = 0 的前饋系統(tǒng)，都存在 ? > 0
的遞歸系統(tǒng)能產生相同的實驗結果。事實上，我們在附錄 A 中展示了如何用 ? = 0
或任意高的 ? 來實現任何函數。也就是說，對于每一個為 IIT 提供證據的系統(tǒng)，都存在其他可能證偽它的可能系統(tǒng)。

這一論證推廣至任何因果結構理論，而不僅僅是 IIT。所有因果結構理論都與關于意識的實證結果雙重解離。因此，為因果結構理論提供實驗證據是沒有意義的。例如，前面提到的圖形-背景（figure-ground）實驗不能支持也不能被 RPT 解釋，因為存在前饋網絡，當人類有意識地看到圖形時，它們能做出與人類相同的主觀報告，但根據 RPT 它們是無意識的。反之，存在具有遞歸活動的網絡，當人類沒有有意識地感知圖形時，它們能做出與人類相同的主觀報告，但根據 RPT 它們是有意識的。同樣，清醒人類比睡眠人類具有更高 ? ? 的發(fā)現不能被 IIT 解釋或支持，因為存在具有人類清醒特征的前饋網絡，以及具有人類睡眠特征的遞歸網絡。

我們的論證不僅具有抽象的數學性質。在現實生活中，有許多前饋和遞歸網絡實現相同復雜功能的例子。例如，深度強化學習已通過純前饋卷積網絡實現，并在 Atari 視頻游戲中達到了超人水平的表現（Mnih et al., 2013）。Hausknecht 和 Stone（2015）使用遞歸網絡復制了這一超人表現。展開定理告訴我們這并不令人驚訝，因為我們總能找到等價的前饋和遞歸網絡。這些系統(tǒng)在實證上是相同的（近似）。根據因果結構理論，一個有意識而另一個沒有。此外，展開提供了一種配方，可以構建兩個具有完全相同輸入-輸出函數但因果結構不同的小型機器人系統(tǒng)（見附錄 A 和 B）。在一個機器人上的實驗支持該理論；在另一個上的實驗證偽它。

展開論證表明，總有系統(tǒng)在實證上證偽因果結構理論。IIT 的支持者試圖通過聲稱 ? = 0
的系統(tǒng)是無意識的，盡管它們在實證上與有意識系統(tǒng)無法區(qū)分（Oizumi et al., 2014），來避免這個問題。我們將接下來展示，這一主張使 IIT 陷入循環(huán)論證，因此變得不可證偽。換句話說，因果結構理論已被展開論證證偽，除非它們決定變得不可證偽。

例如，IIT 的支持者可能仍然堅持認為，由于其因果結構不同， ? = 0
的機器人是無意識的，而 ? > 0
的機器人是有意識的。然而，這樣的命題很快就會陷入循環(huán)，因為我們沒有標準來解決這個問題。特別是，我們沒有實證標準，因為關于意識的實驗結果對于這兩個機器人來說是完全相同的。唯一相信只有 ? > 0 的機器人有意識的理由是已經相信 IIT，但這構成了循環(huán)。情況甚至更糟：有許多因果結構理論，如 IIT 和 RPT。哪一個是“正確”的？即使在 IIT 內部，公理也不能唯一確定 ? （Barrett & Mediano, 2019; Bayne, 2018），且不同的 ? ? 實證測量產生非常不同的結果（Mediano, Seth, & Barrett, 2018）。哪個版本的 IIT 是“正確”的？我們永遠無法決定，因為我們沒有標準來測試這些理論并將它們的預測相互對立。我們剩下的結論是，存在不同類型的“意識”（即 consciousness_IIT_version_1, ..., consciousness_IIT_version_n, consciousness_RPT，等等），這取決于我們偏愛哪個理論。堅持認為 ? = 0
的機器人是無意識的而 ? > 0
的機器人是有意識的，盡管它們在實證上完全相同，這將 IIT 置于實證科學領域之外。

為了總結展開論證，結論源于四個前提：

(P1): 在科學中，我們依賴物理測量（基于關于意識的主觀報告）。

(P2): 對于任何具有給定輸入-輸出函數的遞歸系統(tǒng)，都存在具有相同輸入-輸出函數的前饋系統(tǒng)（反之亦然）。

(P3): 兩個具有相同輸入-輸出函數的系統(tǒng)，不能通過任何依賴物理測量的實驗來區(qū)分（除了測量腦活動本身或系統(tǒng)其他內部運作）。

(P4): 我們不能使用腦活動測量作為意識的先驗指標，因為意識的腦基礎正是我們首先要試圖理解的。

(C): 因此，要么因果結構理論被證偽（如果它們接受展開的前饋網絡可以是有意識的），要么因果結構理論處于科學探究領域之外（如果它們堅持認為展開的前饋網絡是無意識的，盡管它們在實證上與功能等價的遞歸網絡無法區(qū)分）。

2.2. 例子

想象一下，有人可以通過手術用等價的前饋植入物替換大腦原生的遞歸聲音處理系統(tǒng)。該植入物接收與原生腦區(qū)相同的脈沖序列集合作為輸入，并輸出相同的脈沖序列集合。我們知道這種植入物原則上是存在的，因為前面提到的展開定理。盡管新植入物中的因果結構完全不同，但大腦的其余部分不會注意到任何差異。大腦可以執(zhí)行其正常功能。這意味著該人的所有主觀報告在手術前后都是完全相同的。這個人會聲稱關于聲音的所有事情都與植入前一樣，例如“我聽到雨的淅瀝聲，它在我聽來如同音樂”，或“我明白你在說什么”，等等。特別是，任何關于哪些聲音被有意識感知的實驗，都將產生與原生腦區(qū)完全相同的結果。因此，我們陷入了前面提到的困境：要么因果結構理論是錯誤的（如果它們接受植入后仍然存在聽覺意識），要么它們處于科學領域之外（如果它們聲稱有無植入物時意識是不同的，盡管不存在實證差異）。

我們可以將這個例子進一步推廣到整個大腦。由于任何可以通過遞歸網絡完成的事情也可以通過前饋網絡完成，因此可能存在“前饋大腦”，其行為與人腦完全一樣。這樣的系統(tǒng)將擁有與正常人腦完全相同的所有功能特征，但因果結構完全不同。它們在各方面都表現得完全像人類，無縫通過圖靈測試。然而，根據因果結構理論，它們是沒有意識的，因為它們不具備“正確”類型的因果結構。

關鍵在于，這些系統(tǒng)對任何實證實驗的反應都與人類完全相同。例如，它們會以完全相同的方式描述看到紅色、聽到聲音、擁有記憶等對其而言是怎樣的體驗。它們對所有科學范式（如掩蔽、雙眼競爭、圖形 - 背景分割等）的反應都完全相同。它們表現出相同的清醒特征和相同的睡眠特征?？傊瓌t上沒有任何行為實驗可以區(qū)分人腦和前饋大腦。因此，要么因果結構理論是錯誤的，要么它們處于科學領域之外。

2.3. 推論 II：IIT 中的意識內容與實驗雙重解離

在因果結構理論中，意識的內容也與實證觀察雙重解離。例如，我們可以構建這樣的系統(tǒng)：其行為表現為擁有體驗 X，而根據 IIT，它們實際上正在體驗 Y（見附錄 C）。例如，一個參與競爭實驗的系統(tǒng)可能會報告它正在看到貓的圖像，而根據 IIT，它正在體驗火腿的氣味。原則上，如附錄所示，它可以在報告看到貓的同時體驗任何意識內容。當然，它也可能體驗看到一只貓，但這將只是巧合，顯示出一種雙重解離。

因果結構理論之所以容易受到此處提出的這類論證的影響，有一個直接的原因。系統(tǒng)要有意識所需要的僅僅是一個特定的因果結構。同時，任何功能都可以由許多具有不同因果結構的不同系統(tǒng)來實現。因此，因果結構與實驗結果之間不可能存在一致的聯系。

2.4. 網絡效率與進化約束

實際上，大腦必須應對非常嚴格的空間和能量約束：處理必須足夠高效以便容納在一個小小的頭骨內，且能量消耗必須受限。實驗表明，確實，當神經元數量有限時，足夠復雜的任務會強烈約束網絡屬性（Khaligh-Razavi & Kriegeskorte, 2014; Nayebi et al., 2018; Yamins et al., 2014）。一般來說，前饋網絡比具有更高效因果結構的等價遞歸網絡需要多得多的神經元來實現某一功能，因此是不切實際的（但并非總是如此：例如，圖像識別在前饋卷積網絡中實現得更高效）。在這方面，因果結構理論可能會被證明是意識的良好標記。例如，高φ具有明顯的功能益處，例如高效地整合信息。我們認為，清醒的大腦出于這種功能原因而具有高φ。因此，因果結構可能是人類意識的良好相關指標，并非因為它們與意識等同，而是因為它們與一般的神經信息處理具有良好的相關性，而作為一種偶然規(guī)則，這恰好與人類的意識狀態(tài)共變。這解釋了為什么因果結構理論可以提供人類意識測量儀（例如見 Casali et al., 2013）。然而，將意識與因果結構等同起來則是完全不同的另一回事。簡言之，大腦之所以是遞歸的，是因為大腦處理必須能夠容納在頭骨之內，而非因為意識與大腦的因果結構等同。

2.5. 展開論證 vs. 僵尸論證

僵尸論證是一個著名的論證，旨在表明物理主義和功能主義理論無法解釋意識。想象一下無意識的“僵尸”，它們在實證上與有意識的“非僵尸”等價物無法區(qū)分。例如，如果一只僵尸不小心把手放在熱爐子上，它會大喊“哎喲”并立即縮回手，就像非僵尸一樣。然而，僵尸感覺不到疼痛。僵尸與非僵尸之間的第三人稱可觀察屬性完全相同，但意識不同。僵尸是否實際上可能存在備受爭議（例如，Dennett, 1991）。然而，如果它們存在，那么意識就無法在標準的科學功能主義框架中得到解釋（這就是意識的硬問題；Chalmers, 1996）。確實，如果功能相同的系統(tǒng)（無意識的僵尸及其有意識的非僵尸等價物）可以擁有不同的意識，那么功能主義方法就無法解釋意識。

展開論證與僵尸論證非常不同，原因有二。首先，僵尸論證旨在駁回所有關于意識的物理主義解釋，包括功能主義的解釋。相比之下，展開論證僅針對意識的因果結構理論，而不是一般的物理主義或功能主義理論。事實上，展開論證傾向于功能主義理論，因為對網絡進行（展開/折疊）只改變其因果結構，而不改變其功能或物理性質。其他主要的意識理論，如全局工作空間理論（GWT; Baars, 1997; Dehaene & Naccache, 2001）、高階思維理論（HOTT; Lau & Rosenthal, 2011; Rosenthal, 2004）或預測處理理論（PPT; Friston, 2013）不受展開論證的影響，正如我們在下一小節(jié)中展示的那樣。

其次，人們可以選擇通過聲稱僵尸實際上不可能存在來駁回僵尸論證（例如，Dennett, 1991）。相比之下，展開系統(tǒng)的存在是一個直接的數學事實，而不僅僅是一個思想實驗。事實上，展開提供了一種配方，用于創(chuàng)建具有不同因果結構（例如，具有任意高的φ；見附錄 A 和 B）的實證上相同的網絡。如前所述，甚至存在前饋和遞歸代理執(zhí)行相同復雜任務的現實案例（見第 2.1 節(jié)）。因此，例如，我們在實踐中從未觀察到展開的皮層（并且可能永遠不會）這一事實本身不足以成為質疑展開論證的理由。此外，盡管展開的大腦不切實際，但我們明確表明展開論證不僅依賴于展開的整個大腦（見前面關于聽覺系統(tǒng)的例子）。這個例子可以再次縮小到由特定因果結構理論提出的與意識相關的最小大腦部分。

2.6. 非因果結構意識理論不受展開論證的影響

全局工作空間理論（GWT; Baars, 1997; Dehaene & Naccache, 2001）、高階思維理論（HOTT; Lau & Rosenthal, 2011; Rosenthal, 2004）或預測處理理論（PPT; Friston, 2013）是意識功能主義理論的例子：它們專注于被認為對意識至關重要的功能。展開論證不適用于這些理論，因為它們提出，只要系統(tǒng)實現了正確類型的功能，系統(tǒng)就是有意識的——獨立于因果結構。當然，這些理論通常用遞歸或自上而下處理，或其他看似因果結構的術語來表述，但它們也可以在其他類型的網絡中表述。展開論證僅適用于那些認為遞歸本身（或另一種提出的因果結構）對意識是必要且充分的理論。

例如，GWT 的典型描述是，當編碼特定意識內容（例如，感覺區(qū)域）的皮層區(qū)域在一個由高度遞歸的額頂葉區(qū)域組成的全局神經元工作空間中“廣播”其信息，從而使這些內容可被其他區(qū)域廣泛使用時，意識就會發(fā)生。這里的關鍵功能是 (a) 在感覺區(qū)域創(chuàng)建內容，以及 (b) 使這些內容可被其他區(qū)域廣泛使用（即廣播）。GWT 通常用遞歸網絡來解釋。盡管如此，等價的前饋網絡可以維持相同的廣播功能（見圖 4 的一個玩具模型）。類似的玩具模型很容易為 HOTT、PPT 和所有其他功能主義理論制作。重要的是功能，例如廣播，而不是（神經）實現?？傊?，功能主義理論與因果結構理論的重要區(qū)別在于，它們提出功能對意識至關重要，獨立于它們的實現。例如，一個展開的全局工作空間網絡保留了廣播的關鍵功能。因此，就其本質而言，功能主義理論不受展開論證的影響。

2.7. 展開與相關方法

對于許多研究人員來說，意識是非物理的，不能使用輸入 - 輸出函數進行研究，因此可能無法用標準神經科學來解釋（Chalmers, 1996）。在這種情況下，直接研究意識是不可能的。然而，意識仍然可能通過基于相關性的橋接原則與神經狀態(tài)聯系起來（Chalmers, 2004; Varela, 1996）。例如，我們可能會發(fā)現人類關于其意識體驗的報告（第一人稱數據：我正在體驗一張臉）與大腦的可觀察屬性（第三人稱數據：梭狀回面孔區(qū)的神經活動）之間的相關性。引用 Chalmers (2004) 的話：“在意識的情況下，我們可以期望系統(tǒng)的橋接原則構成基礎并解釋第三人稱數據與第一人稱數據之間的共變?！?/p>

由于展開論證，這種方法不能適用于因果結構理論（圖 5）。如前所述，有無限多個等價系統(tǒng)產生與人類完全相同的第一人稱報告，但具有完全不同的因果結構。因此，依靠第一人稱報告將意識屬性與大腦的因果結構聯系起來是不可能成功的（圖 5）。相關方法不能適用于因果結構理論，盡管它可能（也可能不）對其他意識理論成功。

1. 結語

要被視為科學的，IIT 和其他因果結構理論需要實證支持。然而，展開論證表明它們要么是錯誤的，要么處于科學領域之外。出于同樣的原因，不同的因果結構理論無法相互比較。例如，IIT 公理的不同數學表述會導致關于哪些系統(tǒng)有意識的不同預測，但我們無法比較它們，因為這些預測與實證數據雙重解離。IIT 的支持者此前已承認，前饋和遞歸網絡在功能上可以是等價的，但根據 IIT，它們具有不同的意識（Oizumi et al., 2014）。換句話說，他們與我們共享相同的無爭議的起點。然而，結論截然不同。IIT 的支持者認為，這應促使我們關注意識的主觀性。相比之下，我們得出結論，采用因果結構理論排除了任何對意識的實驗方法。事實上，我們已經表明，所有可能的實驗結果，包括那些關注主觀性的結果，都不依賴于因果結構。

展開論證排除了一類意識解釋，其中意識隨附于因果結構。這應促使我們在嘗試理解意識時將注意力轉向其他地方。在這方面，展開論證表明，意識必須在比神經連線更抽象的層面上得到解釋。事實上，任何提出的基于神經連接的框架都受制于展開論證：任何網絡都可以被等價的前饋網絡所取代，后者具有不同的連接，但導致關于意識的相同實證觀察。只有那些抽象掉實現細節(jié)并專注于解釋哪些類型的功能對意識重要的理論，才能避免這些挑戰(zhàn)。為了保持在科學領域之內，意識必須根據其做什么來描述，而不是根據其如何做來描述。

原文鏈接：https://www.researchgate.net/publication/333802932_The_Unfolding_Argument_Why_IIT_and_Other_Causal_Structure_Theories_Cannot_Explain_Consciousness