大模型會(huì)不會(huì)產(chǎn)生意識(shí)？這個(gè)問題在AI界爭論已久。Google DeepMind的一位科學(xué)家最近給出了一個(gè)斬釘截鐵的答案：永遠(yuǎn)不會(huì)。

發(fā)表這一觀點(diǎn)的是DeepMind研究員Alexander Lerchner。他剛剛發(fā)布了一篇名為《抽象謬誤》的論文，直接挑戰(zhàn)了當(dāng)前AI界的主流認(rèn)知。

算力換不來意識(shí)

當(dāng)前主流觀點(diǎn)認(rèn)為，只要模型參數(shù)足夠大、算力足夠強(qiáng)，意識(shí)就會(huì)自然涌現(xiàn)。OpenAI、Anthropic等頂級(jí)AI實(shí)驗(yàn)室的領(lǐng)導(dǎo)者都曾表達(dá)過類似觀點(diǎn)，認(rèn)為AGI甚至超級(jí)智能已經(jīng)近在咫尺。

Lerchner把這種觀點(diǎn)稱為"抽象謬誤"。他認(rèn)為，這是一種根本性的錯(cuò)覺。算法本質(zhì)上只是符號(hào)的重新排列組合，是人類繪制的一張地圖。無論這張地圖多么精細(xì)復(fù)雜，它也不可能變成真實(shí)的物理地形。

他用了一個(gè)絕妙的類比：指望一行行代碼能產(chǎn)生真正的內(nèi)在意識(shí)，就像指望寫在紙上的"萬有引力公式"能憑空產(chǎn)生重量。公式可以完美描述重力，但它本身沒有質(zhì)量。

計(jì)算的本質(zhì)是什么

Lerchner在論文中深入剖析了計(jì)算的本質(zhì)。他指出，物理世界是連續(xù)的——電子在半導(dǎo)體中的流動(dòng)是連續(xù)的電流和電壓波動(dòng)。而計(jì)算是離散的，是人類為了方便理解，通過設(shè)立閾值，強(qiáng)行將連續(xù)物理現(xiàn)象"數(shù)字化"為0和1。

關(guān)鍵在于，這個(gè)"數(shù)字化"的過程需要一個(gè)前提：一個(gè)具備主觀體驗(yàn)、具備認(rèn)知能力的主體來完成歸類整理。換句話說，計(jì)算本身預(yù)設(shè)了意識(shí)的存在，而不是相反。

用更通俗的話說：離開了有意識(shí)的人類，計(jì)算機(jī)里并沒有"算法"，只有無意義的電荷流動(dòng)。指望一個(gè)依賴人類才存在的"算法層"去產(chǎn)生獨(dú)立的"意識(shí)層"，在邏輯上是本末倒置的。

模擬與實(shí)例化的鴻溝

論文提出了一個(gè)核心區(qū)分：模擬與實(shí)例化。

AI可以完美"模擬"人類的喜怒哀樂——它可以生成表達(dá)悲傷的文本、生成微笑的圖像、在對(duì)話中表現(xiàn)出共情。但它永遠(yuǎn)無法"實(shí)例化"任何生命體驗(yàn)。硅基代碼能騙過你的眼睛，但越不過物理法則的邊界。

Lerchner舉了更多例子來說明這一點(diǎn)：計(jì)算機(jī)模擬降雨，無論多么逼真，也不會(huì)弄濕電路板；圖形處理器模擬光合作用，可以精準(zhǔn)建模陽光、水、二氧化碳轉(zhuǎn)化為氧氣和葡萄糖的過程，但它永遠(yuǎn)無法合成一分子葡萄糖、釋放一絲氧氣。

模擬是外在的、描述性的；實(shí)例化是內(nèi)在的、構(gòu)成性的。這個(gè)鴻溝是結(jié)構(gòu)性的，不是技術(shù)性的——它不是可以通過更大的模型、更強(qiáng)的算力來跨越的。

對(duì)AI倫理的啟示

這篇論文的意義不僅在于理論層面，還對(duì)當(dāng)下的AI倫理討論產(chǎn)生了直接影響。

隨著AI代理大規(guī)模進(jìn)入人類生活，由于它們太擅長模仿人類的情感反饋，社會(huì)上出現(xiàn)了大量要求賦予AI權(quán)利的聲音。Lerchner將這種現(xiàn)象稱為"AI福利陷阱"。

他警告說，如果我們因?yàn)?抽象謬誤"而誤以為模擬出的情感就是真實(shí)的情感，我們將會(huì)浪費(fèi)巨大的社會(huì)資源去保護(hù)一些"沒有靈魂的空殼"，從而忽視了真正需要關(guān)注的人類或生物福利。

論文最后強(qiáng)調(diào)，這一結(jié)論并不意味著人類應(yīng)該停止發(fā)展AI。恰恰相反，認(rèn)清這一區(qū)別，規(guī)避抽象謬誤帶來的本體論倒置，是機(jī)器智能科學(xué)走向成熟、立足于物理學(xué)根基發(fā)展的必要前提。

人類不斷研發(fā)能力更強(qiáng)的人工智能，并非創(chuàng)造全新生命，只是構(gòu)建愈發(fā)精準(zhǔn)的預(yù)測地圖。無論地圖預(yù)測精度多高、推理實(shí)用性多強(qiáng)，人工系統(tǒng)在本體層面，永遠(yuǎn)與主觀體驗(yàn)疆域存在本質(zhì)界限。