投稿郵箱：wenhuazongheng@gmail.com

《文化縱橫》郵發(fā)代號：80-942

? 劉禾

美國哥倫比亞大學比較文學與社會研究所

? 訪談、整理 | 郝煜東、戎漸歆

文化縱橫編輯部

【導讀】11月24日，美國總統(tǒng)特朗普簽署行政令，推出由能源部主導的國家級戰(zhàn)略”創(chuàng)世紀計劃“（Genesis Mission），旨在傾舉國之力調(diào)配、集結(jié)科學資源，通過人工智能變革科學研究范式、加速科學發(fā)現(xiàn)。分析人士稱其為AI領(lǐng)域的“曼哈頓計劃”或“阿波羅太空計劃”，標志著數(shù)字技術(shù)領(lǐng)域的大國競爭進一步激化。

迫近的現(xiàn)實，敦促我們重新審視數(shù)字技術(shù)的緣起，改換“天才發(fā)明技術(shù)”的敘事邏輯。在本篇專訪中，劉禾圍繞她最新譯為中文的著作《弗洛伊德機器人》，講述了技術(shù)與時代的密切關(guān)聯(lián)。劉禾指出，作為當今AI技術(shù)的前身，控制論與通信技術(shù)是資本主義戰(zhàn)爭機器的產(chǎn)物，二戰(zhàn)與冷戰(zhàn)的歷史社會場景，從最初便塑造了人們對人機關(guān)系的想象。在地緣政治中信奉”你死我活“的零和博弈的人們，將人機關(guān)系局限在“控制”與“被控制”的主奴關(guān)系之中；自戀心理的投射，又使機器得以深入而全面地改造人類社會的組織方式。

本文作者的反思，超越了常見的將數(shù)字技術(shù)作為“社會現(xiàn)象”的表層討論，從哲學維度深入分析了數(shù)字技術(shù)的內(nèi)在運作邏輯，揭示了它對人類認知形態(tài)與社會組織方式帶來的根本沖擊——與改造生產(chǎn)關(guān)系的歷次工業(yè)革命不同，AI正在重塑人類本身；離不開機器的人類，可能漸漸成為自動運轉(zhuǎn)的、與之類似的無意識個體。

歷史需求的更迭，為技術(shù)進步提供了土壤；技術(shù)對人類社會的改造，又對現(xiàn)有的認知哲學與社會科學范式提出了挑戰(zhàn)。我們的世界正在經(jīng)歷天翻地覆的變化，亟需尋找新的思想資源，打開新的討論空間。下一輪技術(shù)與認知革命，或許也將是當今時代的回音。

本文原載于《文化縱橫》2025年第6期，僅代表作者觀點，供讀者參考。

揭開“數(shù)字文明”的真相：

人如何被機器改造？

文化縱橫：您的著作《弗洛伊德機器人》的中譯版剛出版，主要討論的是人與機器的關(guān)系，這個話題其實已經(jīng)在眾多科幻題材的作品中大量出現(xiàn)了。比如，我們常喜歡講人類能不能真的控制機器，機器人會不會造反，就像《2001太空漫游》中的哈爾9000；或者是我們能不能讓機器人服務(wù)于更良善的社會目標；再或者像《銀翼殺手2049》里一樣，討論如果機器人有了靈魂、有了意識，那它到底是不是人，人和機器的區(qū)別到底在哪里。但劉禾老師您的討論方式，似乎和這些傳統(tǒng)話題有所不同？

劉禾：我們通?？吹降娜撕蜋C器的關(guān)系，在人工智能的敘事表達中，往往被想象成“主奴關(guān)系”。有意思的是，“機器人”的英文單詞“robot”源自捷克語，本意就是“奴隸”。很多人就望文生義，認為機器和人必須要從主奴關(guān)系的角度去思考。的確也有不少科幻電影和小說在探討這個問題，而且都在表達同一種焦慮，就是萬一主奴關(guān)系顛倒過來，怎么辦？萬一奴隸要造反，然后反過來奴役我，怎么辦？這聽起來有點像通常統(tǒng)治階級常有的那種焦慮，例如庫布里克那部電影，《2001太空漫游》就是典型的由奴隸變成造反派的故事，哈爾9000要謀殺他本來應(yīng)該服務(wù)的主人，也就是人類。我認為這種科幻的想象掩蓋了很多需要進一步思考的問題：數(shù)字技術(shù)出現(xiàn)的前后，我們發(fā)明機器人的真實原因是什么？人和機器的關(guān)系到底是怎么發(fā)展過來的？都有哪些重大的變化？

說到底，人和技術(shù)的關(guān)系是人類文明進化史的核心。如果我們回看古代文明，就會發(fā)現(xiàn)其中有一些技術(shù)發(fā)明我們至今仍然還在使用，比如書寫技術(shù)。通常我們不把書寫技術(shù)也看作是技術(shù)，是因為太熟悉了。大家會認為，學寫字不就是學一些符號嘛，比如學漢字，你花那么多年要把字寫好，學英文不但要認識26個字母，你還得學會拼寫——你把這些符號記住不就行了嗎？而且在電腦發(fā)明之前，長期以來大家不都是用手寫的嗎？這個跟技術(shù)有什么關(guān)系？

當然有關(guān)系。古人發(fā)明書寫技術(shù)時，他們知道需要幾個特定的技術(shù)條件。首先需要書寫平面，比如古代中國的竹簡或者木簡、古代兩河流域的泥板、古埃及人用的莎草紙，以及后來紙張的發(fā)明等等。其次就是書寫工具，可以是刻刀，可以是毛筆。然后是我們所說的漢字或者拼音字母，也就是一套符號。但僅僅靠一套符號是不能解釋書寫系統(tǒng)的，在這個意義上，古代的書寫技術(shù)和我們現(xiàn)在通過電腦鍵盤打字，然后由電腦晶片的電路處理數(shù)字和文字符號，兩者之間在本質(zhì)上是相通的。

這也是為什么考古學家喜歡用有沒有書寫技術(shù)的標準，去衡量古代文明發(fā)展的程度。因為不是所有使用口頭語言的文明，最后都發(fā)展出了書寫技術(shù)。一般來說，考古學家認為，世界上有四大文明區(qū)最早發(fā)明了書寫技術(shù)，中國是其中之一。但中國一直是多語種的歐亞大陸的一部分，并不是所有的地方語言都發(fā)展出了書寫技術(shù)。這不是一個先進與落后的問題，長久以來，有沒有必要去發(fā)明書寫符號，或者借用一套符號系統(tǒng)，才是事情的關(guān)鍵。

我在書中提到一位科技史學者，名叫哈羅德·伊尼斯，他也是媒體學創(chuàng)始人麥克盧漢常常引用的歷史學家。伊尼斯寫過一本書叫《帝國與傳播》，其中提到，為什么古羅馬帝國需要書寫技術(shù)？因為它在海外征服的時候，需要進行遠距離的信息傳遞，如果沒有這種傳播交流的需求，就用不著書寫技術(shù)。再比如蒙古帝國發(fā)跡的時候，同時也發(fā)明了自己的文字，因為在他們往歐亞大陸擴張的時候，也有遠距離傳遞情報信息的需要。古代遠距離的通訊方式大致有兩種：如果你有書寫技術(shù)，就可以騎馬送信，如果沒有的話，就只能靠吟唱詩歌，因為詩句有韻律，便于記憶。古代世界有很多地區(qū)就用這些辦法來傳遞戰(zhàn)爭的消息。

因此，我們在思考人和技術(shù)的關(guān)系時，一定要關(guān)注它的政治、社會、和經(jīng)濟的必要條件——注意，我這里說的不是“背景”，因為即使在同樣的環(huán)境下，沒有到“必要”的時候，也不會出現(xiàn)生成某種技術(shù)的客觀條件。可是現(xiàn)在我們在談?wù)撊撕蜋C器的關(guān)系，談?wù)摍C器人、人工智能的時候，往往把這些必要條件拋在腦后。已經(jīng)有大量的學術(shù)研究說明，蒙文、滿文的出現(xiàn)，都和帝國征服與擴張有關(guān)系，都是為了滿足遠距離通訊的需要。反而在當代技術(shù)的重重包圍之中，我們卻不大思考這些技術(shù)的來龍去脈，總覺得是有一群聰明人發(fā)明了新技術(shù)，把它付諸應(yīng)用，然后這個技術(shù)不斷改善，最后達到了很高的水平。當前這種故事講得太多了，我們恐怕要講一些新的故事?？萍际穼W家在討論科技的發(fā)明時，一定會看到更大的政治、文化、經(jīng)濟的場景，同樣的，我們在思考當代數(shù)字技術(shù)和我們的關(guān)系時，也需要特別注意數(shù)字技術(shù)是在什么場景下出現(xiàn)的。注意，我在這里說的是場景，而不是背景。

通信技術(shù)的發(fā)明，控制論的發(fā)明，還有書中提到的博弈論，這些數(shù)字技術(shù)，就是今天人工智能的前身，它們與二戰(zhàn)和冷戰(zhàn)有千絲萬縷的淵源關(guān)系。比如通信數(shù)學理論的發(fā)明者、通訊技術(shù)的鼻祖香農(nóng)，他在二戰(zhàn)期間負責一個叫做“Project X”的絕密計劃，到40年代二戰(zhàn)結(jié)束時，其中的一部分內(nèi)容得到解密，作為香農(nóng)的《通信的數(shù)學理論》發(fā)表，影響巨大。這個解密項目是針對加密技術(shù)，尤其是對電話通訊的加密，比如美國總統(tǒng)和英國首相之間的通話。另一位科學家，發(fā)明控制論的維納，他當時試圖解決的問題是，戰(zhàn)斗機如何能準確地擊中在空中運動的敵機。在這些研究的基礎(chǔ)上，他發(fā)明了“反饋回路”（feedback loop）的理論。博弈論之父的馮·諾依曼，在美國設(shè)計出第一部存儲程序計算機，把數(shù)學家圖靈的設(shè)想變成了現(xiàn)實，他也是深度參與了美國二戰(zhàn)期間的科技開發(fā),包括研制核武器的“曼哈頓計劃”。也就是說，所有的這些技術(shù)突破，都是為了解決戰(zhàn)場上的具體需求，為了更新軍事裝備，其最初的目標都是解決軍事技術(shù)上的問題。后來進入冷戰(zhàn)階段，尤其是美蘇軍備競賽開始后，美國由于缺少閱讀斯拉夫語、俄語的人才，而有蘇聯(lián)科技相關(guān)的大量情報需要解讀，因此才試圖借助機器解決這個問題，于是機器翻譯就開始出現(xiàn)。機器翻譯處理的是自然語言，而人工智能的核心領(lǐng)域“自然語言處理”（NLP）就是在冷戰(zhàn)期間的機器翻譯研究中誕生出來的。

“信息論之父”香農(nóng)的著作《通信的數(shù)學理論》，就源自他在二戰(zhàn)期間負責的絕密項目

文化縱橫：換言之，最開始的數(shù)字技術(shù)，和“理解”或“模仿”人類幾乎沒有關(guān)系，相反，它試圖解決的只是處理符號、處理語言的問題——可以說是一條和人們常規(guī)的想象中完全不同的技術(shù)路徑。那旨在解決這些具體問題的研究，是如何影響人們對自身的理解，以及對人機關(guān)系的理解的呢？

劉禾：圖靈把計算機叫做“處理符號的機器”，它的核心就是一套簡單的但能延伸出無限的符號組合。最早設(shè)計計算機和通訊電路的科學家，比如圖靈和香農(nóng)，都是在這個基礎(chǔ)上開發(fā)數(shù)字技術(shù)的。由此產(chǎn)生的問題是，這一套符號跟語言有什么關(guān)系？機器處理符號，等于它能“理解”符號嗎？但是，這其實是個很荒唐的問題，因為機器不需要理解，它只要處理0101的組合，也就是處理符號本身就行了。

總之，所有技術(shù)的出現(xiàn)，都有這個特點，都要有解決特定問題的必要性。19世紀的摩爾斯電碼是為了實現(xiàn)快速的遠距離信息傳輸，尤其是軍事信息的傳輸，而當時的電報機很原始，無法處理復雜符號，只能用“一短”“一長”的代碼構(gòu)造出最簡易的符號系統(tǒng)。而拼音字母，比如英文中的26個字母表，碰巧也是比較簡易的符號系統(tǒng)。香農(nóng)在發(fā)明通信的數(shù)學理論的時候，就反復研究了電報時代的摩爾斯電碼，他發(fā)現(xiàn)電報代碼除了“一短”“一長”以外，還有一個不可或缺的符號，那就是“空格”。他接著又發(fā)現(xiàn)，空格對拼音文字的系統(tǒng)來說，也是至關(guān)重要的。為什么？因為通訊機器依靠是書寫符號，它只能以數(shù)字或字母的形式進行傳輸，如果字母在書寫中不加空格，那英文詞的邊界也會消失。香農(nóng)將這個空格稱作英文字母表的“第27個字母”。

香農(nóng)接下來追問的是，英文書寫中的數(shù)學結(jié)構(gòu)是什么？空格在英文字母的組合中占多大概率？比如字母a出現(xiàn)的頻率有多高，字母e出現(xiàn)的頻率有多高，ea這兩個字母組合起來的頻率高，還是ae組合的頻率高等等？香農(nóng)不僅計算出空格在英文中出現(xiàn)的頻率，而且還能預測任何字母后面最有可能跟著哪個字母，或者任何詞后面最可能出現(xiàn)哪個詞。這也是目前人工智能技術(shù)中最常用的預測方法。香農(nóng)在這個基礎(chǔ)上發(fā)明了包含27個字符的“機識英文”的字母表——我在書中說，香農(nóng)把英文字母由拼音文字系統(tǒng)變成了表意符號系統(tǒng)，這是一個重大的符號學轉(zhuǎn)向。

香農(nóng)發(fā)明的機識英文，和機器能不能像人一樣“理解”它所處理的符號，其實毫無關(guān)系。反倒是，這個發(fā)明無意間對我們一直怎樣誤解語言，提出了很直接的挑戰(zhàn)。因為既然機器在處理語言文字符號的時候，要根據(jù)符號組合的概率自動運作，那么，人和語言的關(guān)系是不是也遵循同樣的邏輯呢？在這里，通訊理論和控制論的研究為我們提出一個深刻的問題：人們真的了解自己所使用的語言嗎？比如人們在思考和說話的時候，在多大的程度上是被文字和語言本身的組合概率所驅(qū)動的？

香農(nóng)在研究過程中發(fā)現(xiàn)，機器根據(jù)頻率計算得出的結(jié)果，經(jīng)常是無意義的句子，也就是我們常說的“亂碼”。但機器并不能區(qū)分出有意義和無意義的句子。那么和機器相比，人的所謂“理解力”又是從哪里來的呢？這時候我們會發(fā)現(xiàn)，幼兒學習語言，是一個非常漫長的習得過程，需要不斷地重復、糾錯、記憶，并受到整個社會生活邏輯的規(guī)范。兒童從不懼怕沒有意義的音節(jié)，反而會興高采烈地去模仿這些；兒童接受“無意義”的言說沒有任何障礙，反而是受過教育的成年人不知道如何處理，因為“無意義”對我們來說就是胡言亂語。在實際生活中，成年人其實也被大量的無意義的言說所包圍，但我們通常做法是將這些一概從視野中排除出去，只留下對自己有意義的東西。問題在于，這種情況下，我們評判意義的有和無，其依據(jù)是不是也受制于詞句組合的“頻率”的支配呢？正如香農(nóng)通過計算，得出了英文書寫的數(shù)學結(jié)構(gòu)（即字母組合的頻率計算），那么人和語言符號的關(guān)系，里面有沒有類似的概率邏輯呢？換言之，人對語言文字的處理，是不是很像通訊機器對數(shù)字和文字的處理呢？

這是控制論的重要發(fā)現(xiàn)之一?？刂普撗芯康?，是機器行為和動物行為——包括人的行為——之間存在什么共生性，尤其是在信號的傳輸系統(tǒng)上。控制論的兩個代表人物，麥卡洛克和沃爾特·皮茨早在1943年就發(fā)表文章，指出人的大腦神經(jīng)元的行為很像數(shù)學符號的邏輯行為，它們都受制于信號的有和無。這兩個人堅持認為，驅(qū)動腦神經(jīng)活動的命題邏輯，跟驅(qū)動機器的命題邏輯是同一個東西。他們的這篇文章對后來的神經(jīng)網(wǎng)絡(luò)研究影響深遠。

文化縱橫：研究控制論的科學家實際上將人腦看作一臺機器。按照他們的說法，人類理解世界，也是通過概率的無意識結(jié)構(gòu)進行的，這似乎完全挑戰(zhàn)了一直以來對自由意志的討論。從這個意義上說，您覺得控制論的研究，對我們的認識論，或整個西方哲學的傳統(tǒng)帶來了怎樣的沖擊和挑戰(zhàn)？

劉禾：“自由意志”（free will）來源于古老的西方神學，我在這里按下不談，因為它涉及很多問題，會干擾我們談話的重點?？刂普撗芯啃〗M的數(shù)學家和工程師，把他們的注意力集中在解決冷戰(zhàn)時期出現(xiàn)的具體問題上，完全無意將它們上升到哲學的層面來思考。但其中的個別成員確實有某種直覺，他們在研究技術(shù)問題的時候，倒是提出一些很有意思的哲學洞見。

比如香農(nóng)，他做了很多玩具機器——他把它們稱為“沒用的機器”——比如迷宮里會找路的機械老鼠等等。其中，他做了一個小盒子，盒子上面有個按鈕，一按下去蓋子就會打開，伸出一只手把按鈕關(guān)上，它就縮回去了——香農(nóng)將它稱為“終極機器”。亞瑟·克拉克，《2001太空漫游》的作者，在貝爾實驗室看到了這個盒子。后來克拉克描述道，那是一個“什么都不做，只會把自己關(guān)掉”的機器，讓他看了之后“毛骨悚然”。那似乎是在模擬弗洛伊德所說的死亡驅(qū)動，也就是自殺。現(xiàn)在很多科學家說，我們可以用假肢替換人的肢體，還能將芯片植入人的大腦里，人將獲得永生不朽。這似乎還是在尋找從秦始皇開始就在尋找的靈丹妙藥，也就是如何克服死亡。在現(xiàn)代科技條件下，大腦出問題了可以加芯片，胳膊沒了可以換假肢，甚至有人幻想人的大腦儲存的記憶總有一天也可以上傳下載?？墒窍戕r(nóng)的“終極機器”，它只會把自己關(guān)掉，這里的“終極”意義就意味深長。

另一個可以參照的例子是“恐惑谷”（the uncanny valley），它是70年代一位專門研究機器人的日本工程師森政弘提出的概念。他所在的實驗室制造仿生手臂，可以將它做的非常逼真，無論是手和胳膊的運動方式，還是皮膚的觸感，都像真人的手。但當你去握這只手時，你會發(fā)現(xiàn)它是冰涼的——它看起來像活人，摸起來像死人，這種不確定性突然讓人產(chǎn)生一種恐惑感。森政弘最后從弗洛伊德的理論里引用了“uncanny”的概念，設(shè)計出一套影響深遠的工業(yè)標準。其實，森政弘體會到的恐怖，也是克拉克在香農(nóng)的實驗室里遇到的那種恐惑感。而森政弘對此的解釋是弗洛伊德式的，即這種恐惑感來自介于死人和活人之間的不確定性。

當然，我們在面對機器人的時候，可以從人機關(guān)系的角度，引申出更深入的哲學問題。森政弘的設(shè)計標準本質(zhì)上是在回答一個問題：我們在制造機器人的時候，或者在制造任何模擬人的部件的時候，我們要做到什么程度，才不會讓人升起疑惑，甚至感到威脅呢？也就是說，我們生產(chǎn)的必須是機器，而不是人，不是活物，它不會威脅到人。但是，這歸根結(jié)底仍然是如何處理人機關(guān)系的問題——也是人們反復提出的“人能否控制機器”的問題。

為什么我們對人機關(guān)系的想象始終無法擺脫這個框架？這就又回到了我在前面提到的“主奴關(guān)系”問題——人類總覺得自己是世界的中心，比起動物和機器，人是更優(yōu)越的生物。但為什么同時又害怕被自己所制造的機器取代呢？因為控制論的世界觀是“控制和被控制”的關(guān)系，一旦機器能控制人類，機器就可能消滅人類——這種世界觀和整個冷戰(zhàn)，甚至和更早的二戰(zhàn)的戰(zhàn)爭技術(shù)有著深刻的關(guān)系。比如，二戰(zhàn)時期出現(xiàn)的博弈論，就將整個世界的地緣政治看作是一盤棋，我戰(zhàn)勝你或者你戰(zhàn)勝我、我消滅你或者你消滅我，也就是所謂你死我活的“零和游戲”。而所有這一切想法和觀念，都通過各種途徑折射在了我們對人機關(guān)系的論述之中。

那么，這種世界觀有沒有更深層的心理根源呢？這就需要引入一個有關(guān)精神分析的重要概念，就是人的自戀，以及由自戀延伸出來的侵略性。我們最常見到的是教科書對人的定義：人是“會發(fā)明和使用工具的動物”，可事實上，科學家發(fā)現(xiàn)其他動物也會使用工具，從邏輯上講，這是不是應(yīng)該修改對人的定義了？但是沒有，事實上，人們不但沒有對原來的定義作修改，反而開始贊美會使用工具的動物。這說明了什么？說明人一直在贊美自己，肯定自己，卻不真正反省自己。在人和聊天機器進行對話的過程里，我們經(jīng)?？梢钥吹竭@種不可遏制的自戀——人們把自己的愿望、恐懼和焦慮都投射到機器中，幻想自己在跟另一個人說話。當然，這是人自身的問題，不是技術(shù)問題。

實際上，聊天機器只能讓我們跟他人離得越來越遠，你甚至失去了想了解別人的意愿，從而永遠沉迷于自戀。所以，經(jīng)常發(fā)生的情形是，一個人一旦進入了沒有聊天機器的場合，他不得不和他人建立真實關(guān)系的時候，往往就會在現(xiàn)實中碰到種種感情上的挫折，這時候，他躲開挫折的辦法，又往往是再回到聊天機器前面，在那里進行自戀式的投射。這里的問題是，人能脫離社會關(guān)系嗎？

我們不難想象由此而來的嚴重的社會后果，甚至一種病態(tài)文明的出現(xiàn)。其實，人工智能發(fā)展史中最早的一款聊天程序，就是用來模擬人們的病態(tài)心理的。它叫“伊莉莎”，是麻省理工學院的計算機科學家約瑟夫·維森鮑姆在1966年發(fā)明的。維森鮑姆當時寫了一個很簡單的程序，他讓機器充當“醫(yī)生”，用戶充當心理病人。用戶把問題輸入機器，“醫(yī)生”就會和它“對話”，于是用戶就開始進入幻覺，好像真的在和“醫(yī)生”對話。在七十年代初，為了推動聊天程序，斯坦福人工智能研究所有一位教授進一步開發(fā)人機對話，他讓機器模擬精神分裂癥患者，和它對話的人充當醫(yī)生。這基本上就是聊天機器的發(fā)展譜系最早的發(fā)端：聊天機器從一開始就在模擬人的心理病態(tài)，而不在模擬什么智能。但隨著人工智能技術(shù)的進步，又有人說，聊天程序終于獲得與人流利對話、甚至深度交流的能力，這說明它達到了與人相匹配的智能水平。果真如此嗎？那么我們?nèi)绾谓忉尣B(tài)文明的出現(xiàn)呢？

回到你的問題中所說的認識論轉(zhuǎn)向，和它對傳統(tǒng)西方哲學的沖擊。我認為在很大程度上，現(xiàn)代西方哲學雖然有很大發(fā)展，流派和門戶很多，但是其主流是“意識哲學”（philosophy of consciousness）。笛卡爾以來的心物二元論，其實很大程度上還是深刻影響著當代哲學，可是在他的理論中，有太多的關(guān)于大腦、意識和理性的假設(shè)，從不承認無意識的存在。還有一些哲學家，比如萊布尼茨和康德，他們對無意識的結(jié)構(gòu)感興趣，但整體上，讓西方哲學家焦慮的核心問題，仍然是圍繞“人的主體是什么”展開的。然而在今天，當我們在試圖理解人機關(guān)系這個新課題的時候，就必須面對一些不同的問題，比如無意識的結(jié)構(gòu)是什么？恐惑感從哪里來？為什么人控制機器還是機器控制人的問題變得如此尖銳？可是，一旦進入這些思考，所謂的“自由意志”，還有它與技術(shù)決定論之間的矛盾，以及在其深處的“意識哲學”的傳統(tǒng)，都無法面對控制論以來出現(xiàn)的新的哲學問題。

文化縱橫：您剛才提到了二戰(zhàn)和冷戰(zhàn)的大歷史背景，如何塑造了特定的社會心理，進而影響了人們看待人機關(guān)系的視角。現(xiàn)在我們走出冷戰(zhàn)許多年，已經(jīng)進入了一個新時代，您認為這種結(jié)構(gòu)，或這些問題，它會出現(xiàn)怎樣的變化？

劉禾：我15年前出版這本書的時候說，如果人類和機器之間的關(guān)系處理不好，人就會變成“弗氏人偶”，也就是弗洛伊德機器人。它的特征就是機器模仿人的行為方式，人再反過來模仿機器——在這種“人機擬像”的互動關(guān)系中，機器和人一起進化、互相模仿。它本身也形成一個控制論的反饋回路。

文化縱橫：機器在模仿人，這件事情相對來說更容易理解。人模仿機器是什么樣的？

劉禾：圖靈在發(fā)明計算機的時候用打字機做參照，說計算機比打字機高明之處是，它既能寫、也能讀、還能儲存，其中“讀”的用詞是scan，就是“掃描”。為什么我要提這個？我們現(xiàn)在多少人讀文章，拿著手機，其實不是在“讀”，而是在“掃描”。在這個情形下，記憶力會大幅度退化，記憶能力不但被“轉(zhuǎn)移”到了電子設(shè)備里，而且眼睛和大腦之間的關(guān)系，已經(jīng)被機器從根本上改變了。在這時候，人們也已經(jīng)漸漸不再愿意掌握尼采所說的“慢讀”藝術(shù)了，因為只有加快閱讀的速度，才能處理海量的信息。盡管實際上只有慢讀，甚至反復讀，人才能思考，才能真正有理解，但是人的閱讀方式越來越像機器，越來越只追求效率和速度——這帶來一個非常根本性改變：由于機器不能思考，人也漸漸變得不能思考。人和機器互動產(chǎn)生這個后果是極其嚴重的，也是可怕的，它不僅對如何認識人的能力和局限，如何建立人和世界的關(guān)系，以至如何定義什么是“人”，都帶來危機，而且對人類未來該如何生存，也帶來很多疑問。

我在書中還提到《莊子》中“漢陰老農(nóng)”的寓言，講子貢碰到一個老農(nóng)，在用特別笨拙的方式，一罐一罐汲水澆地。子貢就問他，你為什么不用機械，機械可以特別容易地解決這個問題。老農(nóng)回答說，“有機械者必有機事，有機事者必有機心”。這里的“機心”指的是人的精神世界，包括心理、思想、情感、倫理等。莊子的寓言是在說，機器能改變我們的精神，也改變我們的社會關(guān)系。因此，我反復強調(diào)說，如果沒有想清楚人機關(guān)系，那么我們必然會進入人機擬像的反饋回路，變成弗氏人偶，也成為某種機器。

這個趨勢是不是必然的？是不是不可逆轉(zhuǎn)的？現(xiàn)在很難預見。但我覺得起碼我們要開始思考這些問題，一旦能討論、反省這件事的時候，就打開了一個思想空間。

文化縱橫：人類模仿機器，追求效率和速度的準則，這聽起來其實也特別像資本主義的邏輯。您在今年的中譯版序言中也提到了這個正文中不太常出現(xiàn)的關(guān)鍵詞。您覺得資本主義的發(fā)展和弗氏人偶之間有怎樣的關(guān)系？

劉禾：有關(guān)資本主義邏輯的著述很多，包括對后工業(yè)社會和當代媒體社會的研究。我對這些研究不太滿意，因為它們有一個共同的短板，那就是很少看到深入到數(shù)字技術(shù)本身的邏輯中去做細致入微的研究和哲學分析。馬克思的《資本論》之所以重要，是因為他不是在所謂的“社會現(xiàn)象”層面進行描述的，而是深入到商品本身的內(nèi)在邏輯，對商品的兩重性和勞動兩重性，進行層層的剖析，提出剩余價值、社會必要時間等等概念。那么，當今天的數(shù)字技術(shù)對人類社會產(chǎn)生巨大的沖擊，當人和機器關(guān)系變得如此糾纏不清的時候，我們同樣也不能停留在“社會現(xiàn)象”的層面上來看待數(shù)字技術(shù)。我們面臨的真正考驗是，能不能對數(shù)字技術(shù)本身的內(nèi)在邏輯做出細致和深入的哲學分析，由此把握我們生活在其中的時代命脈，正如馬克思當年對商品的內(nèi)在邏輯所分析的那樣？我寫《弗洛伊德機器人》就是在回答這個關(guān)鍵問題。這本書的所有努力都在于此，都是針對數(shù)字技術(shù)本身的邏輯，盡量做出透徹的歷史分析和哲學上的思考。

從歷史上看，人工智能和數(shù)字技術(shù)的根基在控制論，而控制論的發(fā)展源自于二戰(zhàn)和冷戰(zhàn)。因此，無論人工智能，無論數(shù)字技術(shù)，都不是單純的科學和技術(shù)自身發(fā)展的結(jié)果，它們和資本主義的歷史發(fā)展，特別是和資本主義的戰(zhàn)爭機器有密切關(guān)系。如在二十世紀的兩次世界大戰(zhàn)中，軍事機器的強大動力就不斷地鼓勵科技創(chuàng)新，利用這些創(chuàng)新為戰(zhàn)爭服務(wù)，而控制論的發(fā)展過程，就是這個戰(zhàn)爭邏輯最典型的表現(xiàn)。這些我都在書里做了詳盡的分析，這里就不重復了。

數(shù)字技術(shù)和資本主義發(fā)展的內(nèi)在邏輯還有另外一面，即資本的盈利本性，使其在逐利過程中降低成本，尤其是對低廉勞動成本的無休止的追求，也是促進弗氏人偶的發(fā)展的一個重要動力。自工業(yè)革命以來，機器的自動化取代了體力勞動，而在數(shù)字革命開始之后，計算機和人工智能的普及則開始取代腦力勞動，諸如在法律文書，程序編碼，公務(wù)員報告，醫(yī)療、教育、娛樂等諸多就業(yè)領(lǐng)域，很多人會因此而失業(yè)或?qū)⒁I(yè)，人們不僅會被從勞動崗位中剝離，而且由于失去社會紐帶，反而會越來越依賴機器——這些變化，都是大量人群可能變?yōu)楦ナ先伺嫉臍v史條件。

文化縱橫：既然聊到了資本主義和工業(yè)革命的問題，那不妨我們就回到那個歷史語境中?，F(xiàn)在我們談?wù)揂I和數(shù)字技術(shù)如何改變?nèi)说男袨榉绞胶退季S結(jié)構(gòu)，這一趨勢，是不是在工業(yè)革命中自動化機器替換人類的過程中已經(jīng)出現(xiàn)過一次？比如，在當時，流水線上的工人也越來越像自動化的機器，要操作精確、盡可能地守時、高效，日復一日地做相同的工作，就像人肉的機械臂。它和我們現(xiàn)在談?wù)摰母ナ先伺加惺裁串愅?/p>

劉禾：我們談工業(yè)革命，主要針對的是機器對體力勞動的替代和重組，比如流水線將人變成非人，導致工人和自己的勞動以及勞動產(chǎn)品之間出現(xiàn)異化關(guān)系——這是馬克思的經(jīng)典理論。馬克思通過對商品和勞動價值的分析，提出了人的異化理論，這是分析資本主義生產(chǎn)方式和生產(chǎn)關(guān)系的重要角度。而當我們談?wù)摂?shù)字技術(shù)時，我們就不能局限在人如何被機器異化的論述里，而必須從根本上重新考察什么是人，開始思考我在書中提出的弗氏人偶的問題。

當然，不少研究人工智能的人會說，白領(lǐng)的腦力勞動被AI取代，也沒有關(guān)系，因為我們可以像工業(yè)革命時期那樣，努力創(chuàng)造新的工作崗位，讓白領(lǐng)轉(zhuǎn)而從事別的工作，甚至不用從事任何生產(chǎn)。但是所有這些假設(shè)，都在默認數(shù)字技術(shù)對我們社會的沖擊，會限于勞動、生產(chǎn)和所謂的經(jīng)濟基礎(chǔ)。我認為不是這樣的。就像所有的機器一樣，人工智能會給我們的生活和工作帶來很多方便，這是毫無疑問的。但弗氏人偶的出現(xiàn)，意味著人機關(guān)系從根本上發(fā)生了變化，它有可能導致人類自身的一種過去歷史上從未有過的演化。這個演化絕不會僅僅限于我們的勞動實踐這些方面，它已經(jīng)在根本改變?nèi)说娜粘Ｉ钪械乃行袨槟Ｊ?/strong>——我們的閱讀方式、寫作方式、思維方式、生存方式、和自己相處的方式、與他人交往的方式，情感方式，甚至家庭關(guān)系和社會關(guān)系等等，這一切都將會以機器作為媒介進行重組。

文化縱橫：現(xiàn)在其實有不少技術(shù)樂觀主義者會提出，當人類的工作被AI替代，不事生產(chǎn)之后，社會又會回到從前的美好狀態(tài)。人從工作中解放，會有更多機會去充分交流，重建社會關(guān)系。但根據(jù)您剛才的分析，事實上到那個時候，人類已經(jīng)被徹底地改變了，不僅不會自然地回退到理想狀態(tài)，反而極有可能面對一個全新的困境。

劉禾：是的。我在書里給弗氏人偶下了個定義，即“任何網(wǎng)絡(luò)化的存在，只要體現(xiàn)了人機擬像的反饋回路，又不能擺脫控制論無意識的，都是弗氏人偶”。控制論無意識，指的是一種習得的自動性、重復性，比如之前說到的語言。再比如說我們在日常生活中，人與人的交流，已經(jīng)沒有辦法脫離機器了?！叭恕币呀?jīng)變成了“我+手機”或“我+電腦”的復合體，這不是工業(yè)革命給大家?guī)淼哪欠N困擾，甚至也不是我們熟悉的所謂勞動異化問題。至于“網(wǎng)絡(luò)化的存在”，是說現(xiàn)在的人其實已經(jīng)不是所謂原子化的個體了，每個人都是大數(shù)據(jù)的一份子，都在這個網(wǎng)絡(luò)里面——這是一種社會化的行為，它是超脫于個人的，在個人身體之外的。在這種情況下，誰統(tǒng)治了這個網(wǎng)絡(luò)，誰就能統(tǒng)治所有人，因此，其實統(tǒng)治關(guān)系也發(fā)生了根本的改變。

談到控制論無意識，我要提到20世紀的一位重要的思想家，那就是法國精神分析理論家拉康。拉康曾說語言的運作很像機器，它具有某種自動性和重復性，人和人之間的交往是被語言驅(qū)動的，而不是相反。語言是連接社會的根本紐帶，社會無法離開話語運行，而語言本身又是自動運作的、外在的東西，很像外在于人的機器。控制論無意識的出現(xiàn)讓我們認識世界變得尤其困難，必須拋棄所有傳統(tǒng)的意識哲學的概念，比如人的能動性。拉康的這個概括抓住了我們和語言的關(guān)系，他之所以得出這些結(jié)論，就是因為在冷戰(zhàn)期間，他持續(xù)關(guān)注科技發(fā)展的趨勢，尤其是控制論、博弈論和通訊理論。

拉康進一步看到，概率的統(tǒng)計方法如何從根本上改變了人認識社會、認識自然的方式，不但使整個科技研究的范式發(fā)生了轉(zhuǎn)型，而且還挑戰(zhàn)了傳統(tǒng)哲學的因果論。比如現(xiàn)在的醫(yī)學，開始依靠大數(shù)據(jù)，而不僅思考單一的因引起單一的果。事實上，控制論的前驅(qū)早就意識到自己研究工作的哲學意義，比如當時他們提出“循環(huán)式的因果關(guān)系”（circular causality），以及維納提出反饋回路，這一切最終都要回到計算機對符號的處理方式和控制論無意識。

文化縱橫：說到認知方式的改變，我們會注意到，控制論或者“人腦就是機器”這一概念剛剛出現(xiàn)的時候，其實對人們的自主性、自由意志的信仰造成了很大沖擊。但經(jīng)過了這么多年，大家仿佛已經(jīng)默認了這個概念，很自然地接受自己的大腦是由神經(jīng)電控制的，但卻依然假設(shè)人類擁有自主性?？刂普摕o意識的概念在今天，反而不會給人們帶來如此劇烈的認知沖擊。這是為什么？

劉禾：這可能恰恰是人們正在變成弗氏人偶的跡象，機器在那里自動運轉(zhuǎn)，機器沒有認知，更不用說自主性了。弗氏人偶有認知嗎？也許它可以假裝有自主性。拉康說，如果機器不出問題，你不會意識到它在工作，就像人只有在膝蓋出問題的時候，才會發(fā)現(xiàn)自己原先是這么走路的。我們都知道人腦是神經(jīng)元的網(wǎng)絡(luò)，但并不覺得這和自己的行為有什么關(guān)系，自動地接受了它的運轉(zhuǎn)。

我在美國觀察到的一個典型案例，就是民主選舉。每當選舉這個機器開始運轉(zhuǎn)的時候，就有人出來贊美自己的民主體制，但“民”是什么他們不考慮，自己為什么投票也不考慮，信息是從哪里來的也不考慮——這事實上就是愚民政策。美國已經(jīng)沒有民主了，但這并不是因為它被某一個統(tǒng)治階級控制，而是因為民主政治本身已經(jīng)變成了選舉機器，統(tǒng)治階級只要控制了選舉機器，就控制了選民。美國的民主黨和共和黨經(jīng)常讓數(shù)學家來幫他們計算，哪些選區(qū)重新劃分一下，選票分布就會隨之改變，這根本就是蔑視選民。而選民中多數(shù)人，要么沒有意識到民主政治已墮落為選舉機器，還以為去投票就是捍衛(wèi)自己的利益或堅持自己的信念，要么明知它是一個選舉機器，但別無選擇，只好去投票。總之，每一次的投票行為都讓選舉機器繼續(xù)運轉(zhuǎn)下去。

說到底，我們都生活在一個網(wǎng)絡(luò)化的、控制論無意識的時代。舊有的政治理論、社會理論和文化理論等等，都無法解釋我們這個世界正在經(jīng)歷的天翻地覆的變化，怎么辦？我認為，我們需要尋找新的思想資源，打開新的思想空間，不然我們?nèi)紩兂筛ナ先伺肌?/p>

編輯 | RJX

本文原載于《文化縱橫》2025年第6期，歡迎個人分享，媒體轉(zhuǎn)載請聯(lián)系本公眾號。

打賞不設(shè)上限，支持文化重建

訂閱服務(wù)熱線：

13167577398（微信同，節(jié)后回復）