IPP評論是國家高端智庫華南理工大學公共政策研究院（IPP）官方微信平臺。

編者按：

自2022年ChatGPT掀起人工智能革命的浪潮以來，AI正以驚人的速度滲透到我們的工作、生活甚至思維方式中。然而，AI能力的迅速躍升，引發(fā)了人類的集體焦慮。“文科無用論”甚囂塵上，人文社科的價值遭遇空前質疑。AI與文科就只能 是 彼此取代的關系嗎？一方的強盛就會加速另一方的 消 亡？AI時代文科究竟還有沒有用？文科生該怎樣面對AI大潮？

著名學者金觀濤認為，“在人工智能時代，人類比以前更需要人文研究和藝術創(chuàng)造！”當算法接管重復勞動，文科的價值越發(fā)凸顯：批判性思維、倫理追問、文化共情與創(chuàng)造力，恰是AI難以復制的“活人感”。

應對AI時代的集體焦慮，人文社科絕非旁觀者，而是破局的關鍵力量。前不久，中信出版集團聯(lián)合廣東人民出版社，邀請到華東師范大學紫江特聘教授劉擎、華東師范大學歷史系教授許紀霖、雙體實驗室播客主理人林峰、財經(jīng)作家吳晨相聚ZiWU誌屋，圍繞金觀濤的《我的哲學探索》《控制論與科學方法論》（與華國凡合著）兩部著作展開對談，共同探討：人文社科應該如何主動作為？不僅守住這份珍貴的“活人感”，更將其轉化為應對焦慮、引領未來的核心優(yōu)勢。

劉擎×許紀霖×林峰×吳晨對談現(xiàn)場。圖源：中信出版集團

*文章精編自專家學者的對談，對談圍繞金觀濤的《我的哲學探索》與《控制論與科學方法論》兩部著作展開。

AI是否會有意識？人類最后的邊界

吳晨

有三個問題：第一，在機器的擬人化過程當中我們是不是會喪失對自我的認知？第二，在談未來人工智能的時候，我們也要反思，過去20年整個移動互聯(lián)網(wǎng)的發(fā)展已經(jīng)帶來一定的扭曲和異化，這個扭曲和異化怎么去解讀？第三，如果人工智能真的涌現(xiàn)出意識和認知，怎么去界定人和機器的區(qū)別？

劉擎：第一個問題，有一個趨勢非常清楚，人的機器化和機器的人性化。我們在制造越來越像人的機器，同時我們也越來越像我們自己制造出來的機器。機器能夠學習是很明顯的，人工智能有沒有可以突破的臨界點變得有意識和主體性，這是一個在人工智能科學家內(nèi)部都有爭論的問題。

18世紀就有人提出人是機器。人本身是不是更復雜的機器？人的意識到底是什么？當我們探討機器是否有意識的時候，其實我們不太清楚人的意識是什么。有人用神經(jīng)學去研究人的意識，認為人的意識就是神經(jīng)活動。但是為什么我們會有一個主觀感受呢？現(xiàn)在哲學界大概有泛心論和涌現(xiàn)論兩種理論，我們其實還搞不清楚。

為什么虛擬世界越多，我們對現(xiàn)實世界越遲鈍呢？

因為人是感官激發(fā)的動物。虛擬世界給我們的感官是高密度的過量喂養(yǎng)。比如你在現(xiàn)實世界要看一個8塊肌肉的小哥，你大概要在村頭等兩天，現(xiàn)在你在虛擬世界的短視頻里一分鐘可以看20個。我們有過飽和的感官刺激投喂，然后你的視覺、聽覺系統(tǒng)特別興奮，所以你對這個現(xiàn)實世界就無感了，這是我們跟世界隔膜。

同時，我們失去了符號世界的充分發(fā)展。人的感官刺激和反應大概是經(jīng)歷了百萬年進化的，而文字——高級符號語言文字的演化大概只有5000年。世界上有7000多種口頭語言，但是原生的文字只有10種，文字的發(fā)明是非常特別的。

金觀濤老師在《我的哲學探索》里講洞穴的巖畫，巖畫是具像的，文字是抽象的。但是抽象的文字是很驚人的事情。當時人為什么要發(fā)明文字這么高級的符號？因為我們的感官體驗是沒辦法被記錄、儲存和傳播的。如果當時有一種技術，直接可以拍視頻，你感受性的感官的體驗能夠被記錄下來、被儲存、被傳播，文字是不會被發(fā)明的。當時沒有這個技術條件，于是我們用文字，用一種間接性的方法，代償呈現(xiàn)。

所以，我覺得人類文明走過了一個“歧途”——由于發(fā)明了符號系統(tǒng)，然后有了高級思維，真正的抽象思維，于是誕生了主體間事實。主體間事實是貨幣、國家、公司、宗教等等。然后我們有了高級文明，以后有了科學，到最后才能夠達到技術文明，足以記錄我們感官體驗的技術：音視頻，特別是視覺，大概在人的感官信息的權重占百分之七八十。

所以在今天這個世界里，我們經(jīng)過人類一個漫長的“歧途”發(fā)展出一種高級文明，現(xiàn)在面臨兩個挑戰(zhàn)。第一，由于我們有視頻了，慢慢疏遠了書寫語言。尼爾·波茲曼在《娛樂至死》里批判電視畫面取代閱讀文化的結構鏈條，是理性思維的衰落。第二，同時我們的自然感受性也衰落了，因為虛擬世界提供了特別強的，編纂過的、濃縮的、優(yōu)于現(xiàn)實世界的“精華內(nèi)容”，比如“三分鐘看遍世界十大博物館”。它帶來的結果是什么？我們的感受性是沒有脈絡的。在現(xiàn)實自然世界你要旅行，去看日出日落你要等待，會發(fā)展出一種耐心和堅韌。

我的結論就是，我們在真正的感性和理性方面都衰落了，真實的世界慢慢地遠去，新的時代已經(jīng)在出現(xiàn)，而且可能我們會成為尼采意義上真正的末人。

許紀霖：湯姆·克魯斯主演的《諜中諜8》的故事里，AI的智能已經(jīng)全面滲透到我們?nèi)祟惖南到y(tǒng)當中，而且把我們整個系統(tǒng)控制了。最要命是世界各國的核武器的發(fā)射，這個按鈕已經(jīng)不在元首手里的，而是被AI掌握了。

這給我很大的啟發(fā)，智能到某一天全面滲透甚至控制我們今天的系統(tǒng)，這的確是一個不得不憂慮的問題。這個概率有多大？可能不超過10%。但是《人類簡史》的作者尤瓦爾·赫拉利問了一個很尖銳的問題，假如你要上一架飛機，這個造飛機的工程師說它有10%的概率要失事，你會上那架飛機嗎？10%的概率不小了，大家都不愿意用生命來賭。此刻我們已經(jīng)在飛機上了，我們和AI是一場殊死的生存搏斗，這場搏斗已經(jīng)開始了，誰勝誰負無人知曉。

所以從這點來說，AI是人類創(chuàng)造的，人類從來沒有創(chuàng)造過另一種物種。今天我們正在創(chuàng)造另一種物種，它叫硅基生物。這個硅基生物，可預見它的智慧會超過碳基生物——人類，如果以后有了具身機器人，結合它的體力和智慧全面碾壓人類，你用什么方式對它進行控制，這是一個非常嚴峻的問題。

吳晨：在未來五年，我們還是可以去影響人工智能的發(fā)展，某種意義上人工智能會帶來很多作為賦能的便利性，但是我們也希望它按照我們想要的，至少 是 人文科學家想要的， 去打通 科學 和 人文之間的 壁壘。今天我們談 AI，更多是從科學工程學的角度，看它到底能進化到什么程度，它可能在某些領域超越人，但某些領域永遠跟不上人，這個時候我們怎么更好地界定它， 使它 成為我的工具。

當AI模糊了真實與虛擬的邊界

吳晨

未來幾年，如果從經(jīng)濟學者的角度來看人工智能的敘事，可以看到三個重要的發(fā)展。第一，未來的人工智能到底是中心化，還是去中心化？ 第二，人工智能如果替代了大量的工作，人的意義如果跟我的工作沒關系了，人的意義從哪兒找？第三，我們怎樣更多強調人的創(chuàng)造性、人的批判性思維？

林峰：我建議站在稍微宏觀一點的視角來看這個問題，《控制論與科學方法論》這是一本40多年前的書，回到那個時候，有個相對宏觀的視角。去中心化這個思想，可能受到了控制論里“自組織”這些理論的影響，提出了去中心化的問題。如果我們站在一個企業(yè)組織的角度，去中心化和創(chuàng)新是直接相關的。真正的創(chuàng)造力只能來自于自組織的結構，而被組織是一個天生的束縛，這個道理是沒有問題的。

我們不能光在技術層面去講去中心化的問題，還要在整個哲學問題中去思考。金觀濤特別重視反思哲學革命的問題，哲學革命直接取消了科學真實之外其他的真實性。

但這個科學與真實性本身又陷入了自相矛盾，他有一句話叫“陷入了后現(xiàn)代主義的黑森林”。我覺得這是金老師對科學哲學的態(tài)度。

劉擎：AI對人類影響和塑造的方式，不是AI獨有的。整個人類的技術文明就如此，技術從來都不僅僅是工具。20世紀90年代初我去美國讀書的時候，很驚訝看到美國學生用計算器，算很簡單的數(shù)字運算，因為美國計算機普及很早，大學生已經(jīng)失去心算能力了。像現(xiàn)在我們的寫字能力也下降了，以前寫字能力很重要。我美國的碩士導師，中學時候寫單詞有很多拼寫錯誤，他的中學老師說“你將來不可能成為學者”?？墒堑人蔀椴┦可鷷r候，已經(jīng)有電腦寫作軟件可以糾正拼寫錯誤了，拼寫單詞犯錯一點也沒有妨礙他成為一個學者。以前中國人很重視寫字好不好看，這是有文化的體現(xiàn)，現(xiàn)在也根本無所謂了。

如今我們思考的過程被外包了，這個很可怕。最近斯坦福大學搞了一個研究，對照組是大量使用ChatGPT的人，三個月觀察下來，神經(jīng)突觸里面大概有40%不活躍了，它在生理意義上在改變?nèi)恕Ｎ覀儼阉季S過程外包了，感情世界呢？也是一樣的。

越來越多的現(xiàn)代人把人際關系，不只是是愛情，包括親情和 友情 ，轉變?yōu)楣┣蠼灰椎倪^程。我是有資本、有資源提供給你，你能提供給我什么？這是交換博弈的關系。愛情本來不是 這樣的 ，愛情是一個新的“精神生命”的創(chuàng)生和成長。 但是 那種經(jīng)典愛情太苦，太麻煩，風險也太大了。所以我們退而求其次，現(xiàn)在說的“情緒價值”其實 就 是“情緒價格”，可以換算兌換其他等價需求，因此也是可以外包的。AI伴侶，情感外包的產(chǎn)品也已經(jīng)出現(xiàn)。

王波明

對人類產(chǎn)生智能這個過程，我們的理解是非常膚淺的，讓機器通過學習，變成有智慧的動物。我覺得有一條路可以去改變，人類的異化不是人工智能出現(xiàn)之后才發(fā)生的，而是移動互聯(lián)網(wǎng)、平臺經(jīng)濟、注意力經(jīng)濟、算法驅動這一系列技術帶來的改變。如果要人工智能向善，它應該不只是給你想要的，還應該給你需要的。它應該有一個價值判斷，我們應該可以馴化一個人工智能，大家怎么去培養(yǎng)問更好的問題？

劉擎：就像馬克思說的，“我們現(xiàn)在假定人就是人，而人同世界的關系是一種人的關系，那么你就只能用愛來交換愛，只能用信任來交換信任，等等?！钡俏覀儾荒茏C明為什么人應該這樣活。金觀濤想解決的就是這個問題，最后那是真實的。

現(xiàn)在如果人人只關注“我要的”，只想要對方滿足我，其他都不管，會怎么樣？因為要建立真正的人與人之間關系，一種真正的主體間，是很麻煩的，會有痛苦、挫折，會不安全的和冒險。我在寫《愛情哲學》的時候就是關注這個問題。這種哲學也不是完全理性邏輯推論。歐陸哲學這一派，海德格爾、列維納斯等等，都強調人的存在性，都不是純粹的理性推論。

用海德格爾的觀點來看，我們現(xiàn)在跟世界沒有充分的“上手狀態(tài)”。上手狀態(tài)就是那把錘子放在那兒，你不只是觀看和分析它，而是要握著它，你才知道那個錘子是什么，你不是說先看這個錘子，從性狀來描述它，你握的時候就在上手狀態(tài)，這是我們跟自然世界，和社會的深度交往的過程，這是“操持”的過程，你有煩惱和關切，也有喜悅。實踐當中愛情就是這樣。愛情就是你進入另一個人生命，以至于你沒辦法完全用指標化的方式來看待和評價這個人。

當然，我們這個人文主義時代可能并不是永恒的，它可能就適合在我們?nèi)祟愒斐龉杌暗哪莻€時代。

林峰：我從理科生的視角來談。塑造AI的價值觀，在技術上可能會有一個悖論，當你想對AI施加影響的時候，訓練里面會分幾步，一步叫預訓練，后面幾步都跟所謂的價值塑造有關系，比方說Fine-tuning（大模型微調），還有基于人類反饋的強化學習，它的目的就是讓你說的話政治正確。有一個很明顯的結果，或者一個很普遍的發(fā)現(xiàn)，一旦這樣做的時候，它就變傻了，智力程度會急劇下降。

當年有一篇文章叫《AGI火花》，是所謂AGI降臨派比較重要的一篇文章，那時候ChatGPT4剛出來，他們就發(fā)現(xiàn)用沒有經(jīng)過強化訓練的所謂預訓練模型去做測試的時候，它很聰明，但一旦訓練就變傻了。

有一部電影《黑客帝國》，那時候對我們影響挺大的。它把所有東西都幫你解決得很好，你在里邊跟真實的世界沒有任何區(qū)別。只剩最后一個問題，男主角尼奧問，這是真的還是假的？最后發(fā)現(xiàn)它解決不了真假的問題，在尼奧看來這仍然是假的，這個可能是哪怕到了把這個問題問到極端之后，仍然解決不了的問題。

吳晨

尚在人身，在虛擬世界中的體驗是真的，還是假的？

林峰：我們回到這兩本書，金老師在中信出版社還出版了另外兩本書《消失的真實》《真實與虛擬》，他最近的一些哲學進展，是進入了所謂真實性哲學。我們講真實的時候，它首先有一個哲學上跳不開的挑戰(zhàn)，就是當下的虛擬世界是怎么回事？如果哲學回答不了這個問題，你還叫什么真實性哲學?；卮鹨粋€虛擬世界能不能實現(xiàn)最終真實性的問題，這是哲學家們跳不開的問題。

許紀霖：在今天這個元宇宙和AI時代，真和假已經(jīng)變成一個偽命題了。特別是年輕一代他們有另外一個超越世界，這個超越世界既真實又虛幻，所以你看所謂真假問題，這個問題變得不真實了，本身就是一個虛假問題，連問題本身都被消解。奇點出現(xiàn)以后，AI有了自我意識，它自己覺醒，它自己寫代碼，也不再受人類控制了。到了這一刻的話，我們現(xiàn)在很難預測，因為它是一個另類物種。特別是到了AGI以后，它的覺醒不是向人類看齊。一個覺醒了的AI，未來它的一套思維行動邏輯，它所達到的境界，未必是我們現(xiàn)在能夠預測的。因為我們?nèi)祟惖南胂笮允怯邢薜?，它是另外一個維度的世界，也許是一個更高維的世界，所以未來各種可能性都在展開。

人文社科怎么守住“活人感”？

許紀霖：什么叫活人？活人一定是：第一有身體，第二有缺陷。在親密關系當中，我們不僅需要靈魂的伴侶，今天AI以模擬性的語言，好像給你模擬了一個靈魂，這個靈魂好體貼你。但是靈魂的伴侶并不是愛的全部，親密關系的全部，還有另外一面：身體。這個到今天為止正是可以預期的未來，AI是否能夠提供？我是打問號的。

《黑鏡》第一季有個故事，先生突然車禍去世了，公司給妻子送來一個復制的丈夫，很體貼，最后這個妻子還是受不了，為什么？它沒缺點，一個活人是一定有缺陷的、有bug的。讓你歡樂，也讓你痛苦，真正深刻的情感一定和痛苦有關，而未必是歡樂。所以我這幾年一直說，快樂使人淺薄，痛苦讓人深刻。我情愿喜歡一個有缺陷的，有身體的活生生的人。所以我說AI到今天為止是沒有“活人感”的。

我們談了愛情，但是我還是愿意回到人文社科如何守住“活人感”的問題。的確，我們今天也守不住了，為什么？

去年，本科生、研究生有60%在用大模型，今年已經(jīng)100%在用了。包括我自己也是一樣，啥都是問DeepSeek和ChatGPT，它可以幫助我們解決大部分的問題，甚至可以幫你寫文章。但是這有“活人感”嗎？在我挑剔的眼光里面，DeepSeek算古典詩詞的高手了，它寫的古典詩詞碾壓90%古典詩詞的愛好者。但是在我們看來，也是看上去很像，看上去很美，但是沒有個性，缺乏“活人感”。有一個現(xiàn)代詩的詩人告訴我說，他也在研究AI，他說AI現(xiàn)代詩寫不好，為什么？現(xiàn)代詩就是自由詩，非?；顫?，它不像古典詩詞有一套押韻平仄系統(tǒng)，越有規(guī)則的干得越好、越像。自由詩是沒有規(guī)則的。

另外一位AI專家告訴我，越是成年人的智慧，AI模仿得越好，甚至超過我們。但是越是小孩子的智慧，它就越不行，你讓它畫小孩子的那種畫，完全是自由發(fā)揮的，它這部分能力就比較弱。

實際上，我們長大成人不也是被訓練嗎，被我們這套教育系統(tǒng)訓練過了，也喂了我們好多語料，我們被訓練成一個被這個系統(tǒng)認為合格的人。但這是活人嗎？不，它僅僅是工具，只是功能性的。真正的活人一定是有想象力，有獨特性，有一種你想象不到眼睛一亮的意外之喜，這個才是真正的“活人感”。

但是今天當我們高度依賴AI以后，的確在人文社科領域，我的一個擔心就是“活人感”會消失。怎么恢復“活人感”？我自己的看法是，可能真正能夠拯救的，在今天也是最倒霉的，是大家最不愿意讀的人文學科，還有藝術，為什么？人文和藝術恰恰是最具有個性化，需要直覺想象力，這部分恐怕是以后AI未必能夠完全替代的。

但是AI不能替代的那部分，恰恰是人文藝術的長處。就像金觀濤老師，我覺得他的書雖然非常系統(tǒng)，邏輯推理非常嚴謹。但是他和體制里面訓練出來的，特別是社科體制訓練出來的寫法是不一樣，他有他的想象力，我們需要這種書，需要這樣一種創(chuàng)新和突破，這就是我們說叫“活人感”。

讀者提問一

目前我們勇敢的人類已經(jīng)踏上了這趟航班，我們在這趟航班上，再討論這個問題意義有多大呢？喪失人類的“活人感”，可能是在追求AI的道路上一個必然的結果。我們現(xiàn)在的“活人感”有多少？

劉擎：我在想有一點希望的是，在任何一個大系統(tǒng)里面存在一些流放者游民，你要做這個時代的流放者。最后哪怕以后都是人機合作的，你會提出非模式化的有獨特個性的問題，人文學科對我們最重要的遺產(chǎn)是兩個，一個是獨特的創(chuàng)造性想象，另一個是批判性思維。

這在特別模式化的教育里是匱乏的。我覺得能夠緩解我們“與世隔膜”的方式，就是回到與自然和社會的直接交往，去看那些風景，而不是通過視頻。不過當?shù)搅爽F(xiàn)場，很多人就忘掉了，現(xiàn)在好多人就是去那兒打卡，趕緊拍個自拍，修圖發(fā)朋友圈，沒有跟自然深度的交往。

另外，尋找朋友，大家一起做些不太有功利目的的活動，比如，讀書、運動，搞戲劇、朗誦詩，登山。交朋友不要專注考慮誰能給我?guī)硎裁促Y源或者人脈。尋求具有“內(nèi)在價值”的活動和體驗。就像現(xiàn)在不需要寫字多好看了，但還有人在練書法。這些具有內(nèi)在價值的活動，在主流觀念中可能沒有什么“生產(chǎn)性”，但說不定會促進發(fā)展意外的能力：你可能會更好地提問，提出更獨特的問題，會有更好的想象力和批判性思維。但是即使沒有這個收獲，你收獲具有內(nèi)在價值的存在體驗，而不是被模式化和算法投喂的情緒體驗。這中少數(shù)的文化部落說不定會存續(xù)下去，成為邊緣性的一個傳統(tǒng)。

讀者提問二

現(xiàn)在大學校園里面暮氣沉沉，在AI的浪潮下，大學的人文社科現(xiàn)在受到了多大的沖擊？作為一個高中生，要為將來做什么準備？或者現(xiàn)在就要做什么改變？

許紀霖：第一個，你會覺得現(xiàn)在年輕人死氣沉沉，但是這只是在你所生活的這個世界里邊。你如果進入他們的世界，他們有另外的世界，比如說在上海，你去靜安大悅城，你會覺得那里那些Coser生氣勃勃，你會覺得年輕人在那里有“活人感”。只是今天在現(xiàn)實世界里，在家里，在學校里，被我們這些權威系統(tǒng)壓榨的他們死氣沉沉，所以從這點而言，作為家長我們是太不了解我們的孩子了，他們有他們的世界。

第二個，我沒誤解的話，你說你的孩子和學校跟AI是無緣的？這是很悲哀的。今天中國的基礎教育嚴重滯后，未來分兩種人，一種是能夠懂得使用AI來生活的，還有一種是不會的。這就像今天已經(jīng)分為兩類，一種會用手機，還有一種不會用手機的差別一樣，所以我想說這是基礎教育的悲哀。今天大學開始重新站在起跑線上，哪個大學教出來的學生能夠運用AI，在這一點上也可以領先一步。所以做什么準備？準備就是要盡可能在學習、生活當中會使用AI，但又不被AI所擺布，這才是一個家長給孩子最好的禮物。

鄭永年教授針對人工智能技術沖擊人類存在價值與社會“空殼化”趨勢加劇這一雙重挑戰(zhàn)，解析了現(xiàn)代人普遍淪為“空殼人”的根源與出路。

鄭永年教授在《中國科學院院刊》撰文，文章剖析了人工智能對人類智力及社會治理結構的影響，并探討了人工智能時代政府在塑造社會秩序中的作用。

更多IPP文摘分享

IPP文摘｜當AI有了自我意識，人類將會面臨什么？

IPP文摘｜為什么在AI時代，反而更應高揚人的主體性？

關于IPP

華南理工大學公共政策研究院（IPP）是一個獨立、非營利性的知識創(chuàng)新與公共政策研究平臺。IPP圍繞中國的體制改革、社會政策、中國話語權與國際關系等開展一系列的研究工作，并在此基礎上形成知識創(chuàng)新和政策咨詢協(xié)調發(fā)展的良好格局。IPP的愿景是打造開放式的知識創(chuàng)新和政策研究平臺，成為領先世界的中國智庫。