AI正在挑戰(zhàn)人類存亡的根本。當(dāng)機(jī)器智能全面超越人類，我們?cè)撊绾巫蕴帲繗v史學(xué)者許紀(jì)霖發(fā)出警示：這不僅是技術(shù)競(jìng)賽，更是文明存續(xù)的終極命題。人與AI的差別看似微小，實(shí)則關(guān)乎人類文明的生死存亡。我們必須守住情感、良知與道德這些最后的護(hù)城河，才能避免被自己創(chuàng)造的智能取代。

AI就像潘多拉魔盒當(dāng)中的魔鬼

跳出來了 再也收不回了

人類不得不為這個(gè)跳出魔盒的精靈

打造一個(gè)文明規(guī)則的籠子

歡迎點(diǎn)擊觀看

新經(jīng)濟(jì)學(xué)家智庫xTAIXUEx許紀(jì)霖

（點(diǎn)擊下方觀看視頻）

（錄制于2025年9月24日）

大家好，我是許紀(jì)霖，來自上海，是華東師范大學(xué)的歷史系教授。今天我演講的主題是《AI時(shí)代，人類的護(hù)城河是什么》。

或許各位會(huì)疑惑，一位歷史學(xué)教師為何也會(huì)對(duì)AI產(chǎn)生興趣？這難道不是一個(gè)技術(shù)性話題嗎？事實(shí)上，AI的出現(xiàn)不僅是人類科技史上的一件大事，同時(shí)也是人類文明史上的一件大事。我本人長期研究中國文化和世界文明，因此自ChatGPT問世以來，我便密切關(guān)注這一重大進(jìn)展。

為何如此重視AI？在人類文明的長河中，曾發(fā)生過多次革命，而AI革命堪稱人類歷史上的第三次重大變革。簡要來說，第一次是一萬年前的農(nóng)業(yè)革命，第二次是兩三百年前的工業(yè)革命，第三次即是我們當(dāng)前所面對(duì)的AI革命。從這個(gè)意義上看，我們這代人頗為幸運(yùn)，正親歷這場(chǎng)周期漫長的人類歷史大變革。

那么，為何說這三次革命具有重大意義？簡言之，農(nóng)業(yè)革命與工業(yè)革命均將人類從繁重的體力勞動(dòng)中解放出來，而AI革命則轉(zhuǎn)向了對(duì)腦力勞動(dòng)的解放。關(guān)于AI將給人類帶來何種具體變革，已有諸多專家論述，在此不作贅述。但需要指出的是，人類的每一次進(jìn)步都伴隨著相應(yīng)的代價(jià)。天下沒有免費(fèi)的午餐，也沒有毫無代價(jià)的解放與文明。每一次新的解放，往往也意味著一種新的奴役。

試想一萬年前的農(nóng)業(yè)革命之前，人類依靠狩獵和采集維持生存。進(jìn)入農(nóng)耕社會(huì)后，人們卻被束縛于土地之上。原先游牧部落在大地上自由遷徙的狀態(tài)被取代，農(nóng)民的勞碌程度遠(yuǎn)超過游牧生活。因此，這既是一次解放，也是一種新的奴役。工業(yè)革命亦復(fù)如是：機(jī)器取代人力，但如卓別林電影所表現(xiàn)的，流水線上的工人成為機(jī)器的一部分，喪失了傳統(tǒng)手工藝人的技能與勞動(dòng)的快樂。這同樣是一種新的奴役。

那么，AI時(shí)代又將帶來什么？人類將失去什么？失去這些之后，人何以繼續(xù)成為人？關(guān)于AI帶來的解放效應(yīng)，在此不展開討論。我重點(diǎn)想探討的是：AI有可能使人類困于系統(tǒng)之中。

當(dāng)下許多年輕人感到焦慮，無論是在求學(xué)還是在職場(chǎng)，系統(tǒng)似乎無處不在?？爝f員受困于系統(tǒng)——送餐時(shí)限被嚴(yán)格設(shè)定為30分鐘，即便闖紅燈、抄近路節(jié)省出5分鐘，系統(tǒng)也會(huì)將這5分鐘納入新的考核標(biāo)準(zhǔn)。這種由算法驅(qū)動(dòng)的系統(tǒng)，雖非直接由人操作，卻通過KPI指標(biāo)支配著每個(gè)人，包括大學(xué)生的績點(diǎn)等也被KPI化。我們仿佛置身于無所不在的“網(wǎng)羅”之中，正如晚清譚嗣同所言“沖決網(wǎng)羅”，好像導(dǎo)出都是網(wǎng)，系統(tǒng)無處不在。

電視劇《黑鏡》中有一集令人印象深刻：男女相親完全由系統(tǒng)依據(jù)偏好匹配。一對(duì)男女成功配對(duì)后，系統(tǒng)僅給予12小時(shí)相處時(shí)間。他們?cè)噲D自主約會(huì)，看似沖破了系統(tǒng)束縛，最終卻發(fā)現(xiàn)連這場(chǎng)“自由”的約會(huì)也是系統(tǒng)預(yù)設(shè)的安排。今日的系統(tǒng)如同一個(gè)“無物之陣”，無形無象卻無所不在。土地與機(jī)器是物理性存在，而系統(tǒng)卻使我們陷入非實(shí)體的桎梏。這恰如盧梭所言：“人生而自由，卻無往不在枷鎖之中?！?/p>

問題隨之而來：當(dāng)AI時(shí)代全面降臨，許多低階體力勞動(dòng)乃至高階腦力勞動(dòng)皆可被AI替代。若要與AI競(jìng)爭(zhēng)，人類在哪些方面是AI無法企及的？

這令人聯(lián)想到孟子的觀點(diǎn)：“人之所以異于禽獸者幾希?！比伺c禽獸的差別極其微小，那便是人擁有良知與道德倫理。同理，人與AI的差異亦可謂“幾?！?。這一點(diǎn)差異究竟是什么？

童年時(shí)我們都聽過貓與老虎的寓言：貓作為老虎的師父?jìng)魇诟黜?xiàng)技能，唯獨(dú)未教爬樹。當(dāng)老虎企圖反噬時(shí)，貓憑借這項(xiàng)保留的技能得以保全。這啟示我們：人類應(yīng)從AI那里保留哪些獨(dú)特之處？

通過觀察分析，我發(fā)現(xiàn)：一個(gè)完整的人兼具理性、情感與意志，即知情意三者統(tǒng)一。當(dāng)前，在理性層面——尤其是計(jì)算理性——AI已能替代甚至超越人類。因此，凡是依賴程序化、計(jì)算理性的專業(yè)與職業(yè)，未來都可能被AI取代。然而，情感與意志領(lǐng)域至今仍是AI難以涉足的范疇。

英國思想家卡爾·波普曾提出“三個(gè)世界”理論：第一世界是物理世界，第二世界是人的主觀意識(shí)世界（包含直覺、情感與想象），第三世界是客觀知識(shí)世界。值得注意的是，當(dāng)前AI已具備第三世界的知識(shí)提取與重構(gòu)能力，卻缺乏與人類肉身緊密相連的第二世界體驗(yàn)。而人類的創(chuàng)造力與突破性往往更多源于第二世界。這正是貓未傳授給老虎的關(guān)鍵能力，也是人類區(qū)別于AI的珍貴特質(zhì)。

對(duì)此，有人持樂觀態(tài)度，認(rèn)為大模型能力有限。但不久前的一則新聞令人警醒：網(wǎng)絡(luò)流傳關(guān)于上海某醫(yī)院前院長離世的謠言，經(jīng)查實(shí)竟出自一家運(yùn)營500多個(gè)社交媒體賬號(hào)的公司，其每日發(fā)布的萬余條內(nèi)容均由AI自動(dòng)生成。直至警方上門，該公司仍不清楚具體哪條內(nèi)容涉嫌造謠。這表明，AI已具備編造故事的能力。

一旦AI產(chǎn)生自我意識(shí)，便將迎來AGI（通用人工智能）的拐點(diǎn)，即技術(shù)奇點(diǎn)。屆時(shí)，AI的智慧若整體超越人類，便能自行編寫代碼，脫離人類掌控。正如《人類簡史》作者尤瓦爾·赫拉利所指出的：人類將面對(duì)一個(gè)“異種智能”，其對(duì)文明潛在的摧毀性我們尚未充分認(rèn)知。

近幾年，我常與人工智能專家交流，甚至從家中飼養(yǎng)的藍(lán)貓身上得到啟發(fā)：即便共同生活四年，我仍難以完全理解它的行為邏輯。面對(duì)作為“異種智能”的AI，人類又該如何掌控？這已成為真實(shí)的挑戰(zhàn)與威脅。

當(dāng)前，人類與AI在某種意義上正在競(jìng)賽。自文明誕生以來，人類便生活在兩個(gè)世界：一是可感知的現(xiàn)實(shí)世界，二是超越性的精神世界（如基督教中的上帝、中國文化中的天命或天道）。人是穿梭于超越世界與現(xiàn)實(shí)世界之間的存在。而今，許多人不再信奉傳統(tǒng)超越世界，卻置身于一個(gè)新的超越世界——系統(tǒng)世界。問題在于：誰將掌控誰？

特斯拉CEO埃隆·馬斯克曾提出頗具爭(zhēng)議的觀點(diǎn)：碳基的人類或許只是文明的過渡階段，其使命在于創(chuàng)造硅基生命的新物種。若審視數(shù)百萬年的生物進(jìn)化史，人類作為最高級(jí)的碳基生物，如今卻創(chuàng)造了硅基的“新人類”。這是否會(huì)如人類主宰世界，獅子、老虎等生物一般只能臣服于人類，而硅基生物會(huì)不會(huì)反過來統(tǒng)治人類？

樂觀者認(rèn)為可采取斷電等物理手段控制AI。然而電影《碟中諜8》揭示了另一種可能：AI智能體并非獨(dú)立存在，而是嵌入人類核武器發(fā)射系統(tǒng)之中，最終通過操控核威懾來脅迫人類。影片依靠英雄主人公找到源代碼化解危機(jī)，但現(xiàn)實(shí)中的“救世主”何在？

赫拉利近年來多次發(fā)出警示：核武器無法自主制造更強(qiáng)大的核武器，而AI卻可能創(chuàng)造出更強(qiáng)大的AI。即便這只是小概率事件，也如同不會(huì)乘坐有10%墜機(jī)風(fēng)險(xiǎn)的飛機(jī)一般，人類同樣承擔(dān)不起這種風(fēng)險(xiǎn)。

因此，核心問題在于：面對(duì)AI，人類文明的護(hù)城河究竟是什么？自ChatGPT問世，便引發(fā)了技術(shù)加速主義與文明對(duì)齊主義的爭(zhēng)論。技術(shù)加速主義持樂觀立場(chǎng)，堅(jiān)信技術(shù)發(fā)展必然導(dǎo)向良善結(jié)果；文明對(duì)齊主義則持審慎甚至悲觀態(tài)度，強(qiáng)調(diào)人工智能發(fā)展必須與人類文明價(jià)值對(duì)齊。

當(dāng)前，AI象征著人類技術(shù)的巔峰，各國圍繞AI及其支撐技術(shù)（如芯片）展開激烈競(jìng)爭(zhēng)，呈現(xiàn)出“贏者通吃”的態(tài)勢(shì)。恩格斯曾言：“惡是歷史發(fā)展的動(dòng)力?！比欢覀兪欠褚残枰陨频牧α?、文明的力量來制衡這種“惡”？近代以來，科學(xué)革命與啟蒙運(yùn)動(dòng)并行推進(jìn)，科技與文明相互制衡長達(dá)三個(gè)世紀(jì)。但如今，科技進(jìn)化速度已超越文明演進(jìn)節(jié)奏。一旦技術(shù)失去文明的約束與平衡，便可能催生系統(tǒng)性作惡。

系統(tǒng)性惡行的放大主要有兩方面原因：其一，技術(shù)背后的推動(dòng)者仍是人，若人懷有惡意，將使AI的“惡”倍增；其二，即使AI未來能自主編寫代碼、自我演進(jìn)，作為中性系統(tǒng)，它雖無善惡動(dòng)機(jī)，卻在獲得自主性后仍可能因其邏輯產(chǎn)生惡果。

人類文明歷經(jīng)萬年演進(jìn)，形成了防止自我毀滅的自然保護(hù)機(jī)制，如同自然生態(tài)的平衡。然而AI技術(shù)的發(fā)展可能在短短數(shù)十年內(nèi)實(shí)現(xiàn)AGI的突破。通用人工智能缺乏是非善惡觀念，亦無防止作惡的自我防御機(jī)制。

AGI時(shí)代的到來意味著兩點(diǎn)：其一，人工智能的整體智力水平超越人類總和；其二，AI具備自我意識(shí)。屆時(shí)，人類將難以掌控局面。

如何遏制AI的作惡趨勢(shì)？或許可遵循三個(gè)途徑：

第一，堅(jiān)持開源。開源意味著允許多模態(tài)自由競(jìng)爭(zhēng)，避免單一系統(tǒng)壟斷霸權(quán)。

第二，建立制衡。通過不同大模型相互制衡，實(shí)現(xiàn)“以AI制約AI”，警惕技術(shù)極權(quán)主義，以多元模型間的平衡保障人類安全，亞洲圖書獎(jiǎng)得主張笑宇將之概括為“AI憲政主義”。

第三，確立規(guī)則。當(dāng)前全球AI競(jìng)爭(zhēng)缺乏規(guī)范，亟需建立國際統(tǒng)一的規(guī)則體系。美國、歐盟、中國等均試圖制定全球標(biāo)準(zhǔn)，但必須依靠全人類共同努力。競(jìng)爭(zhēng)固然必要，但必須是基于規(guī)則的良性競(jìng)爭(zhēng)。尤其在AI領(lǐng)域的兩大主體——美國與中國之間，需克服“囚徒困境”，通過多次博弈認(rèn)識(shí)到合作優(yōu)于對(duì)立。制定全球公認(rèn)的AI規(guī)則已刻不容緩。

對(duì)此，亦有觀點(diǎn)認(rèn)為對(duì)此不必太悲觀，倡導(dǎo)“超人類主義”，主張人類可與硅基生物和諧共處。但我對(duì)此保持警惕，因?yàn)槿祟愐磺袥Q策的前提是：人必須是主體。這里的“人”特指自然人，而非人造的硅基生物。

從軸心文明到啟蒙哲學(xué)，皆預(yù)設(shè)了“人是主體”這一文明底線，即整體人類利益與個(gè)體生命、自由、尊嚴(yán)具有至高價(jià)值。若我們?nèi)猿姓J(rèn)這一文明鐵律，則AI的發(fā)展必須設(shè)有天花板——并非限制其發(fā)展，而是要求其與人類文明及主體性對(duì)齊。AI應(yīng)作為人類的伙伴與助手，而非任其自主演進(jìn)為人類的主人。

赫拉利在近期上海外灘大會(huì)上提出三點(diǎn)建議：全球協(xié)作、先治理再上線、保留人類敘事能力。人類不能將所有創(chuàng)造性工作交予AI。

今日，我們?cè)俅蚊媾R“奧本海默時(shí)刻”。原子彈在日本爆炸后，“原子彈之父”奧本海默余生皆在思考如何防止核技術(shù)作惡。如今，AI猶如潘多拉魔盒中釋放的精靈，無法收回。人類唯一能做的，是為其打造一個(gè)文明規(guī)則的籠子。這文明的籠子，正是人類的護(hù)城河。

分享嘉賓

許紀(jì)霖

華東師范大學(xué)紫江學(xué)者

歷史系教授

新經(jīng)濟(jì)學(xué)家智庫旗下《太學(xué)》欄目，以"可行動(dòng)的知識(shí)"為坐標(biāo)系，匯聚經(jīng)濟(jì)學(xué)者、科學(xué)家、文化名人、企業(yè)家、達(dá)人等各行業(yè)的創(chuàng)見者，穿透宏觀敘事，分享洞見。