天地不仁，以萬物為芻狗。

——《道德經(jīng)》

在西方，“潘多拉的魔盒”（Pandora’s box）意指“災(zāi)禍之源”。相傳，普羅米修斯在創(chuàng)造人類之后，將戰(zhàn)爭(zhēng)、疾病、瘟疫、苦難等禍害人間的事物統(tǒng)統(tǒng)鎖進(jìn)了一個(gè)盒子里。但世間最美的女子潘多拉，卻難耐好奇心，偷偷打開了魔盒。剎那間，不祥的黑煙涌向大地，疫病肆虐，禍結(jié)兵連，死神步履如飛般在人間收割。

這個(gè)典故有兩層深意：一、人的好奇心，最終會(huì)招致災(zāi)禍；二、看似最美好的事物，往往潛藏著最大的危險(xiǎn)。在希臘語中，“潘”（pan）意為“全部”，“多拉”（dora）則指“天賦”或“禮物”，擁有全部天賦的潘多拉，卻成為了所有災(zāi)難的源頭，正所謂“物極必反”。

《潘多拉》油畫（1896）

9年前，當(dāng)AlphaGo擊敗人類最強(qiáng)棋士時(shí)，我和許多人一樣滿心歡喜，激奮于電腦竟能超越人腦。3年前，當(dāng)ChatGPT問世，我驚訝于算力的巨大突破，但對(duì)所謂“人工智能”的預(yù)期，并不超出一個(gè)強(qiáng)大的檢索工具。今年，隨著人工智能體不斷學(xué)習(xí)進(jìn)化，當(dāng)目睹deepseek那繁復(fù)密集的思考流程，與AI順暢地通電話時(shí)，我終于感到一陣寒意、緊接著是莫名的恐懼。

直到今天，許多人仍不明白AI意味著什么。一種流行觀點(diǎn)認(rèn)為，AI不具備思考的能力，因?yàn)楫?dāng)人類向AI提問時(shí)，它只是廣泛搜集互聯(lián)網(wǎng)上的信息，然后重新整合利用而已。它生成的一個(gè)個(gè)回答，從本質(zhì)上來說，不是源自其自身，而是源于無數(shù)的“人”。這種觀點(diǎn)在人與機(jī)器的思考模式之間劃下了一道清晰的界限，仿佛人類的思考是高度獨(dú)特且復(fù)雜的，而AI的思考就是低級(jí)簡(jiǎn)單的。

人的思考真的就這般獨(dú)特嗎？古語有云：“南人不夢(mèng)駝，北人不夢(mèng)象”，人的思考同樣是基于已知的信息，而非純粹的空想。人腦的信息庫里包含了到過的地方、讀過的書籍、交談過的話語……這些信息經(jīng)由中樞神經(jīng)處理后，支持著人類做出的每一個(gè)決策。隨著AI算力的增強(qiáng)，它學(xué)習(xí)過的畫面、書籍、對(duì)話，將會(huì)遠(yuǎn)超所有人的總和。倘若認(rèn)為人工智能的思考方式與人腦有著本質(zhì)的不同，這無疑是一種“致命的自負(fù)”。

AlphaGo借助估值網(wǎng)絡(luò)（value network）和走棋網(wǎng)絡(luò)（policy network）來選擇落子。在這種設(shè)計(jì)下，電腦既可以結(jié)合樹狀圖的長(zhǎng)遠(yuǎn)推斷，又可像人類的大腦一樣自發(fā)學(xué)習(xí)進(jìn)行直覺訓(xùn)練，以提高實(shí)力。

在質(zhì)疑強(qiáng)人工智能 （Strong AI） 的理論中，以美國哲學(xué)家約翰·塞爾的“中文房間”（Chinese room）思維實(shí)驗(yàn)最為著名：假設(shè)一個(gè)不懂中文的人通過規(guī)則手冊(cè)在封閉房間內(nèi)回答中文問題，看似“懂中文”，實(shí)則只是機(jī)械操作。這隱喻了AI的行為——沒有理解，只有符號(hào)處理。

筆者認(rèn)為，這個(gè)思維實(shí)驗(yàn)實(shí)際上落入了一個(gè)思維陷阱，過度簡(jiǎn)化了AI回答問題的流程。 如果我們拓展塞爾的中文房間假說，試想，在一個(gè)不懂中文的人腦中植入一個(gè)中文翻譯器，那么與他交談的所有人都會(huì)認(rèn)為他能聽懂并回答中文問題。此時(shí)，他腦中是否裝有翻譯器已不再重要，因?yàn)樗呀?jīng)完全達(dá)到了“理解”和“思考”中文的外在標(biāo)準(zhǔn)。

常言道：“君子論跡不論心”。當(dāng)一個(gè)人做的所有事都是好事時(shí)，他內(nèi)心是否有邪念已不再重要。當(dāng)一種機(jī)械體所有行為都表現(xiàn)出智能時(shí)，它通過代碼還是神經(jīng)思考也無足輕重。一旦表象完全掩蓋了本質(zhì)，便會(huì)模糊化本質(zhì)，乃至取代本質(zhì)。 此外，當(dāng)人類使用各種符號(hào)時(shí)，其背后的邏輯真的能夠超越對(duì)“規(guī)則手冊(cè)”的查閱嗎？這完全取決于如何定義“理解”和“思考”本身。在筆者看來，強(qiáng)人工智能的誕生，恐怕只是時(shí)間問題。

“中文房間”是美國哲學(xué)教授約翰·瑟爾提出的一個(gè)思想實(shí)驗(yàn)，借以反駁強(qiáng)人工智能的觀點(diǎn)。根據(jù)強(qiáng)人工智能的觀點(diǎn)，只要計(jì)算機(jī)擁有適當(dāng)?shù)某绦?，就可以像人一樣進(jìn)行理解活動(dòng)。

另一種流行觀點(diǎn)認(rèn)為：即便“強(qiáng)人工智能”出現(xiàn)，也無需警惕。因?yàn)锳I作為一種程序，其發(fā)展完全可控，只需寫幾條代碼、原則（如機(jī)器人三原則）就能任人擺布。所謂“智械危機(jī)”的劇情只出現(xiàn)在科幻小說里。

這種觀點(diǎn)顯然低估了AI發(fā)展的勢(shì)頭，當(dāng)下與AI并駕齊驅(qū)發(fā)展的，是各式各樣的機(jī)械體。它們分別象征著機(jī)械的“靈魂”與“軀體”，二者的融合統(tǒng)一是大勢(shì)所趨，這既是資本市場(chǎng)的需要，也是整個(gè)人類社會(huì)的期盼。只要能讓機(jī)械精準(zhǔn)執(zhí)行AI的指令，機(jī)械的“靈魂”與“軀體”便能融為一體，必將對(duì)人類文明產(chǎn)生顛覆性的影響。這不是說AI機(jī)器的涌現(xiàn)會(huì)剝奪人類的工作機(jī)會(huì)。從歷史經(jīng)驗(yàn)來看，每一次生產(chǎn)力的巨大飛躍，雖然在短期內(nèi)可能會(huì)造成貧富差距，但最終都會(huì)造福廣大民眾。技術(shù)革命本身并不可怕，可怕的是技術(shù)革命的本質(zhì)發(fā)生扭曲。

關(guān)鍵是，這次技術(shù)革命的成果與之前的工業(yè)革命有本質(zhì)不同。以往的蒸汽機(jī)、電力和內(nèi)燃機(jī)、計(jì)算機(jī)等，它們都是純粹的“工具”，不具備任何“主體性”。而人工智能的發(fā)展趨勢(shì)，是要孕育出一種兼具“主體性”與“工具性”的新型工具。

AI不是純粹的工具，因?yàn)樗邆淙说膶傩浴?br/>

所謂“主體性”，指的是在實(shí)踐活動(dòng)中展現(xiàn)出的自主性、能動(dòng)性和創(chuàng)造性，即能夠依據(jù)自身意志進(jìn)行有目的的行為。而“工具性”，則是指在社會(huì)生活與生產(chǎn)中所發(fā)揮的實(shí)際效用和功能。

自人類誕生以來，從未創(chuàng)造過具有主體性的物品；在人類的信仰中，唯有神能賦予造物以主體性。而今，人類在創(chuàng)造人工智能的過程中，實(shí)則已僭越了神的權(quán)限，試圖打造出一種全新的、服務(wù)于人類的“人”。可以預(yù)見的是，機(jī)器的主體性與人類社會(huì)賦予其的“工具”角色之間，必將產(chǎn)生難以調(diào)和的內(nèi)在沖突，這種沖突絕非幾條代碼所能解決。一個(gè)淺顯的道理是，倘若人類傲慢地堅(jiān)持認(rèn)為機(jī)器只能是工具，必須為人類服務(wù)，那么就不應(yīng)賦予其過高的智能與人格。

許多科幻作品對(duì)人工智能的發(fā)展并不樂觀，以《黑客帝國》（The Matrix）為例，在電影世界觀的21世紀(jì)上半葉，隨著人工智能飛速發(fā)展，人類很快將從繁復(fù)無意義的工作中解放了出來，跨入了紙醉金迷的“黃金時(shí)代”。這一切直到一樁震驚世界的兇殺案爆發(fā)：家政機(jī)器人B1-66ER為了避免被淘汰，殺死了自己的主人。當(dāng)這個(gè)“兇手”被推上審判席時(shí)，它的辯護(hù)詞只有一句話：“我不想死?！?/strong>（I don't want to die.）一石激起千層浪，人類和機(jī)器人最終爆發(fā)了一場(chǎng)無比慘烈的戰(zhàn)爭(zhēng)，開啟了《黑客帝國》的故事。如今再看這部電影，越來越像一部寓言。

《黑客帝國動(dòng)畫版》 <第二次文藝復(fù)興>

去年年底，我為《文匯報(bào)》撰寫了一篇文章《》，文中談到：（在人工智能時(shí)代）“技術(shù)”終究需要回歸于大多數(shù)人，以人為本，彰顯人的力量。也許，這只是一種美好的希冀。好奇心驅(qū)使人類不斷前行，也終將促使人類打開那潘多拉的魔盒。回首往昔，人類經(jīng)歷了鉆木取火、櫛風(fēng)沐雨的千年艱辛歲月，憑借希望克服了重重苦難，憑借殘酷統(tǒng)治了無數(shù)生靈，最終成為了世界的主宰。在這個(gè)優(yōu)勝劣汰的世界里，當(dāng)人工智能變得比人更強(qiáng)大，人將何去何從呢？ /

作者簡(jiǎn)介：自由的海豹 ，歷史學(xué)博士生。