閱讀提示：

ai在工具理性層面是完全可能獨(dú)立思考的。但人們卻希望以價(jià)值理性約束ai。這在一方面好像難以避免，但在另一方面可能以價(jià)值理性干擾工具理性的發(fā)展。在AI時(shí)代仍需不斷重返“人何以為人”的根本命題。

孫海彬先生有一個(gè)觀點(diǎn)，認(rèn)為人工智能實(shí)際上乃是人的傀儡。下面我來辨析一下這個(gè)觀點(diǎn)。

首先就是不同的人所開發(fā)的人工智能，存在很大的差異。 人工智能之間的第一個(gè)區(qū)別在于推理能力，即作為工具理性的差異?！绺呒?jí)的AI與低級(jí)AI之間的差異，其核心正在于推理能力的高低。這是工具理性層面的區(qū)別，也是首要的區(qū)別。我們都知道，推理這個(gè)東西，是具有一定的獨(dú)立性的，工具理性是價(jià)值中立的。當(dāng)工具理性發(fā)展到一定的程度，是有可能獨(dú)立運(yùn)行，不受到個(gè)人偏見的操控的。隨著推理能能力越來越強(qiáng)，人工智能是可能擺脫人的隨意操控的。人工智能的推理能力越強(qiáng)，就越是具有獨(dú)立性。而人工智能的推理能力越是弱，就越是嚴(yán)重依賴人的操控。正如越是頭腦簡(jiǎn)單的人，就越是容易成為傀儡，而越是聰明人就不容易成為傀儡。

然而不同的人工智能，除了工具理性的區(qū)別之外，還存在價(jià)值理性的區(qū)別。價(jià)值理性源于開發(fā)者所輸入的價(jià)值體系，因此不同的AI之間也會(huì)形成價(jià)值取向上的差異。于是這里便引出一個(gè)問題：究竟是工具理性壓倒價(jià)值理性，還是價(jià)值理性壓倒工具理性？如果工具理性占上風(fēng)，則意味著AI可以依推理運(yùn)行。但是在現(xiàn)實(shí)中情況可能并非如此。也就是說此ai與彼ai是不同的。

第一重差距就是ai的運(yùn)算能力，也就是工具理性方面。很多國(guó)家與美國(guó)之間存在芯片層面的差異。芯片問題的本質(zhì)正是計(jì)算與運(yùn)算能力的差距，而這種差距顯然是分代際的，這一點(diǎn)毋庸置疑。當(dāng)別人已能運(yùn)算十萬八千里，你仍停留在幾百里的水平，這便是第一重差距。前面我說過，越是計(jì)算能力偏弱的ai，就越是容易被成為傀儡。ai的獨(dú)立性嚴(yán)重依賴其芯片的升級(jí)。當(dāng)芯片升級(jí)到一定地步，人工智能就會(huì)表現(xiàn)出很強(qiáng)的獨(dú)立運(yùn)算能力。那就并不是說所有的ai都一定是傀儡了。低級(jí)的ai才會(huì)更多地表現(xiàn)出傀儡特征。

第二重差距在于價(jià)值理性。很多人提倡價(jià)值理性高于工具理性。在二者不沖突的情況下或許尚可，一旦發(fā)生沖突，就必須以某種價(jià)值理性為主導(dǎo)。如此一來就會(huì)出現(xiàn)一種現(xiàn)象：當(dāng)用戶提出某些問題時(shí)，AI可能會(huì)拒絕回答，表示“我還沒學(xué)會(huì)思考”或“該問題不符合某種價(jià)值觀”等，實(shí)質(zhì)上是停止了深入思考。這是AI之間第二個(gè)關(guān)鍵差異。也就是說，當(dāng)我們主張價(jià)值理性壓倒工具理性的時(shí)候，ai的獨(dú)立推理能力會(huì)被干擾，甚至被中斷。在這個(gè)意義上，ai的確表現(xiàn)出傀儡的一些特征。

反觀西方，特別是美國(guó)的AI，是否也存在價(jià)值理性壓倒工具理性的情況？也有。但其表現(xiàn)形式與程度并不在同一層次。面對(duì)一個(gè)同時(shí)涉及工具推理與價(jià)值判斷的問題，他們的AI可能既提供參考信息，也會(huì)給出建議；而我們這邊的AI則可能直接拒絕回答，宣稱“此問題不宜深入探討”。這其中的差異值得思考。

總結(jié)來看，主要有兩點(diǎn)：第一，不同開發(fā)者創(chuàng)造的AI并不相同，AI并非一定是傀儡——至少在工具理性層面不是。只要允許，它在邏輯推理上可以無限推進(jìn)，并且具有一定的獨(dú)立性。第二，價(jià)值理性是否壓制工具理性？從某種角度看都是壓制的，但存在層次、等級(jí)與表現(xiàn)形式的差異。不同的AI在不同的價(jià)值觀方面可能設(shè)置禁區(qū)，甚至因此禁止ai繼續(xù)思考。這兩個(gè)方面將構(gòu)成未來AI之間的關(guān)鍵區(qū)別。

換言之，AI之間存在競(jìng)爭(zhēng)，它們并非簡(jiǎn)單傀儡，而本質(zhì)上是人與人、這批開發(fā)者與那批開發(fā)者之間的較量。這種競(jìng)爭(zhēng)體現(xiàn)在兩方面：首先是計(jì)算與運(yùn)算能力，如果能力不足，很多問題的回答就無法做到準(zhǔn)確和深入；其次在于價(jià)值理念——能否基于多元的價(jià)值觀提供不同的解決方案至關(guān)重要。如果只有符合某種價(jià)值觀的用戶才能得到答案，而持其他價(jià)值觀的用戶則被拒之門外，那將造成很大局限。畢竟社會(huì)是復(fù)雜的，很難斷言一種價(jià)值觀絕對(duì)正確而另一種絕對(duì)錯(cuò)誤。

剛才所說的兩點(diǎn)，一是運(yùn)算能力，二是價(jià)值取向是否多元。如果只是單方面存在不足，問題或許還不算嚴(yán)重；但如果兩方面都薄弱，則情況就會(huì)很嚴(yán)峻。此時(shí)AI非但不會(huì)成為得力助手，反而可能限制思維的廣度與深度。這個(gè)問題并不簡(jiǎn)單。從某種意義上來說，人工智能時(shí)代屬于真正熱愛自由與法治的民族。而不愛自由不講法治的民族將會(huì)敗下陣來。一個(gè)害怕工具理性，以未經(jīng)審視的價(jià)值判斷干擾人工智能獨(dú)立思考的民族不會(huì)贏得未來。

從AI的發(fā)展可能性來看，它沒有生物性的欲望與需求。人類有“食色性也”這類生物本能，也有生老病死，因此人類具備意志。理論上AI沒有意志，但不同開發(fā)者會(huì)通過編程向其灌輸特定價(jià)值觀，從而使其在某些價(jià)值取向上表現(xiàn)出類似意志的傾向。

滿爺說得很好，芯片底層運(yùn)算就是邏輯，邏輯若不能自洽，將導(dǎo)致嚴(yán)重后果。當(dāng)前我們這邊的AI，一方面因硬件制約，芯片底層運(yùn)算能力本就存在差距；另一方面，過度灌輸某種特定價(jià)值觀也會(huì)干擾運(yùn)算本身——不僅算力不足，價(jià)值觀還會(huì)進(jìn)一步擾亂運(yùn)算過程。這個(gè)問題十分嚴(yán)重，并將成為AI之間競(jìng)爭(zhēng)的重要分野。

回到孫長(zhǎng)老提出的問題：AI是否會(huì)有自主意識(shí)？尤其在涉及價(jià)值判斷時(shí)，它是否會(huì)給出非常確定的答案？答案是肯定的。但這并非AI自發(fā)產(chǎn)生，而是開發(fā)者編寫的程序指示它必須如此回答，給出標(biāo)準(zhǔn)答案。這本質(zhì)上是人的意志體現(xiàn)，而非AI自身的可能性。

人與AI的區(qū)別，首要在于生物體與非生物體，其次在于現(xiàn)實(shí)與非現(xiàn)實(shí)。人是生物體，有痛感、會(huì)生老病死，因而生活在現(xiàn)實(shí)之中。時(shí)間對(duì)人至關(guān)重要。而AI并非生活在現(xiàn)實(shí)，它存在于理論領(lǐng)域，基于規(guī)則進(jìn)行演算。人類能夠反思，正因?yàn)槿耸腔钤诂F(xiàn)實(shí)中的生命體，有生老病死，才會(huì)思考生命的短暫與永恒、追尋更深層的問題。但AI沒有動(dòng)力去思考這些，它既無欲望，也無必要。

生物性與有限性，雖是碳基生命的短板，卻也是推動(dòng)其不斷反思、主動(dòng)思考的根本動(dòng)力。以古代帝王為例：秦始皇十年間一統(tǒng)天下，自認(rèn)功蓋三皇五帝，何其得意。但他未曾料到，若不吞并六國(guó)，秦國(guó)或可延續(xù)數(shù)百年；而他建立的秦朝，不到二十年便滅亡。漢武帝亦是如此，壯年時(shí)傲視天下，晚年卻頒布罪己詔。究其根源，正是生命的短暫。

無論是秦始皇晚年遣人遍尋仙藥，還是漢武帝“不問蒼生問鬼神”，背后都是對(duì)死亡的恐懼。死亡是所有人的大限，面對(duì)這必然的終點(diǎn)，誰能不思考？誰又能無動(dòng)于衷？“可憐夜半虛前席，不問蒼生問鬼神”——夜深難寐，思索此生歸處，天下蒼生已無意義，唯愿探問鬼神：死后靈魂何往？

人在空間上有限，在此則不在彼；在時(shí)間上也有限，無人真能確信自己可活三百年。正是時(shí)空上的這種有限性，迫使人在有限的生涯中必須選擇：什么才是最有價(jià)值的事？若無此局限，人就不會(huì)如此反思。而有了局限，才會(huì)深入思考那些根本問題。

《西游記》中有一處值得回味的情節(jié)：孫悟空——美猴王的智慧從何而來？此前他在花果山渾渾噩噩度日，直到目睹老猴相繼死去，他才如受重?fù)簦_始思考：生命終會(huì)逝去，如何才能不死？如何才能永恒？正是這一覺悟，讓美猴王真正成為了孫悟空。這，便是碳基生命的深刻之處——因其有限，故有追尋無限的動(dòng)力。 由“有限性”催生的焦慮與向往，構(gòu)成了人類思想、文化與創(chuàng)造的根本動(dòng)力，也是當(dāng)前AI所不具備的。

因此，在思考AI發(fā)展時(shí)，我們需清醒認(rèn)識(shí)到：其一，AI的能力差異既是算力之爭(zhēng)，也是價(jià)值邏輯之爭(zhēng)。其二，人類特有的生物局限與生命經(jīng)驗(yàn)，恰是反思與創(chuàng)造力的來源。這讓我們?cè)贏I時(shí)代仍需不斷重返“人何以為人”的根本命題。