*中國人民大學(xué)吳玉章 講席教授 劉永謀首發(fā)于微信公眾號，保留一切知識產(chǎn)權(quán)，侵犯必究。

這波生成式AI的熱潮興起不久，就有很多人在說：AI是一面鏡子。為什么呢？因為大模型是大數(shù)據(jù)訓(xùn)練出來的，所以它是數(shù)據(jù)世界的平均鏡像，即它給出的答案都網(wǎng)上答案在統(tǒng)計學(xué)意義上的主流觀點。

實際上，AI的鏡喻還可以效仿羅蒂的“自然之鏡”，深挖其下更深的哲學(xué)倫理學(xué)意涵。在《哲學(xué)與自然之鏡》中，羅蒂認(rèn)為，西方哲學(xué)主流將“心”作為“自然之鏡”，導(dǎo)致諸多問題；只有打破“自然之鏡”，才能走向后哲學(xué)文化。愛丁堡哲學(xué)系教授瓦洛爾的《AI之鏡：如何在機(jī)器思維時代重拾人性》，便是嘗試深挖“AI之鏡”的成果。

瓦洛爾覺得，AI之鏡首先是人類認(rèn)知之鏡，即“AI系統(tǒng)把我們自己的智能映照給我們”；其次，AI之鏡還是人類德性之鏡，因為“它們復(fù)雜地映射我們記錄下的思想、判斷、欲念、需求、感知、期待和想象”。由此，目前大家擔(dān)心的AI對人類的威脅，本質(zhì)上不是AI的問題，而是人的問題，尤其是人類德性所造成的。并且，這也說明此種威脅是可以解決的：

我們是AI造成人類自身危機(jī)的根源，這其實是件好事——這意味著我們有能力抵抗，有能力療愈。

我們的AI之鏡又對我們的未來有什么樣的威脅——這威脅和AI掌控未來的潛能沒什么關(guān)系，反倒和我們放棄掌控未來的潛能大有關(guān)系。

簡單地說，AI向善、智能向善，從根本上說以人類向善為前提，否則不可能實現(xiàn)。而現(xiàn)在的問題是：AI時代，人類放棄自己的責(zé)任，把問題推給AI而隨波逐流，于是AI威脅便產(chǎn)生了。

這個觀點與我不謀而合，好幾年前我就寫過《AI向善，還是人類向善》一文。

在瓦洛爾看來，AI之鏡誘使人類陷入鏡中，是所有AI威脅的根源：

那就是AI誘使我們陷入某種自我遺忘的能力——一種選擇性遺忘，它削弱了我們對人類自身行動力的掌控，遮蔽了我們的自我認(rèn)知。它是一種錯覺，這種錯覺能夠使我們中間的技術(shù)能手淪陷，就像勒穆瓦納所遭遇的一樣——他發(fā)現(xiàn)自在和自己的倒影說話。

瓦勒瓦納是谷歌工程師，2022年6月宣稱大模型LaMDA有意識，一個月之后被辭退。

瓦洛爾對AI之鏡的誘惑進(jìn)行細(xì)致分析，提出許多非常有啟發(fā)的見解。

首先，陷入AI之鏡中，意味著陷入過去。大模型數(shù)據(jù)都是過去的數(shù)據(jù)，按照AI行事只能讓未來重復(fù)過去。換言之，AI非常保守。

其次，AI會放大我們的既有缺陷。從本質(zhì)上說，AI偏見不是電腦問題，而是人類價值觀的問題。更準(zhǔn)確的說，是一部分人的價值觀的問題，因為訓(xùn)練大模型的數(shù)據(jù)主要是英語，源自以北半球年輕白人男性為主產(chǎn)生的數(shù)據(jù)。

再次，目前AI工具及其使用方式，正在損害人類德性。比如，依賴AI讓我們失去想象力，削弱我們的實踐智慧。再比如，出現(xiàn)AI反向適應(yīng)問題，即不是AI增強(qiáng)人，而是人適應(yīng)AI，結(jié)果人越來越像機(jī)器。也就是說，AI束縛了人。這便是我所稱的“人的機(jī)器化”問題。

第四，AI決策或自動化決策非常危險。第一，AI黑箱導(dǎo)致不知道AI究竟如何決策的，很可能是胡說八道。瓦洛爾認(rèn)為，大模型最讓人擔(dān)心的就是TA會出自本性地胡說八道。第二，AI決策被披上科學(xué)性的合法性外衣，很容易被人迷信。最近我非常關(guān)心這一問題，在很多場合揭示社會模擬器之類的AI4SS的問題，因為它被某些人吹得神乎其神。

第五，AI的自舉困境。什么是自舉困境？人類就現(xiàn)在這個德性，怎么可能憑著既有德性提升自己困境呢？現(xiàn)在想借助AI提升自己，AI就是個鏡子，連自己都無法提升，如何能幫助人性提升呢？這個問題我常稱之為實然與應(yīng)然的差距問題。

第六，AI本無情，人把它當(dāng)作共情之物即“共情盒”（瓦洛爾用這個詞，明顯想與“中文屋”相對照），產(chǎn)生大量問題。其中，瓦洛爾最關(guān)心的有兩個：一是AI欺騙與操控，二是AI養(yǎng)育問題，即不是真情包圍而是AI偽情陪伴長大的人會怎么樣。

最后，陷入AI之鏡中，覺得AI更了解人、了解我，結(jié)果是人類迷失、自我迷失。既然AI更了解人、了解我，那什么都聽AI的好了，結(jié)果是人類放棄自己的道德責(zé)任。

這些批判有一個基本判斷，我非常贊同，即AI威脅值得關(guān)注的根本不是什么奇點之后超級智能滅絕人類之類，而是AI正在從內(nèi)部蠶食人性：

我們正受控于對人格日益深重、越來越迅速的機(jī)械化：具有反思性的洞察力被無腦預(yù)測系統(tǒng)取代，共享繁榮有效地讓位于預(yù)期效用，人的創(chuàng)造力和開放式進(jìn)步換成了內(nèi)容傳送上的本地優(yōu)化。簡言之，人的智慧對機(jī)器思考繳械投降。

這就是我常說的：未來智能社會最大的問題，不是機(jī)器人會變成人，而是人會變成機(jī)器。因此，瓦洛爾反對AI長期主義、加州意識形態(tài)，即要重點研究AI的生存性風(fēng)險及其應(yīng)對措施。

總的來說，瓦洛爾對AI威脅分析得不錯，但對如何應(yīng)對談得很不夠。不過，他也說不上怎么重塑法，簡單提了一些想法：AI不要亂創(chuàng)新，先搞清楚創(chuàng)新的目標(biāo)對不讀；AI技術(shù)要與人文技術(shù)重新融合；把AI作為定位和糾正不公的工具使用，作為團(tuán)結(jié)人類、團(tuán)結(jié)社會的工具使用。宗旨，就是要主動重塑AI與人的關(guān)系：

完成必要的服務(wù)，讓他人能夠生存；包圍他們不受傷害；修復(fù)和治愈；教育和訓(xùn)練；哺育、滋養(yǎng)和安撫——為了人性化的未來，AI可以被重塑，被重新構(gòu)想為實現(xiàn)這些目的的工具，其衡量與價值僅在于它能否被證明服務(wù)于這些目的。只要我們選擇。只要我們要求。

瓦洛爾的應(yīng)對宗旨與我主要的AI發(fā)展的有限主義進(jìn)路不盡相同。但是，他主張不能放任AI野蠻生長，對AI發(fā)展模式進(jìn)行控制，與我的想法一致。瓦洛爾思考的許多問題與我重合，這些問題會在我的《AI與人性：AI時代的人心及其安頓》中討論。我自信，我的討論肯定比他要深刻，要清楚，更容易理解。

當(dāng)然，這些并非我推薦《AI之鏡》的主要理由，我推薦它主要還是因為該書提出許多發(fā)人深思的觀點，是近來AI倫理研究領(lǐng)域少見的有真知灼見的好書。該書中文版發(fā)布會，本來請我講講的，結(jié)果schedule沖突了，有些遺憾。