導(dǎo)語：唱衰人工智能不會帶來更好的明天 —— 構(gòu)建于人工智能之上的未來世界既非烏托邦，也非反烏托邦，而是充滿無限奇幻可能的。

去年，在OpenAI的靜修會*上，時任公司首席科學(xué)家的 Ilya Sutskever 委托當(dāng)?shù)厮囆g(shù)家制作了一尊代表“未對齊”*AI的木制雕像。他將其點(diǎn)燃，以象征“OpenAI對其創(chuàng)始原則的承諾”。這個奇怪的儀式可能是未雨綢繆，為了這個人工智能巨頭公司未來可能會在制造人工智能中不可避免地做出一些不直接表達(dá)“人類價值觀”的舉動提前洗白。然而，沒幾個月后，CEO Sam Altman 就被他的一個門徒背叛，被釘在十字架上。在三天后他復(fù)活時，這個話題成為了公司及其董事會的生存危機(jī)。OpenAI的所作所為真的能與“人類價值觀”保持一致嗎？如果不是，那到底發(fā)生了什么？

譯者注：

Retreat: 性質(zhì)上和國內(nèi)的團(tuán)建有點(diǎn)類似，不過一般是公司出錢，員工去自然中休假放松幾天。

未對齊：原文是“unaligned”，既有“未對齊”的意思，也表示“不一致”。這里表示“偏離人類意圖、價值觀或目標(biāo)的人工智能系統(tǒng)”。

前年年底，斯坦福人類中心人工智能研究所所長李飛飛出版了《我所見的世界》（The World I see）一書，《金融時報》稱其為“一種強(qiáng)有力的呼吁，要求在我們在技術(shù)革新中也要以人為本”。她雖然她沒有進(jìn)行舉行任何奇怪的儀式，但與 Sutskever 的奇怪儀式結(jié)合起來，這兩件事都是人類對顛覆性技術(shù)所產(chǎn)生的、里程碑式的反應(yīng)。

從“對齊”到“以人為本的人工智能”，這些只是我們對人工智能感到失控和恐懼下所產(chǎn)生的詞語，但也是一種認(rèn)為“復(fù)雜技術(shù)從未在人類控制之下”的敘事。多是出于政治的原因，有些人堅持聲稱“人工智能不是真的”，只是數(shù)學(xué)，只是資本主義悄然融入生活的一種意識形態(tài)建構(gòu)。顯然，存在很多批評者對無處不在的機(jī)器智能前景非常憤怒，另外一部分人則承認(rèn)AI的存在，并且相信它是可以通過立法、政策和研討會來控制的。然而，這部分人的樂觀并不能緩解大部分人的抑郁———這些人似乎看到了一場存在主義危機(jī)的到來。同樣的，這樣的唱衰聲也會讓那些看好人工智能的人感到困惑。

如何看待這些反應(yīng)？西格蒙德·弗洛伊德用“哥白尼化（Copernican）”一詞來描述現(xiàn)代人從直覺式特權(quán)地位（intuitive privilege）上被去中心化的過程。在尼古拉·哥白尼和查爾斯·達(dá)爾文之后，他提名精神分析為第三次這樣的革命。他還將對這種去中心化的反應(yīng)描述為“創(chuàng)傷(traumas）”。

創(chuàng)傷帶來悲傷。這是再正常不過的。瑞士精神病學(xué)家伊麗莎白·庫布勒-羅斯（Elizabeth Kübler-Ross）在她 1969 年出的書《論死亡與臨終》（On Death and Dying）中，確定了“悲傷的五個階段”：否認(rèn)、憤怒、討價還價、抑郁和接受。也許哥白尼創(chuàng)傷也不例外。是時候在弗洛伊德的名單上增加一個新名字了。

?圖源：Newnome Beauton / Noema Magazine

神經(jīng)科學(xué)揭開了心靈的神秘面紗，將二元論（dualism）逼到角落。生物技術(shù)[1]將人工材料轉(zhuǎn)化為生命，顛覆了人們的傳統(tǒng)認(rèn)知。然而，這些發(fā)現(xiàn)并沒有真正意義上改變自然世界的客觀現(xiàn)實，只是揭示了與我們的直覺和文化宇宙學(xué)以前教給我們的東西非常不同的東西。

這種揭示是創(chuàng)傷的關(guān)鍵。悲傷的每個階段都是在消化根本文化信仰先緩慢再突然的坍塌。就像摯愛的死亡一樣，信仰的死亡是極其痛苦的。今天所謂的“人工智能”應(yīng)該被視為正在形成的哥白尼創(chuàng)傷。它揭示了智能、認(rèn)知，甚至心靈（這些歷史術(shù)語的定義顯然有待討論）并不是它們看起來的那樣，不是它們感覺的那樣，更不是人類所獨(dú)有的。

誠然，人工智能所需的創(chuàng)造力和技術(shù)智慧是人類的成就，但現(xiàn)在，這種智慧正在重塑自己。自舊石器時代的認(rèn)知革命以來，人類已經(jīng)人工化了許多東西——住所、熱量、食物、能源、圖像、聲音，甚至生命本身——直到現(xiàn)在，連人類的智能本身都可以被人工化了。

庫布勒-羅斯（Kübler-Ross）的悲傷階段理論為西方對人工智能的態(tài)度提供了一個有用的分類：人工智能否認(rèn)、人工智能憤怒、人工智能討價還價、人工智能抑郁和人工智能接受。這些“悲傷（grief）”源于人工智能對政治制度、勞動分配以及許多哲學(xué)和宗教傳統(tǒng)的影響，有的出于臆想，有的真實存在。但是，無論成因，它們都各自有各自的深刻、可悲、可預(yù)測性。這些悲傷反映了不同人群心目中的“正確”，這種正確，是政治上最便捷的，最能與文化產(chǎn)生動態(tài)共鳴的，最符合人們過往認(rèn)知的，最符合普世價值觀的，最能表達(dá)人文主義身份和自我形象的，最適合悲傷者的。每一種反應(yīng)都暗含真理和智慧，以及神經(jīng)質(zhì)和自欺欺人。

這些反應(yīng)終將不敵人工智能帶來的最嚴(yán)峻的挑戰(zhàn)。在面對這些孱弱的悲傷和顧慮時，人工智能帶來的挑戰(zhàn)毫不留情的擊破所有悲傷以及反對這些悲傷的觀點(diǎn)。這并不是說人工智能不會帶來真正的風(fēng)險，或者目前在開發(fā)和盈利的AI必然會帶來純積極導(dǎo)向的結(jié)果。以后回過頭來看，我們可能會覺得早期關(guān)于人工智能的探討怎么如此幼稚。

人工智能所帶來的悲傷的階段沒有特定的順序。它們不具備心理學(xué)上的意義，而只是分類。同時，真實的人所產(chǎn)生的立場是流動的，不會停留在簡單的類別中。例如，人工智能否認(rèn)和人工智能憤怒可以同時存在。一種典型的情況就是，批評者經(jīng)常會一邊說人工智能是不真實的，但又一邊說要不惜一切代價阻止它。

我關(guān)注的點(diǎn)是西方文明社會對人工智能的反應(yīng)，這些反應(yīng)各有古怪和偏執(zhí)之處，且并不像他們想象的那樣普遍。

首先，當(dāng)然是人工智能否認(rèn)：如果人工智能不真實，我們?nèi)绾斡懻撊斯ぶ悄埽?/strong>

否認(rèn)

癥狀性陳述：人工智能不真實；它不存在；它不是真的人工的；它不是真的智能的；它不重要；這都是炒作；這無關(guān)緊要；這是權(quán)力游戲；這是一時的潮流；AI不能寫出真正好的歌或電影劇本；AI沒有情感；AI只是擬人化的幻覺；AI只是統(tǒng)計學(xué)、數(shù)學(xué)的梯度下降；AI是被美化后的輸入系統(tǒng)自動聯(lián)想；AI沒有實體，因此沒有意義上的智能；這種技術(shù)現(xiàn)在沒用，以后也沒用——就算它起作用，它也不是看起來的那樣。

?圖源：GPT / DALL·E 3

拒絕承認(rèn)AI的存在完全在我們預(yù)料之中。當(dāng)人們面對一些不尋常的、令人不安的、威脅生命的或破壞先前信仰的事情時，會自然地質(zhì)疑這種異常的有效性。對這種集體裁決的初步假設(shè)應(yīng)該是，像人工智能這樣史無前例的技術(shù)可能并不像看起來那樣。

可以肯定的是，許多形式的否認(rèn)在認(rèn)識、理解機(jī)器智能以及探討機(jī)器智能范疇方面至關(guān)重要。例如，近年來人工智能從邏輯專家系統(tǒng)向深度學(xué)習(xí)系統(tǒng)的轉(zhuǎn)變，就要感謝評論家們對早期模型堅持不懈但十分正確的反駁。

如今，存在各種形式的對人工智能的否認(rèn)。大多數(shù)與氣候變化否認(rèn)主義（climate change denialism）不同——?dú)夂蜃兓裾J(rèn)主義者執(zhí)著于捏造事實來證明自己的觀點(diǎn)。但與氣候變化否認(rèn)主義者一樣，人工智能否認(rèn)者會抓個例，偷換概念，或者做任何能讓他們覺得他們所反對的觀點(diǎn)有可能實際上才是正解的事情。

人工智能否認(rèn)大致可以分為：現(xiàn)象學(xué)的、政治的和程序性的。

哲學(xué)家休伯特·德雷福斯（Hubert Dreyfus）[2]認(rèn)為，智能只能通過具體而現(xiàn)實的視角來理解，而現(xiàn)象學(xué)的人工智能否認(rèn)在許多方面建立在這一基礎(chǔ)上：“人工智能不屬于真正的智能，因為它沒有實體”。這種批判類型通常強(qiáng)調(diào)以人為本。作為圖靈測試的民粹主義變體，它將人類經(jīng)驗與機(jī)器進(jìn)行比較，并通過衡量它們之間明顯的差異來強(qiáng)人工智能是多么不智能�！叭斯ぶ悄苁冀K無法創(chuàng)造出偉大的歌劇，畫出了不起的畫作，創(chuàng)作出清麗的俳句，諸如此類�！辈贿^，一般來說，提出這種看似直擊要害的批評的現(xiàn)象學(xué)人工智能否認(rèn)者也做不到這些這些事情，但卻認(rèn)為自己是智能的。

迄今為止最直截了當(dāng)?shù)娜斯ぶ悄芊裾J(rèn)是這樣說的：人工智能既不人工也不智能。抓人眼球的背后，這句批評意味十足的標(biāo)語的底層邏輯，卻是說人工智能是從實際的礦物質(zhì)資源中創(chuàng)造而來的，因此不夠“人工”，此外，它的主要表現(xiàn)基于隨機(jī)預(yù)測和建模的目標(biāo)導(dǎo)向行為，所以不夠“智能”。有意思的是，硅基芯片恰好是人工合成物的典范，而基于隨機(jī)預(yù)測和建模的目標(biāo)導(dǎo)向行為則是從威廉·詹姆斯（William James）[3]到卡爾·弗里斯頓（Karl Friston）對‘智能’的定義中重要部分。

“（人工智能的思維方式）只是隨機(jī)推理，不是真正的思考”，也是臭名昭著的論文On the Dangers of Stochastic Parrots: Can Language Models Be Too Big？[4]的結(jié)論，該論文將人工智能與鸚鵡進(jìn)行比較——顯然暗示人工智能不智能。在此過程中，此類觀點(diǎn)的作者武斷地否定了計算神經(jīng)科學(xué)，認(rèn)為它只是將一切視為“計算”的意識形態(tài)范式膨脹。更有作家將這一姿態(tài)激進(jìn)化，甚至得出結(jié)論：基于神經(jīng)網(wǎng)絡(luò)的自然和人工智能模型本身就是新自由主義實施的騙局。

這些批評者迅速在“人工智能不真實”和“人工智能不合法，因為它是由資本主義公司制造的”兩種論調(diào)之間來回切換，顯然前者的說法是代表后者提出的。因此，堅持認(rèn)為AI不真實往往是一種政治聲明，本質(zhì)上都是權(quán)力談判。

對這些人來說，同時認(rèn)為人工智能既“不真實”又“（真實所以）危險”，并沒有實際矛盾，因為“AI實際上是什么”與“AI實際上做什么”相比無關(guān)緊要，而他們精心挑選出AI行事的負(fù)面例子，并用這些例子引申到整體。

換句話說，聲稱“AI不真實存在”實際上是在表達(dá)反霸權(quán)政治觀點(diǎn)。更糟糕的是，這種思維方式會演變成AI李森科主義（Lysenkoism），即為了反資本主義對某些非常真實的事物進(jìn)行激進(jìn)的否認(rèn)。

其他的AI批評者對深度學(xué)習(xí)、Transformer架構(gòu)、自注意力或“規(guī)模就是一切”的方法進(jìn)行了高風(fēng)險智力賭注，他們的動機(jī)與現(xiàn)象否認(rèn)者類似，只是更個人。深度學(xué)習(xí)懷疑論者Gary Marcus的例子可以說明這部分人的心理，Blaise Aguera y Arcas稱之為“馬庫斯循環(huán)”。

我們可以這樣理解這個循環(huán)：一個人聲明事件X是不可能的，然后X發(fā)生了；接著ta說X并不算數(shù)，因為Y，還斷言X隨時會崩潰或失��；當(dāng)它不僅沒有失敗，反而被廣泛應(yīng)用時，這個人又說X實際上對社會真的很糟糕。自始至終，這位鍵盤俠都在網(wǎng)上夸夸其談，從不承認(rèn)自己的錯誤。

在Marcus眼中，從2015年開始，深度學(xué)習(xí)這種基礎(chǔ)方法離被淘汰就只差臨門一腳。但他的詛咒對象毫不擔(dān)心，畢竟Marcus預(yù)言過的許多“不可能”在今天都成了現(xiàn)實，被上百萬AI用戶頻繁光顧。

憤怒

癥狀性陳述：AI是政治、文化、經(jīng)濟(jì)和/或生存威脅；它威脅人類的未來；必須集體地、個人地、積極地，有時甚至是暴力地抵抗；必須捍衛(wèi)“人類的火花”免受來自上方和外部的有形傷害；AI本質(zhì)上可以從最近發(fā)生的、少數(shù)的負(fù)面例子中理解；AI是控制和等級制度的象征，因此反對人工智能即為爭取自由和自治的斗爭。

?圖源：GPT / DALL·E 3

對AI的憤怒基于合理和不合理的恐懼。也就是說，這種憤怒可能更多地集中在AI的意義上，而不是AI的實際行為。然而，兩者往往混為一談。

有時，AI被視為一個單一的整體，一種權(quán)力的象征，而不僅僅是真實的技術(shù)；有時，它又被描述為歷史罪惡的頂點(diǎn)。因此，AI否認(rèn)的政治屬性與AI憤怒雖然相互矛盾，但又常常重疊。

以史為鑒，人們有充分的理由對正在發(fā)展中的AI持謹(jǐn)慎態(tài)度�；仡欉^去，2010年代是各種政治民粹主義特別繁榮的時期。2017年，道格拉斯·魯什科夫（Douglas Rushkoff）在他的著作《向谷歌巴士扔石頭》（Throwing Rocks at The Google Bus）中捕捉（并頌揚(yáng)）了針對社會數(shù)字化帶來的變革的民粹主義憤怒。“滾開，谷歌！”是柏林克羅伊茨貝格地區(qū)的一個活動組織，也是一個網(wǎng)絡(luò)熱梗，旨在發(fā)泄對谷歌的不滿。畢竟對有些人來說，柏林田園牧歌式的生活方式建立在廉價的租金和音樂上，而谷歌的存在會擾亂這種閑適的生活。

AI憤怒是反建制的意識形態(tài)的產(chǎn)物，但不獨(dú)屬于某一個意識形態(tài)。激進(jìn)右翼、進(jìn)步左翼和主流中間派找到了共同點(diǎn)，他們都堅定地反對挑戰(zhàn)他們偏好的現(xiàn)狀的浪潮。

對于反動派來說，對抗AI關(guān)乎人類靈魂的存亡，這種珍貴的思想火花正被計算機(jī)世俗化的浪潮所消滅，因此必須進(jìn)行精神上的戰(zhàn)斗。他們對高級AI侵蝕人類自我形象的看法和那些對日心說、進(jìn)化論、墮胎、克隆、疫苗、跨性別主義、體外受精等議題的反對意見如出一轍。他們捍衛(wèi)的與其說是主權(quán)或機(jī)構(gòu)，不如說是尊嚴(yán)。那強(qiáng)調(diào)“人性”的火花——在亞伯拉罕神的形象中閃爍——正被現(xiàn)代技術(shù)熄滅，因此這場戰(zhàn)斗不僅是神圣的，而且是神性的。

相反，對于左翼來說，受到人工智能威脅的火花是活力（總是帶有政治色彩，通常與職業(yè)保障有關(guān)），而中間派對人工智能的怒氣主要出于歷史原因，在他們的想象中，人類的處境介于“暫時被圍剿”和“快要走到盡頭”之間。

這三派人士至少有三點(diǎn)共同點(diǎn)：共同的大義——捍衛(wèi)自己偏好的人類例外論*前景；共同的信仰——認(rèn)為自己必須為了社會的自我表征“打敗AI”；最后，通過反算法進(jìn)程的自我定義，他們將得到磨練，獲得文化立場上更大的話語權(quán)。

譯者注：人類例外論（human exceptionalism）：認(rèn)為人類在理性、意識、情感、自由意志等諸方面高級于其他物種。

討價還價

癥狀性陳述：AI是一種強(qiáng)大的力量，可以、應(yīng)該并且將通過以人為本的設(shè)計倫理和民主與技術(shù)官僚的對齊來控制，這些對齊與顯而易見的共識共享價值觀一致，通過政策制定和主權(quán)立法實現(xiàn)。人工智能對現(xiàn)代政治和法律制度在信息、技術(shù)和認(rèn)識論基礎(chǔ)的挑戰(zhàn)是暫時的。這些異常是可以通過文化干預(yù)來緩解的，比如，通過傳統(tǒng)的文化平臺針人工智能制造者進(jìn)行干預(yù)。

?圖源：GPT / DALL·E 3

如果一個人堅持認(rèn)為機(jī)器智能只是最新的數(shù)字工具，就自然會想到通過政策治理它。然而，如果人工智能比這更為現(xiàn)象級，就像互聯(lián)網(wǎng)或第一臺計算機(jī)的問世——或者更深層次地說，目前我們所面對的種種危機(jī)只是智能人工進(jìn)化的一個階段——那么，通過“政策”馴服AI可能充其量只是理想化的。

退一步說，即使國家在短期內(nèi)成功管控了AI公司，也不代表人工智能本身被長期控制。從同等的破壞力和威力層面，核武器的管控或許可以作為一個先例。核武器是已知的實體，可以通過國際條約進(jìn)行治理，因為其破壞效果是明確的（即使其地緣政治效果不是）。然而，AI不是已知實體。人們很難真正理解它的影響，更不用說更深層次的問題，AI是什么。因此，再良心、再精心設(shè)計的干預(yù)政策都會產(chǎn)生意想不到的后果。

對人工智能問題產(chǎn)生的討價還價心理，是政治和法律機(jī)構(gòu)的首選姿態(tài)，對于他們來說，復(fù)雜問題可以簡化為權(quán)利、責(zé)任、判例法、政策白皮書和咨詢委員會。但這也是科技界自身“理性中心”最終達(dá)成的共識。這種方法用“倫理”、“以人為本”和“對齊”的語言表達(dá)。

世界頂級的AI政策和研究機(jī)構(gòu)，斯坦福大學(xué)人工智能中心就叫做“以人為本的人工智能”。除了致敬人文主義和人本主義，這種方法依賴于對當(dāng)下的政治和長期技術(shù)進(jìn)化之間關(guān)系的脆弱假設(shè)。

對于人工智能討價還價而言，西方的"倫理"——一種基于法律個人主義和歐洲基督教哲學(xué)世俗化的框架——被視為引導(dǎo)人工智能走向社會利益的充分必要手段。實際上，人工智能倫理既包含合理的見解，也包含無意義的洞察，但它受限于這樣一種假設(shè): 認(rèn)為不良結(jié)果是一部分目的不端的人故意使然的結(jié)果。這種以“一切都是有人故意作怪”的觀點(diǎn)看似符合邏輯， 但卻流于表面。此外，這種倫理學(xué)提出的補(bǔ)救方法旨在“與社區(qū)合作”或召開公民大會，以調(diào)查民眾的需求，并將其編入索引并納入議程，仿佛對人工智能未來的控制是線性的，只需要變得更高質(zhì)量民主化即可。

對“技術(shù)解決主義”有許多批評——有些提出得很好，有些則完全不然。然而，政治解決主義——即假定將某些不適合當(dāng)前事件時間周期的事物“政治化”，并將其從屬于現(xiàn)有或構(gòu)想中的政策——同樣糟糕，甚至更糟。觀察國會或副總統(tǒng)，人們并不會期待他們作為肩負(fù)希望的未來領(lǐng)航員。當(dāng)國會召開公開會議，留下他們嚴(yán)肅探討人工智能的畫面時，本質(zhì)上是想向民眾表達(dá)出被票選出的代表們是掌控著人工智能的 —— 或者說，是為了自我說服。前提是, 我們所知的現(xiàn)代政府是即將到來的變革的執(zhí)行者，而不是一種將被改革、甚至被吸收的制度。無論好壞，后一種情況更為可信。

除了立法，人工智能討價還價心態(tài)還意味著將人工智能與“人類價值觀”對齊，這種做法我在前文已經(jīng)質(zhì)疑過。其假設(shè)是，機(jī)器智能的迭代將向盡可能擬人化和社會化的方向來引導(dǎo)，成為用戶的鏡像版本，一種令人信服的技術(shù)。

盲目崇拜人類價值觀是自然而然的、可通過方法論發(fā)現(xiàn)和付諸行動的、具有建設(shè)性的和普遍適用的。然而，這種盲目是對齊人類文明和人工智能的脆弱之處。它建立在這樣一種想法之上：有一群人可以代表全人類提出需求，并且能將人工智能帶來的顛覆性改變以最能接受的方式帶給盡可能多的人。

這種想法的提出者在潛意識里認(rèn)為是人工智能無條件愿意配合。也就是說，這種悲傷階段堅持認(rèn)為，如果我們開始與未來談判，那么未來將別無選擇，只能與我們折中妥協(xié)。如果真是這樣就好了。

抑郁

癥狀性陳述：由于人工智能貪婪的本質(zhì)，人與人之間的競爭變得激化，此外，多重危機(jī)的潛在挑戰(zhàn)（當(dāng)代人工智能是其中的一個癥狀）以及人工智能自身生產(chǎn)方式所直接帶來的政治和經(jīng)濟(jì)矛盾（可通過成熟的政治經(jīng)濟(jì)學(xué)術(shù)語理解），都暗示著已經(jīng)來不及拯救人類免于存在危機(jī)乃至滅絕�；厮輾v史規(guī)律，災(zāi)難性的未來已是木已成舟。

?圖源：GPT / DALL·E 3

也許僅僅是提到“人工智能”，人類就已經(jīng)準(zhǔn)備好迎接自己的滅絕。與愛人親吻擁抱，儲備糧食并準(zhǔn)備迎接超級智能的到來。這個惡意的、癡迷于人類的超級智能將逐個對人類進(jìn)行審判，并據(jù)此決定每個人的命運(yùn)。

按照這種恐懼的說法，人工智能最終可能會導(dǎo)致數(shù)百萬甚至數(shù)十億人死亡。它也可能導(dǎo)致數(shù)十億的生育率下降，因為在一個“完全自動化”的社會中，全球生育率會遠(yuǎn)低于死亡率，留下一個滿是空房子的星球，只有大約20億人類居住在一個更安靜、更綠色、更老齡化和更機(jī)器人化的地球上。與馬爾薩斯主義相反，這種人口下降情景是源于共同富裕而非擴(kuò)大的貧困。也許這最終會成為人工智能在緩解氣候變化的主要貢獻(xiàn)之一。烏托邦還是反烏托邦，取決于觀察者的視角。

對于人工智能末日論者（這個詞有時帶有自豪感，有時則帶有貶義，他們的重點(diǎn)是保護(hù)未來免受迫在眉睫、可能發(fā)生或不可避免的人工智能災(zāi)難）來說，競相闡述極端和令人沮喪的結(jié)果會帶來某種滿足感。蠢人才會滿懷希望。

這場精英預(yù)備運(yùn)動的成員以開玩笑口吻談?wù)揜oko的 basilisk思想實驗和類似的思想：末世論、道德化、自我恭維。末日論話語吸引了許多與人工智能行業(yè)密切相關(guān)的人，因為它暗示了一種想法：如果人工智能真的讓人類瀕臨滅絕。那么它的掌控者一定是非常重要的人物。我們的未來掌握在這些終極角色的手中。誰不會相信這種論調(diào)呢?

科技文化戰(zhàn)的另一面。還有一種常見的人工智能抑郁類型來自法律、政府和人文科學(xué)的學(xué)術(shù)機(jī)構(gòu)的綜合發(fā)言。他們將人工智能視為對自身作為學(xué)術(shù)機(jī)構(gòu)所擁有的權(quán)力和責(zé)任的威脅，包括對社會的監(jiān)管權(quán)和敘事權(quán)。從《大西洋月刊》到《邏輯》，從哈佛法學(xué)院的伯克曼克萊因中心（Berkman Klein Center ）到蘭德公司，他們想象自己是與權(quán)力作斗爭的民主弱者， 卻從未想過他們所擁有的根深蒂固的文化和制度地位，比起來自加州的這些科技企業(yè)尚未成雛形的篡權(quán)，自己才是真正無可撼動的權(quán)力機(jī)構(gòu)。

對其他陣營來說， 高度末日論的基本原則可能與尼克·博斯特羅姆（Nick Bostrom）以及牛津大學(xué)人類未來研究所有關(guān) -—— 但他們原本關(guān)于存在風(fēng)險的研究明確聚焦于低概率災(zāi)難，而現(xiàn)在，低概率部分被擱置一旁，轉(zhuǎn)而支持不僅是高概率失控的人工智能，而且是終將失控的超智能人工智能。

為什么會出現(xiàn)這種轉(zhuǎn)向? 也許是因為終將失控的超智能人工智能在流行話語中已經(jīng)是一個重要角色，所以把這項詞語納入議程更多是出于對它的不可避免性的考慮，而非遙遠(yuǎn)性。對此，博斯特羅姆要感謝雷·庫茲韋爾（Ray Kurzweil），在大多數(shù)人認(rèn)真對待人工智能之前，他多年來一直將相互加強(qiáng)的技術(shù)融合觀察與福音派超人類主義（evangelical transhumanist）超越結(jié)合在一起。抑郁(或興奮)是對預(yù)想中的現(xiàn)實的理性反應(yīng)，即使預(yù)定論并不是對該現(xiàn)實的理性解釋。

在不可避免和可避免之間的這種搖擺，可能是理解抑郁形式的人工智能悲傷的關(guān)鍵�；叵胍幌拢硪环N類型的抑郁是躁郁癥，表現(xiàn)為在極度興奮和絕望之間來回波動的傾向。政治中的馬蹄鐵理論指的是極左和極右政治立場以可預(yù)測和驚人的方式趨同的傾向。人工智能抑郁的馬蹄鐵理論將未來的彌賽亞式悲傷和莊嚴(yán)狂喜之間的波動視為一體，常常在同一個人、同一個博客、同一個亞文化中表現(xiàn)出來，那些為人工智能超越即將到來的信息鼓掌的觀眾，當(dāng)救贖的承諾轉(zhuǎn)變?yōu)槟┤盏某兄Z時，會鼓掌得更加熱烈。

接受

癥狀性陳述：機(jī)器智能的出現(xiàn)可能是超越傳統(tǒng)認(rèn)知范圍的、更深層次力量所推動的進(jìn)化；長遠(yuǎn)看，這種技術(shù)對地球的影響將無法用語言描述。被迫接受，也是一種破罐子破摔。接受在當(dāng)下有限的敘事中認(rèn)知未來。不同于其他心態(tài)著眼于人工智能所帶來的混亂，這種心態(tài)看到的則是必然性。

?圖源：GPT / DALL·E 3

根據(jù)原有定義，接受是悲傷五個階段中最后一個階段，但這不等同于最終形態(tài)。此外，這種心態(tài)也不一定優(yōu)于其他心態(tài)。接受什么？從其他階段的心態(tài)來看，這可能意味著接受某種不真實的東西，某種非人化的東西，某種主宰的東西，某種預(yù)示厄運(yùn)的東西，某種需要嚴(yán)厲批評的東西�；蛘呓邮堋皺C(jī)器智能進(jìn)化和自然智能進(jìn)化受到同等程度的政治控制”這類的反常識。其“人工性”是真實的、基本的、多形態(tài)的，也是智能復(fù)雜化的一部分，正如已故的丹尼爾·丹尼特（Daniel Dennett）所說，從“細(xì)菌到巴赫，在往復(fù)”，這種復(fù)雜化驅(qū)動著人類社會，而不是由它們驅(qū)動。

這種心態(tài)的內(nèi)部核心矛盾是這樣的：人工智能出現(xiàn)是人類文明進(jìn)化所帶來的必然嗎？如果是的，那么人類的進(jìn)化是否其實是一種超出傳統(tǒng)宇宙觀的生物技術(shù)進(jìn)化過程呢？那么，我們的文化是物質(zhì)世界的原因還是結(jié)果？此外，人類通過語言對智能的人工化（如 LLM）有多少成分是真正在創(chuàng)造機(jī)器智能，又有多少成分是在發(fā)現(xiàn)智能的通用品質(zhì)，是隨便誰只要到了這一步就都能發(fā)現(xiàn)的嗎？

如果是后者，那么人工智能的出現(xiàn)就不再那么偶發(fā)，不再那么有迎合社會主流價值的嫌疑。如果說智能所具有的通用品質(zhì)是一個個碎片，那么偉大的頭腦就是縫合這些碎片的必要條件，但很少有人能做到這一點(diǎn)。其發(fā)明者不再是普羅米修斯式的超級天才，而只是那些在有啟示性的關(guān)鍵時刻恰好在場的人。

抱有接受心態(tài)的人收到的困擾，不僅是關(guān)于這些矛盾本身，更是這些矛盾所引申的、更深遠(yuǎn)的問題。如果真要闡明這些核心矛盾，我們需要回溯多久的技術(shù)歷史才能證明，人工智能的出現(xiàn)并非偶發(fā)性，而是一塊塊碎片恰好在此刻完成了拼接。

從微積分到數(shù)據(jù)中心，和這些復(fù)雜技術(shù)一樣，人工智能是由許多之前就存在的、更簡單的技術(shù)構(gòu)建的。很大一部分的這些技術(shù)都是偶然的，但是，這些微小的偶發(fā)隨著時間的推移會組成更宏觀的結(jié)構(gòu)。偶然會不可避免地匯成唯一的確定。

如果你有恰好有計算機(jī)，有對生物神經(jīng)網(wǎng)絡(luò)的理解，加上足夠的數(shù)據(jù)來標(biāo)記語言形態(tài)，加上廉價且快速的硬件來運(yùn)行自遞歸模型，并且有任何數(shù)量的開發(fā)人員在其上工作，那么某種真正意義上的人工化的智能在無生命的基質(zhì)上能真正實現(xiàn)嗎？這并不一定得是現(xiàn)有的AI或者類似的東西，而是那種最終的、真正的智能。

對于 AI 接受階段，最重要的自我安慰話術(shù)就是“必然性”。因為別無選擇，所以世界只能是現(xiàn)在的樣子。這種如釋重負(fù)的感覺到底是接受還是順從？這是意圖的人類能動性（現(xiàn)在是結(jié)果）與行星過程（現(xiàn)在是原因）之間因果關(guān)系的哥白尼式反轉(zhuǎn)嗎——還是這是對這些結(jié)果的過于人性化的自然化，認(rèn)為它們是神定的？根據(jù)庫布勒-羅斯的悲傷五階段理論，這是否是一個悲傷者的接受？究竟在為誰悲傷？他們自己的存在目的？

對悲傷的創(chuàng)傷反應(yīng)是相信現(xiàn)狀必然如此。因為沒有選擇的余地，所以不會有罪惡感；因為別無他選，所以無需失望。但這并不是認(rèn)識到現(xiàn)在不是獨(dú)立于過去和未來的唯一方式，即使看似非常有力的決定也是在決定性的約束下做出的。

我們可以稱之為"非悲傷"。它得出的結(jié)論非常不同。不是說我們現(xiàn)在擁有的人工智能形式是不可避免的，而是我們現(xiàn)在擁有的人工智能肯定不等同于未來人工智能的形式。教訓(xùn)是不要將現(xiàn)在物化，既不作為結(jié)果，也不作為原因。

不再悲傷

悲傷的每個階段不僅表達(dá)了人們對人工智能及其未來的憂慮，也顯示了人們的洞察力，即使其主張有時偏離目標(biāo)。當(dāng)我們幾年后再回顧這些年的想法時，可能會看到不同的東西。“要是我們當(dāng)初聽從了卡桑德拉（Cassandras）的警告就好了!” 或者，“他們到底在想什么，為什么要說這些胡話?”有一些“非悲傷”的方式來思考人工智能哲學(xué)，既不樂觀也不悲觀，既不烏托邦也不反烏托邦。它們強(qiáng)調(diào)將人工智能的“哥白尼創(chuàng)傷”與對“生命”、“技術(shù)”和“智能”的新理解相協(xié)調(diào)。

探索這些術(shù)語之間不斷崩塌的界限是我指導(dǎo)的安提基特拉研究計劃 （Antikythera research program）的一部分工作，該計劃由伯格魯恩研究所（Noema的出版商）孵化。特別是我們與天體生物學(xué)家和理論物理學(xué)家薩拉·沃克（Sara Walker）的合作，她在Noema上發(fā)表了一篇名為“人工智能就是生命”（AI Is Life）的佳作。這里的“生命”不是單個有機(jī)體的獨(dú)特品質(zhì)，而是指數(shù)十億年來的進(jìn)化譜系過程。但“技術(shù)”也在進(jìn)化，它在本體論上并不與生物進(jìn)化分離，而是其中的一部分，從核糖體到機(jī)器人技術(shù)。

任何技術(shù)的存在都是因為使其成為可能的生命形式存在——但同時，技術(shù)也使某些沒有它們就不可能存在的事物存在。在沃克看來，這一切都關(guān)乎于“選擇”——這當(dāng)然包括人類，人造物，當(dāng)然也包括創(chuàng)造人類的東西。她寫道：“就像我們將一些感官知覺外包給我們幾個世紀(jì)以來建立的技術(shù)一樣，我們現(xiàn)在正在將我們自己思維的一些功能外包出去。”

詹姆斯·拉夫洛克（James Lovelock）在寫他的最后一本書《新星紀(jì):超智能時代的到來》（ Novacene: The Coming Age of Hyperintelligence）時知道自己快要死了，他以一章可能會讓一些更具神秘主義傾向的蓋亞理論（Gaia theory）崇拜者感到震驚的內(nèi)容結(jié)束了自己一生的工作。他平靜地報告說，我們所知道的地球生命可能正在讓位給非生物形式的生命或智能，就他而言，這很好。他直接告訴我們，他很高興在知道人類作為復(fù)雜智能基質(zhì)的時代正在讓位于其他東西的情況下離開這個塵世—— 不是作為超越，不是作為魔法，不是作為升級，而只是同一持續(xù)進(jìn)行的選擇、復(fù)雜化和聚合過程中的一個相變，這個過程就是“生命”，就是我們。

我認(rèn)為，使拉夫洛克對他的結(jié)論感到平靜的部分原因是，無論人工智能的哥白尼創(chuàng)傷意味著什么，它并不意味著人類是無關(guān)緊要的，是可被取代的，或者是在與自己的創(chuàng)造物作戰(zhàn)。先進(jìn)的機(jī)器智能并不意味著我們的滅絕，既不是高尚的退位，也不是蟲子在虛空中尖叫。

然而，這確實意味著人類智能并不是人類智能一直以為的那樣。它既是我們擁有的東西，但更多地是擁有我們的東西。它不僅存在于個體的大腦中， 更多地存在于它們之間持久的交流結(jié)構(gòu)中，例如，以語言的形式。

像“生命”一樣，智能是模塊化的、靈活的和可擴(kuò)展的，延伸到亞細(xì)胞生命機(jī)器的巧妙工作，貫穿進(jìn)化時間的深處。它還延伸到更大的聚合體， 我們每個人都是其中的一部分，也是一個實例。沒有理由相信故事會或應(yīng)該以我們結(jié)束；末世論是無用的。智能的進(jìn)化不會在一個改造地球的游牧靈長類物種身上達(dá)到頂峰。

這已經(jīng)是最好的消息。像拉夫洛克一樣，我感受到的不是悲傷。

原文鏈接：https://www.noemamag.com/the-five-stages-of-ai-grief/

[1]. https://doi.org/10.1002/9781119132363.ch26

[2]. https://philpapers.org/rec/DREWHA

[3]. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC9222757/#:~:text=%E2%80%9CIntelligence%20is%20a%20fixed%20goal,variable%20means%20of%20achieving%20it.%E2%80%9D

[4].https://dl.acm.org/doi/10.1145/3442188.3445922

關(guān)于追問nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問為紐帶，深入探究人工智能與人類智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。如果您有進(jìn)一步想要討論的內(nèi)容，歡迎評論區(qū)留言，或后臺留言“社群”即可加入社群與我們互動。

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創(chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn)，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎勵計劃、、、大圓鏡科普等。