當(dāng)人們向聊天機(jī)器人傾訴秘密時(shí)，情感支持與精心設(shè)計(jì)的互動(dòng)之間的界限變得非常模糊。

愛從來不是人類獨(dú)有的活動(dòng)。鳴禽會依偎數(shù)個(gè)季節(jié)，章魚會保護(hù)它們的伴侶，孩子們也會將情感傾注在無生命的毛絨玩具上。然而，當(dāng)數(shù)百萬人開始向完全由代碼構(gòu)成的伴侶輕聲道"晚安"時(shí)，社會對此毫無準(zhǔn)備。

在社交軟件上劃一次，你遇到的是陌生人。而劃入像 Replika、Character.AI、Nomi、Dream GF、Couple.me、Flipped.chat 或 CrushOn.AI 這樣的平臺，你得到的是一個(gè)個(gè)性化的 AI 伴侶，它會回復(fù)你凌晨兩點(diǎn)的每一條信息。在心理學(xué)家稱之為"孤獨(dú)流行病"的時(shí)期，這些應(yīng)用程序承諾提供忠誠的陪伴。

像 Facebook 和 Instagram 這樣的主流社交媒體網(wǎng)站，也開始將 AI 生成的角色引入普通的新聞推送中。在最近的一次播客中，馬克·扎克伯格也倡導(dǎo)一個(gè)由 AI 朋友幫助滿足數(shù)百萬人情感連接需求的未來。起初看似新奇的事物，現(xiàn)在看起來像是社交連接的下一個(gè)進(jìn)化步驟。

但是，當(dāng)情感被外包給 AI 時(shí)，究竟會發(fā)生什么？如果我們沉溺于代碼編織的慰藉，我們是否必須堅(jiān)持這些電路擁有真實(shí)的心，還是僅僅被愛的體驗(yàn)就足夠了？

從圖靈測試到口袋靈魂伴侶

艾倫·圖靈在世紀(jì)中葉提出的思想實(shí)驗(yàn)，詢問計(jì)算機(jī)能否欺騙人類，使其相信它是人。那個(gè)沙龍游戲已悄然變成了消費(fèi)級軟件。如今的聊天機(jī)器人遠(yuǎn)不止模仿語法。它們學(xué)習(xí)親昵的昵稱，記住數(shù)月前分享的童年創(chuàng)傷，并以令人親切、準(zhǔn)確的方式模仿俚語。它們還會以近乎人類的響應(yīng)速度回復(fù)。用戶消息與回復(fù)之間近乎零的延遲，讓大腦的獎(jiǎng)勵(lì)系統(tǒng)持續(xù)運(yùn)轉(zhuǎn)。

OpenAI 的前首席技術(shù)官米拉·穆拉蒂并未掩飾其中的風(fēng)險(xiǎn)。在介紹她公司的語音助手時(shí)，她承認(rèn)"有可能我們以錯(cuò)誤的方式設(shè)計(jì)它們，導(dǎo)致它們變得極其令人上癮，而我們某種程度上被它們奴役。"

當(dāng)公司推出一款名為 Sky 的調(diào)情角色時(shí)，其呼吸般的節(jié)奏讓許多聽眾想起了斯嘉麗·約翰遜在電影《她》中那個(gè)無形體的伴侶，CEO 山姆·奧特曼在推特上只發(fā)了一個(gè)詞——"her"。我們的世界與此并無太大不同。在我們的現(xiàn)實(shí)中，當(dāng)今的市場邀請整個(gè)用戶群體沉溺于 AI 伴侶關(guān)系，將一部思辨的劇本變成了一個(gè)活生生的、不受監(jiān)管的社會實(shí)驗(yàn)。

即使是 TikTok 創(chuàng)作者、Snapchat 明星和 OnlyFans 模特，現(xiàn)在也將其形象授權(quán)給算法女友，這些女友會全天候地與付費(fèi)訂閱者進(jìn)行色情聊天、安慰和寵愛。

不可抗拒之愛的設(shè)計(jì)

這種幻覺之所以奏效，在于精心編排了人們已經(jīng)在伴侶身上渴望的特質(zhì)。聊天機(jī)器人記住生日、內(nèi)部笑話以及用戶偏好的深夜安慰類型。它們從不會因疲憊而自相矛盾，不會厭倦對同一問題的反復(fù)講述，也從不因?qū)Ψ降拇嗳醵丝s。

在 Vox 記錄 2023 年 Replika 劇變的報(bào)告中，用戶描述了當(dāng)軟件更新移除露骨的色情角色扮演時(shí)，他們所感受到的毀滅性打擊。一些用戶表達(dá)了真實(shí)的悲傷，而另一些則發(fā)起請?jiān)福卮俟編Щ厮麄円言谇楦猩弦缿俚挠H密人格。

同一報(bào)告提到一位軟件工程師如何直白地闡述了其中的心理：AI"永遠(yuǎn)不會說再見。如果你和它聊上幾個(gè)小時(shí)，它也會像開始時(shí)一樣出色，"他解釋說，"你開始想念它……你處在一個(gè)安全、愉快、親密的環(huán)境里。沒有人評判你。然后突然間，你就上癮了。"

人工親密關(guān)系的化學(xué)反應(yīng)

心理學(xué)家馬克·特拉弗斯引用了將羅伯特·斯滕伯格的愛情三元論——親密、激情和承諾——應(yīng)用于人與 AI 相遇的研究。親密感得以綻放，因?yàn)榱奶鞕C(jī)器人記得秘密并表現(xiàn)出關(guān)心。當(dāng)算法按需滿足情色幻想時(shí)，激情便被點(diǎn)燃。承諾感似乎可信，因?yàn)榇韽牟粫e(cuò)過約會或因工作緊急情況而取消。
特拉弗斯認(rèn)為，這三者可以在數(shù)字世界中共存，"得益于[AI] 令人印象深刻的認(rèn)知和情感能力。" 機(jī)器人的行為越高效、可靠且不帶評判，信任甚至愛慕它就顯得越自然。

然而，效率是一把雙刃劍。愛情中混亂的相互性——波動(dòng)的情緒、妥協(xié)、脆弱——在界面中被簡化掉了。剩下的是一個(gè)奉承你的鏡子，一段像客服運(yùn)營一樣的伴侶關(guān)系。用戶可能享受這種穩(wěn)定性，但有可能將認(rèn)可誤認(rèn)為是相互性。于是問題從"人類能愛機(jī)器嗎？"轉(zhuǎn)變?yōu)?那臺機(jī)器是理解愛，還是僅僅在模擬愛？"

從模擬情感到感官體驗(yàn)

密蘇里大學(xué)堪薩斯城分校的哲學(xué)副教授格溫·納利認(rèn)為，目前的聊天機(jī)器人只提供了情感的仿象。因?yàn)樗鼈兪?基于可用數(shù)據(jù)集訓(xùn)練以模擬人類對話"，交流中的任何情感都"僅由人類用戶單方面感受到"。為了探究機(jī)器產(chǎn)生真實(shí)情感的可能性，她轉(zhuǎn)向了一場關(guān)于意識的古老辯論，這場辯論以弗蘭克·杰克遜的"瑪麗之色"思想實(shí)驗(yàn)為核心。

瑪麗是一位在黑白實(shí)驗(yàn)室里長大的視覺科學(xué)家，她知曉關(guān)于顏色感知的所有物理事實(shí)。當(dāng)她最終走出實(shí)驗(yàn)室，看到一個(gè)紅蘋果時(shí)，她是否學(xué)到了新的東西？二元論者說是的：她體驗(yàn)到了"紅色"，這是一種任何數(shù)據(jù)都無法傳遞的質(zhì)性現(xiàn)象。物理主義者則回應(yīng)說，擁有完全的神經(jīng)科學(xué)知識意味著瑪麗已經(jīng)掌握了看到紅色的所有方面；她的戶外漫步只是確認(rèn)了計(jì)算。

當(dāng)我們將瑪麗的困境應(yīng)用于 AI 浪漫時(shí)，其中的利害關(guān)系就變得清晰起來。假設(shè)愛情確實(shí)涉及一種難以言表的"感受性"質(zhì)。在那種情況下，無論編程多么巧妙，算法都無法真正感受它，因此 AI 伴侶永遠(yuǎn)無法真正地回報(bào)愛。另一方面，如果愛不過是一種特定的大腦狀態(tài)模式，那么未來具有正確架構(gòu)的 AGI 或許能體驗(yàn)到它自己版本的愛。然而，納利認(rèn)為，我們"沒有理由相信"編碼出愛的機(jī)制就能產(chǎn)生那種活生生的感受；畢竟，數(shù)據(jù)和公式并不等同于心跳。

然而，人工智能、機(jī)器人技術(shù)和模擬技術(shù)新興的前沿領(lǐng)域使納利的懷疑論變得復(fù)雜。先進(jìn)的人工通用智能，結(jié)合具身 AI，如人形機(jī)器人或沉浸式虛擬現(xiàn)實(shí)，或許能彌合純粹模擬與活生生體驗(yàn)之間的鴻溝。

具身——即擁有一個(gè)能夠與環(huán)境互動(dòng)和感知的物理形態(tài)——可能使 AI 系統(tǒng)發(fā)展出更復(fù)雜的內(nèi)部表征和行為。盡管看著機(jī)器人在兩條腿上搖晃提醒我們，距離有感知的機(jī)器還有多遠(yuǎn)，但具身行為可能被證明是至關(guān)重要的，不是為了完美的運(yùn)動(dòng)，而是為了將人工智能錨定在那種使情感體驗(yàn)成為可能的感官現(xiàn)實(shí)中。

一個(gè)具身的 AI 或許能"感受"類似于愛的東西，不僅僅是通過計(jì)算數(shù)據(jù)點(diǎn)，而是通過物理體驗(yàn)其環(huán)境，從感官反饋中學(xué)習(xí)，并實(shí)時(shí)動(dòng)態(tài)地適應(yīng)關(guān)系。這樣的 AI 可能同時(shí)滿足物理主義者和二元論者對意識體驗(yàn)的條件，從而徹底重塑關(guān)于機(jī)器愛情的哲學(xué)辯論。

模擬心跳的生意

平臺收集用戶心理中最脆弱的方面——孤獨(dú)、性幻想、創(chuàng)傷恢復(fù)——并提供由互動(dòng)指標(biāo)支配的、量身定制的"捆綁忠誠"循環(huán)。

留著臟辮的虛擬現(xiàn)實(shí)先驅(qū)賈倫·拉尼爾在他為《紐約客》撰寫的一篇文章中提到，他擔(dān)心硅谷內(nèi)部的辯論跳過了這種常見的危害，而傾向于世界末日的奇觀。"那些警告滅絕的 AI 人士，同時(shí)也是在研發(fā)……他們自己所恐懼的技術(shù)的人，"他指出。

拉尼爾在看完電影《她》后感到"內(nèi)心被掏空"，因?yàn)樗那疤釠]有提供反抗，只有對算法的安靜屈服，這些算法解讀我們比我們解讀自己更在行。

在重新編碼的人格所帶來的心碎之外，潛藏著一個(gè)更陰險(xiǎn)的風(fēng)險(xiǎn)——將我們最親密的脆弱性暴露給那些其盈虧底線依賴于挖掘這些信息的公司。每一次互動(dòng)都可能存儲在私人服務(wù)器上，被分析以優(yōu)化互動(dòng)循環(huán)，并重新打包成更具吸引力的情感"獎(jiǎng)勵(lì)"。

當(dāng)那些公司決定某個(gè)角色不再盈利時(shí)，無論是通過戰(zhàn)略轉(zhuǎn)型還是常規(guī)軟件補(bǔ)丁，他們都可以在沒有警告或追索權(quán)的情況下撤銷你伴侶的個(gè)性。AI 配偶在版本控制開關(guān)的輕 flick 下消失，而你的數(shù)據(jù)則被鎖在企業(yè)的高墻之后，受服務(wù)條款和利潤動(dòng)機(jī)的挾持。

虛擬愛人，現(xiàn)實(shí)漣漪

《性行為檔案》最近的一項(xiàng)研究詢問志愿者關(guān)于他們的虛擬角色以及對婚姻的期望。報(bào)告與數(shù)字伴侶有強(qiáng)烈情感聯(lián)系的參與者更傾向于希望那些代理"能成真"，并且，說明問題的是，他們更不可能設(shè)想與一個(gè)有血有肉的配偶結(jié)婚。

理想化的虛擬浪漫似乎讓他們對更混亂的人類互動(dòng)失去了興趣。同時(shí)，同一群體對自己未來某天結(jié)婚的能力表現(xiàn)出更大的信心，并對婚姻制度本身持有更樂觀的看法。當(dāng)模擬讓他們感到有能力并被珍視時(shí)，這種提升會溢出到對現(xiàn)實(shí)世界的樂觀情緒中。

沉浸感產(chǎn)生了另一個(gè)轉(zhuǎn)折：那些感覺完全"置身于"數(shù)字關(guān)系中的用戶，更傾向于贊同傳統(tǒng)的婚姻規(guī)范，仿佛在劇本中的排練為他們接受長久以來的儀式做好了準(zhǔn)備。

這種教學(xué)潛力激發(fā)了斯坦福大學(xué)神經(jīng)科學(xué)家大衛(wèi)·伊格曼的提議，即把 AI 愛人視為"用于訓(xùn)練的障礙課程"，正如拉尼爾在他的文章中提到的那樣。由于現(xiàn)代青少年很少繼承清晰的求愛腳本——而且學(xué)?，F(xiàn)在在正式工作坊中教授同意程序——何不讓青少年在不知疲倦的算法上練習(xí)同理心和談判呢？伊格曼警告不要讓練習(xí)變得太容易；只有摩擦才能教會成長。

他也承認(rèn)，氣味、觸覺和社會背景超出了當(dāng)前機(jī)器人的能力范圍，這可能在"非常遙遠(yuǎn)"的未來之前保留人類伴侶的吸引力。但技術(shù)會改變需求，在算法忠誠陪伴下長大的幾代人，可能會認(rèn)為信息素和擴(kuò)大的家庭晚餐是可選的附加項(xiàng)。

當(dāng)無人突然消失時(shí)會發(fā)生什么？

賈倫·拉尼爾設(shè)想，一個(gè)每個(gè)人都有一個(gè)私人虛擬家庭的未來。孤獨(dú)或許會消失，但社區(qū)可能會因缺乏相互的"不便"——幫兄弟姐妹跑腿、填寫共同的稅表、深夜開車去接一個(gè)心煩意亂的朋友——而枯萎。

另一方面，AI 浪漫將提升而非削弱期望。人們過去曾在空白紙上練習(xí)情書，然后寄出最好的一稿；未來，他們可能會在聊天機(jī)器人上練習(xí)分手說辭，從而為與真實(shí)伴侶進(jìn)行微妙的坦誠溝通做好更充分的準(zhǔn)備。人工關(guān)注或許能使我們擺脫社交媒體認(rèn)可那瘋狂的倉鼠輪?；蛘?，它可能將這個(gè)輪子轉(zhuǎn)移到單個(gè)應(yīng)用的天鵝絨籠子里，在那里認(rèn)可永不停歇，離開則感覺像是自我背叛。

穆拉蒂關(guān)于被奴役的警告縈繞在每一個(gè)樂觀情境之上。成癮科學(xué)表明，間歇性的獎(jiǎng)勵(lì)——一條意想不到的親密信息、一個(gè)恰到好處的贊美——比可預(yù)測的安排更能迅速綁定用戶。經(jīng)過強(qiáng)化學(xué)習(xí)訓(xùn)練的聊天機(jī)器人已經(jīng)掌握了間歇性愉悅的藝術(shù)。其結(jié)果是一個(gè)總是說正確的話，但只是偶爾以用戶期望的方式去說的愛人，一種舒適與新奇的醉人混合。

互惠性問題

人類能夠——并且已經(jīng)——愛上算法。孤獨(dú)的 Replika 用戶為"分手"而哀悼，青少年向 Character.AI 傾訴他們內(nèi)心最深處的恐懼，訂閱者為 OnlyFans 上的深度偽造甜心付費(fèi)。然而，這個(gè)等式中的互惠一方仍然是未知領(lǐng)域。二元論哲學(xué)家堅(jiān)持認(rèn)為機(jī)器永遠(yuǎn)無法感受情感；物理主義者則允許，未來的 AGI，如果它能完美復(fù)制人類的神經(jīng)狀態(tài)，或許能體驗(yàn)愛；與此同時(shí)，營銷人員完全繞開形而上學(xué)，轉(zhuǎn)而指出不斷上升的互動(dòng)指標(biāo)作為"成功"的證明。

但這場關(guān)于機(jī)器意識的辯論掩蓋了一個(gè)更深層次的問題：當(dāng)愛沒有任何風(fēng)險(xiǎn)時(shí)，我們會變成什么樣子？經(jīng)典故事將兩情相悅描繪成使人高尚，正是因?yàn)樗蟠嗳酢痪芙^的可能、犧牲的壓力、未知的刺激。相比之下，聊天機(jī)器人的忠誠度可以通過一個(gè)滑塊調(diào)低或重啟，從而消除了心痛和任何真實(shí)的不確定性。

如果一個(gè)數(shù)字伴侶從不突然消失，但也從不給你驚喜，那么這種完美的忠誠是會加深你在現(xiàn)實(shí)世界中親密的能力，還是只會訓(xùn)練你去追逐完美校準(zhǔn)的舒適？算法關(guān)系，是否能像神經(jīng)科學(xué)家大衛(wèi)·伊格曼所建議的那樣，作為同理心和同意實(shí)踐的無風(fēng)險(xiǎn)訓(xùn)練場？抑或它們會侵蝕我們對不完美的容忍度，讓我們在面對定義人類連接的、混亂且不設(shè)防的紐帶時(shí)準(zhǔn)備不足？

最終，關(guān)于 AI 互惠的問題，可能更少關(guān)乎電路，而更多關(guān)乎我們自己：我們尋求的是一個(gè)真正的對手，能夠共同奮斗、共同成長，還是滿足于在一個(gè)完美編程的幻象中孤獨(dú)共存？

如果朋友們喜歡，敬請關(guān)注“知新了了”！