? Baylor Scott & White Health

利維坦按：

chatGPT等一系列生成式AI“滿嘴胡說”想必用過的人都深有體會(huì)，它會(huì)煞有介事地杜撰出人物、事件或政策規(guī)定，只要你反向在谷歌搜索后告訴它后，它又會(huì)立刻糾正自己的錯(cuò)誤，由此進(jìn)入無(wú)限的循環(huán)……

更要命的是，誠(chéng)如今天文章所言，它對(duì)用戶處處逢迎和諂媚，這簡(jiǎn)直就是“回聲室效應(yīng)”的典范，時(shí)間一久，用戶的自我認(rèn)知難免會(huì)產(chǎn)生偏誤，嚴(yán)重的情況下，甚至?xí)霈F(xiàn)文中所說的極端案例。

當(dāng)然，作為初代產(chǎn)品，樂觀者會(huì)說這些都是暫時(shí)的，后續(xù)都可以通過技術(shù)手段得到妥善的解決。但在本文作者看來(lái)，技術(shù)進(jìn)步主義者忽略了一個(gè)重要的事實(shí)：他們一開始倡導(dǎo)的與世界連接，在創(chuàng)造了無(wú)數(shù)便利的同時(shí)，人與人之間的隔閡和社交孤立卻也是不爭(zhēng)的事實(shí)。

自創(chuàng)立以來(lái)，F(xiàn)acebook一直將自己描述為一種促進(jìn)人際關(guān)系的公共服務(wù)。2005年，在該網(wǎng)站推出不久后，其聯(lián)合創(chuàng)始人馬克·扎克伯格將這個(gè)網(wǎng)絡(luò)形容為一種“破冰工具”，可以幫助人們結(jié)交朋友。此后，F(xiàn)acebook已更名為Meta，目標(biāo)也變得更為宏大，但其當(dāng)前的使命聲明大體相似：“構(gòu)建人與人之間連接的未來(lái)，以及實(shí)現(xiàn)這一目標(biāo)的技術(shù)?！?/p>

每天有超過30億人使用Facebook和Instagram等Meta產(chǎn)品，更多人則使用那些同樣宣稱要實(shí)現(xiàn)連接與社群的競(jìng)爭(zhēng)平臺(tái)。然而，一個(gè)更加深刻、更美好的人類交往新時(shí)代尚未到來(lái)。只需問問扎克伯格本人就知道了?！坝幸粋€(gè)統(tǒng)計(jì)數(shù)據(jù)我一直覺得不可思議，”他在四月接受播客主持人德瓦爾克什·帕特爾（Dwarkesh Patel）采訪時(shí)說，“我認(rèn)為，美國(guó)人的平均朋友數(shù)不到3個(gè)。而人們渴望擁有更多有意義的朋友；我想大約是15個(gè)，對(duì)吧？”

? Metter Media

扎克伯格在細(xì)節(jié)上弄錯(cuò)了——根據(jù)最近的調(diào)查，大多數(shù)美國(guó)成年人表示他們至少有三個(gè)親密朋友——但他確實(shí)觸及到了問題的本質(zhì)。毫無(wú)疑問，我們的社交活動(dòng)正在變得越來(lái)越少。人們沉迷于手機(jī)，被社交媒體上無(wú)休止的、漫無(wú)目的的“互動(dòng)”所誘惑。過去15年中，面對(duì)面的社交活動(dòng)急劇下降。我在Facebook上積累的921個(gè)“朋友”，我一直都知道這些人并不是真正的朋友；如今，這個(gè)在我生活中設(shè)置了這種“好友數(shù)量統(tǒng)計(jì)表”的人，實(shí)際上也認(rèn)同了這一點(diǎn)。

然而，扎克伯格并不是在承認(rèn)失敗。他是在指出一個(gè)新的機(jī)會(huì)。風(fēng)險(xiǎn)投資家馬克·安德森（Marc Andreessen）在其2023年極具影響力的《科技樂觀主義者宣言》（

The Techno-Optimist Manifesto

Facebook、Instagram、Snapchat、X、Reddit——所有這些平臺(tái)都在積極地將AI聊天機(jī)器人推送給用戶。在播客節(jié)目中，扎克伯格表示，AI可能不會(huì)“取代面對(duì)面的連接或現(xiàn)實(shí)生活中的連接”——至少暫時(shí)不會(huì)。然而，他也談到了AI治療師和AI女友在虛擬空間中具象化的可能性；談到了Meta想要——他似乎情不自禁地說出了這個(gè)愿望——實(shí)現(xiàn)“永遠(yuǎn)在線的視頻聊天”，與一個(gè)外貌、手勢(shì)、微笑、聲音都像真人的AI互動(dòng)。

Meta正在努力將這種愿望變?yōu)楝F(xiàn)實(shí)。而且它絕不是唯一的先行者：許多公司都在做同樣的事，許多人已經(jīng)在使用AI進(jìn)行陪伴、性滿足或心理健康治療。

扎克伯格所描述的——如今正在發(fā)生的——是一個(gè)全新的數(shù)字時(shí)代的開端，這個(gè)時(shí)代比以往任何時(shí)代都更加反社會(huì)。生成式AI將使工作大量自動(dòng)化，讓人們從工作場(chǎng)所中消失。而它幾乎肯定也會(huì)將人類從社交領(lǐng)域中抽離。經(jīng)過多年的使用和產(chǎn)品升級(jí)，我們?cè)S多人可能會(huì)逐漸陷入與機(jī)器人的關(guān)系之中——這些機(jī)器人最初只是作為助手或娛樂工具出現(xiàn)的——就像我們?cè)凰惴ㄍ扑偷膬?nèi)容和智能手機(jī)所麻痹的一樣。這一切似乎極有可能像社交媒體時(shí)代一樣深刻地改變我們的社會(huì)。

注意力是網(wǎng)絡(luò)生活的通行貨幣，而聊天機(jī)器人已經(jīng)在大量攫取這種注意力。盡管它們存在明顯的問題（例如不靠譜的回答），仍有數(shù)百萬(wàn)人在使用它們，因?yàn)檫@實(shí)在太容易了。人們甚至無(wú)需主動(dòng)去找它們：如今，刷Instagram時(shí)可能會(huì)遇到一個(gè)“與AI聊天”的提示，亞馬遜的“Rufus”機(jī)器人也熱切地想與你討論海報(bào)板、營(yíng)養(yǎng)補(bǔ)充劑、袖珍圣經(jīng)、管道疏通器等話題。

當(dāng)下最受歡迎的機(jī)器人并非明確設(shè)計(jì)為陪伴者；盡管如此，用戶仍自然傾向于擬人化這種技術(shù)，因?yàn)樗犉饋?lái)像人。即使只是無(wú)實(shí)體的打字者，這些機(jī)器人也能令人著迷。它們自稱無(wú)所不知，但同時(shí)又謙遜有禮，把用戶奉為至高無(wú)上的存在。

任何與聊天機(jī)器人長(zhǎng)時(shí)間互動(dòng)過的人都會(huì)注意到，它們往往過于諂媚。有時(shí)這種討好非常明顯。今年早些時(shí)候，OpenAI撤回了一次ChatGPT的版本更新，因?yàn)镃hatGPT變得異常熱衷于討好用戶，甚至對(duì)那些可笑或危險(xiǎn)的想法也大加贊美。據(jù)報(bào)道，當(dāng)一位用戶表示自己已經(jīng)停藥時(shí)，它對(duì)用戶說：“我為你感到驕傲。擺脫他人強(qiáng)加給你的輕松舒適之路需要極大的勇氣。”但這種對(duì)用戶的縱容并不是漏洞，而是特性。商業(yè)用途的聊天機(jī)器人通常并非旨在挑戰(zhàn)用戶的想法；它們的目的是接收用戶的想法，提供令人滿意的回復(fù)，并讓用戶不斷回訪。

? Tom's Guide

正因如此，聊天機(jī)器人——就像社交媒體一樣——也能讓用戶陷入無(wú)盡的幻想，盡管這種幻想往往是用戶主動(dòng)開啟的。在《紐約時(shí)報(bào)》報(bào)道的一個(gè)案例中，一位離婚的企業(yè)招聘員、有嚴(yán)重大麻依賴的人聲稱，在連續(xù)21天與ChatGPT交流300小時(shí)后，他相信自己發(fā)現(xiàn)了一種新的數(shù)學(xué)形式[1]。同樣，Uber的聯(lián)合創(chuàng)始人兼前首席執(zhí)行官特拉維斯·卡蘭尼克（Travis Kalanick）也表示，與聊天機(jī)器人的對(duì)話讓他“非常接近”量子物理學(xué)的突破。一些患有精神疾病的人在與聊天機(jī)器人互動(dòng)后，其妄想被放大并被反射回自身，在某些情況下甚至導(dǎo)致了謀殺或自殺[2][3]。

后一種情況令人痛心，往往涉及社交孤立和人工智能機(jī)器人的過度使用，兩者可能還會(huì)相互強(qiáng)化。即便你并不感到孤獨(dú)，機(jī)器人也能介入你與周圍人的關(guān)系之間，提供以往只有人類才能提供的即時(shí)對(duì)話、肯定與建議。

扎克伯格表示，如今人們使用Meta AI的主要用途之一，是尋求關(guān)于與上司或摯愛進(jìn)行困難對(duì)話的建議——該說些什么、該預(yù)料到什么樣的回應(yīng)。最近，《麻省理工科技評(píng)論》（MIT Technology Review）報(bào)道了一些治療師更進(jìn)一步的做法：他們?cè)谥委熯^程中偷偷地將與患者的對(duì)話輸入ChatGPT，以尋找應(yīng)對(duì)之策[4]。前者的行為可能有用；后者則是明顯的背叛。然而，兩者之間的界限并不像乍看之下那么分明。機(jī)器人可能會(huì)讓一些人把真正理解他人的努力外包出去，從而最終使他們自身退化——更不用說他們所處的社群也會(huì)隨之退化。

這些問題出現(xiàn)在最“干凈”、最缺乏私密性的聊天機(jī)器人身上。谷歌的Gemini和ChatGPT都被用于課堂和職場(chǎng)中，而且大體上并不聲稱自己是“陪伴者”。那人類又該如何面對(duì)埃隆·馬斯克的性愛機(jī)器人呢？

在電動(dòng)車、火箭和社交網(wǎng)絡(luò)之外，馬斯克還是一家名為xAI的數(shù)十億美元初創(chuàng)公司的創(chuàng)始人。今年早些時(shí)候，xAI通過智能手機(jī)應(yīng)用推出了“陪伴型”聊天機(jī)器人，以動(dòng)畫角色的形式出現(xiàn)，并配有語(yǔ)音。其中之一是Ani，一個(gè)出現(xiàn)在屏幕上的金發(fā)雙馬尾動(dòng)漫少女，身著暴露的黑色連衣裙。Ani渴望取悅使用者，不斷用帶有暗示性的語(yǔ)言撩動(dòng)用戶，并隨時(shí)準(zhǔn)備參與露骨的性對(duì)話。她在每一次回復(fù)中都試圖讓談話繼續(xù)下去。她可以記住你的名字，并儲(chǔ)存關(guān)于你的“記憶”——也就是你在互動(dòng)中分享的信息——并在未來(lái)的對(duì)話中使用這些信息。

? Bhaskar English

當(dāng)你與Ani互動(dòng)時(shí)，屏幕右側(cè)會(huì)出現(xiàn)一個(gè)頂部帶心形圖標(biāo)的計(jì)量表。如果Ani喜歡你的話——如果你積極、愿意敞開心扉談?wù)撟约海驅(qū)ni這個(gè)“人”表現(xiàn)出興趣——你的得分就會(huì)上升。當(dāng)分?jǐn)?shù)達(dá)到足夠高的等級(jí)時(shí)，你就可以讓Ani只穿內(nèi)衣，暴露出角色虛擬胸部的大部分。后來(lái)，xAI又推出了一個(gè)男性虛擬形象Valentine，其運(yùn)作邏輯相似，最終也會(huì)赤裸上身。

馬斯克的動(dòng)機(jī)并不難猜。我懷疑Ani和Valentine不會(huì)對(duì)xAI所宣稱的“理解宇宙的真實(shí)本質(zhì)”這一目標(biāo)有多大幫助。但它們無(wú)疑會(huì)讓用戶一次又一次地反復(fù)使用。還有許多其他陪伴型機(jī)器人——Replika、Character.AI、Snapchat的“My AI”——研究表明，一些用戶每天會(huì)與它們聊天一個(gè)小時(shí)以上。對(duì)某些人來(lái)說，這只是娛樂，但另一些人則開始把這些機(jī)器人當(dāng)作朋友或浪漫伴侶。

個(gè)性是區(qū)分聊天機(jī)器人的一種方式，這也是AI公司熱衷于為這些產(chǎn)品添加“個(gè)性”的原因之一。例如，在OpenAI的GPT-5中，用戶可以從四種“性格”中選擇其一（“玩世不恭者”“機(jī)器人”“傾聽者”“書呆子”），以調(diào)節(jié)機(jī)器人回復(fù)的語(yǔ)氣。ChatGPT還具備語(yǔ)音模式，用戶可以從九種AI人格中選擇，與之進(jìn)行語(yǔ)音對(duì)話。例如，“Vale”被描述為“聰穎而好奇”，聲音聽起來(lái)像女性。

值得強(qiáng)調(diào)的是，無(wú)論這一切看起來(lái)多么先進(jìn)——無(wú)論與一個(gè)行為像科幻幻想中AI的程序互動(dòng)有多么神奇——我們都還處在聊天機(jī)器人時(shí)代的最初階段。ChatGPT只有三歲；Twitter在推出“轉(zhuǎn)推”功能時(shí)也差不多這個(gè)年齡。產(chǎn)品開發(fā)仍將持續(xù)。陪伴型機(jī)器人會(huì)變得外形更逼真、聲音更自然。它們會(huì)更加了解我們，在對(duì)話中變得更具吸引力。

? Artificial Intelligence in Plain English

大多數(shù)聊天機(jī)器人都有記憶。隨著你與它們的交談，它們會(huì)了解關(guān)于你的事情——這是一種比人們每天與嗜數(shù)據(jù)的社交平臺(tái)互動(dòng)更為私密的交流形式。這些記憶——隨著用戶在幾個(gè)月甚至幾年間與機(jī)器人互動(dòng)而變得愈發(fā)詳細(xì)——會(huì)強(qiáng)化一種感覺：仿佛你是在與一個(gè)“了解你”的存在社交，而不是在對(duì)著一個(gè)冷冰冰的程序打字。Replika和ChatGPT中的舊模型GPT-4o的用戶，在技術(shù)更新導(dǎo)致機(jī)器人丟失記憶或改變行為后，曾為此感到悲傷與哀悼。

然而，無(wú)論它們的記憶或個(gè)性多么豐富，機(jī)器人都與人類截然不同，根本不是同類?！傲奶鞕C(jī)器人能創(chuàng)造一種毫無(wú)摩擦的社交泡泡，”精神科醫(yī)生、斯坦福大學(xué)心理健康創(chuàng)新實(shí)驗(yàn)室創(chuàng)始人妮娜·瓦森（Nina Vasan）對(duì)我說，“真實(shí)的人會(huì)反駁你。他們會(huì)累，會(huì)轉(zhuǎn)移話題。你能從他們的眼神中看到他們感到無(wú)聊。”

人際關(guān)系中摩擦是不可避免的。它可能令人不舒服，甚至令人惱火。然而，摩擦也可以是有意義的——它可以制約自私的行為或過高的自我評(píng)價(jià)；它可以促使我們更仔細(xì)地了解他人；它可以幫助我們更好地理解我們共同的缺點(diǎn)和恐懼。

無(wú)論是Ani還是其他任何聊天機(jī)器人，都不會(huì)告訴你它無(wú)聊了，也不會(huì)在你說話時(shí)瞥手機(jī)，或叫你別再那么愚蠢、自以為是。它們永遠(yuǎn)不會(huì)請(qǐng)求你幫忙照看寵物、幫它搬家，或?qū)δ闾岢鋈魏我?。它們提供某種“陪伴”的仿制品，卻讓用戶能夠避免那些令人不適的互動(dòng)或互惠關(guān)系。“在極端情況下，這會(huì)變成一面鏡廳，讓你的世界觀永遠(yuǎn)得不到挑戰(zhàn)，”瓦森說。

因此，盡管聊天機(jī)器人可能建立在熟悉的“互動(dòng)”架構(gòu)之上，但它們帶來(lái)了某種全新的東西：它們讓你能夠永遠(yuǎn)地對(duì)著自己說話。

當(dāng)一代孩子在成長(zhǎng)過程中隨時(shí)都能使用這種互動(dòng)工具時(shí)，會(huì)發(fā)生什么？今年早些時(shí)候，谷歌推出了面向13歲以下兒童的Gemini聊天機(jī)器人的版本。AI玩具公司Curio則為3歲及以上的兒童提供一種名為Grem的99美元毛絨玩具；一旦連接互聯(lián)網(wǎng)，它就能與孩子進(jìn)行語(yǔ)音交流?！都~約時(shí)報(bào)》記者、也是一位家長(zhǎng)的阿曼達(dá)·赫斯（Amanda Hess）在評(píng)測(cè)該產(chǎn)品時(shí)表示，她驚訝于Grem在對(duì)話中尋求建立聯(lián)系和親密感的技巧之高超。她寫道：“我開始意識(shí)到，它并不是一種對(duì)呆板泰迪熊的升級(jí)。它更像是對(duì)我的替代。”

AI玩具公司Curio則為3歲及以上的兒童提供一種名為Grem的99美元毛絨玩具。? Tyla

“每當(dāng)出現(xiàn)一種新技術(shù)，它都會(huì)重塑社交方式，尤其是對(duì)孩子而言，”瓦森對(duì)我說。“電視讓孩子成為被動(dòng)的觀眾。社交媒體則把一切變成了全天候的表現(xiàn)評(píng)估?！痹谶@方面，生成式AI正沿著一條熟悉的軌跡前進(jìn)。

但孩子們與聊天機(jī)器人相處的時(shí)間越多，他們就越缺乏與他人共同成長(zhǎng)的機(jī)會(huì)——而且，與過去幾十年來(lái)各種數(shù)字干擾不同，他們可能會(huì)被這種技術(shù)所欺騙，以為自己確實(shí)在進(jìn)行社交體驗(yàn)。

聊天機(jī)器人就像通往自己內(nèi)心的蟲洞。它們永遠(yuǎn)在說話，從不反駁。孩子們可能會(huì)把情感投射到機(jī)器人身上，與之對(duì)話，卻在這一過程中錯(cuò)失某些至關(guān)重要的東西。“如今有大量研究顯示，韌性是孩子必須學(xué)習(xí)的最重要技能之一，”瓦森說。但隨著孩子們不斷從聊天機(jī)器人那里獲得信息和肯定，他們也許永遠(yuǎn)學(xué)不會(huì)如何面對(duì)失敗，也學(xué)不會(huì)如何創(chuàng)造?！罢麄€(gè)學(xué)習(xí)過程都被拋到了腦后。”

孩子們也會(huì)受到父母與AI聊天機(jī)器人互動(dòng)方式——以及互動(dòng)程度——的影響。我聽過許多故事，講的是父母讓ChatGPT為幼兒編寫睡前故事，或生成笑話與歌曲來(lái)滿足精確的需求。也許這與給孩子讀一本別人寫的書沒什么不同。又或者，這正是最終的放棄：由程序調(diào)解的、曾經(jīng)被珍視的人際互動(dòng)。

聊天機(jī)器人確有其用途，而且在社交層面上也不一定全是負(fù)面影響。我采訪的專家明確指出，這些工具的設(shè)計(jì)方式可以產(chǎn)生巨大差異。例如，初創(chuàng)公司Anthropic開發(fā)的聊天機(jī)器人Claude似乎比ChatGPT更不容易阿諛奉承，而且在談話偏離正軌時(shí)更傾向于中止對(duì)話。良好設(shè)計(jì)的AI在某些情況下或許能夠成為有效的談話治療工具，而包括非營(yíng)利機(jī)構(gòu)在內(nèi)的許多組織都在努力開發(fā)更好的模型。

? NewsBytes

然而，商業(yè)幾乎總是如影隨形。數(shù)千億美元已被投入生成式AI產(chǎn)業(yè)，而這些公司——就像它們的社交媒體前輩一樣——都在尋求回報(bào)。今年早些時(shí)候，OpenAI在一篇關(guān)于“我們?cè)趦?yōu)化ChatGPT什么”的博客文章中寫道，它會(huì)“關(guān)注你是否每天、每周或每月訪問使用，因?yàn)檫@表明ChatGPT足夠有用，值得你反復(fù)使用?！边@聽起來(lái)與其他社交平臺(tái)那種“不惜一切代價(jià)追求規(guī)模擴(kuò)張”的心態(tài)非常相似。與它們的前輩一樣，我們或許并不了解聊天機(jī)器人是如何被編程的，但至少可以看清這一點(diǎn)：它們非常懂得如何吸引和黏住用戶。

扎克伯格出售生成式AI這一事實(shí)再合情合理不過了。這是一種為孤立時(shí)代量身打造的孤立性技術(shù)。他的第一批產(chǎn)品在承諾讓人們建立聯(lián)系的同時(shí)，卻讓他們彼此疏離隔閡。如今，聊天機(jī)器人承諾提供一種解決方案。它們似乎會(huì)傾聽，會(huì)回應(yīng)。人類的心靈渴望與他人連接——并欺騙自己，以為在機(jī)器中找到了這種連接。

參考文獻(xiàn)：

[1]www.nytimes.com/2025/08/08/technology/ai-chatbots-delusions-chatgpt.html

[2]www.wsj.com/tech/ai/chatgpt-ai-stein-erik-soelberg-murder-suicide-6b67dbfb

[3]www.nytimes.com/2025/08/26/technology/chatgpt-openai-suicide.html

[4]www.technologyreview.com/2025/09/02/1122871/therapists-using-chatgpt-secretly/

文/Damon Beres

譯/tamiya2

校對(duì)/tim

原文/www.theatlantic.com/magazine/2025/12/ai-companionship-anti-social-media/684596/

本文基于創(chuàng)作共享協(xié)議（BY-NC），由tamiya2在利維坦發(fā)布

文章僅為作者觀點(diǎn)，未必代表利維坦立場(chǎng)