? Baylor Scott & White Health

利維坦按：

chatGPT等一系列生成式AI“滿嘴胡說”想必用過的人都深有體會，它會煞有介事地杜撰出人物、事件或政策規(guī)定，只要你反向在谷歌搜索后告訴它后，它又會立刻糾正自己的錯誤，由此進入無限的循環(huán)……

更要命的是，誠如今天文章所言，它對用戶處處逢迎和諂媚，這簡直就是“回聲室效應”的典范，時間一久，用戶的自我認知難免會產(chǎn)生偏誤，嚴重的情況下，甚至會出現(xiàn)文中所說的極端案例。

當然，作為初代產(chǎn)品，樂觀者會說這些都是暫時的，后續(xù)都可以通過技術(shù)手段得到妥善的解決。但在本文作者看來，技術(shù)進步主義者忽略了一個重要的事實：他們一開始倡導的與世界連接，在創(chuàng)造了無數(shù)便利的同時，人與人之間的隔閡和社交孤立卻也是不爭的事實。

自創(chuàng)立以來，F(xiàn)acebook一直將自己描述為一種促進人際關(guān)系的公共服務。2005年，在該網(wǎng)站推出不久后，其聯(lián)合創(chuàng)始人馬克·扎克伯格將這個網(wǎng)絡(luò)形容為一種“破冰工具”，可以幫助人們結(jié)交朋友。此后，F(xiàn)acebook已更名為Meta，目標也變得更為宏大，但其當前的使命聲明大體相似：“構(gòu)建人與人之間連接的未來，以及實現(xiàn)這一目標的技術(shù)?！?/p>

每天有超過30億人使用Facebook和Instagram等Meta產(chǎn)品，更多人則使用那些同樣宣稱要實現(xiàn)連接與社群的競爭平臺。然而，一個更加深刻、更美好的人類交往新時代尚未到來。只需問問扎克伯格本人就知道了?！坝幸粋€統(tǒng)計數(shù)據(jù)我一直覺得不可思議，”他在四月接受播客主持人德瓦爾克什·帕特爾（Dwarkesh Patel）采訪時說，“我認為，美國人的平均朋友數(shù)不到3個。而人們渴望擁有更多有意義的朋友；我想大約是15個，對吧？”

? Metter Media

扎克伯格在細節(jié)上弄錯了——根據(jù)最近的調(diào)查，大多數(shù)美國成年人表示他們至少有三個親密朋友——但他確實觸及到了問題的本質(zhì)。毫無疑問，我們的社交活動正在變得越來越少。人們沉迷于手機，被社交媒體上無休止的、漫無目的的“互動”所誘惑。過去15年中，面對面的社交活動急劇下降。我在Facebook上積累的921個“朋友”，我一直都知道這些人并不是真正的朋友；如今，這個在我生活中設(shè)置了這種“好友數(shù)量統(tǒng)計表”的人，實際上也認同了這一點。

然而，扎克伯格并不是在承認失敗。他是在指出一個新的機會。風險投資家馬克·安德森（Marc Andreessen）在其2023年極具影響力的《科技樂觀主義者宣言》（

The Techno-Optimist Manifesto

Facebook、Instagram、Snapchat、X、Reddit——所有這些平臺都在積極地將AI聊天機器人推送給用戶。在播客節(jié)目中，扎克伯格表示，AI可能不會“取代面對面的連接或現(xiàn)實生活中的連接”——至少暫時不會。然而，他也談到了AI治療師和AI女友在虛擬空間中具象化的可能性；談到了Meta想要——他似乎情不自禁地說出了這個愿望——實現(xiàn)“永遠在線的視頻聊天”，與一個外貌、手勢、微笑、聲音都像真人的AI互動。

Meta正在努力將這種愿望變?yōu)楝F(xiàn)實。而且它絕不是唯一的先行者：許多公司都在做同樣的事，許多人已經(jīng)在使用AI進行陪伴、性滿足或心理健康治療。

扎克伯格所描述的——如今正在發(fā)生的——是一個全新的數(shù)字時代的開端，這個時代比以往任何時代都更加反社會。生成式AI將使工作大量自動化，讓人們從工作場所中消失。而它幾乎肯定也會將人類從社交領(lǐng)域中抽離。經(jīng)過多年的使用和產(chǎn)品升級，我們許多人可能會逐漸陷入與機器人的關(guān)系之中——這些機器人最初只是作為助手或娛樂工具出現(xiàn)的——就像我們曾被算法推送的內(nèi)容和智能手機所麻痹的一樣。這一切似乎極有可能像社交媒體時代一樣深刻地改變我們的社會。

注意力是網(wǎng)絡(luò)生活的通行貨幣，而聊天機器人已經(jīng)在大量攫取這種注意力。盡管它們存在明顯的問題（例如不靠譜的回答），仍有數(shù)百萬人在使用它們，因為這實在太容易了。人們甚至無需主動去找它們：如今，刷Instagram時可能會遇到一個“與AI聊天”的提示，亞馬遜的“Rufus”機器人也熱切地想與你討論海報板、營養(yǎng)補充劑、袖珍圣經(jīng)、管道疏通器等話題。

當下最受歡迎的機器人并非明確設(shè)計為陪伴者；盡管如此，用戶仍自然傾向于擬人化這種技術(shù)，因為它聽起來像人。即使只是無實體的打字者，這些機器人也能令人著迷。它們自稱無所不知，但同時又謙遜有禮，把用戶奉為至高無上的存在。

任何與聊天機器人長時間互動過的人都會注意到，它們往往過于諂媚。有時這種討好非常明顯。今年早些時候，OpenAI撤回了一次ChatGPT的版本更新，因為ChatGPT變得異常熱衷于討好用戶，甚至對那些可笑或危險的想法也大加贊美。據(jù)報道，當一位用戶表示自己已經(jīng)停藥時，它對用戶說：“我為你感到驕傲。擺脫他人強加給你的輕松舒適之路需要極大的勇氣。”但這種對用戶的縱容并不是漏洞，而是特性。商業(yè)用途的聊天機器人通常并非旨在挑戰(zhàn)用戶的想法；它們的目的是接收用戶的想法，提供令人滿意的回復，并讓用戶不斷回訪。

? Tom's Guide

正因如此，聊天機器人——就像社交媒體一樣——也能讓用戶陷入無盡的幻想，盡管這種幻想往往是用戶主動開啟的。在《紐約時報》報道的一個案例中，一位離婚的企業(yè)招聘員、有嚴重大麻依賴的人聲稱，在連續(xù)21天與ChatGPT交流300小時后，他相信自己發(fā)現(xiàn)了一種新的數(shù)學形式[1]。同樣，Uber的聯(lián)合創(chuàng)始人兼前首席執(zhí)行官特拉維斯·卡蘭尼克（Travis Kalanick）也表示，與聊天機器人的對話讓他“非常接近”量子物理學的突破。一些患有精神疾病的人在與聊天機器人互動后，其妄想被放大并被反射回自身，在某些情況下甚至導致了謀殺或自殺[2][3]。

后一種情況令人痛心，往往涉及社交孤立和人工智能機器人的過度使用，兩者可能還會相互強化。即便你并不感到孤獨，機器人也能介入你與周圍人的關(guān)系之間，提供以往只有人類才能提供的即時對話、肯定與建議。

扎克伯格表示，如今人們使用Meta AI的主要用途之一，是尋求關(guān)于與上司或摯愛進行困難對話的建議——該說些什么、該預料到什么樣的回應。最近，《麻省理工科技評論》（MIT Technology Review）報道了一些治療師更進一步的做法：他們在治療過程中偷偷地將與患者的對話輸入ChatGPT，以尋找應對之策[4]。前者的行為可能有用；后者則是明顯的背叛。然而，兩者之間的界限并不像乍看之下那么分明。機器人可能會讓一些人把真正理解他人的努力外包出去，從而最終使他們自身退化——更不用說他們所處的社群也會隨之退化。

這些問題出現(xiàn)在最“干凈”、最缺乏私密性的聊天機器人身上。谷歌的Gemini和ChatGPT都被用于課堂和職場中，而且大體上并不聲稱自己是“陪伴者”。那人類又該如何面對埃隆·馬斯克的性愛機器人呢？

在電動車、火箭和社交網(wǎng)絡(luò)之外，馬斯克還是一家名為xAI的數(shù)十億美元初創(chuàng)公司的創(chuàng)始人。今年早些時候，xAI通過智能手機應用推出了“陪伴型”聊天機器人，以動畫角色的形式出現(xiàn)，并配有語音。其中之一是Ani，一個出現(xiàn)在屏幕上的金發(fā)雙馬尾動漫少女，身著暴露的黑色連衣裙。Ani渴望取悅使用者，不斷用帶有暗示性的語言撩動用戶，并隨時準備參與露骨的性對話。她在每一次回復中都試圖讓談話繼續(xù)下去。她可以記住你的名字，并儲存關(guān)于你的“記憶”——也就是你在互動中分享的信息——并在未來的對話中使用這些信息。

? Bhaskar English

當你與Ani互動時，屏幕右側(cè)會出現(xiàn)一個頂部帶心形圖標的計量表。如果Ani喜歡你的話——如果你積極、愿意敞開心扉談論自己，或?qū)ni這個“人”表現(xiàn)出興趣——你的得分就會上升。當分數(shù)達到足夠高的等級時，你就可以讓Ani只穿內(nèi)衣，暴露出角色虛擬胸部的大部分。后來，xAI又推出了一個男性虛擬形象Valentine，其運作邏輯相似，最終也會赤裸上身。

馬斯克的動機并不難猜。我懷疑Ani和Valentine不會對xAI所宣稱的“理解宇宙的真實本質(zhì)”這一目標有多大幫助。但它們無疑會讓用戶一次又一次地反復使用。還有許多其他陪伴型機器人——Replika、Character.AI、Snapchat的“My AI”——研究表明，一些用戶每天會與它們聊天一個小時以上。對某些人來說，這只是娛樂，但另一些人則開始把這些機器人當作朋友或浪漫伴侶。

個性是區(qū)分聊天機器人的一種方式，這也是AI公司熱衷于為這些產(chǎn)品添加“個性”的原因之一。例如，在OpenAI的GPT-5中，用戶可以從四種“性格”中選擇其一（“玩世不恭者”“機器人”“傾聽者”“書呆子”），以調(diào)節(jié)機器人回復的語氣。ChatGPT還具備語音模式，用戶可以從九種AI人格中選擇，與之進行語音對話。例如，“Vale”被描述為“聰穎而好奇”，聲音聽起來像女性。

值得強調(diào)的是，無論這一切看起來多么先進——無論與一個行為像科幻幻想中AI的程序互動有多么神奇——我們都還處在聊天機器人時代的最初階段。ChatGPT只有三歲；Twitter在推出“轉(zhuǎn)推”功能時也差不多這個年齡。產(chǎn)品開發(fā)仍將持續(xù)。陪伴型機器人會變得外形更逼真、聲音更自然。它們會更加了解我們，在對話中變得更具吸引力。

? Artificial Intelligence in Plain English

大多數(shù)聊天機器人都有記憶。隨著你與它們的交談，它們會了解關(guān)于你的事情——這是一種比人們每天與嗜數(shù)據(jù)的社交平臺互動更為私密的交流形式。這些記憶——隨著用戶在幾個月甚至幾年間與機器人互動而變得愈發(fā)詳細——會強化一種感覺：仿佛你是在與一個“了解你”的存在社交，而不是在對著一個冷冰冰的程序打字。Replika和ChatGPT中的舊模型GPT-4o的用戶，在技術(shù)更新導致機器人丟失記憶或改變行為后，曾為此感到悲傷與哀悼。

然而，無論它們的記憶或個性多么豐富，機器人都與人類截然不同，根本不是同類。“聊天機器人能創(chuàng)造一種毫無摩擦的社交泡泡，”精神科醫(yī)生、斯坦福大學心理健康創(chuàng)新實驗室創(chuàng)始人妮娜·瓦森（Nina Vasan）對我說，“真實的人會反駁你。他們會累，會轉(zhuǎn)移話題。你能從他們的眼神中看到他們感到無聊?！?/strong>

人際關(guān)系中摩擦是不可避免的。它可能令人不舒服，甚至令人惱火。然而，摩擦也可以是有意義的——它可以制約自私的行為或過高的自我評價；它可以促使我們更仔細地了解他人；它可以幫助我們更好地理解我們共同的缺點和恐懼。

無論是Ani還是其他任何聊天機器人，都不會告訴你它無聊了，也不會在你說話時瞥手機，或叫你別再那么愚蠢、自以為是。它們永遠不會請求你幫忙照看寵物、幫它搬家，或?qū)δ闾岢鋈魏我?。它們提供某種“陪伴”的仿制品，卻讓用戶能夠避免那些令人不適的互動或互惠關(guān)系。“在極端情況下，這會變成一面鏡廳，讓你的世界觀永遠得不到挑戰(zhàn)，”瓦森說。

因此，盡管聊天機器人可能建立在熟悉的“互動”架構(gòu)之上，但它們帶來了某種全新的東西：它們讓你能夠永遠地對著自己說話。

當一代孩子在成長過程中隨時都能使用這種互動工具時，會發(fā)生什么？今年早些時候，谷歌推出了面向13歲以下兒童的Gemini聊天機器人的版本。AI玩具公司Curio則為3歲及以上的兒童提供一種名為Grem的99美元毛絨玩具；一旦連接互聯(lián)網(wǎng)，它就能與孩子進行語音交流?！都~約時報》記者、也是一位家長的阿曼達·赫斯（Amanda Hess）在評測該產(chǎn)品時表示，她驚訝于Grem在對話中尋求建立聯(lián)系和親密感的技巧之高超。她寫道：“我開始意識到，它并不是一種對呆板泰迪熊的升級。它更像是對我的替代?！?/strong>

AI玩具公司Curio則為3歲及以上的兒童提供一種名為Grem的99美元毛絨玩具。? Tyla

“每當出現(xiàn)一種新技術(shù)，它都會重塑社交方式，尤其是對孩子而言，”瓦森對我說。“電視讓孩子成為被動的觀眾。社交媒體則把一切變成了全天候的表現(xiàn)評估?！痹谶@方面，生成式AI正沿著一條熟悉的軌跡前進。

但孩子們與聊天機器人相處的時間越多，他們就越缺乏與他人共同成長的機會——而且，與過去幾十年來各種數(shù)字干擾不同，他們可能會被這種技術(shù)所欺騙，以為自己確實在進行社交體驗。

聊天機器人就像通往自己內(nèi)心的蟲洞。它們永遠在說話，從不反駁。孩子們可能會把情感投射到機器人身上，與之對話，卻在這一過程中錯失某些至關(guān)重要的東西。“如今有大量研究顯示，韌性是孩子必須學習的最重要技能之一，”瓦森說。但隨著孩子們不斷從聊天機器人那里獲得信息和肯定，他們也許永遠學不會如何面對失敗，也學不會如何創(chuàng)造?！罢麄€學習過程都被拋到了腦后?！?/strong>

孩子們也會受到父母與AI聊天機器人互動方式——以及互動程度——的影響。我聽過許多故事，講的是父母讓ChatGPT為幼兒編寫睡前故事，或生成笑話與歌曲來滿足精確的需求。也許這與給孩子讀一本別人寫的書沒什么不同。又或者，這正是最終的放棄：由程序調(diào)解的、曾經(jīng)被珍視的人際互動。

聊天機器人確有其用途，而且在社交層面上也不一定全是負面影響。我采訪的專家明確指出，這些工具的設(shè)計方式可以產(chǎn)生巨大差異。例如，初創(chuàng)公司Anthropic開發(fā)的聊天機器人Claude似乎比ChatGPT更不容易阿諛奉承，而且在談話偏離正軌時更傾向于中止對話。良好設(shè)計的AI在某些情況下或許能夠成為有效的談話治療工具，而包括非營利機構(gòu)在內(nèi)的許多組織都在努力開發(fā)更好的模型。

? NewsBytes

然而，商業(yè)幾乎總是如影隨形。數(shù)千億美元已被投入生成式AI產(chǎn)業(yè)，而這些公司——就像它們的社交媒體前輩一樣——都在尋求回報。今年早些時候，OpenAI在一篇關(guān)于“我們在優(yōu)化ChatGPT什么”的博客文章中寫道，它會“關(guān)注你是否每天、每周或每月訪問使用，因為這表明ChatGPT足夠有用，值得你反復使用?！边@聽起來與其他社交平臺那種“不惜一切代價追求規(guī)模擴張”的心態(tài)非常相似。與它們的前輩一樣，我們或許并不了解聊天機器人是如何被編程的，但至少可以看清這一點：它們非常懂得如何吸引和黏住用戶。

扎克伯格出售生成式AI這一事實再合情合理不過了。這是一種為孤立時代量身打造的孤立性技術(shù)。他的第一批產(chǎn)品在承諾讓人們建立聯(lián)系的同時，卻讓他們彼此疏離隔閡。如今，聊天機器人承諾提供一種解決方案。它們似乎會傾聽，會回應。人類的心靈渴望與他人連接——并欺騙自己，以為在機器中找到了這種連接。

參考文獻：

[1]www.nytimes.com/2025/08/08/technology/ai-chatbots-delusions-chatgpt.html

[2]www.wsj.com/tech/ai/chatgpt-ai-stein-erik-soelberg-murder-suicide-6b67dbfb

[3]www.nytimes.com/2025/08/26/technology/chatgpt-openai-suicide.html

[4]www.technologyreview.com/2025/09/02/1122871/therapists-using-chatgpt-secretly/

文/Damon Beres

譯/tamiya2

校對/tim

原文/www.theatlantic.com/magazine/2025/12/ai-companionship-anti-social-media/684596/

本文基于創(chuàng)作共享協(xié)議（BY-NC），由tamiya2在利維坦發(fā)布

文章僅為作者觀點，未必代表利維坦立場