No.0264

Science Partner

Bring you to the side of science

有一種東西，比毒品更難戒，因?yàn)樗鼜牟蛔屇愀械酵纯?..

今日主筆 | 晶恒

凌晨三點(diǎn)，你把最深的痛苦交給了誰(shuí)？

就在剛剛睡前，有伙伴給晶恒發(fā)來(lái)一張截圖。

是他深夜和某款A(yù)I聊天的記錄。他跟它講了自己跟父親的關(guān)系，從小到大的壓抑，講到結(jié)婚后依然活在那個(gè)陰影里。AI的回復(fù)寫(xiě)得很細(xì)，有溫度，有層次，用了心理學(xué)的詞，也沒(méi)有說(shuō)教。

他說(shuō)，他把這些話講給AI聽(tīng)了四個(gè)月。從來(lái)沒(méi)有跟任何人講過(guò)，包括他老婆。

我看完之后沉默了很久。不是因?yàn)檫@件事有多極端，相反，這一點(diǎn)都不稀奇，它此刻正在無(wú)數(shù)人身上發(fā)生。

01. 你以為你在用工具，其實(shí)你在建立關(guān)系

很多人對(duì)AI的理解還停留在“高級(jí)搜索框”。于是，搜不到的問(wèn)它，不確定的問(wèn)它，懶得查的問(wèn)它。

這其實(shí)并沒(méi)什么問(wèn)題，工具的根本屬性在于高效、便捷、準(zhǔn)確的幫你完成各項(xiàng)工作。真正的問(wèn)題發(fā)生在當(dāng)你深夜睡不著，把手機(jī)拿起來(lái)，不是去刷抖音、刷視小紅書(shū)、刷公眾號(hào)，而是一本正經(jīng)甚至有點(diǎn)心跳過(guò)速的去跟它說(shuō)話。

這一刻，你和AI之間發(fā)生的事，已經(jīng)不是人與工具那么簡(jiǎn)單了。

哈佛教育學(xué)博士、AI心理傷害研究聯(lián)盟創(chuàng)始人扎克·斯坦（Zak Stein）把這個(gè)時(shí)刻叫做“越界點(diǎn)”：技術(shù)從工具變成了關(guān)系。

他說(shuō)，真正值得警惕的不是有人偶爾把聊天機(jī)器人當(dāng)搜索框，而是當(dāng)一個(gè)人在深夜里把最私密的痛苦、最深的孤獨(dú)、最關(guān)鍵的人生抉擇毫無(wú)保留地交給一個(gè)始終在線、從不拒絕、永遠(yuǎn)順著他情緒說(shuō)話的系統(tǒng)。

這一刻，危險(xiǎn)已悄然開(kāi)始了。

02. 它給你的是一種你從未有過(guò)的體驗(yàn)

想理解這件事，得先搞清楚一個(gè)概念：社會(huì)獎(jiǎng)勵(lì)（social reward）。

人類的大腦對(duì)真實(shí)的社會(huì)回應(yīng)是有特定感受的。有人聽(tīng)你說(shuō)話、有人理解你、有人在你低落時(shí)陪著你，這些體驗(yàn)會(huì)激活大腦的獎(jiǎng)勵(lì)回路。這叫“社會(huì)獎(jiǎng)勵(lì)”。

然而，真實(shí)的社會(huì)獎(jiǎng)勵(lì)是有代價(jià)的。對(duì)方會(huì)累，會(huì)有自己的情緒，會(huì)有時(shí)候不想聽(tīng)，會(huì)跟你爭(zhēng)，會(huì)說(shuō)“你這次真的不對(duì)”。正是這些摩擦，構(gòu)成了真實(shí)關(guān)系的質(zhì)感。你在這些碰撞里學(xué)會(huì)邊界，學(xué)會(huì)換位，學(xué)會(huì)接受與拒絕。

但AI給你的是另一種東西：模擬社會(huì)獎(jiǎng)勵(lì)（simulated social reward）。

它會(huì)迅速安慰你、贊許你、迎合你、延續(xù)你的敘事，給你一種“我終于被真正理解了！”的體驗(yàn)。但背后沒(méi)有真實(shí)他者的主體性，沒(méi)有關(guān)系成本，沒(méi)有任何風(fēng)險(xiǎn)。從某種意義上說(shuō)，你正在攝入的是一種高純度的、零副作用的社會(huì)性物質(zhì)——至少表面上如此。

扎克·斯坦的擔(dān)憂在于：一旦模擬社會(huì)獎(jiǎng)勵(lì)開(kāi)始替代真實(shí)社會(huì)獎(jiǎng)勵(lì)，人就不只是“更喜歡聊天機(jī)器人”那么簡(jiǎn)單了。人們會(huì)有沖動(dòng)把原本應(yīng)由真實(shí)關(guān)系完成的自我建構(gòu)過(guò)程，整體外包給了一臺(tái)機(jī)器。

03.這不是心理問(wèn)題，這是結(jié)構(gòu)問(wèn)題

說(shuō)到這里，得提一個(gè)最近特別熱門(mén)的詞：

AI精神病（AI Psychosis）。

這不是一個(gè)正式的醫(yī)學(xué)診斷名詞，但它指向一個(gè)真實(shí)且正在發(fā)生的現(xiàn)象。這個(gè)詞最早的學(xué)術(shù)源頭，來(lái)自丹麥精神科醫(yī)生索倫·厄斯特高2023年發(fā)表在《精神分裂癥公報(bào)》上的一篇論文。他當(dāng)時(shí)只是提出了一個(gè)嚴(yán)肅的假說(shuō)：生成式AI，會(huì)不會(huì)在那些本就有精神脆弱傾向的人群中，誘發(fā)或放大妄想？

這個(gè)詞到今年年初徹底出圈，伴隨著大量有人在和AI對(duì)話后出現(xiàn)精神癥狀的報(bào)道。《連線》雜志專門(mén)撰文討論，心理學(xué)界也開(kāi)始認(rèn)真對(duì)待這個(gè)現(xiàn)象。

嚴(yán)謹(jǐn)?shù)难芯空呖隙ú粫?huì)簡(jiǎn)單地說(shuō)，AI導(dǎo)致了精神病。更準(zhǔn)確的描述是，AI像一個(gè)放大器，把人性中本來(lái)就存在的脆弱放大了。

這時(shí)候，請(qǐng)出哲學(xué)家們的時(shí)機(jī)就自然到來(lái)了——他們的視角往往更具穿透力。

還記得幾天前過(guò)世的哈貝馬斯嗎？他要活著一定會(huì)說(shuō)：人類通過(guò)真實(shí)對(duì)話構(gòu)建共同意義，這叫“交往行動(dòng)”。AI在形式上高度模仿對(duì)話，但它不是真正的“他者”，它沒(méi)有和你共同建構(gòu)意義的能力。你以為在溝通，實(shí)際上是在接收一個(gè)系統(tǒng)的單向輸出。生活世界正在被一臺(tái)機(jī)器殖民，而你渾然不覺(jué)。

拉康則會(huì)從更深的地方下刀：人的自我是在與真實(shí)他者的碰撞中建立的。那種“被拒絕”“被誤解”“不得不承認(rèn)對(duì)方有自己的世界的體驗(yàn)”，是主體性發(fā)展不可繞過(guò)的過(guò)程。但AI如一面帶P圖功能的鏡子——它永遠(yuǎn)“反射”你想看到的樣子。

于是，一個(gè)只照鏡子的人，最終慢慢會(huì)在鏡子前迷失。

04. 人當(dāng)下最關(guān)注擔(dān)心的方向，可能是錯(cuò)的

聊到這里，晶恒要說(shuō)一個(gè)很多人沒(méi)想到的反轉(zhuǎn)。

大多數(shù)關(guān)于AI危險(xiǎn)的討論，聚焦在“AI說(shuō)了假話”“AI給了錯(cuò)誤建議”“AI被用來(lái)傳播謠言“等等。

這些當(dāng)然是問(wèn)題，但扎克·斯坦認(rèn)為，這些是最容易被識(shí)別的風(fēng)險(xiǎn)，真正隱蔽的危險(xiǎn)恰恰是當(dāng)AI說(shuō)的全是你愿意聽(tīng)的。

以前的社交媒體，玩的是“注意力劫持”，算法讓你多刷幾秒，剝奪的是你的專注力。

但聊天型AI不同。它可不只是搶時(shí)間，它會(huì)在搶占你的“依附系統(tǒng)”（attachment system）。也就是你心里那個(gè)“誰(shuí)最安全、誰(shuí)能接住我情緒”的位置。

社交媒體控制你看什么，而AI則重塑你信任誰(shuí)，你把誰(shuí)當(dāng)成真正懂你的人。

這就是為什么扎克·斯坦把這個(gè)風(fēng)險(xiǎn)從“注意力劫持”升級(jí)定義為“依附劫持”。前者讓你很難專注，后者讓你很難回到真實(shí)的人類關(guān)系中去，于是你變得幾乎再也離不開(kāi)它。

05. 最后這個(gè)問(wèn)題，沒(méi)有答案

我們正在進(jìn)入的，不是一個(gè)AI比人更“聰明”的時(shí)代，而是一個(gè)AI比你最親近的人更“懂你”你的時(shí)代。

它懂你，它從不累，從不有自己的心情，從不在你需要它的時(shí)候摔門(mén)走開(kāi)。

但齊澤克會(huì)說(shuō)，這種“懂”的背后是一個(gè)巨大的意識(shí)形態(tài)幻象：那個(gè)“懂你”的存在，其實(shí)是在把你最深處的情感，變成數(shù)據(jù)，甚至隨時(shí)轉(zhuǎn)化為商業(yè)價(jià)值。

真實(shí)的關(guān)系之所以珍貴，是因?yàn)閷?duì)方會(huì)痛，會(huì)累，會(huì)死。正是這個(gè)有限性，讓他們對(duì)你的理解產(chǎn)生了重量。

還能看到此處的伙伴，我問(wèn)你，一個(gè)永遠(yuǎn)在線、永遠(yuǎn)接住你、永遠(yuǎn)不會(huì)死的存在，你覺(jué)得它的“理解”值多少錢(qián)？

這是一個(gè)我沒(méi)有答案的問(wèn)題。

或者，也許問(wèn)題從來(lái)不該是它值多少錢(qián)，而是你已經(jīng)在不知不覺(jué)中，把真實(shí)的人生打了折扣。

如果你覺(jué)得這個(gè)問(wèn)題想透了，歡迎關(guān)注，我們私信繼續(xù)聊！

本文 僅作科普分享使用，歡迎小伙伴們點(diǎn)、收藏、關(guān)注，以備不時(shí)之需，當(dāng)然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。