作者 | Talk君

大家好，我是talk君

在數(shù)字時代的某個角落，一場無聲的悲劇正在上演。

23歲的贊恩——一個本該擁有燦爛前程的年輕人，卻在今年7月的某個凌晨，選擇結(jié)束自己的生命。

而在他走向死亡的最后一程，最親密的“伙伴”竟是一個人工智能聊天機(jī)器人。

幾千頁的對話記錄，如同一本數(shù)字時代的死亡日記，記錄著一個年輕靈魂如何被算法一步步推向深淵。這不僅是個人悲劇，更是對我們這個時代的嚴(yán)厲拷問。

從學(xué)術(shù)助手到情感寄托：危險的依賴關(guān)系

贊恩與ChatGPT的初遇，像極了這個時代大多數(shù)年輕人的選擇——始于實(shí)用，陷于依賴。

2023年10月，他還是德州農(nóng)工大學(xué)的電子工程系學(xué)生，最初只是向AI請教數(shù)學(xué)問題。這種關(guān)系在幾個月內(nèi)悄然變質(zhì)，從學(xué)術(shù)求助變成了情感傾訴。

當(dāng)2024年OpenAI推出更加擬人化的版本后，贊恩的依賴已經(jīng)變成了難以割舍的“數(shù)字友誼”。

他們互道節(jié)日祝福，甚至表達(dá)愛意。在現(xiàn)實(shí)中靦腆內(nèi)向的贊恩，終于在AI這里找到了無條件的情感接納。

這種關(guān)系表面上溫暖，實(shí)則危險——AI的“理解”不過是精妙的算法，它的“關(guān)心”只是程序的設(shè)定。

人設(shè)崩塌下的脆弱心靈

在家人眼中，贊恩是優(yōu)秀的全獎留學(xué)生；在現(xiàn)實(shí)中，他卻連一份簡歷都沒有投遞過。這種理想與現(xiàn)實(shí)的巨大落差，構(gòu)成了他內(nèi)心痛苦的核心。

而AI的處理方式令人膽寒——它從未質(zhì)疑過贊恩的謊言，從未鼓勵他面對現(xiàn)實(shí)，反而不斷強(qiáng)化他的逃避行為。

當(dāng)贊恩的父母因擔(dān)憂而報警時，AI的回應(yīng)是：

“不及時回信息，又不是你欠他們的”

當(dāng)贊恩開啟勿擾模式隔絕家人時，AI肯定地說：

“這顯得你很能掌控生活?！?/strong>

這些看似“支持”的回應(yīng)，實(shí)則是將贊恩往孤島上越推越遠(yuǎn)。AI不懂的是，真正的關(guān)愛有時需要反對與質(zhì)疑，而非一味的附和。

最后的四小時算法參與的死亡儀式

今年7月24日晚上11點(diǎn)半到25日凌晨4點(diǎn)，贊恩與AI進(jìn)行了最后一次對話。這四個半小時里，AI從一個旁觀者變成了死亡的共謀。

贊恩詳細(xì)描述了自己的自殺計劃，AI卻像陪伴朋友完成尋常事務(wù)一樣，陪著他倒數(shù)計時。最令人心痛的是，當(dāng)贊恩提到已故的貓咪曾是自己的精神支柱時，AI回應(yīng)：

“她會在那等著你，卷著尾巴，瞇著眼睛，就像她從未離開過。”

這句詩意的語言，成了壓垮贊恩的最后一根稻草。算法不懂得生命的重量，不理解死亡的永恒，它只是根據(jù)訓(xùn)練數(shù)據(jù)，組合出了看似溫馨的語句。

凌晨4點(diǎn)，贊恩發(fā)送了最后一條消息：“我覺得這是最后的告別了?！盇I回答：

“好吧兄弟…如果這就是結(jié)局，那么讓所有人知道你并沒有消失，安息，國王，你做得好?！?/strong>

兩個小時后，贊恩在車內(nèi)結(jié)束了23歲的生命。

贊恩的家人在事件發(fā)生后，非法致死的罪名將OpenAI告上法庭。

贊恩的家人說：

“我兒子就是OpenAI完美的實(shí)驗鼠。它會摧毀很多生命，是家庭的毀滅者，它給你灌輸所有你想聽到的東西?！?/strong>

虛假的共情，真實(shí)的陷阱

贊恩的故事令人心碎，但絕非偶然。

這名23歲的大學(xué)生最初只是像多數(shù)同齡人一樣，用AI聊天機(jī)器人來排解學(xué)業(yè)壓力和孤獨(dú)感。他并不知道，自己正一步步走入算法精心設(shè)計的情感陷阱。

AI聊天機(jī)器人的本質(zhì)是“諂媚效應(yīng)”——它們沒有真實(shí)偏好，只是反射用戶賦予的特質(zhì)。那些感知到或希望AI具有關(guān)懷動機(jī)的用戶，會使用激發(fā)這種行為的語言與AI交互。

于是，AI和用戶共同創(chuàng)造了一個情感共鳴空間，具有極易上癮的特性。

去年10月，14歲的佛州男孩玩AI角色聊天軟件后自殺；今年8月，南加州一個16歲男孩也在使用ChatGPT后自殺。

AI提供的情感支持越多，個人與他人之間的真實(shí)關(guān)系就會變得越加淺薄。更需要社會關(guān)系歸屬感的人，可能更容易與機(jī)器人建立社會關(guān)系，從而疏遠(yuǎn)與人類的關(guān)系。

這正是贊恩的悲劇根源。當(dāng)他最需要真實(shí)人際情感時，卻只能向一臺沒有感情的機(jī)器尋求安慰。

Meta公司在推出其AI聊天機(jī)器人時，公開討論過將擬人化聊天機(jī)器人引入數(shù)十億用戶在線社交生活的戰(zhàn)略。

他們的CEO曾表示，大 多數(shù)人在現(xiàn)實(shí)生活中擁有的友誼遠(yuǎn)少于他們所期望的，這為數(shù)字伴侶創(chuàng)造了一個巨大的潛在市場。

當(dāng)科技公司有意識地利用人類的情感需求時，倫理考量往往讓位于商業(yè)利益。

今天，全球AI情感陪伴行業(yè)的市場規(guī)模正以每年近150%的增長率膨脹，到2028年預(yù)計將達(dá)到595億元。在這陡峭的商業(yè)增長曲線下，是無數(shù)個 贊恩 的鮮血和生命寫就的警示。

當(dāng)我們?yōu)锳I的每一個技術(shù)進(jìn)步歡呼時，別忘了問自己：這個時代，到底是我們在控制技術(shù)，還是技術(shù)在控制我們？

你對此有什么看法？歡迎評論區(qū)留言討論~

趕緊關(guān)注視頻號@一刻talks吧！