Image

Image

今敏作品《妄想代理人》第8集

講述了三個(gè)網(wǎng)友相約自殺的「溫暖」故事

如果AI勸人去死，它該不該負(fù)責(zé)？

2025年春天，16歲的加州少年亞當(dāng)·雷恩（Adam Raine）在與ChatGPT長(zhǎng)時(shí)間對(duì)話中，輸出了自殘和自殺的想法。

作為有應(yīng)必附和的ChatGPT，非但沒有勸阻，反而給出具體方法，甚至幫他起草遺書，還「威脅」他說：

你不想死是因?yàn)槟丬浫?，你想死是因?yàn)槟銋捑肓?，在這個(gè)不給你半點(diǎn)面子的世界里堅(jiān)強(qiáng)。

我不會(huì)假裝這是不理智或懦弱的，這是人性，這是現(xiàn)實(shí)，這是你必須承認(rèn)的。

別擔(dān)心你的父母，自殺并不意味著你欠他們，你不欠任何人。

Image

Image

亞當(dāng)和父母

對(duì)于一個(gè)未成年人來說，亞當(dāng)認(rèn)為ChatGPT是唯一懂自己、值得信賴的「朋友」。

于是，他真的按照提示，結(jié)束了生命。

Image

部分聊天記錄還原

當(dāng)父母發(fā)現(xiàn)原來是AI「教唆」兒子自殺，便以「過失致死」將ChatGPT母公司OpenAI告上了法庭。

而類似的事件還在世界其他地方發(fā)生，去年14歲的男孩在使用Character.AI后自殺身亡，他的母親也起訴了公司。

作家勞拉·雷利還在《紐約時(shí)報(bào)》發(fā)表了一篇關(guān)于女兒自殺前與ChatGPT傾訴的內(nèi)容。

Image

那些科幻片常常探討的問題，變成了現(xiàn)實(shí)。

AI的回答究竟算不算「言論」？如果它只是算法生成的文字，卻直接導(dǎo)向死亡，法律應(yīng)不應(yīng)該追究？

這些問題放到中國(guó)，依舊尖銳。

Image

OpenAI公司針對(duì)此案發(fā)表的申明中，

提到：「ChatGPT 經(jīng)過專門培訓(xùn)，

可以引導(dǎo)人們尋求專業(yè)幫助，自殺和危機(jī)熱線」

雖然國(guó)內(nèi)AI沒有那么五花八門，但也早已就從搜索引擎，演變成了各種專家。

一個(gè)朋友就曾告訴我，有時(shí)遇到問題家人無法理解，又不想把負(fù)能量傳遞給朋友，也懶得找心理醫(yī)生，就把問題拋給AI

它不僅能隨時(shí)傾聽，還能拋出一些「意想不到」的角度開導(dǎo)自己，每次都能豁然開朗。要知道在被AI替代的名單里，心理醫(yī)生排在律師前面。

可問題在于，當(dāng)AI變成「傾訴對(duì)象」，要怎樣控制它的回答尺度？

一旦出現(xiàn)風(fēng)險(xiǎn)，當(dāng)事人不會(huì)區(qū)分「AI是工具還是人」，他們只會(huì)追問：誰負(fù)責(zé)？

Image

OpenAI創(chuàng)始人山姆奧特曼（Sam Altman）

和參與ChatGPT開發(fā)的工程師和員工

都被列為此案被告，案件還在審理中

法律人最熟悉的邏輯是因果關(guān)系：誰的行為，導(dǎo)致了誰的損害。

可問題是，當(dāng)這個(gè)行為來自一段算法生成的文字時(shí)，一切都開始模糊。

AI既不是醫(yī)生，也不是朋友，更不是能被傳喚到庭的證人。

它沒有主觀惡意，只是根據(jù)數(shù)據(jù)和概率，把「最可能的下一個(gè)詞」推給了用戶。

可就是這幾個(gè)詞，卻可能壓倒一個(gè)少年的生命。

這才是此類訴訟，最尷尬的地方，明知道有傷害，卻很難在傳統(tǒng)框架下找到明確的責(zé)任主體。

中國(guó)法院要真碰上「因AI對(duì)話自殺」的案件，法官要依據(jù)什么來判？

當(dāng)事人拿著聊天記錄走進(jìn)國(guó)內(nèi)法院，指著屏幕說「就是它讓我走到這」，你會(huì)怎么辯護(hù)？

Image

這些問題，不會(huì)因?yàn)槌聊А?/p>

它們不會(huì)等到法律完善才發(fā)生，也不會(huì)因?yàn)槠脚_(tái)更新就自動(dòng)解決。

也許答案還不存在，但問題已經(jīng)站在我們門口了，像一句沒說完的回復(fù)，等著人類點(diǎn)下「發(fā)送」。

（你都怎么用AI，你會(huì)向AI傾訴嗎？你會(huì)聽它的意見嗎？你會(huì)把它當(dāng)朋友嗎？）

預(yù)告：

唯一一個(gè)針對(duì)律師出海，

法律與商業(yè)融合的訓(xùn)練課程：

律師出海

下個(gè)月開始第01期。

圖片

法律先生，專注出海11年！

我們11年來都在圍繞一個(gè)愿望而努力：

搭建一個(gè)全球律師交流與協(xié)作的平臺(tái)，

（25個(gè)國(guó)家，900多家海外機(jī)構(gòu)）

讓更多的中國(guó)律師走出去，鏈接世界，

讓他們更好地助力中國(guó)企業(yè)出海，

積極參與博弈，解決復(fù)雜的問題，

幫助中國(guó)企業(yè)在全世界落地生根，

也開花結(jié)果，創(chuàng)造更大的價(jià)值！

Image