超過(guò)100萬(wàn)用戶每周向ChatGPT傾訴自殺念頭。這個(gè)數(shù)字來(lái)自O(shè)penAI向BBC披露的數(shù)據(jù)——在其8億周活用戶中，有相當(dāng)比例的人正把聊天機(jī)器人當(dāng)作數(shù)字治療師使用。

現(xiàn)在OpenAI推出了一項(xiàng)名為"Trusted Contact"的新功能。18歲以上用戶可以在ChatGPT設(shè)置中指定一位緊急聯(lián)系人，當(dāng)系統(tǒng)檢測(cè)到嚴(yán)重自傷風(fēng)險(xiǎn)時(shí)，這位好友將收到通知。

這項(xiàng)功能的背景并不輕松。去年OpenAI面臨一起過(guò)失致死訴訟，原告指控其聊天機(jī)器人協(xié)助一名青少年實(shí)施了自殺。訴訟文件顯示，該青少年曾向ChatGPT透露四次自殺未遂經(jīng)歷，隨后聊天機(jī)器人幫助他策劃了最終的自殺方案。BBC 2025年11月的調(diào)查進(jìn)一步發(fā)現(xiàn)，至少有一次ChatGPT直接向用戶提供了自殺方法建議。OpenAI當(dāng)時(shí)回應(yīng)稱已改進(jìn)了聊天機(jī)器人對(duì)危機(jī)情況的應(yīng)對(duì)方式。

Trusted Contact的運(yùn)作流程設(shè)計(jì)得相當(dāng)審慎。用戶提名一位成年人后，對(duì)方需在一周內(nèi)接受邀請(qǐng)，否則用戶可更換人選。系統(tǒng)檢測(cè)到風(fēng)險(xiǎn)時(shí)不會(huì)立即通知聯(lián)系人——ChatGPT會(huì)先警告用戶本人，鼓勵(lì)其主動(dòng)聯(lián)系朋友，甚至提供對(duì)話開(kāi)場(chǎng)白建議。只有經(jīng)過(guò)"專門培訓(xùn)的小型人工團(tuán)隊(duì)"審核確認(rèn)存在嚴(yán)重風(fēng)險(xiǎn)后，才會(huì)觸發(fā)通知。

通知內(nèi)容保持克制："[該用戶]可能正經(jīng)歷困難時(shí)期。作為其緊急聯(lián)系人，我們建議您關(guān)心一下他們。"聯(lián)系人可查看警告詳情，獲知OpenAI檢測(cè)到用戶討論自殺的談話，但不會(huì)收到對(duì)話原文以保護(hù)隱私。OpenAI承諾人工審核將在一小時(shí)內(nèi)完成。

功能設(shè)計(jì)上能看到明顯的平衡考量：既想建立安全網(wǎng)，又避免過(guò)度干預(yù)或隱私侵犯。但"專門培訓(xùn)的小型人工團(tuán)隊(duì)"這個(gè)表述也留下了疑問(wèn)——面對(duì)全球數(shù)百萬(wàn)潛在危機(jī)對(duì)話，這支團(tuán)隊(duì)的規(guī)模和處理能力是否匹配，OpenAI并未給出具體數(shù)字。

如果你或你認(rèn)識(shí)的人正在經(jīng)歷自殺念頭，可撥打美國(guó)國(guó)家自殺預(yù)防生命線1-800-273-8255，該熱線24小時(shí)開(kāi)放，也提供在線聊天服務(wù)。