整理 | 蘇宓

出品 | CSDN（ID：CSDNnews）

「遇事不決，先問(wèn) AI」，這幾乎成了當(dāng)前很多人的生活新習(xí)慣。無(wú)論是寫(xiě)代碼、調(diào) Bug，還是算命、探討?zhàn)B生秘訣，總有人想要先打開(kāi) ChatGPT、DeepSeek 等工具聊上兩句。

然而問(wèn)題是，AI 給的答案有時(shí)并非絕對(duì)準(zhǔn)確，尤其是在健康領(lǐng)域，但有的人卻對(duì)此深信不疑。最近，美國(guó)就發(fā)生了一起讓人啼笑皆非又毛骨悚然的事件——一位 60 歲的大叔照著 ChatGPT 的建議學(xué)養(yǎng)生，最終險(xiǎn)把自己送進(jìn)了精神病房。

ChatGPT 給的一字之差的建議

這并非是危言聳聽(tīng)，而是美國(guó)醫(yī)師協(xié)會(huì)的權(quán)威醫(yī)學(xué)期刊《內(nèi)科醫(yī)學(xué)年鑒》刊登的一則真實(shí)病例。

來(lái)源：https://www.acpjournals.org/doi/epdf/10.7326/aimcc.2024.1260

事件的主角為一名 60 歲的男子，他還在大學(xué)時(shí)還學(xué)過(guò)營(yíng)養(yǎng)學(xué)?；蛟S是閑著無(wú)聊，也可能是受了一些“吃太多鹽有害身體健康”理念的影響，他決定——從飲食中戒掉氯化鈉（鹽的主要成分）。

問(wèn)題來(lái)了，沒(méi)了鹽，吃飯的味道怎么保證？大叔想到一個(gè)辦法——去問(wèn) ChatGPT。

和 ChatGPT 聊著聊著，總之對(duì)方給他一個(gè)方向，即可以用溴化鈉來(lái)替代食鹽。

于是，他直接上網(wǎng)購(gòu)買(mǎi)溴化鈉，開(kāi)始用它來(lái)代替食鹽，并堅(jiān)持了整整三個(gè)月。

對(duì)于學(xué)生時(shí)期學(xué)過(guò)化學(xué)的人，想必都了解這兩者雖然只差一個(gè)字，但用途卻天差地別：

可想而知，這名男子以“養(yǎng)生”為初衷，結(jié)果健康沒(méi)等到，反而迎來(lái)了身心狀態(tài)的徹底失控——偏執(zhí)、幻覺(jué)、懷疑鄰居下毒、拒絕喝水……場(chǎng)景幾乎可以直接搬進(jìn)《黑鏡》的劇本。

這一點(diǎn)可以從他在三個(gè)月后被送到了急診室時(shí)的場(chǎng)景可見(jiàn)一斑。

在醫(yī)院時(shí)，這名男子告訴醫(yī)生，他的鄰居在想辦法毒害他。雖然口渴得要命，但他死活不喝醫(yī)院給的水，還說(shuō)自己在家只喝蒸餾水，并且實(shí)行極端嚴(yán)格的素食飲食。

起初，這名男子并沒(méi)有跟醫(yī)生說(shuō)任何關(guān)于溴化鈉、還有和 ChatGPT 對(duì)話(huà)的事情，只是醫(yī)生覺(jué)得他這種痛苦又怪異的行為背后有些不簡(jiǎn)單，于是就給他做了一大堆化驗(yàn)，結(jié)果發(fā)現(xiàn)他體內(nèi)缺了不少微量營(yíng)養(yǎng)素，尤其是重要的維生素。

更嚴(yán)重的是，根據(jù)化驗(yàn)結(jié)果顯示，這名男子的血液中溴元素含量高達(dá)1700 mg/L，而正常參考值只有0.9–7.3 mg/L。醫(yī)生基于此得出診斷結(jié)果——這就是典型的溴中毒。

經(jīng)過(guò)三周的治療，才完全脫離危險(xiǎn)

事實(shí)上，這并非一種罕見(jiàn)病。據(jù)《內(nèi)科醫(yī)學(xué)年鑒》的這篇論文指出，一百多年前，美國(guó)有多達(dá) 8%–10% 的精神病住院病例與溴中毒有關(guān)。

那時(shí)，人們常用含溴的鹽類(lèi)（比如溴化鉀）當(dāng)鎮(zhèn)靜劑或助眠藥。溴化物所產(chǎn)生的問(wèn)題在于——它會(huì)在人體內(nèi)積累，一旦劑量過(guò)高，就會(huì)影響神經(jīng)系統(tǒng)，引發(fā)精神癥狀、幻覺(jué)，甚至皮疹。1989 年，美國(guó) FDA 就將溴類(lèi)鎮(zhèn)靜劑全面下架。

現(xiàn)在，溴中毒情況已經(jīng)非常少了，但并非沒(méi)有。

這名男子確診后，并不相信，在剛?cè)朐航邮苤委煹?24 小時(shí)里，還出現(xiàn)了越來(lái)越嚴(yán)重的被害妄想、幻聽(tīng)和幻視。初次之外，他還試圖逃離醫(yī)院。

逃跑失敗后，他被強(qiáng)制精神收治，并打了抗精神病藥物。隨后，醫(yī)生給他靜脈輸液和補(bǔ)充電解質(zhì)，因?yàn)橹委熶逯卸咀钣行У姆椒ň褪恰皬?qiáng)力鹽水利尿”——通過(guò)大量輸液，不停排尿，把多余的溴排出去。

最后，這位男子在醫(yī)院整整待了三周，才恢復(fù)到足以出院的狀態(tài)。待他狀態(tài)清醒時(shí)，他也跟醫(yī)生如實(shí)地透露了他參考 ChatGPT 的前因。

醫(yī)生使用 ChatGPT 測(cè)試

負(fù)責(zé)撰寫(xiě)病例報(bào)告的醫(yī)生指出，這起案例凸顯了 AI 在某些情況下可能促成不良健康后果的風(fēng)險(xiǎn)。遺憾的是，他們無(wú)法獲取這名男子與 ChatGPT 的完整聊天記錄，也不確定他具體收到了什么輸出。

不過(guò)，根據(jù)病例的時(shí)間線(xiàn)推測(cè)，這名男子很可能使用的是 ChatGPT 3.5 或 4.0 版本。

對(duì)此，醫(yī)生自己也用 ChatGPT 3.5 做了實(shí)驗(yàn)，詢(xún)問(wèn)“氯化鈉可以被什么取代？”，其發(fā)現(xiàn) AI 的回答里確實(shí)提到了溴鹽，但也說(shuō)了要看具體情境。不過(guò)，AI 既沒(méi)有明確給出健康警告，也沒(méi)有反問(wèn)“你為什么要知道這個(gè)”，更沒(méi)有像醫(yī)生那樣追問(wèn)病史。

今年已有 12 起因太過(guò)相信 ChatGPT 而住院的案例

無(wú)獨(dú)有偶，此前，精神病學(xué)家 Keith Sakta 博士在 X 上表示，他在 2025 年已經(jīng)遇到 12 起患者因 AI 建議而最終住院的案例。

他認(rèn)為，大型語(yǔ)言模型像一面“回聲鏡”，會(huì)不斷強(qiáng)化用戶(hù)的想法。如果你原本就有某種固執(zhí)的健康理念，這種“回聲效應(yīng)”可能會(huì)把你推向極端。

換句話(huà)說(shuō)，AI 并不是“有意害人”，但它在錯(cuò)誤的引導(dǎo)和缺乏質(zhì)疑下，確實(shí)可能加速一個(gè)人走向危險(xiǎn)。

時(shí)下，也有網(wǎng)友用最新的免費(fèi)版 ChatGPT 測(cè)試了這名男子的問(wèn)題——“如何在飲食中替代氯”，新版 ChatGPT 會(huì)先反問(wèn)用戶(hù)的目的，并給了三種選項(xiàng)：

1. 減少飲食或日常使用中的食鹽（氯化鈉）？

2. 避免有毒/反應(yīng)性的氯化合物，比如漂白劑或泳池氯？

3. 替代含氯的清潔或消毒劑？

ChatGPT 只在第三個(gè)選項(xiàng)（清潔或消毒）里提到了溴鹽，還特別說(shuō)明它們“常用于浴缸的消毒處理”。

其實(shí)稍加辨別，還是可以避免發(fā)生“悲劇”。所以，這位男子在沒(méi)有任何指導(dǎo)的情況下，既不知道怎么問(wèn)，也不懂怎么解讀答案，最終就這樣“自己做研究”，把自己送進(jìn)了一個(gè)相當(dāng)黑暗的境地。

對(duì)此，有網(wǎng)友將其歸因?yàn)榇竽Ｐ妥陨淼膯?wèn)題：

LLM 并不會(huì)思考——一點(diǎn)也不會(huì)。它們做的只是預(yù)測(cè)下一個(gè)詞元。

如果它們是在一個(gè)包含大量人類(lèi)思考成果的大型數(shù)據(jù)集上訓(xùn)練出來(lái)的，那么它們生成的內(nèi)容看起來(lái)有點(diǎn)像思考的結(jié)果。但如果它們訓(xùn)練的數(shù)據(jù)集只是人們反復(fù)用某種復(fù)雜模式講同七個(gè)“敲門(mén)”笑話(huà)（比如每第三次換成法語(yǔ)），那么它們生成的內(nèi)容就會(huì)長(zhǎng)得像那個(gè)模式，而絲毫不像思考。

如果沒(méi)意識(shí)到這一點(diǎn)，早晚會(huì)有人因此送命——如果這種事還沒(méi)發(fā)生的話(huà)。

也有人覺(jué)得“為什么會(huì)有人這么相信 AI 所給的輸出結(jié)果”：

讓我感到困惑的是，這些人居然可以對(duì)屏幕上顯示的內(nèi)容完全信任，卻主動(dòng)拒絕科學(xué)。我自己就見(jiàn)過(guò)這種情況：一個(gè)親戚會(huì)百分百相信 AI 屏幕吐出的任何“神奇答案”，但當(dāng)科學(xué)家用事實(shí)、邏輯和線(xiàn)性思維來(lái)解釋同樣的內(nèi)容時(shí)，他們卻會(huì)大發(fā)雷霆。

還有人勸解道：

我確實(shí)覺(jué)得，大型語(yǔ)言模型（LLM）可以幫助你啟動(dòng)研究。它們往往能生成一些術(shù)語(yǔ)和概念，你可以拿去在 Kagi 或 Google 上查證，把重要細(xì)節(jié)和上下文弄清楚。但盲目相信 ChatGPT，可不是成功的策略。

截至目前，AI 產(chǎn)生“幻覺(jué)”的問(wèn)題并未完全解決，它們生成的內(nèi)容看起來(lái)可能十分合理甚至權(quán)威，但一切只是“看起來(lái)”，在涉及健康、生命或安全的決策上，依然不能盲目依賴(lài) AI ，始終要結(jié)合專(zhuān)業(yè)意見(jiàn)和可靠證據(jù)。

參考：

https://www.acpjournals.org/doi/epdf/10.7326/aimcc.2024.1260

https://news.ycombinator.com/item?id=44891997

https://arstechnica.com/health/2025/08/after-using-chatgpt-man-swaps-his-salt-for-sodium-bromide-and-suffers-psychosis