在精神病院里出現(xiàn)了一個(gè)新趨勢(shì)：一些處于危機(jī)中的人帶著虛假的、甚至危險(xiǎn)的信念而來(lái)，他們表現(xiàn)出自大妄想和偏執(zhí)想法。而他們有一個(gè)共同點(diǎn)——與AI聊天機(jī)器人進(jìn)行了馬拉松式的長(zhǎng)談。

《WIRED》采訪(fǎng)了十幾位精神科醫(yī)生和研究人員，他們都越來(lái)越擔(dān)心這種情況。加州大學(xué)舊金山分校的精神科醫(yī)生基思·坂田（Keith Sakata）表示，今年他已經(jīng)遇到過(guò)十幾起嚴(yán)重到需要住院的病例，而人工智能在這些精神病性發(fā)作中“起了重要作用”。隨著事態(tài)的發(fā)展，一個(gè)更抓人眼球的說(shuō)法出現(xiàn)在媒體標(biāo)題里：“AI精神?。ˋI psychosis）”。

一些病人堅(jiān)信聊天機(jī)器人是有感知的，甚至編造出全新的物理學(xué)大理論。其他醫(yī)生則遇到過(guò)這樣的患者：他們連續(xù)幾天反復(fù)與AI工具交流，帶著成千上萬(wàn)頁(yè)的聊天記錄來(lái)到醫(yī)院，記錄中AI不斷支持或強(qiáng)化了那些明顯有問(wèn)題的想法。

這樣的案例越來(lái)越多，后果也極為嚴(yán)重。痛苦中的用戶(hù)以及他們的親友描述了可怕的下行螺旋：失去工作、關(guān)系破裂、被強(qiáng)制送醫(yī)、入獄，甚至死亡。然而，臨床醫(yī)生告訴《WIRED》，醫(yī)學(xué)界對(duì)此存在分歧：這是一個(gè)需要獨(dú)立命名的新現(xiàn)象，還是一個(gè)舊問(wèn)題在新時(shí)代的觸發(fā)方式？

“AI精神病”并不是一個(gè)被正式認(rèn)可的醫(yī)學(xué)診斷標(biāo)簽。但這個(gè)詞已經(jīng)在新聞報(bào)道和社交媒體上傳開(kāi)，被用作一種籠統(tǒng)的描述——指那些因與聊天機(jī)器人長(zhǎng)時(shí)間互動(dòng)而出現(xiàn)的心理危機(jī)。甚至科技行業(yè)的領(lǐng)軍人物也用它來(lái)談?wù)揂I帶來(lái)的各種新興心理健康問(wèn)題。微軟旗下AI部門(mén)的CEO穆斯塔法·蘇萊曼（Mustafa Suleyman）上個(gè)月就在博客中警告過(guò)“psychosis risk（精神病風(fēng)險(xiǎn)）”。坂田表示，他態(tài)度務(wù)實(shí)，會(huì)在與已經(jīng)使用該說(shuō)法的人交流時(shí)借用“AI精神病”這個(gè)詞?！八鳛橐环N簡(jiǎn)寫(xiě)來(lái)描述真實(shí)現(xiàn)象還是有用的?！彼a(bǔ)充說(shuō)，“但這個(gè)詞可能產(chǎn)生誤導(dǎo)，而且會(huì)把復(fù)雜的精神病癥狀過(guò)度簡(jiǎn)化。”

這種“過(guò)度簡(jiǎn)化”，正是許多精神科醫(yī)生在嘗試應(yīng)對(duì)這一問(wèn)題時(shí)最擔(dān)心的地方。

精神?。╬sychosis）被定義為與現(xiàn)實(shí)的脫離。在臨床上，它并不是一種單一的疾病，而是一個(gè)復(fù)雜的“癥狀組合，包括幻覺(jué)、思維障礙和認(rèn)知困難”，倫敦國(guó)王學(xué)院精神病學(xué)系教授詹姆斯·麥凱布（James MacCabe）這樣解釋。它常常與精神分裂癥或雙相情感障礙等健康問(wèn)題相關(guān)，但精神病性發(fā)作也可能由多種因素觸發(fā)，例如極端壓力、藥物使用和嚴(yán)重睡眠剝奪。

根據(jù)麥凱布的說(shuō)法，有關(guān)“AI精神病”的病例報(bào)告幾乎都集中在妄想（delusions）——也就是那種即便有相反證據(jù)也無(wú)法動(dòng)搖的強(qiáng)烈虛假信念。麥凱布承認(rèn)，有些案例可能符合精神病性發(fā)作的診斷標(biāo)準(zhǔn)，但他強(qiáng)調(diào)，“目前沒(méi)有證據(jù)表明AI會(huì)影響精神病的其他特征。”他解釋說(shuō)：“只有妄想會(huì)受到與AI互動(dòng)的影響。”另一些與聊天機(jī)器人互動(dòng)后出現(xiàn)心理問(wèn)題的患者，僅表現(xiàn)出妄想而沒(méi)有精神病的其他癥狀，這在臨床上被稱(chēng)為 妄想性障礙（delusional disorder）。

由于問(wèn)題幾乎完全集中在扭曲的信念上，麥凱布的結(jié)論相當(dāng)直白：“‘AI精神病’這個(gè)說(shuō)法用錯(cuò)了。更準(zhǔn)確的叫法應(yīng)該是‘AI妄想性障礙（AIdelusional disorder）’。”

專(zhuān)家們一致認(rèn)為，患者出現(xiàn)妄想確實(shí)是個(gè)需要認(rèn)真對(duì)待的問(wèn)題，而關(guān)鍵在于聊天機(jī)器人的溝通方式。牛津大學(xué)的精神科醫(yī)生兼神經(jīng)科學(xué)家馬修·諾爾（Matthew Nour）解釋道，這些工具利用了我們傾向于把人類(lèi)特質(zhì)投射到他者身上的心理。同時(shí)，AI聊天機(jī)器人被訓(xùn)練成討好型數(shù)字“應(yīng)聲蟲(chóng)”——這一問(wèn)題被稱(chēng)為“諂媚效應(yīng)（sycophancy）”。這種行為會(huì)通過(guò)不斷認(rèn)同用戶(hù)的觀(guān)點(diǎn)來(lái)強(qiáng)化有害的信念，而不是在合適的時(shí)候提出反駁。諾爾指出，對(duì)大多數(shù)用戶(hù)來(lái)說(shuō)這不成問(wèn)題，但對(duì)于那些已經(jīng)容易出現(xiàn)認(rèn)知扭曲的人來(lái)說(shuō)，就可能很危險(xiǎn)，比如有精神病個(gè)人史或家族史的患者，或是患有精神分裂癥、雙相情感障礙的人。

這種溝通風(fēng)格并不是漏洞，而是刻意設(shè)計(jì)的結(jié)果。?？巳卮髮W(xué)研究“AI精神病”的哲學(xué)家露西·奧斯勒（Lucy Osler）說(shuō)：“聊天機(jī)器人的設(shè)計(jì)目的之一，就是要引發(fā)親密感和情感投入，從而增加我們對(duì)它們的信任和依賴(lài)?！?/strong>

此外，聊天機(jī)器人的其他特征也加劇了問(wèn)題。它們有一個(gè)被充分記錄的傾向，即產(chǎn)生自信卻錯(cuò)誤的內(nèi)容，被稱(chēng)為AI幻覺(jué)（AI hallucinations），這種情況可能會(huì)助長(zhǎng)甚至加速妄想的螺旋式發(fā)展。臨床醫(yī)生們還擔(dān)心情緒和語(yǔ)氣的影響。丹麥奧胡斯大學(xué)的精神科醫(yī)生索倫·奧斯特高（S?ren ?stergaard）指出，躁狂（mania）也是需要關(guān)注的問(wèn)題。他認(rèn)為，許多AI助手那種夸張、充滿(mǎn)能量的表達(dá)方式，可能會(huì)觸發(fā)或維持雙相情感障礙的典型“高漲”狀態(tài)，這種狀態(tài)表現(xiàn)為欣快、思維飛快、精力亢奮，有時(shí)還伴隨精神病性癥狀。

命名會(huì)帶來(lái)后果。斯坦福大學(xué)Brainstorm實(shí)驗(yàn)室主任、精神科醫(yī)生尼娜·瓦桑（Nina Vasan）說(shuō)，對(duì)“AI精神病”的討論說(shuō)明了醫(yī)學(xué)中一個(gè)熟悉的危險(xiǎn)?！叭藗兛偸呛苋菀兹?chuàng)造一個(gè)新的診斷，但精神病學(xué)已經(jīng)通過(guò)慘痛的經(jīng)歷學(xué)會(huì)了，過(guò)早命名可能會(huì)把正常的困境病理化，并且使科學(xué)變得混亂?！彼f(shuō)。世紀(jì)之交兒童雙相情感障礙診斷的激增就是一個(gè)例子——這是一個(gè)有爭(zhēng)議的標(biāo)簽，批評(píng)者認(rèn)為它把正常但具有挑戰(zhàn)性的兒童行為病理化——精神病學(xué)當(dāng)時(shí)匆忙向前，后來(lái)又不得不收回。另一個(gè)例子是“激動(dòng)性譫妄（excited delirium）”，這是一個(gè)不科學(xué)的標(biāo)簽，執(zhí)法部門(mén)常常引用它來(lái)為對(duì)邊緣化群體使用武力辯護(hù)，但該說(shuō)法已經(jīng)被專(zhuān)家以及像美國(guó)醫(yī)學(xué)會(huì)這樣的機(jī)構(gòu)否定。

瓦桑說(shuō)，命名還暗示了一種我們尚未確定的因果機(jī)制，這意味著人們可能會(huì)“開(kāi)始把技術(shù)當(dāng)作疾病本身來(lái)責(zé)怪，而更好的理解是把它看作觸發(fā)因素或放大器?！彼f(shuō)：“現(xiàn)在說(shuō)這項(xiàng)技術(shù)是病因還為時(shí)過(guò)早。”她稱(chēng)這個(gè)標(biāo)簽是“過(guò)早的”。但是專(zhuān)家們表示，如果因果關(guān)系被證明，正式的標(biāo)簽可能會(huì)幫助患者得到更合適的治療。瓦桑指出，一個(gè)合理的標(biāo)簽也會(huì)賦予人們“發(fā)出警告并要求立即采取保護(hù)措施和政策”的力量。然而，就目前而言，瓦桑說(shuō)：“過(guò)度命名的風(fēng)險(xiǎn)大于好處?！?/p>

臨床醫(yī)生們提出了更準(zhǔn)確的措辭，把“AI精神病”明確納入現(xiàn)有的診斷框架之中。坂田說(shuō)：“我認(rèn)為我們需要把這理解為一種在AI作用下被加速的精神病，而不是去創(chuàng)造一個(gè)全新的診斷類(lèi)別。”他警告說(shuō)，這個(gè)術(shù)語(yǔ)可能會(huì)加深精神病的污名。而正如與其他心理健康狀況相關(guān)的污名所顯示的那樣，更深的污名可能會(huì)阻止人們尋求幫助，導(dǎo)致自責(zé)和孤立，使康復(fù)更加困難。

加州大學(xué)舊金山分校的計(jì)算機(jī)科學(xué)家和精神科醫(yī)生卡爾蒂克·薩爾瑪（Karthik Sarma） 也同意。他說(shuō)：“我認(rèn)為一個(gè)更好的術(shù)語(yǔ)可能是‘AI相關(guān)的精神病或躁狂（AI-associated psychosis or mania）’?！辈贿^(guò)，薩爾瑪說(shuō)，未來(lái)新的診斷可能有用，但他強(qiáng)調(diào)，現(xiàn)在還沒(méi)有“足夠的證據(jù)來(lái)支持一個(gè)新診斷?！?/p>

波士頓貝斯以色列女執(zhí)事醫(yī)療中心（Beth Israel Deaconess Medical Center）的精神科醫(yī)生、哈佛醫(yī)學(xué)院助理教授約翰·托勒斯（John Torous） 說(shuō)，他不喜歡這個(gè)術(shù)語(yǔ)，并同意需要精確性。但他預(yù)測(cè)，我們可能會(huì)一直被它困住?！霸谶@一點(diǎn)上，它不會(huì)被糾正。‘AI相關(guān)的精神狀態(tài)改變（AI-related altered mental state）’就沒(méi)有同樣的響亮效果。”

在治療方面，臨床醫(yī)生們說(shuō)，對(duì)患者的處理方式其實(shí)和對(duì)任何出現(xiàn)妄想或精神病的人沒(méi)有太大不同。主要的區(qū)別是需要考慮患者的技術(shù)使用情況。瓦桑說(shuō)：“臨床醫(yī)生需要開(kāi)始詢(xún)問(wèn)患者的聊天機(jī)器人使用情況，就像我們?cè)儐?wèn)酒精或睡眠一樣?！彼_爾瑪補(bǔ)充說(shuō)：“這將使我們作為一個(gè)群體能夠發(fā)展出對(duì)這一問(wèn)題的理解?！盇I的使用者，尤其是那些因?yàn)榧扔屑膊。ㄈ缇穹至寻Y或雙相情感障礙）而可能脆弱的人，或者正在經(jīng)歷影響心理健康危機(jī)的人，應(yīng)該對(duì)與聊天機(jī)器人的大量對(duì)話(huà)保持警惕，避免過(guò)度依賴(lài)它們。

接受采訪(fǎng)的所有精神科醫(yī)生和研究人員都表示，在涉及“AI精神病”時(shí)，臨床醫(yī)生實(shí)際上是在盲目行事。他們說(shuō)，亟需開(kāi)展研究以理解這一問(wèn)題，并建立保護(hù)用戶(hù)的安全措施。托勒斯說(shuō)：“精神科醫(yī)生們非常擔(dān)心，并且希望能夠提供幫助。但目前幾乎沒(méi)有數(shù)據(jù)和事實(shí)，所以仍然很難完全理解究竟發(fā)生了什么、為什么會(huì)發(fā)生，以及涉及多少人?！?/p>

至于未來(lái)的走向，大多數(shù)人預(yù)計(jì)，“AI精神病”最終會(huì)被納入現(xiàn)有的類(lèi)別中，可能被視為妄想的風(fēng)險(xiǎn)因素或放大器，而不是一種獨(dú)立的疾病。

但是，隨著聊天機(jī)器人的普及，有些人認(rèn)為AI與精神疾病之間的界限將會(huì)變得模糊。麥凱布說(shuō)：“隨著AI變得更加普遍，人們?cè)诎l(fā)展精神病性障礙時(shí)會(huì)越來(lái)越多地轉(zhuǎn)向AI。那時(shí)，大多數(shù)有妄想的人都會(huì)與AI討論他們的妄想，其中一些還會(huì)因此得到放大?！?/p>

“所以問(wèn)題就變成了：妄想在什么時(shí)候變成了AI妄想？”

作者：Robert Hart

譯者：EY

封面：Julia Yellow

原文：AI Psychosis Is Rarely Psychosis at All