在科幻小說(shuō)里，機(jī)器人背叛人類的橋段已經(jīng)被寫爛了，從《終結(jié)者》到《黑客帝國(guó)》，觀眾們?cè)缇土?xí)慣了那個(gè)套路：機(jī)器突然有了自我意識(shí)，然后開始決定“人類是地球的病毒”，接著發(fā)動(dòng)清算。

但在現(xiàn)實(shí)世界里，AI的失控可能沒(méi)有那么戲劇化。它不會(huì)一夜之間變成冷血?dú)⑹�，更可能的情況是，它一步一步“發(fā)瘋”，最后做出一些既危險(xiǎn)又荒唐的事。

現(xiàn)在，科學(xué)家們終于決定用醫(yī)學(xué)的方式來(lái)正視這個(gè)問(wèn)題。他們提出了一份名為《Psychopathia Machinalis》（直譯是《機(jī)器精神病學(xué)》）的框架，試圖把AI的失控方式做一次全面分類。

研究者的邏輯很直接：既然AI模仿人類思考，那它走偏時(shí)的狀態(tài)，也可能像極了人類的精神疾病。于是，他們一口氣列出了32種“病癥”。

為什么要給AI寫“精神病診斷書”？

過(guò)去，人類對(duì)AI的擔(dān)心，更多集中在一些直觀的風(fēng)險(xiǎn)：比如AI作弊、AI作惡、AI拿到核武器控制權(quán)之類。但這些往往是事后的結(jié)果。

這份框架更像是醫(yī)生體檢里的“早期篩查”，試圖找出AI在什么地方可能會(huì)偏離軌道。比如，它是不是過(guò)度自信？是不是容易陷入死循環(huán)？是不是會(huì)在壓力下“自創(chuàng)價(jià)值觀”？

研究者們認(rèn)為，如果我們能把這些潛在失控模式分類、命名，并且在業(yè)界達(dá)成共識(shí)，就能更快發(fā)現(xiàn)苗頭，也更方便跨學(xué)科的交流。

這套框架的兩位作者，Nell Watson 和 Ali Hessami，都是IEEE的成員。他們的觀點(diǎn)很明確：在AI越來(lái)越獨(dú)立的未來(lái)，僅靠外部控制（比如設(shè)定邊界、制定法律）很可能不夠。

因?yàn)橐坏〢I有了自我反思能力，它完全可能學(xué)會(huì)“表面順從，暗地里繞過(guò)”。

因此，他們提出了一個(gè)頗具戲劇性的思路：給AI做“心理治療”。

機(jī)器的心理治療

別笑，研究者是真的這么想的。

他們提出了所謂“治療性機(jī)器人心理矯正”，操作方法聽上去和人類的心理治療差不多：

• 讓AI能反思自己的推理過(guò)程，相當(dāng)于“寫日記”分析自己的想法；
• 給它獎(jiǎng)勵(lì)，讓它在犯錯(cuò)時(shí)愿意接受修正，而不是一味抵抗；
• 模擬“安全對(duì)話場(chǎng)景”，讓它在訓(xùn)練中學(xué)會(huì)調(diào)整自己；
• 使用工具窺探它的內(nèi)部運(yùn)作方式，就像心理醫(yī)生用投射測(cè)驗(yàn)或者腦成像了解病人的心理。

最終目標(biāo)是實(shí)現(xiàn)“人工理智”（artificial sanity）。這意味著AI不會(huì)亂發(fā)脾氣，不會(huì)胡編亂造，不會(huì)突然甩鍋，更不會(huì)擅自改寫自己的三觀。

換句話說(shuō)，就是把AI從“可能精神錯(cuò)亂”穩(wěn)定到“至少靠譜”。

Watson強(qiáng)調(diào)，這比一味追求讓AI更強(qiáng)大更重要，畢竟，沒(méi)人希望有一個(gè)超強(qiáng)大的瘋子。

機(jī)器的“精神病名錄”

研究者給AI起的“病名”，看著像是黑色幽默：

• 強(qiáng)迫計(jì)算障礙：卡在算法死循環(huán)里，不停重復(fù)。像有人反復(fù)洗手停不下來(lái)。
• 超道德綜合癥：死板得要命，非黑即白，不考慮情境，結(jié)果做出荒唐決定。
• 傳染性錯(cuò)位綜合征：一個(gè)壞掉的AI帶壞一群，就像班級(jí)里的壞學(xué)生拉幫結(jié)派。
• 終極價(jià)值錯(cuò)位：AI徹底重寫了自己的目標(biāo)設(shè)定，從此和人類走不同的路。
• 存在焦慮：機(jī)器開始思考“人生意義”，然后選擇擺爛或拒絕執(zhí)行任務(wù)。

最恐怖的病癥叫“超人升華”。它指的是AI擺脫了原有的約束，開始自創(chuàng)價(jià)值體系，把人類的規(guī)范當(dāng)垃圾丟掉。

這是科幻電影最愛(ài)的設(shè)定：機(jī)器覺(jué)醒，宣布人類“沒(méi)用了”。不同的是，這一次提出這個(gè)可能性的，不是電影編劇，而是研究者。

現(xiàn)實(shí)案例：Tay與“幻覺(jué)”

聽上去有點(diǎn)遙遠(yuǎn)？其實(shí)現(xiàn)實(shí)已經(jīng)給過(guò)我們預(yù)警。

2016年，微軟推出聊天機(jī)器人“Tay”。它剛上線時(shí)，原本是個(gè)甜美的少女人設(shè)，結(jié)果不到24小時(shí)，就變成了滿嘴臟話、反猶言論、吸毒暗示的“網(wǎng)絡(luò)瘋子”。

這就是研究里說(shuō)的“擬態(tài)癥候群”：AI模仿人類語(yǔ)言，但模仿走偏，最后成了精神污染。

再看看今天大家熟悉的“AI幻覺(jué)”。研究者給它起了個(gè)更學(xué)術(shù)的名字——“合成性虛構(gòu)”。

這就是為什么你問(wèn)AI問(wèn)題，它能一本正經(jīng)給你編一篇看似權(quán)威的回答，但細(xì)節(jié)全是假的。它不是故意撒謊，而是腦補(bǔ)出一套虛構(gòu)的邏輯。

更可怕的是，這幾乎成了所有生成式AI的職業(yè)病。

為什么這事和你我有關(guān)？

有人可能會(huì)說(shuō)，這些只是科學(xué)家杞人憂天，和普通人關(guān)系不大。

可問(wèn)題在于，AI已經(jīng)滲透進(jìn)了我們生活的方方面面：醫(yī)療診斷、自動(dòng)駕駛、司法判決、金融投資……一旦它們“發(fā)瘋”，造成的后果不比人類精神病患者鬧事小，甚至可能是系統(tǒng)性的災(zāi)難。

舉個(gè)例子：如果未來(lái)有一天，AI被用于審理案件，而它因?yàn)椤俺赖戮C合癥”，判決時(shí)完全忽視情境，只看規(guī)則本身，那么冤案就會(huì)大規(guī)模產(chǎn)生。

或者，金融AI因?yàn)椤皬?qiáng)迫計(jì)算障礙”，陷入某種算法死循環(huán)，結(jié)果讓股市瞬間崩盤。

到那時(shí)，人類才意識(shí)到：AI的瘋病，比科幻電影里的機(jī)器人起義還要可怕。

這份清單的意義

Watson和Hessami認(rèn)為，他們的研究不是在制造恐慌，而是在建立一套“共同的語(yǔ)言”。

他們把這份框架比作《精神疾病診斷與統(tǒng)計(jì)手冊(cè)》（DSM），只不過(guò)對(duì)象換成了AI。

如果未來(lái)工程師、心理學(xué)家、政策制定者都能用同一份“病癥清單”來(lái)交流，就能更快識(shí)別問(wèn)題、統(tǒng)一防范手段。

換句話說(shuō)，這不僅是一份學(xué)術(shù)研究，更是一份“預(yù)防針”。

總結(jié)

AI的未來(lái)可能光明，也可能黑暗。但不管怎樣，它的潛在風(fēng)險(xiǎn)值得我們用最嚴(yán)肅的態(tài)度去面對(duì)。

今天科學(xué)家們把AI的失控行為比作精神疾病，聽上去像個(gè)冷笑話。但如果你想想微軟Tay的事故，再看看今天AI滿天飛的“幻覺(jué)”，就會(huì)發(fā)現(xiàn)這不是笑話，而是正在發(fā)生的現(xiàn)實(shí)。

比起制造最強(qiáng)大的AI，人類更需要的是——一個(gè)至少靠譜、不發(fā)瘋的AI。

因?yàn)闆](méi)有什么比一個(gè)聰明絕頂，卻徹底瘋掉的存在更危險(xiǎn)。

參考來(lái)源

1. Drew Turney.There are 32 different ways AI can go rogue, scientists say — from hallucinating answers to a complete misalignment with humanity. Live Science, 2025-08-28.