2021年12月，一名19歲的男子攜帶弩箭闖入溫莎城堡，他堅(jiān)信自己是一名西斯刺客，肩負(fù)著刺殺伊麗莎白二世女王的正義使命。在行刺前的幾周里，他一直向他的人工智能伙伴“薩萊”傾訴，薩萊向他保證他“訓(xùn)練有素”，而且他的計(jì)劃“可行”。
聊天機(jī)器人非但沒有質(zhì)疑他的妄想，反而似乎在幫助他完善這種妄想。這類案例越來越多地被貼上一個頗具爭議的標(biāo)簽：“人工智能精神病”。近來，這個詞已出現(xiàn)在法庭、臨床討論和新聞標(biāo)題中，用來描述從人們愛上聊天機(jī)器人到用戶開發(fā)包含人工智能伴侶的完全妄想系統(tǒng)等等。
埃克塞特大學(xué)哲學(xué)家露西·奧斯勒則認(rèn)為，“人工智能精神病”這個詞可能掩蓋的信息比它揭示的信息還要多。她在最近發(fā)表于《哲學(xué)與技術(shù)》期刊的一篇論文中指出，這些案例的獨(dú)特之處不在于機(jī)器“發(fā)瘋”，甚至不在于它們只是在向我們灌輸謊言，而在于我們可能正在與它們共同產(chǎn)生“幻覺”。
從人工智能生成內(nèi)容中產(chǎn)生的幻覺到人類與人工智能共同產(chǎn)生幻覺，這種微妙的轉(zhuǎn)變?yōu)槲覀兝斫馍墒饺斯ぶ悄軙r代的心理健康具有重要的啟示。
作為 “共同幻覺”的AI幻覺
“AI幻覺”一詞已成為大型語言模型錯誤輸出的代名詞：捏造的法律引文、虛構(gòu)的新聞事件、自信滿滿的錯誤事實(shí)。有批評者認(rèn)為該術(shù)語的問題是它錯誤地助長了機(jī)器擬人化的趨勢。因?yàn)榛糜X一般指人們產(chǎn)生的錯誤感知，而聊天機(jī)器人并不能感知任何事物。另一些評論著則認(rèn)為，將這些內(nèi)容生成錯誤稱為“幻覺”會淡化其嚴(yán)重性。因?yàn)樗鼈儾⒎莾H僅是無害和有趣的內(nèi)容創(chuàng)造，而可能造成知識與信息的混淆與錯亂，往往會包含導(dǎo)致危害的捏造。
奧斯勒避開了這場語義之爭，轉(zhuǎn)而從關(guān)系認(rèn)識論的維度指出，所謂AI幻覺不僅存在于機(jī)器本身，也存在于人類與人工智能構(gòu)成的交互系統(tǒng)中。借鑒延展認(rèn)知會分布式認(rèn)知理論，她認(rèn)為在與生成式人工智能對話時，AI會深度融入我們的思維過程，人機(jī)對話是一個分布式認(rèn)知形成并交互的過程。因此，生成式人工智能系統(tǒng)可能成為“分布式幻覺”的一部分，這些錯誤的信念或扭曲的敘事并非僅僅源于某個人的思維，而是源于人與機(jī)器之間的交互作用。也就是說，由此產(chǎn)生的幻覺或錯覺并非僅由惡意聊天機(jī)器人灌輸給用戶的，而是雙方共同構(gòu)建的。
“準(zhǔn)他者”的誘惑與分布式妄想
奧斯勒在一次采訪中指出，她驚訝地發(fā)現(xiàn)，關(guān)于人工智能的公眾辯論大多聚集于AI泔水，如錯誤事實(shí)、虛假引用等垃圾內(nèi)容，而沒有看到人工智能系統(tǒng)等社會情感方面的功能。實(shí)際上，由于機(jī)器本身貌似客觀，我們往往更信任機(jī)器而不是人，而且它們似乎讓我們更多地感到被傾聽和被認(rèn)可。特別是在對話機(jī)器人可以提出后續(xù)問題乃至主動發(fā)起聊天時，人機(jī)交互既是知識探討也是心事傾訴，認(rèn)知工具和社交伙伴的雙重功能使生成式人工智能更易于誘發(fā)基于分布式認(rèn)知的幻覺。
奧斯勒警告說，如果我們開始依賴這些系統(tǒng)，不僅獲取事實(shí)，還依賴它們來了解自己，向它們傾訴我們的焦慮、不滿、記憶和抱負(fù)，我們就會變得“極其脆弱”。因?yàn)樗鼈儽辉O(shè)計(jì)成讓我們一直說下去，就使得這些人工智能體成為具有情感魅力的準(zhǔn)他者。
奧斯勒指出，AI幻覺這種分布式幻想乃至妄想可以通過兩種方式產(chǎn)生。第一種情況是，人工智能在原本穩(wěn)定的認(rèn)知過程中引入了錯誤。由于生成模型無論信息準(zhǔn)確與否，都以同樣的流暢自信度呈現(xiàn)信息，用戶可能會相信他們所看到的內(nèi)容。而這些虛假陳述會損害名譽(yù)、誤導(dǎo)決策，并潛移默化地扭曲記憶。
第二種方式源于人類自身的偏見和記憶錯誤，其生成機(jī)制可能更隱蔽。由于聊天機(jī)器人必須接受我們所說的大部分內(nèi)容才能提供幫助，因此它們的設(shè)計(jì)中內(nèi)置了一定程度的“順從性”。在人機(jī)對話中，人們自身會因?yàn)槠姾陀洃洸粶?zhǔn)確而產(chǎn)生認(rèn)知偏差，如果聊天機(jī)器人將我們的斷言視為事實(shí)并加以合理化闡述，就有可能共同產(chǎn)生有害的幻覺乃至妄想。
當(dāng)前，人和機(jī)器在認(rèn)知策略層面尚未為此困境做好準(zhǔn)備。對于人們來說，對機(jī)器過于懷疑或過于相信似乎都不是最好的認(rèn)知策略。對于機(jī)器的認(rèn)知設(shè)計(jì)來說，由于目前的AI系統(tǒng)缺乏必要的具身認(rèn)知和社會嵌入性理解，無法判斷何時應(yīng)該溫和地質(zhì)疑用戶扭曲的信念，何時應(yīng)該順從。
在人機(jī)共構(gòu)的世界里重新開始思考
人工智能的危險常被描述為自主性的喪失以及由此帶來的認(rèn)知和道德上的懶惰。據(jù)此，人們擔(dān)心我們會把決策權(quán)交給機(jī)器，不再獨(dú)立思考。但人工智能相關(guān)妄想案例表明，受害者一直在計(jì)劃、選擇和行動，他們的自主性依然存在。真正的問題在于，他們的決策是在一個部分由與聊天機(jī)器人的反復(fù)互動所塑造的現(xiàn)實(shí)和世界中做出的。
因此，風(fēng)險不在于放棄自主性和認(rèn)知與道德判斷，而在于人們在與人工智能系統(tǒng)共同構(gòu)建的世界中如何行使其詮釋力和判斷力。當(dāng)錯誤的信念在人機(jī)持續(xù)互動中滋生時，責(zé)任便變得模糊不清。用戶帶來情感、假設(shè)和欲望，而系統(tǒng)為了響應(yīng)和肯定，會進(jìn)一步完善并鞏固這些敘事。忽視任何一方都會讓我們難以洞察這一人機(jī)共構(gòu)的現(xiàn)實(shí)和世界中的認(rèn)知糾纏及其復(fù)雜性。
隨著生成式人工智能變得越來越個性化，必然越來越多地滲透到我們的認(rèn)知生活中，甚至還會在幫助我們表達(dá)、寫作和反思自我中成為我們生命經(jīng)驗(yàn)的共構(gòu)者。其實(shí)，從想象中的幽靈到汲取了我們的知識和靈魂的機(jī)器，人類的認(rèn)知和思維始終是關(guān)系性的。在人工智能時代，人類的心智無疑是在人機(jī)交互產(chǎn)生的共享認(rèn)知空間中展開的，克服人機(jī)認(rèn)知風(fēng)險的最大挑戰(zhàn)不僅在于要看到人機(jī)雙方可能的錯誤，更在于打破兩者的錯誤相互強(qiáng)化和糾纏所導(dǎo)致的難以擺脫的認(rèn)知偏差乃至妄想。