內(nèi)嵌于系統(tǒng)底層的幻覺(jué)機(jī)制將反向塑造人類(lèi)的認(rèn)知習(xí)慣，迫使人類(lèi)從技術(shù)的創(chuàng)造者與駕馭者，退化為算法輸出內(nèi)容的審核員與修補(bǔ)匠。

根治AI幻覺(jué)的終極方案，在于推動(dòng)人工智能從純粹的“符號(hào)處理系統(tǒng)”進(jìn)化為具備物理交互能力的“具身智能”。

原文 ：《AI幻覺(jué)本體論困境的技術(shù)哲學(xué)審視》

作者 |復(fù)旦大學(xué)馬克思主義學(xué)院博士生 鄺光耀

圖片 |網(wǎng)絡(luò)

在二十一世紀(jì)的第三個(gè)十年，算法算力雙重爆發(fā)，以生成式預(yù)訓(xùn)練變換器為基座的大型語(yǔ)言模型（LLMs）的異軍突起，標(biāo)志著人類(lèi)技術(shù)文明進(jìn)入了一個(gè)令傳統(tǒng)認(rèn)識(shí)論既感迷惑又深覺(jué)不安的“符號(hào)合成時(shí)代”——人類(lèi)文明的知識(shí)生產(chǎn)方式從基于主體經(jīng)驗(yàn)與邏輯推演的有機(jī)生成，轉(zhuǎn)向了基于概率統(tǒng)計(jì)與向量計(jì)算的自動(dòng)生成。然而，這種能夠以前所未有的流利度編織文本、代碼乃至多模態(tài)內(nèi)容的“能指機(jī)器”，始終被一種本質(zhì)性且無(wú)法擺脫的陰影所纏繞——AI“幻覺(jué)”（Hallucination）現(xiàn)象。

AI幻覺(jué)機(jī)制反向塑造人類(lèi)認(rèn)知習(xí)慣

在計(jì)算機(jī)科學(xué)的實(shí)用主義視角下，幻覺(jué)通常被簡(jiǎn)化為一種應(yīng)當(dāng)被“糾錯(cuò)（debug）”的技術(shù)噪音，一種源于數(shù)據(jù)臟污或擬合偏差的工程學(xué)失誤。然而，當(dāng)這種所謂的“失誤”能夠以高度確信的口吻捏造歷史、虛構(gòu)判例甚至重組科學(xué)公理時(shí)，它便不再僅僅是代碼層面的故障，而構(gòu)成了斯蒂格勒在《技術(shù)與時(shí)間》中提出的“第三持存”意義上的系統(tǒng)性污染。從技術(shù)哲學(xué)角度深入審視AI幻覺(jué)生成的微觀機(jī)制，其根源在于“統(tǒng)計(jì)相關(guān)性”對(duì)“邏輯因果性”的暴力替代，以及高維向量空間對(duì)豐富語(yǔ)義世界的降維壓縮：在深度學(xué)習(xí)的訓(xùn)練過(guò)程中，大語(yǔ)言模型通過(guò)反向傳播算法習(xí)得的是詞匯與詞匯在海量文本中共同出現(xiàn)的概率分布，而非概念與概念之間內(nèi)在的邏輯必然性。這種機(jī)制實(shí)際上構(gòu)成了一種“抽象的暴力”，它將現(xiàn)實(shí)世界中那些充滿(mǎn)辯證張力、時(shí)間不可逆性以及復(fù)雜因果鏈條的客觀真理，強(qiáng)行壓平為一個(gè)靜態(tài)的、幾何化的語(yǔ)義地圖。因此，當(dāng)模型面對(duì)其訓(xùn)練語(yǔ)料中未曾覆蓋的長(zhǎng)尾知識(shí)或需要跨領(lǐng)域綜合判斷的復(fù)雜情境時(shí)，它無(wú)法像人類(lèi)智能那樣進(jìn)行基于第一性原理的因果推演，而只能依據(jù)表層的語(yǔ)義相似性進(jìn)行概率上的“猜想”。這種被美國(guó)語(yǔ)言學(xué)家本德（Emily M. Bender）稱(chēng)為“隨機(jī)鸚鵡”的運(yùn)作模式，恰體現(xiàn)了當(dāng)前生成式AI在語(yǔ)言處理上的本質(zhì)特征：它極其熟練地操縱著語(yǔ)言的能指（形式），卻始終無(wú)法真正觸及語(yǔ)言的所指（意義）。

如果放任這種基于概率擬合的虛假認(rèn)知幻覺(jué)在數(shù)字文明生態(tài)中無(wú)序蔓延，我們將面臨一種極為嚴(yán)峻的“認(rèn)知熵增”危機(jī)。隨著生成式人工智能技術(shù)的普及，大量包含事實(shí)錯(cuò)誤與邏輯漏洞的合成數(shù)據(jù)正以指數(shù)級(jí)速度被注入互聯(lián)網(wǎng)的公共信息池中。最新的計(jì)算機(jī)科學(xué)研究已經(jīng)提出了“模型崩潰”的理論預(yù)警：即當(dāng)下一代AI模型開(kāi)始大量使用由上一代模型生成的合成數(shù)據(jù)進(jìn)行訓(xùn)練時(shí)，其對(duì)現(xiàn)實(shí)世界的表征能力將出現(xiàn)不可逆轉(zhuǎn)的退化。這種遞歸性的污染類(lèi)似于近親繁殖帶來(lái)的基因缺陷，會(huì)導(dǎo)致模型對(duì)真實(shí)世界的認(rèn)知分布逐漸收斂于一種狹隘、平庸且充滿(mǎn)謬誤的狀態(tài)，最終喪失捕捉現(xiàn)實(shí)復(fù)雜性與多樣性的能力。對(duì)于人類(lèi)社會(huì)而言，這種技術(shù)異化的后果更為深遠(yuǎn)。當(dāng)算法系統(tǒng)逐漸成為人類(lèi)獲取知識(shí)的主要中介，這種內(nèi)嵌于系統(tǒng)底層的幻覺(jué)機(jī)制將反向塑造人類(lèi)的認(rèn)知習(xí)慣，迫使人類(lèi)從技術(shù)的創(chuàng)造者與駕馭者，退化為算法輸出內(nèi)容的審核員與修補(bǔ)匠。我們不得不在海量的“超真實(shí)”信息中耗費(fèi)巨大的心力去甄別真?zhèn)危@種認(rèn)知負(fù)荷的增加不僅降低了社會(huì)整體的知識(shí)生產(chǎn)效率，更在潛移默化中侵蝕著人類(lèi)主體性的根基，使得批判性思維與獨(dú)立判斷能力在算法的“喂養(yǎng)”下日漸萎縮。

實(shí)現(xiàn)認(rèn)知的“外部錨定”

面對(duì)AI幻覺(jué)這一系統(tǒng)性的“本體論困境”，任何試圖在現(xiàn)有封閉架構(gòu)內(nèi)通過(guò)參數(shù)微調(diào)或指令工程來(lái)消除幻覺(jué)的努力，都注定只能是治標(biāo)不治本的權(quán)宜之計(jì)。治理AI幻覺(jué)的根本出路，在于推動(dòng)人工智能從封閉的“內(nèi)部記憶”模式向開(kāi)放的“外部檢索”模式轉(zhuǎn)型，即實(shí)現(xiàn)認(rèn)知的“外部錨定”。法國(guó)技術(shù)哲學(xué)家西蒙東認(rèn)為，一個(gè)成熟的技術(shù)物應(yīng)當(dāng)是一個(gè)能夠通過(guò)與外部環(huán)境的遞歸互動(dòng)來(lái)實(shí)現(xiàn)自我調(diào)節(jié)的“具體化”實(shí)體。因此，真正的人工智能不應(yīng)是存儲(chǔ)在參數(shù)矩陣?yán)锏乃乐R(shí)，而應(yīng)是像生命體一樣，通過(guò)持續(xù)接收環(huán)境反饋來(lái)校準(zhǔn)自身認(rèn)知的動(dòng)態(tài)過(guò)程。這意味著未來(lái)的AI系統(tǒng)必須擁有“數(shù)字感官”和物理執(zhí)行器，能夠動(dòng)態(tài)地接入物聯(lián)網(wǎng)、實(shí)時(shí)數(shù)據(jù)庫(kù)乃至物理世界。通過(guò)這種“技術(shù)環(huán)境”的重建，大語(yǔ)言模型的內(nèi)容輸出將不再是一個(gè)孤立的預(yù)言家，而是一個(gè)在不斷變化的世界中持續(xù)學(xué)習(xí)的“探索者”。AI系統(tǒng)也將不再是一個(gè)自言自語(yǔ)的孤立智力，而是一個(gè)鑲嵌在人類(lèi)知識(shí)網(wǎng)絡(luò)中的動(dòng)態(tài)節(jié)點(diǎn)，它通過(guò)與外部信息環(huán)境的持續(xù)互動(dòng)來(lái)更新自身的認(rèn)知狀態(tài)，從而大幅降低因訓(xùn)練數(shù)據(jù)滯后或記憶混淆導(dǎo)致的事實(shí)性謬誤的出現(xiàn)概率，重建數(shù)字理性的合法性基礎(chǔ)。

價(jià)值觀重塑引導(dǎo)技術(shù)發(fā)展回歸理性

除了外部知識(shí)的錨定，AI系統(tǒng)自身的“倫理內(nèi)省”與“不確定性管理”同樣是治理幻覺(jué)不可或缺的內(nèi)在維度。當(dāng)前的生成式AI模型普遍存在著一種“過(guò)度自信”的病理特征，即在生成毫無(wú)事實(shí)根據(jù)的幻覺(jué)內(nèi)容時(shí)，依然賦予其極高的概率置信度，這種“一本正經(jīng)胡說(shuō)八道”的現(xiàn)象極具欺騙性。對(duì)此，我們需要在算法層面引入嚴(yán)格的認(rèn)知校準(zhǔn)機(jī)制，通過(guò)貝葉斯神經(jīng)網(wǎng)絡(luò)、熵值評(píng)估等數(shù)學(xué)工具，賦予AI一種類(lèi)似于人類(lèi)“元認(rèn)知”的能力——即對(duì)自己“知道什么”和“不知道什么”的清晰的自我審視。一個(gè)真正具備可信度的智能系統(tǒng)，應(yīng)當(dāng)在面對(duì)其知識(shí)邊界之外的問(wèn)題時(shí)，具備保持沉默或主動(dòng)示弱的權(quán)利。它應(yīng)當(dāng)能夠誠(chéng)實(shí)地向用戶(hù)輸出低置信度警告，或者明確承認(rèn)數(shù)據(jù)不足，而非為了滿(mǎn)足生成的流暢性而強(qiáng)行編造。將“拒絕回答”的權(quán)利還給AI，不僅是技術(shù)魯棒性（robustness）的體現(xiàn)，更是確立“誠(chéng)實(shí)計(jì)算”這一核心科技倫理價(jià)值的關(guān)鍵步驟。這標(biāo)志著我們對(duì)AI的評(píng)價(jià)標(biāo)準(zhǔn)從單一的“生成能力”轉(zhuǎn)向了更為綜合的“認(rèn)知誠(chéng)實(shí)度”，這種價(jià)值觀的重塑將引導(dǎo)技術(shù)發(fā)展回歸理性，避免盲目追求AI全知全能的虛假神話(huà)。

從長(zhǎng)遠(yuǎn)的演進(jìn)圖景來(lái)看，根治AI幻覺(jué)的終極方案，在于推動(dòng)人工智能從純粹的“符號(hào)處理系統(tǒng)”進(jìn)化為具備物理交互能力的“具身智能”。幻覺(jué)的本質(zhì)，歸根結(jié)底是符號(hào)系統(tǒng)在脫離了物質(zhì)世界的物理約束后產(chǎn)生的任意漂移。只有當(dāng)智能體擁有了感知物理世界的“傳感器”和作用于物理世界的“執(zhí)行器”，它才能在與客觀實(shí)在的碰撞中獲得檢驗(yàn)真理的“試金石”。在具身智能的視域下，語(yǔ)言符號(hào)不再是懸浮的抽象能指，而是與觸覺(jué)、力覺(jué)、視覺(jué)等多模態(tài)感官經(jīng)驗(yàn)緊密耦合的行動(dòng)指南。當(dāng)一個(gè)AI系統(tǒng)必須為其在物理環(huán)境中的操作后果負(fù)責(zé)時(shí)，物理定律的不可違背性將對(duì)其認(rèn)知模型施加最嚴(yán)厲的約束，迫使其推理過(guò)程必須符合客觀世界的因果邏輯。此時(shí)，真理將不再是概率空間中的優(yōu)選解，而是物理實(shí)踐中的有效性。這種從“離身計(jì)算”到“具身交互”的本體論躍遷，將有望彌合符號(hào)與實(shí)在之間的鴻溝，使人工智能真正成為人類(lèi)在探索未知世界時(shí)值得信賴(lài)的合作伙伴，共同構(gòu)建一個(gè)基于真實(shí)、理性與責(zé)任的人機(jī)共生未來(lái)。

文章為社會(huì)科學(xué)報(bào)“思想工坊”融媒體原創(chuàng)出品，原載于社會(huì)科學(xué)報(bào)第1984期第3版，未經(jīng)允許禁止轉(zhuǎn)載，文中內(nèi)容僅代表作者觀點(diǎn)，不代表本報(bào)立場(chǎng)。

本期責(zé)編：程鑫云

《社會(huì)科學(xué)報(bào)》2026年征訂

點(diǎn)擊下方圖片網(wǎng)上訂報(bào)↓↓↓