清華大學(xué)DeepSeek教程第五版由清華大學(xué)雙聘教授 @新媒沈陽(yáng)團(tuán)隊(duì)撰寫(xiě)，主要圍繞 AI 幻覺(jué)展開(kāi)研究，以 DeepSeek 為例深入探討其現(xiàn)象、成因、評(píng)測(cè)、應(yīng)對(duì)策略及創(chuàng)造力價(jià)值。

AI 幻覺(jué)的定義：AI 幻覺(jué)指模型生成與事實(shí)不符、邏輯斷裂或脫離上下文的內(nèi)容，分為事實(shí)性幻覺(jué)（與現(xiàn)實(shí)事實(shí)不一致）和忠實(shí)性幻覺(jué)（與用戶指令或上下文不一致） 。

產(chǎn)生 AI 幻覺(jué)的原因：包括數(shù)據(jù)偏差、泛化困境、知識(shí)固化、意圖誤解等。此外，音樂(lè)因具有主觀性、抽象性和可感知性差異等特點(diǎn)，雖不存在傳統(tǒng)意義上的幻覺(jué)，但也有邏輯斷裂的歌詞等潛在表現(xiàn)。

AI 幻覺(jué)評(píng)測(cè)：通過(guò)隨機(jī)生成提示語(yǔ)和抽取事實(shí)性幻覺(jué)測(cè)試題進(jìn)行人工判斷標(biāo)注與交叉驗(yàn)證。測(cè)試結(jié)果顯示，不同模型幻覺(jué)率不同，如通用性測(cè)試中 DeepSeekV3 幻覺(jué)率為 2%、DeepSeekR1 為 3%；事實(shí)性測(cè)試中 DeepSeekV3 幻覺(jué)率達(dá) 29.67%、DeepSeekR1 為 22.33% 。推理能力與幻覺(jué)率存在雙向作用機(jī)制，聯(lián)網(wǎng)搜索、雙 AI 驗(yàn)證、提示詞工程等方法可降低幻覺(jué)率。

AI 幻覺(jué)的應(yīng)對(duì)策略：普通用戶可采用三角驗(yàn)證法，警惕 “過(guò)度合理” 的回答，理解并利用幻覺(jué)帶來(lái)的創(chuàng)意靈感。具體方法包括聯(lián)網(wǎng)搜索、雙 AI 驗(yàn)證、提示詞工程（知識(shí)邊界限定、對(duì)抗性提示）等。技術(shù)層面可采用 RAG 框架、結(jié)合外部知識(shí)庫(kù)、精細(xì)訓(xùn)練、開(kāi)發(fā)評(píng)估工具等方案。

AI 幻覺(jué)的價(jià)值：在科學(xué)發(fā)現(xiàn)、文藝與設(shè)計(jì)、娛樂(lè)與游戲、技術(shù)創(chuàng)新等領(lǐng)域具有創(chuàng)造力價(jià)值。如助力蛋白質(zhì)設(shè)計(jì)獲諾貝爾化學(xué)獎(jiǎng)，為游戲開(kāi)發(fā)提供靈感，提升自動(dòng)駕駛系統(tǒng)識(shí)別精度等。

需要的小伙伴可進(jìn)入招文袋的公眾號(hào)直接去拿（2月24日零點(diǎn)發(fā)布），或加入招文袋的知識(shí)星球社群即時(shí)下載，一起交流探討學(xué)習(xí)，1—5版的文檔和知識(shí)點(diǎn)都整理在內(nèi)啦。