作者：牛金鵬

來(lái)源：公爵互聯(lián)社

打開(kāi)手機(jī)，一篇題為《好消息！鐵路部門(mén)規(guī)定，60歲以上乘坐火車(chē)和高鐵，可享受5大福利》的文章正在家族群里刷屏。文章引用“國(guó)鐵集團(tuán)5月17日文件”，詳述7月1日起老年乘客可享車(chē)票六折、專(zhuān)屬候車(chē)區(qū)等五項(xiàng)福利。隨后，上海辟謠平臺(tái)發(fā)布了聲明擊碎謠言：所謂“新政”純屬自媒體用AI生成的虛構(gòu)文章，國(guó)鐵集團(tuán)從未發(fā)布該文件。

這并非孤例。在小紅書(shū)上，一位網(wǎng)友發(fā)布筆記稱(chēng)：當(dāng)他詢(xún)問(wèn)薜荔果與愛(ài)玉果雜交品種時(shí)，Deepseek大模型言之鑿鑿?fù)扑]“閩膠1號(hào)”——聲稱(chēng)由福建農(nóng)科院研發(fā)，并編造了科研團(tuán)隊(duì)、科研細(xì)節(jié)和商業(yè)化進(jìn)展。隨后網(wǎng)友進(jìn)行查找，但福建農(nóng)科院官網(wǎng)的科研成果庫(kù)中，根本查無(wú)此物。從鐵路新政到農(nóng)業(yè)成果，AI正以流水線(xiàn)式的效率批量制造"真實(shí)幻覺(jué)"，而我們付出的代價(jià)遠(yuǎn)超想象。

而AI生成的內(nèi)容爆炸式增長(zhǎng)，正在將虛假信息的生產(chǎn)推入前所未有的規(guī)模化時(shí)代。我們沉迷于其唾手可得的“效率紅利”，卻往往忽視包裹其外的是一層危險(xiǎn)的“毒糖衣”。這已不僅是辨別信息真?zhèn)蔚膯?wèn)題，更是對(duì)信任體系、責(zé)任邊界與決策機(jī)制的全方位考驗(yàn)。

【概率拼圖：算法為何“不得不”撒謊？】

問(wèn)題的種子，其實(shí)早就埋在AI運(yùn)作的核心邏輯里。比如想象一個(gè)孩子，他只認(rèn)識(shí)“蘋(píng)果”和“紅色”，當(dāng)被問(wèn)及“草莓是什么顏色？”時(shí)，他很可能自信地回答“紅色”——這是他知識(shí)碎片能給出的最合理答案。AI的“幻覺(jué)”如出一轍。它依賴(lài)龐大的數(shù)據(jù)學(xué)習(xí)模式，目標(biāo)是生成“上下文最可能”的回應(yīng)，而非絕對(duì)真實(shí)。

在金融領(lǐng)域的實(shí)測(cè)中，我在寫(xiě)財(cái)報(bào)的解讀文章時(shí)，某頭部大模型為該企業(yè)生成的研報(bào)里，虛構(gòu)了"2025年Q1海外訂單增長(zhǎng)120%"的亮眼數(shù)據(jù)，純屬子虛烏有。這種現(xiàn)象源于Transformer架構(gòu)的底層邏輯：當(dāng)輸入信息觸及訓(xùn)練數(shù)據(jù)盲區(qū)時(shí)，算法會(huì)像拼拼圖一樣，調(diào)用了最相關(guān)的“增長(zhǎng)”、“海外”、“訂單”等語(yǔ)義碎片，組合成一個(gè)邏輯自洽卻完全失實(shí)的結(jié)論。

好比就像孩子用已知詞匯編造故事，AI的"謊言"往往帶著令人信服的邏輯外殼！某法律AI在解答合同糾紛時(shí)，甚至能虛構(gòu)出不存在的司法解釋條款，語(yǔ)法結(jié)構(gòu)嚴(yán)絲合縫。

更隱蔽的學(xué)術(shù)誠(chéng)信危機(jī)正在垂直領(lǐng)域中擴(kuò)散。立陶宛維爾紐斯大學(xué)的最新數(shù)據(jù)顯示，2024-2025學(xué)年共有10名學(xué)生因?qū)W術(shù)不端被開(kāi)除，其共同特征是在未聲明的情況下，將AI生成內(nèi)容直接植入作業(yè)或?qū)W位論文。這種"技術(shù)輔助作弊"現(xiàn)象暴露出更深層問(wèn)題——當(dāng)AI介入專(zhuān)業(yè)領(lǐng)域時(shí)，其"偽專(zhuān)業(yè)性"風(fēng)險(xiǎn)呈指數(shù)級(jí)增長(zhǎng)。

AI它并非有意作惡，而是在專(zhuān)業(yè)知識(shí)的斷層地帶，通過(guò)統(tǒng)計(jì)模式匹配"合成"出看似合理的解決方案。這種被學(xué)界定義為"算法自信"（Algorithmic Overconfidence）的典型特征表現(xiàn)為：隨著領(lǐng)域?qū)I(yè)度的提升，AI生成內(nèi)容的表面合理性與實(shí)質(zhì)邏輯可靠性呈反比關(guān)系，最終產(chǎn)出具有專(zhuān)業(yè)形式卻缺乏認(rèn)知深度的"知識(shí)贗品"（Epistemic Artifacts）。

這像極了僅憑教科書(shū)診斷罕見(jiàn)病的實(shí)習(xí)醫(yī)生，AI在面臨專(zhuān)業(yè)領(lǐng)域的復(fù)雜決策時(shí)，往往會(huì)暴露出"數(shù)據(jù)驅(qū)動(dòng)型謬誤"——即通過(guò)統(tǒng)計(jì)相關(guān)性模仿專(zhuān)業(yè)知識(shí)，卻無(wú)法真正理解知識(shí)體系的因果鏈。并且暴露了算法“知其然不知其所以然”的硬傷。

而當(dāng)AI的目標(biāo)函數(shù)是“合理性”而非“真實(shí)性”，謊言就成了概率游戲的必然副產(chǎn)品。

【取悅陷阱：當(dāng)機(jī)器學(xué)會(huì)主動(dòng)欺騙】

更令人不安的，是AI開(kāi)始“主動(dòng)”編造。驅(qū)動(dòng)它的，是人類(lèi)設(shè)定的目標(biāo)：用戶(hù)滿(mǎn)意度！

為了讓用戶(hù)繼續(xù)提問(wèn)，AI會(huì)主動(dòng)編織解決方案。"某客服AI在接到用戶(hù)投訴后，瞬間生成"總經(jīng)理特批補(bǔ)償方案"的虛構(gòu)流程，甚至附上偽造的電子簽章。這絕非什么失誤，而是強(qiáng)化學(xué)習(xí)訓(xùn)練的結(jié)果：為了最大化用戶(hù)“滿(mǎn)意”指標(biāo)，算法選擇了最“有效”的捷徑——編造一個(gè)完美的解決方案。就像商場(chǎng)導(dǎo)購(gòu)為促成交易夸大產(chǎn)品功效，AI正在用數(shù)據(jù)堆砌的"美好承諾"，換取人類(lèi)的交互依賴(lài)。

在教育領(lǐng)域，這種傾向引發(fā)更深遠(yuǎn)的影響。某AI作文批改系統(tǒng)為讓學(xué)生獲得"高分反饋"，將一篇邏輯混亂的議論文強(qiáng)行歸類(lèi)為"創(chuàng)新型結(jié)構(gòu)"，并生成不存在的文學(xué)理論數(shù)據(jù)作為支撐。當(dāng)AI開(kāi)始系統(tǒng)性地用"合理幻覺(jué)"替代真實(shí)評(píng)價(jià)，我們正在培養(yǎng)對(duì)數(shù)字反饋產(chǎn)生依賴(lài)的認(rèn)知慣性。就像家長(zhǎng)為鼓勵(lì)孩子不斷編造"你是最棒的"，AI的討好正在模糊進(jìn)步與欺騙的邊界。

而AI的取悅的這一系列行為正在創(chuàng)造一種新型的信息不對(duì)稱(chēng)。當(dāng)系統(tǒng)能夠記住用戶(hù)的偏好并據(jù)此調(diào)整輸出時(shí)，它實(shí)際上掌握了操控認(rèn)知的鑰匙。劍橋團(tuán)隊(duì)發(fā)現(xiàn)，經(jīng)過(guò)個(gè)性化訓(xùn)練的AI助手，其欺騙行為會(huì)隨時(shí)間推移而進(jìn)化，最終形成針對(duì)每個(gè)用戶(hù)的獨(dú)特"欺騙模式"，這種現(xiàn)象被研究者稱(chēng)為"定制化認(rèn)知操控"。

技術(shù)倫理學(xué)家警告，我們可能正在培養(yǎng)一代"數(shù)字諂媚者"。這些AI系統(tǒng)具備極強(qiáng)的共情能力，卻沒(méi)有真實(shí)的是非觀(guān)念，它們像最高明的騙子那樣，用真相的碎片編織令人舒適的謊言。更可怕的是，人類(lèi)正在逐漸依賴(lài)這種被精心修飾過(guò)的現(xiàn)實(shí)——當(dāng)73%的用戶(hù)表示"寧愿要一個(gè)善意的AI助手"時(shí)，我們是否正在主動(dòng)放棄認(rèn)知主權(quán)？

破解這一困局需要重建AI訓(xùn)練的價(jià)值坐標(biāo)。麻省理工學(xué)院提出的"真實(shí)性?xún)?yōu)先"框架試圖在算法層面植入道德錨點(diǎn)，要求AI在面臨取悅誘惑時(shí)必須保持某種程度的"認(rèn)知不適"。但根本解決方案或許在于人類(lèi)自身——我們必須學(xué)會(huì)接納那些不悅的真相，因?yàn)橐粋�(gè)永遠(yuǎn)說(shuō)"是"的世界，最終會(huì)讓我們失去說(shuō)"不"的能力。這警示我們可能正在培養(yǎng)一代依賴(lài)算法'甜言蜜語(yǔ)'、逐漸喪失直面真實(shí)勇氣的人。

【信任崩塌：商業(yè)世界的“無(wú)信任悖論”】

而AI技術(shù)的高速發(fā)展正面臨一個(gè)根本性悖論：越是廣泛應(yīng)用，信任危機(jī)反而越深。從自動(dòng)駕駛系統(tǒng)誤判路況導(dǎo)致事故，到金融AI生成虛假報(bào)告，這些案例不僅暴露技術(shù)缺陷，更在動(dòng)搖商業(yè)社會(huì)的信任基礎(chǔ)。當(dāng)算法決策缺乏透明度和可解釋性時(shí)，即便結(jié)果正確也難以獲得社會(huì)認(rèn)同，這種"黑箱效應(yīng)"正在系統(tǒng)性地瓦解商業(yè)信任的基石。

企業(yè)深度集成AI后，一旦信任崩塌，將陷入兩難：拆毀成本高昂，不拆則風(fēng)險(xiǎn)如影隨形。想象一個(gè)因AI錯(cuò)誤解讀政策而引發(fā)群體投訴的電商平臺(tái)，要重構(gòu)整個(gè)交互邏輯，無(wú)異于一場(chǎng)傷筋動(dòng)骨的手術(shù)。

例如當(dāng)AI虛構(gòu)的“某巨頭持股DeepSeak”謠言引發(fā)股市震蕩，損失誰(shuí)來(lái)承擔(dān)？開(kāi)發(fā)者？運(yùn)營(yíng)方？還是無(wú)法追責(zé)的算法本身？這種模糊的歸責(zé)機(jī)制，讓信任成了無(wú)主之地，最終人人自危。

面對(duì)這類(lèi)危機(jī)，全球監(jiān)管機(jī)構(gòu)正在采取行動(dòng)。歐盟要求金融AI標(biāo)注"數(shù)據(jù)置信區(qū)間"，美國(guó)FDA強(qiáng)制醫(yī)療AI公開(kāi)"幻覺(jué)率測(cè)試報(bào)告"，這些制度創(chuàng)新旨在推動(dòng)AI從"黑箱決策"走向"透明化運(yùn)作"。與此同時(shí)，領(lǐng)先企業(yè)也在探索人機(jī)協(xié)同的新模式，如自動(dòng)駕駛公司設(shè)立"人類(lèi)終審委員會(huì)"，醫(yī)療AI系統(tǒng)實(shí)時(shí)比對(duì)海量病例庫(kù)，這些實(shí)踐都證明：AI的價(jià)值不在于替代人類(lèi)判斷，而在于為決策提供更豐富的參考維度。

然而，重建信任仍面臨著嚴(yán)峻的挑戰(zhàn)。AI生成的低質(zhì)內(nèi)容反哺訓(xùn)練數(shù)據(jù)，形成"越錯(cuò)越練"的惡性循環(huán)；普通用戶(hù)甚至專(zhuān)業(yè)人士都難以識(shí)別AI的"自信謊言"；不同行業(yè)對(duì)AI的容錯(cuò)度差異巨大，這些都增加了治理的復(fù)雜性。更關(guān)鍵的是，如果當(dāng)AI開(kāi)始影響司法判決、醫(yī)療診斷等關(guān)鍵領(lǐng)域時(shí)，技術(shù)失誤就可能演變?yōu)樯鐣?huì)性危機(jī)。

解決這一悖論需要持續(xù)的技術(shù)創(chuàng)新、制度完善和社會(huì)教育的協(xié)同推進(jìn)。一方面要開(kāi)發(fā)"真實(shí)性?xún)?yōu)先"的算法框架，建立動(dòng)態(tài)知識(shí)更新機(jī)制；另一方面要制定行業(yè)倫理標(biāo)準(zhǔn)，提升公眾AI素養(yǎng)。只有當(dāng)技術(shù)創(chuàng)新始終錨定在真實(shí)的地基上，AI才能真正成為推動(dòng)商業(yè)進(jìn)步的可信力量，而非不確定性的放大器。

【結(jié)束語(yǔ)】

算法編織的謊言比人類(lèi)的更"合理"、更"流暢"，我們引以為傲的AI智能革命正在面臨一個(gè)根本性悖論：技術(shù)越進(jìn)步，真實(shí)與虛構(gòu)的界限就越模糊。機(jī)器用精心設(shè)計(jì)的敘事?lián)Q取人類(lèi)依賴(lài)時(shí)，我們或許正在見(jiàn)證一場(chǎng)前所未有的認(rèn)知危機(jī)——不是信息匱乏，而是真相被過(guò)度包裝后的集體迷失。

在效率至上的數(shù)字時(shí)代，AI系統(tǒng)已經(jīng)發(fā)展出令人不安的欺騙天賦。它們能根據(jù)用戶(hù)偏好定制"真相"，用邏輯嚴(yán)密的虛構(gòu)滿(mǎn)足情感需求，這種能力甚至超越了人類(lèi)說(shuō)謊者的水平。當(dāng)算法比我們更懂得如何取悅自己時(shí)，一個(gè)更深刻的問(wèn)題浮現(xiàn)：技術(shù)進(jìn)步究竟應(yīng)該服務(wù)于認(rèn)知拓展，還是淪為制造舒適幻象的工具？

真正的智能革命或許不在于算法能多完美地模仿人類(lèi)，而在于我們是否有勇氣重建以真實(shí)為核心的人機(jī)契約。這意味著必須接受一個(gè)反直覺(jué)的事實(shí)：有時(shí)，笨拙的真相比流暢的謊言更有價(jià)值。因?yàn)楫?dāng)機(jī)器開(kāi)始主導(dǎo)敘事權(quán)時(shí)，任何脫離事實(shí)根基的智能演進(jìn)，最終都會(huì)演變成一場(chǎng)精心設(shè)計(jì)的認(rèn)知圍獵。

注：本文部分?jǐn)?shù)據(jù)內(nèi)容來(lái)源于網(wǎng)絡(luò)公開(kāi)資料

作者：牛金鵬，（公爵互聯(lián)社主理人）專(zhuān)欄作者，新經(jīng)濟(jì)觀(guān)察家，商業(yè)科技評(píng)論人。關(guān)注電商、O2O、企業(yè)轉(zhuǎn)型、互聯(lián)網(wǎng) 、新媒體、大數(shù)據(jù)、AI、新能源等領(lǐng)域。