在315晚會上名聲大噪的力擎GEO優(yōu)化系統(tǒng)，揭示了當(dāng)下的一個產(chǎn)業(yè)鏈，就是通過大量生產(chǎn)軟文，以讓大模型的搜索工具傳播他們的商業(yè)內(nèi)容。

揭示視頻顯示，在投入幾十篇某產(chǎn)品的軟文后，大模型就正兒八經(jīng)地介紹起這款產(chǎn)品了。要不說3.15晚會的影響還是大，這則視頻一播完，網(wǎng)上就出現(xiàn)了海量關(guān)于GEO的文章，其中不少更是拔高到了“大模型遭投毒”的層面。

話題是個好話題，但在我看來，一些討論多少有點(diǎn)杞人憂天了。

01 大模型并不追求高度“準(zhǔn)確性”

不要說問大模型關(guān)于產(chǎn)品的問題，你就是問他1+1=幾，他都不一定能答對。

很多各種普通人一眼就能答對的問題，大模型都是做不好的。

比如，你讓他寫一篇三千字的文章，他要么寫出來是2000字，要么是5000字，他連個數(shù)字?jǐn)?shù)都干不好。

大模型的底層邏輯是一個猜字游戲。

他通過上文來預(yù)測下一個字是什么，是一個通過概率預(yù)測而產(chǎn)生的人工智能工具。

大模型首先是服務(wù)于詢問者。

你給他一篇文章，讓他批評，他能把這篇文章批成屎。

你同樣給他一篇文章，讓他贊美，他也能把這篇文章夸成花。

他是一個滿足你需求的工具，而不是一個提供高度確定度內(nèi)容的搜索引擎。

結(jié)合搜索，能夠讓大模型拿到了一些即時的知識，根據(jù)這些知識，他可以給出盡可能符合你要求的內(nèi)容，但生成式AI永遠(yuǎn)不可能追求高度的準(zhǔn)確性。

因?yàn)檫@種產(chǎn)品的開發(fā)，就不是為了準(zhǔn)確性而來的。

大模型的核心能力，是模仿，是通過無數(shù)個人類產(chǎn)出的文章、圖片、電影這種結(jié)果，倒過來推測人類要什么，從而為你輸出盡可能接近你要的。

你要說文字大模型不準(zhǔn)確，那圖片會準(zhǔn)確嗎？音頻會準(zhǔn)確嗎？視頻會準(zhǔn)確嗎？

都不準(zhǔn)確。

在這一領(lǐng)域，有一個名詞叫抽卡率，也就是說，生產(chǎn)的結(jié)果是隨機(jī)的，需要人們參與判斷是否正確。

當(dāng)然，越優(yōu)秀的大模型，抽卡率越低，越容易達(dá)到你想要的。

使用大模型，也有固有的方法，比如提示詞工具。

你若想要得到一個產(chǎn)品的正確評測，你可以要求他，搜索國內(nèi)知名媒體評測過的，企業(yè)是國內(nèi)知名品牌，加上這些約束條件，那么，它輸出的結(jié)果就是相對有確定性的。

02 大模型會讓人上當(dāng)嗎？

那有沒有人，把大模型的輸出結(jié)果當(dāng)成真理呢？

有，不僅有，還很流行。

很多人看到一篇文章，就扔到大模型里，分析一下這篇文章錯在哪？如你所愿，如果你這么問，天底下所有的文章都是錯的。

因?yàn)槟阋偨Y(jié)錯誤，他就一定要服從于你，通過猜測下一個字的方式，給你一個完全與問題能結(jié)合在一起的文字猜測匯總，它不是思想，也不是意思，而是在猜測你的意圖。

只要玩過大模型的人都知道，大模型有幻覺，會胡說八道。

一定有人會上當(dāng)，那就是科盲嘛，或者是對大模型一無所知的人。

這對大模型廠商倒是提了一個醒，你們在輸出任何結(jié)果時，都要將那一段提示說的更明白一點(diǎn)，注明，這玩意的真假，需要你自己判斷。

否則，以后真會有人拿著AI去給自己看病，然后把自己給治死了，最后找到AI廠家來讓你賠償。

有一些巨嬰說，我既然問了你，你就要回答準(zhǔn)確，這就無比荒唐了。

大模型會說，如果你追求這種準(zhǔn)確性，不好意思，不要用我們家產(chǎn)品，哪家公司產(chǎn)品也保證不了，這是這些產(chǎn)品的技術(shù)特性決定的。

因此，一定會有少數(shù)對大模型不了解的人，被輸出的內(nèi)容騙，甚至被誤導(dǎo)做出錯誤決策。

03 不輕信大模型，才是應(yīng)對之道

請注意，不是大模型在騙你，而是大模型的技術(shù)條件決定了只能這么輸出。

而且大模型提示你了，這是AI生產(chǎn)的，你自己判定真假。

如果你相信這些信息受騙了，受損了，不好意思，是你自己的責(zé)任。你可以在網(wǎng)上吐槽，可以汲取教訓(xùn)，可以下次選擇不那么輕信。

這是信息時代，人們必然要習(xí)慣的一種社會形態(tài)。

每一天，人類生產(chǎn)的信息量都是海量的，這其中有大量的虛假信息，沒有人能保證你天天拿到的就是真信息，沒有互聯(lián)網(wǎng)時，假信息一樣很多。

被騙了，需要的是自己改變，而不是去要求國家管一管大模型。

相反，如果不少人因?yàn)檩p信大模型內(nèi)容出現(xiàn)了損失，這種傳播會形成一個好的社會效應(yīng)，那就是警示所有人，不要輕信大模型。

這才是一個正常社會中，所有人必須有的心態(tài)。

從這件事上，我們也能發(fā)現(xiàn)，這也不是大模型編的信息，而是各種網(wǎng)絡(luò)平臺本身就可以隨意發(fā)布信息，這些信息被大模型搜索到了，他不過是呈現(xiàn)給你罷了。

04 “投毒”這頂帽子，大模型戴不起

所謂大模型被“投毒”，聽起來挺嚇人，仿佛有人拿著針管往AI的腦子里灌臟東西?？蓡栴}是，大模型有腦子嗎？它連我是誰都搞不清楚，你跟它講投毒？這就有點(diǎn)欺負(fù)老實(shí)人了。

我們得搞清楚一個基本事實(shí)：大模型不生產(chǎn)信息，它只是信息的搬運(yùn)工。你問它某款產(chǎn)品怎么樣，它會去全網(wǎng)搜一圈，然后把你最可能想看的那種答案拼出來。如果全網(wǎng)都是軟文，那它拼出來的自然就是一篇軟文合集。這不是大模型被投毒了，而是互聯(lián)網(wǎng)本身早就被泡在毒水里了。

軟文產(chǎn)業(yè)鏈存在多少年了？早在大模型還是個學(xué)術(shù)名詞的時候，那些優(yōu)化公司就在干同樣的事：批量生產(chǎn)內(nèi)容、操縱搜索引擎排名、讓虛假信息占據(jù)前排。搜索引擎當(dāng)年管不住，現(xiàn)在大模型就能管?。窟@要求，是不是有點(diǎn)太高了？

更可笑的是，315晚會曝光的那個案例，用的還是子虛烏有的產(chǎn)品，也就是說，這產(chǎn)品壓根不存在，只是造了幾十篇軟文，大模型就上當(dāng)了。這只能說明大模型“傻”，卻不能說明大模型被投了毒。換個角度想，如果你是個真人，搜了一圈發(fā)現(xiàn)某個產(chǎn)品全網(wǎng)都在夸，你會不會也信？真人都有可能上當(dāng)?shù)氖拢阕屢粋€連字都不認(rèn)識、只會猜概率的機(jī)器來負(fù)責(zé)，這公平嗎？

說到底，大模型被“投毒”這個說法，本質(zhì)上是把鍋甩給了最無辜的那個環(huán)節(jié)。寫軟文的人不毒，發(fā)軟文的平臺不毒，唯獨(dú)那個幫你把軟文翻出來的AI成了毒源。這邏輯，多少有點(diǎn)立不住。

05 別指望AI替你長大成人

有人說了，那不行啊，AI現(xiàn)在這么普及，萬一有人被誤導(dǎo)了怎么辦？萬一有人用它查偏方，把自己治死了怎么辦？萬一有人用它做投資決策，虧得傾家蕩產(chǎn)怎么辦？

好，這些問題一個一個來。

被誤導(dǎo)這事兒，是人類社會的常態(tài)。沒有AI的時候，你媽轉(zhuǎn)發(fā)的養(yǎng)生文章，你爸信的中醫(yī)秘方，你二舅推薦的股票，哪一樣不是誤導(dǎo)？哪一樣沒人上過當(dāng)？怎么以前被騙是你自己眼瞎，現(xiàn)在被騙就成了AI的鍋？這不叫技術(shù)進(jìn)步，這叫責(zé)任轉(zhuǎn)移。

拿AI查偏方、查投資，這本身就是對自己不負(fù)責(zé)任。醫(yī)生讀了八年書，還得天天進(jìn)修，你讓一個聊天機(jī)器人給你開藥方？華爾街那幫人精，用著幾十萬一臺的彭博終端，還天天虧錢，你讓AI幫你選股票？這不是AI的問題，這是用AI的人腦子不清醒。你拿菜刀切菜，它是個工具；你拿菜刀砍人，它就成了兇器。但責(zé)任在誰，用腳趾頭都能想明白。

關(guān)于萬一有人上當(dāng)怎么辦這個話術(shù)，我特別想反問一句：你是那個萬一嗎？如果你不是，那你操的什么心？如果你是，那你需要的不是整改AI，而是你自己多長個心眼。

人類社會從來不是靠杜絕一切風(fēng)險運(yùn)轉(zhuǎn)的?；ヂ?lián)網(wǎng)上每天產(chǎn)生幾十億條信息，假的比真的還多，你不也活著走出來了嗎？你學(xué)會了分辨，學(xué)會了交叉驗(yàn)證，學(xué)會了看見“震驚”就拉黑。這些技能，不是某個機(jī)構(gòu)教你的，是你自己摔跤摔出來的。

現(xiàn)在輪到AI了，同樣的路，你得再走一遍。

315晚會曝光軟文產(chǎn)業(yè)鏈，初衷是好的。那些靠批量生產(chǎn)垃圾信息、操縱搜索結(jié)果牟利的公司，確實(shí)是信息時代中難以避免的事情。但把矛頭指向大模型，把問題包裝成AI投毒，那就有點(diǎn)轉(zhuǎn)移視線的意思了。

大模型是個工具，它不聰明，也不善良，它只是個會猜字的機(jī)器。你喂它什么，它吐什么；你問它什么，它順著你的意思說。它不是你爹媽，也不是你老師，它沒義務(wù)也沒能力替你判斷真假。

你要學(xué)會的是，別把它當(dāng)真理，別把它當(dāng)權(quán)威。用它查資料，自己再驗(yàn)證一遍；用它寫文案，自己再改一遍。

社會進(jìn)步，從來不是靠把坑填平，而是靠每個人學(xué)會繞坑走。AI時代也一樣。

這世上最不缺的就是“毒”，有些人的心眼，倒是挺缺的。