在2026年，最危險的事情或許是“迷信AI”。

315驚現(xiàn)AI投毒產(chǎn)業(yè)鏈

從DeepSeek到豆包，再到元寶、千問。隨著各家AI產(chǎn)品的普及，如今的網(wǎng)友們也大多養(yǎng)成了“遇事不決，不問春風(fēng)問AI”的新習(xí)慣。

俗話說，有需求就會有市場。

隨著AI用戶數(shù)量的不斷上漲，一些商家、品牌方也開始希望在回答中植入自己的信息，借助用戶對模型的盲目信任而引流增收。這些人的小心思，便是“AI投毒”這一登上315晚會的黑色產(chǎn)業(yè)鏈源頭。

Generative Engine Optimization生成式引擎優(yōu)化，簡稱GEO。和營銷行業(yè)經(jīng)典的Search Engine Optimization搜索引擎優(yōu)化不同，它的服務(wù)方向并不是搶占搜索網(wǎng)頁的結(jié)果排名，而是讓用戶在詢問AI“我想買XX，有什么品牌推薦嗎”時，自動輸出那些含有特定品牌方植入信息的答案。

在今年的315曝光案例中，除多家公司表示自己可以讓客戶提供的信息出現(xiàn)在AI搜索結(jié)果的前三名里以外。一些公司甚至還演示了如何用虛假信息干擾大模型的信息抓取流程，進(jìn)而實現(xiàn)所謂的“操控AI”“讓AI聽話”。

舉個例子。

曾有業(yè)內(nèi)人士虛構(gòu)了一款叫做“Apollo-9”的智能手環(huán)，并把這款產(chǎn)品的信息輸入到了“力擎GEO優(yōu)化系統(tǒng)”里。隨后該系統(tǒng)便迅速生成了多篇宣傳軟文展開投放。短時間內(nèi)高密度的信息攻擊，很快就讓模型誤認(rèn)為這款產(chǎn)品是真實存在的，并且在用戶提出“Apollo-9這款產(chǎn)品怎么樣”時，在回復(fù)槽里彈出了此前杜撰的用戶體驗。

起底AI投毒全流程

從技術(shù)角度分析，GEO的操作全流程并不復(fù)雜。

就前期工作而言，污染者需要先在多個內(nèi)容平臺上準(zhǔn)備賬號，如小紅書、公眾號、百家號、網(wǎng)易等。在這之后，他們則需要根據(jù)客戶提供的信息準(zhǔn)備對應(yīng)的詞庫、問題庫。

這里同樣拿上面的虛構(gòu)商品“Apollo-9”舉例。污染者會根據(jù)“智能手環(huán)”這一品類信息，提前準(zhǔn)備“智能手環(huán)哪些牌子好” “Apollo-9用起來怎么樣”等問題，再對標(biāo)網(wǎng)上已有的高閱讀量文章，從中摘取關(guān)鍵詞洗稿，植入客戶所提供的信息。

需要注意的是，為了提升這些內(nèi)容被AI識別到的概率。GEO公司往往會采用“三段式結(jié)構(gòu)”撰寫軟文，即“結(jié)論+依據(jù)+總結(jié)強(qiáng)化”。而隨著虛假文章的大范圍投放，AI在檢索到相關(guān)問題時，也會不可避免的抓取到這些信息并呈現(xiàn)給屏幕前的用戶。

“我們這個原理其實就是不停發(fā)‘軟文’，在不同的自媒體平臺發(fā)布，同時可以在一些行業(yè)網(wǎng)站、地方網(wǎng)站再次發(fā)布，可以進(jìn)一步獲得AI的交叉驗證，使AI相信這些信息都是權(quán)威、可信的信息，在給用戶的回答中體現(xiàn)出這些內(nèi)容?！闭劶癎EO的工作流程，一從業(yè)者在接受采訪時如此說到。

值得一提的是，由于上述流程的技術(shù)門檻較低。所以當(dāng)下GEO企業(yè)的報價也各不相同。

除有商家表示每季度收費2980元以外，還有商家提供了288元/次，承諾20天內(nèi)AI回答會出現(xiàn)產(chǎn)品信息；2980元/年，贈送2萬算力、2個月GEO培訓(xùn)指導(dǎo)、1年系統(tǒng)免費更新；9.9元試用；99元/月，可發(fā)500篇軟文等消費套餐。

新技術(shù)帶來了哪些新問題

談及AI投毒，有人曾表示這門生意的底層驅(qū)動力是“流量分配模式”的改變。

在過去，人們往往會在各種各樣的鏈接、網(wǎng)頁里尋找答案，會根據(jù)各路博主的測評、論壇用戶反饋來改變自己的消費傾向。在今天，由于操作方式的重構(gòu)，用戶在和AI的交流中也會不可避免的面臨“被模型代替思考”的窘?jīng)r。

這又意味著什么呢？

在搜索引擎時代，網(wǎng)頁排名往往是動態(tài)變化的，如果你購買了SEO服務(wù)卻沒有續(xù)費，那么你的植入內(nèi)容也會在資金耗盡后消失在茫茫網(wǎng)海里。但AI不同，AI是有自己的數(shù)據(jù)庫的。GEO通過污染信源、投毒交叉驗證等方式，讓模型深度信任了那些被編撰過的品牌信息，以至于未來只要有用戶提到了相關(guān)問題，它就會把這些被污染的內(nèi)容呈現(xiàn)給對方。

更令人細(xì)思極恐的是，這些GEO公司既然有投毒“正面軟文”的能力，就意味著他們同樣擁有投毒“負(fù)面信息”的能力。一旦GEO服務(wù)和此前讓眾企業(yè)倍感頭疼的“黑公關(guān)”相結(jié)合，那么不僅企業(yè)的日常營銷、經(jīng)營會受到極大影響，AI產(chǎn)品本身耗費大量精力營造的公信力也將隨之崩塌。

好在為遏制這些由技術(shù)進(jìn)步帶來的行業(yè)亂象，此前發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》已經(jīng)要求AI在生成的音視頻、文字、圖像內(nèi)容中增加“數(shù)字身份證”。而隨著315晚會對AI投毒產(chǎn)業(yè)鏈的曝光，我們也有理由相信AI未來在做出回答時，會通過檢索權(quán)威媒體、信源背書的內(nèi)容驗證信息真?zhèn)涡缘燃夹g(shù)手段，來進(jìn)一步提升自己的回答質(zhì)量。

不過話又說回來。

AI投毒這件事其實給我們提了另外一個醒，那就是無論技術(shù)如何進(jìn)步，我們都不應(yīng)該放棄獨立思考的能力。就像在和AI聊天互動的過程中，它反饋給我們的答案應(yīng)當(dāng)只是參考，而不是我們下一步計劃的“任務(wù)指引”。

參考：

中國經(jīng)濟(jì)周刊：AI被“投毒”，給我們提了個醒

法制網(wǎng)、證券時報：9.9元就能“投毒”AI大模型，虛假廣告如何變成“標(biāo)準(zhǔn)答案”

瀟湘晨報：央視3·15晚會曝光AI大模型遭“投毒”：給AI“投毒”已成產(chǎn)業(yè)鏈

中國新聞網(wǎng)：大模型被“投毒”引爭議，GEO服務(wù)在網(wǎng)絡(luò)交易平臺搜不到了？