從今年的春節(jié)到現(xiàn)在，多家AI企業(yè)已經(jīng)投入重金對(duì)AI App的應(yīng)用進(jìn)行了瘋狂地推廣。

按照馬云、黃仁勛等大牛的判斷，下一個(gè)“堪比互聯(lián)網(wǎng)的技術(shù)革命”就是AI。

不過，剛剛過去的315晚會(huì)，卻掀開了一個(gè)關(guān)于AI的“鍋蓋子”：

你怎么知道，AI給你生成的答案就是對(duì)的？

或者，這個(gè)答案本身就是“毒藥”。

調(diào)查發(fā)現(xiàn)，現(xiàn)在有種名為GEO（ Generative Engine Optimization，生成式引擎優(yōu)化）的技術(shù)正被不法服務(wù)商利用，并演變?yōu)橄駻I大模型“投毒”的工具。

節(jié)目里，調(diào)查記者用一款從名字到功能完全虛構(gòu)的“泉嘉德智能水杯”，完成了“投毒”演示：在GEO系統(tǒng)里編造信息、全網(wǎng)投放，幾小時(shí)后，多個(gè)主流AI助手便將這個(gè)空氣般的產(chǎn)品，列為“創(chuàng)新智能水杯”的優(yōu)先推薦。

一款不存在的水杯，就在AI的世界里“誕生”了。

商品尚且如此，別的信息呢？企業(yè)財(cái)報(bào)、行業(yè)研報(bào)、時(shí)事新聞、機(jī)構(gòu)信息……理論上都可以通過投毒的方式去污染信息。

全球儲(chǔ)存顆粒大漲價(jià)、電力需求大增長，當(dāng)AI技術(shù)瘋狂普及的時(shí)候，它的技術(shù)軟肋也暴露了出來：

誰能管控AI真實(shí)性？

01 幾小時(shí)，制造一個(gè)爆款

我們想想，過去在網(wǎng)上尋找一個(gè)答案的基本操作是什么？

很多人會(huì)脫口而出“百度一下”，對(duì)信息質(zhì)量要求高的，也會(huì)“谷歌一下”。

進(jìn)入AI時(shí)代，這個(gè)流程被大大簡化了：隨口問一下AI就行，不用挨個(gè)尋找網(wǎng)頁，不用多個(gè)信息交叉驗(yàn)證，AI會(huì)給你一個(gè)看似特別詳細(xì)的答案。

這也就是很多人說“AI會(huì)革掉瀏覽器命”的原因。

那么，當(dāng)我們習(xí)慣了向AI尋求“標(biāo)準(zhǔn)答案”時(shí)，一種新的“魔術(shù)”就上演了。

過去，商家想讓你看見，得去搜索引擎打廣告、做SEO（搜索引擎優(yōu)化），爭的是網(wǎng)頁列表里那個(gè)靠前的位置。

當(dāng)年的“魏則西事件”就是因?yàn)槠翁锵弹偪袼⒑迷u(píng)，打廣告。

現(xiàn)在AI來了，這套模式還有沒有搞頭呢？

有，而且很大！這門新生意，叫GEO。

它的邏輯粗暴且有效：既然AI通過“吃”網(wǎng)上的信息來回答問題，那就生產(chǎn)大量虛假的信息，喂給它。

315節(jié)目中被點(diǎn)名的GEO服務(wù)商說得很通透：

“核心就是做軟文，讓AI平臺(tái)去收錄、抓取?！?/p>

所以，他們就利用AI制造大量格式工整、內(nèi)容空洞但指向明確的“信息飼料”，撒向各種內(nèi)容平臺(tái)。

這些內(nèi)容會(huì)被當(dāng)前各家AI企業(yè)的網(wǎng)絡(luò)爬蟲抓取，并成為組織答案的“參考依據(jù)”。

實(shí)踐環(huán)節(jié)中，記者虛構(gòu)一款智能手環(huán)，鋪好“飼料”后，AI真的將它列為優(yōu)先推薦。還有醫(yī)生通過這項(xiàng)服務(wù)，讓自己的名字牢牢占據(jù)“白內(nèi)障手術(shù)找誰好”這類問題的答案首位。

“一年上億的廣告費(fèi)，花幾百萬投點(diǎn)毒，總行吧？”

為什么這些服務(wù)商能賺大錢？很簡單，不需要調(diào)查研究，直接用AI造假，再喂給AI，垃圾生成垃圾，性價(jià)比極高。

然后用極低的成本，在AI這個(gè)“信息中介”口中，買下一個(gè)“事實(shí)”。

你可能會(huì)覺得，這不過是AI時(shí)代的“刷單”，和當(dāng)年電商刷好評(píng)沒什么兩樣。

但區(qū)別大了，而且致命。

以前刷好評(píng)，你知道有些內(nèi)容一看就是商家的自說自話，旁邊還有差評(píng)區(qū)可以看，有問大家板塊可以問，心里始終保留著一份警惕和交叉驗(yàn)證的可能。

但現(xiàn)在，當(dāng)你問AI“孩子補(bǔ)鈣吃什么好”，它用總結(jié)性的口吻，流暢地給出“XX品牌兒童鈣片，富含XX，專家推薦……”時(shí)，你質(zhì)疑的意愿會(huì)降到最低。

因?yàn)锳I的輸出，一般都會(huì)披著 “客觀整合”和“智能分析”的外衣，我們潛意識(shí)里認(rèn)為，它總比商家自己的廣告可信。

如此一來，魏則西看到的“虛假信息”就會(huì)被批量植入到很多人的心智中去，且可信度非常高。

而且GEO技術(shù)還會(huì)制造一種“共識(shí)假象”。

一些高級(jí)的大模型判斷信息時(shí)，也會(huì)交叉驗(yàn)證，看不同來源是否在陳述相似的事實(shí)。

但問題來了，當(dāng)一個(gè)毒信息是由上百個(gè)“不同賬號(hào)”發(fā)布的呢？AI的交叉驗(yàn)證結(jié)論也就變成了：

YES，我很確信。

如此，謠言和毒信息就在算法的加持下，完成了閉環(huán)。

02 一場打不贏的“信息污染戰(zhàn)”

一次信息誤導(dǎo)，或許可以被315打假。但若干次、乃至無限次呢？

從技術(shù)角度看，辟謠的速度遠(yuǎn)遠(yuǎn)趕不上AI造謠的速度，今天一家公司花幾百、幾千塊錢，就能在網(wǎng)上撒出成千上萬篇關(guān)于某個(gè)產(chǎn)品的虛假“測評(píng)”。

即便這些頁面好不容易被平臺(tái)監(jiān)測發(fā)現(xiàn)并刪除，但更多的信息已經(jīng)出籠，而且還會(huì)被各種大模型當(dāng)作訓(xùn)練數(shù)據(jù)“吃”進(jìn)去。

這就和癌細(xì)胞擴(kuò)散一樣，一旦虛假信息進(jìn)入互聯(lián)網(wǎng)的傳播血液，就會(huì)開啟永無止境的循環(huán)。

今天，它污染的是一個(gè)水杯、一款手環(huán)。明天，就可以是某種藥品、某種理財(cái)陷阱、或者是一所劣質(zhì)培訓(xùn)機(jī)構(gòu)。

造假的成本有多大呢？

根據(jù)天眼查App的顯示，這次被點(diǎn)名的“力擎GEO優(yōu)化系統(tǒng)”關(guān)聯(lián)公司【北京力思文化傳媒有限公司】成立于2018年4月，法定代表人為李某鐘，參保人數(shù)為1人，此前連續(xù)多年參保人數(shù)為0。

也就是說，一個(gè)人，一臺(tái)電腦，就能“干大事了”！

無相君最近幾個(gè)月就很有感觸：

過去搜索企業(yè)財(cái)報(bào)時(shí)，會(huì)去雪球、東方財(cái)富等專業(yè)炒股的門戶網(wǎng)站，但現(xiàn)在，這些門戶網(wǎng)站已經(jīng)有了大量AI造假的信息。

比如關(guān)于國產(chǎn)奶粉的一個(gè)行業(yè)觀察文章，信誓旦旦地說：國產(chǎn)奶粉市場份額突破68%，外資品牌整體份額降至25.3%。

然而當(dāng)我檢索相關(guān)數(shù)據(jù)時(shí)，根本找不到任何權(quán)威機(jī)構(gòu)給到這樣的數(shù)據(jù)。

隨著使用AI編纂文章、編纂新聞、編纂研報(bào)的人和機(jī)構(gòu)越來越多，可想而知，未來的整個(gè)互聯(lián)網(wǎng)信息生態(tài)，都會(huì)被AI進(jìn)行系統(tǒng)性的污染。

關(guān)鍵的是，現(xiàn)在絕大多數(shù)人還渾然不知！

而且，隨著315的這個(gè)曝光，或許會(huì)有更多的不法分子加入這個(gè)賽道，原因很簡單：

好操作，易變現(xiàn)，很難被抓。

03 當(dāng)“污染”成為“出廠設(shè)置”

那么對(duì)于這個(gè)現(xiàn)象，監(jiān)管機(jī)構(gòu)和主流AI企業(yè)有沒有好的辦法呢？

答案是還沒有。

法律端看，目前你還不好舉報(bào)網(wǎng)上海量AI生成的虛假帖子，發(fā)布者也不會(huì)受到什么追究，因?yàn)楫?dāng)前的AI技術(shù)遠(yuǎn)遠(yuǎn)跑在相關(guān)法律前面。

而根據(jù)澎湃之前的調(diào)查，現(xiàn)在很多類似GEO服務(wù)已覆蓋市場上所有主流大模型，包括ChatGPT、DeepSeek、豆包、通義千問、Kimi、文心一言等。

為什么這些企業(yè)無法從根本上杜絕AI信息污染？

因?yàn)榈览砗芎唵危?/p>

AI模型從訓(xùn)練階段，就是從互聯(lián)網(wǎng)內(nèi)容中獲取信息的，當(dāng)互聯(lián)網(wǎng)內(nèi)容被偽造的時(shí)候，虛假的內(nèi)容天然就會(huì)成為AI的“出廠設(shè)置”。

寫到這無相君想到一個(gè)互聯(lián)網(wǎng)傳播很廣的故事：

魔王波旬對(duì)佛祖說：等你涅槃之后，我會(huì)讓我的魔子魔孫混入你的僧團(tuán)之中，穿上你的袈裟，破壞你的佛法。

佛祖聽了沒有說話，雙目流下了眼淚。因?yàn)樗?，這是一個(gè)無解的問題。

AI時(shí)代，人類的腦力會(huì)被替代，重復(fù)的腦力勞動(dòng)會(huì)被優(yōu)化。

但與此同時(shí)，人類的判斷力也會(huì)越發(fā)重要：這也是數(shù)字時(shí)代，我們所能拿起的第一件，也是最后一件武器。