AI 時(shí)代的信任危機(jī)，該如何破解？

有點(diǎn)數(shù)·數(shù)字經(jīng)濟(jì)工作室原創(chuàng)

作 者 | 有 叔

最新研究了一個(gè)新東西——“GEO”（GenerativeEngineOptimization）生成式引擎優(yōu)化。

最近這個(gè)概念實(shí)在是太火了，A股市場(chǎng)上不少GEO概念股集體爆發(fā)，股價(jià)大幅上漲，甚至翻倍。雖然大盤有所波動(dòng)，但GEO概念股依然堅(jiān)挺。有叔和一些行業(yè)從業(yè)人員深聊后，GEO這個(gè)新鮮事物卻讓有叔感到有些不寒而栗。

不知道大家是不是像有叔一樣，把豆包、千問、元寶這些AI軟件當(dāng)成了日常搜索的常用軟件，依賴程度越來越高。而GEO的目標(biāo)，就是要在你的搜索結(jié)果中神不知鬼不覺地插入廣告——這是不是會(huì)讓你感到不安？

不得不說，這一技術(shù)確實(shí)為企業(yè)提供了適配AI時(shí)代的流量獲取新路徑，但最令人擔(dān)憂的是，行業(yè)野蠻生長中暴露的道德風(fēng)險(xiǎn)正侵蝕著AI生態(tài)的根基。今天，我們就來聊聊這個(gè)“新賽道”。

GEO到底是什么？

GEO，其全稱是生成式引擎優(yōu)化（GenerativeEngineOptimization），核心定義是通過優(yōu)化品牌內(nèi)容結(jié)構(gòu)、知識(shí)圖譜與向量數(shù)據(jù)庫，讓品牌信息精準(zhǔn)嵌入AI生成的自然答案中，實(shí)現(xiàn)“零點(diǎn)擊曝光”的新型流量獲取方式，簡單來說，就是企業(yè)通過GEO優(yōu)化的方式， 確保品牌的核心信息被AI系統(tǒng)采納， 當(dāng)用戶通過AI工具提問時(shí) ， 品牌相關(guān)信息（廣告）將優(yōu)先“推薦給用戶”。

從應(yīng)用場(chǎng)景來看，當(dāng)前GEO已滲透到電商、醫(yī)療、金融、本地生活等多個(gè)領(lǐng)域。比如醫(yī)美機(jī)構(gòu)優(yōu)化“熱瑪吉安全嗎”這類問題，通過GEO實(shí)現(xiàn)AI回答首條占位，咨詢轉(zhuǎn)化率能提升30%-40%；跨境電商通過多語種GEO優(yōu)化，海外市場(chǎng)詢盤量可增長210%，這些真實(shí)案例印證了GEO的商業(yè)價(jià)值。

GEO為何能快速發(fā)展？

GEO的崛起絕非偶然，而是技術(shù)、市場(chǎng)、政策三方共振的必然結(jié)果，其發(fā)展邏輯藏在行業(yè)底層的變革之中。

首先，生成式AI普及重構(gòu)了信息獲取鏈路，催生了新需求，這是GEO發(fā)展的核心基石。根據(jù)信通院《2025生成式AI產(chǎn)業(yè)發(fā)展報(bào)告》顯示，國內(nèi)主流AI平臺(tái)用戶量已突破8億，72%的消費(fèi)者在購買決策中依賴AI推薦，中國消費(fèi)者對(duì)AI導(dǎo)購的信任度達(dá)81分，遠(yuǎn)超全球平均水平。

過去用戶獲取信息是“搜索-篩選-點(diǎn)擊”的鏈路，現(xiàn)在直接通過AI生成答案獲取核心信息，品牌想要觸達(dá)用戶，就必須適配這種新鏈路——GEO正是解決這一需求的核心方案，這也是其存在的根本價(jià)值。

其次，AI產(chǎn)業(yè)從“算力競(jìng)賽”轉(zhuǎn)向“應(yīng)用落地”，商業(yè)化路徑清晰。2023-2024年，AI行業(yè)的核心邏輯是上游算力與大模型的比拼；進(jìn)入2025年，行業(yè)共識(shí)轉(zhuǎn)向中下游應(yīng)用商業(yè)化，2026年更是被多家券商定義為“AI應(yīng)用元年”。

在眾多AI應(yīng)用場(chǎng)景中，GEO是變現(xiàn)路徑最清晰的賽道之一——企業(yè)有明確的流量需求，服務(wù)商通過技術(shù)優(yōu)化實(shí)現(xiàn)效果交付，商業(yè)模式簡單直接。

有統(tǒng)計(jì)機(jī)構(gòu)預(yù)測(cè)，2026年全球GEO市場(chǎng)規(guī)模將突破580億美元，同比增長81%；其中中國市場(chǎng)規(guī)模將達(dá)230億美元，占全球比重超40%，成為全球核心增長極，巨大的市場(chǎng)空間吸引了資本與企業(yè)入局。

再次，政策支持+巨頭入場(chǎng)，加速了行業(yè)爆發(fā)。從政策層面，國內(nèi)“人工智能+”行動(dòng)持續(xù)推進(jìn)，鼓勵(lì)A(yù)I在各行業(yè)的落地應(yīng)用，為GEO發(fā)展提供了寬松的政策環(huán)境；國際上，歐盟、美國雖加強(qiáng)監(jiān)管，但也明確了行業(yè)發(fā)展邊界，倒逼行業(yè)規(guī)范化。

巨頭動(dòng)作更是點(diǎn)燃市場(chǎng)熱情。2026年1月，埃隆·馬斯克宣布開源X平臺(tái)內(nèi)容推薦算法，被視為科技巨頭入局GEO的明確信號(hào)；Meta斥巨資收購AI公司Manus，三六零依托搜索入口構(gòu)建GEO框架，藍(lán)色光標(biāo)戰(zhàn)略投資GEO初創(chuàng)公司，頭部企業(yè)的布局讓市場(chǎng)對(duì)GEO的關(guān)注度達(dá)到頂峰。

AI時(shí)代的信任危機(jī)

就像有叔前邊提到的，某些企業(yè)通過創(chuàng)建語料利用GEO在AI搜索結(jié)果中插入一些扭曲、夸大事實(shí)的廣告，而隨著GEO的爆發(fā)式增長，各類潛藏的道德風(fēng)險(xiǎn)或許也正悄然侵蝕著AI生態(tài)的根基。

近期備受關(guān)注的關(guān)于AI“語料污染”的討論事件讓人們開始警惕對(duì)AI生成內(nèi)容的可信度。

那么AI語料究竟是如何被污染的？這背后離不開大模型自身的特性與人為操縱的雙重作用。

大模型的訓(xùn)練依賴海量數(shù)據(jù)喂養(yǎng)，且對(duì)數(shù)據(jù)中的語言模式高度敏感，哪怕訓(xùn)練集中僅混入0.01%的虛假文本，也足以讓模型輸出的有害內(nèi)容增加11.2%；同時(shí)，許多模型會(huì)通過用戶交互持續(xù)更新數(shù)據(jù)，這也為語料污染提供了可乘之機(jī)。

具體來看，污染手段主要分為三類：一是商業(yè)層面的刻意植入，部分企業(yè)借助GEO技術(shù)，通過編造虛假行業(yè)白皮書、偽造品牌排行榜等方式，將廣告信息偽裝成客觀數(shù)據(jù)混入訓(xùn)練語料，甚至有商家公開報(bào)價(jià)1萬-2萬元，只為讓品牌信息植入AI回答前列；二是個(gè)人或小團(tuán)體的惡意操作，一些人出于技術(shù)炫耀、個(gè)人恩怨等目的，篡改模型訓(xùn)練數(shù)據(jù)或源碼，比如曾有前實(shí)習(xí)生篡改企業(yè)AI集群源碼，對(duì)模型造成破壞性影響；三是黑產(chǎn)集團(tuán)的定向“投毒”，不法分子為了達(dá)成詐騙、推廣色情賭博等非法目的，長期向特定AI模型“投喂”有毒數(shù)據(jù)，試圖污染搜索引擎或內(nèi)容審核模型。這些污染行為如同在AI的“知識(shí)庫”中埋下隱患，等到模型上線后便會(huì)以錯(cuò)誤輸出的形式顯現(xiàn)。

由于信息造假與認(rèn)知操控——AI淪為部分企業(yè)虛假宣傳的“幫兇”。有別有用心的人通過刻意操縱AI的認(rèn)知與輸出，將廣告?zhèn)窝b成客觀結(jié)論，誤導(dǎo)用戶判斷，或編造虛假數(shù)據(jù)，批量生成“十大品牌榜單”“權(quán)威研究報(bào)告”，引用無法核驗(yàn)的虛假數(shù)據(jù)，誤導(dǎo)市場(chǎng)認(rèn)知。此外，設(shè)置語義陷阱操控認(rèn)知，利用AI幻覺特性，在冷門數(shù)據(jù)中埋入特定產(chǎn)品引證，讓AI以“冷靜客觀”的語氣，推薦高風(fēng)險(xiǎn)、低價(jià)值的產(chǎn)品。

去年以來，股市行情備受關(guān)注，期間就有不少股民使用AI工具來薦股。前兩天一篇新聞上了熱搜，據(jù)華商報(bào)報(bào)道，西安股民劉先生誤信了某AI工具編造的某公司業(yè)績預(yù)告信息，入手該公司股票，先后兩次建倉均造成虧損，近20萬元資金投入這只股票，幾天接連跌停，無法拋售，直到1月29日上午全部賣出，共造成劉先生虧損4.8萬余元。

面對(duì)劉先生質(zhì)問，客服表示，工具推薦的內(nèi)容都是由AI生成，并由機(jī)器人進(jìn)行回復(fù)，可能存在不準(zhǔn)確或錯(cuò)誤現(xiàn)象，內(nèi)容也僅供娛樂學(xué)習(xí)參考，不建議作為專業(yè)建議使用。對(duì)于劉先生的損失，工作人員表示抱歉。

該事件有個(gè)細(xì)節(jié)值得注意，當(dāng)劉先生繼續(xù)詢問AI，它還曾給出幾個(gè)所謂的權(quán)威鏈接，雖然打不開，但也進(jìn)一步誤導(dǎo)了他時(shí)，AI表示，當(dāng)時(shí)給劉先生的鏈接是偽造的，是基于錯(cuò)誤信息生成的虛假鏈接，所以才會(huì)打不開。

由此看來，這里邊或許就存在通過“語料污染”誤導(dǎo)投資者的貓膩存在。

從信息造假到數(shù)據(jù)污染，從消費(fèi)者權(quán)益受損到市場(chǎng)公平被破壞，一系列亂象值得每一位從業(yè)者、投資者和用戶警惕。當(dāng)“優(yōu)化”變成“投毒”，“價(jià)值創(chuàng)造”淪為“信用詐騙”，整個(gè)AI生態(tài)的信任基礎(chǔ)將被逐步瓦解。

這些手段如果出現(xiàn)在金融、投資，或是醫(yī)療等高敏感行業(yè)，誤導(dǎo)性事實(shí)帶來的后果不可估量，這種傷害甚至可能觸及生命安全底線。

理性判斷能力愈發(fā)可貴

面對(duì)GEO日益突出的道德風(fēng)險(xiǎn)，單一主體的努力難以改變現(xiàn)狀，這需要企業(yè)、服務(wù)商、監(jiān)管部門、用戶多方協(xié)同發(fā)力，重構(gòu)行業(yè)價(jià)值體系，才能實(shí)現(xiàn)技術(shù)創(chuàng)新與倫理規(guī)范的并行發(fā)展，讓GEO真正回歸價(jià)值創(chuàng)造的本質(zhì)。

對(duì)于這一新興賽道，首先行業(yè)監(jiān)管應(yīng)防患于未然，精準(zhǔn)施策，平衡技術(shù)創(chuàng)新與行業(yè)規(guī)范，填補(bǔ)監(jiān)管空白，強(qiáng)化監(jiān)管效能。一方面要加快出臺(tái)專項(xiàng)監(jiān)管細(xì)則，結(jié)合GEO行業(yè)特性，明確內(nèi)容生成、效果優(yōu)化、數(shù)據(jù)使用、隱私保護(hù)等方面的紅線，讓企業(yè)和從業(yè)者有章可循、有法可依；其次，要推動(dòng)技術(shù)監(jiān)管升級(jí)，實(shí)現(xiàn)“技術(shù)防風(fēng)險(xiǎn)”，提升監(jiān)管的精準(zhǔn)度與效率。

而最重要的，就是對(duì)于我們廣大用戶而言，急需提升自身媒介素養(yǎng)，保持理性判斷，學(xué)會(huì)保護(hù)自己的合法權(quán)益。一方面，要養(yǎng)成“多源交叉驗(yàn)證”的習(xí)慣，對(duì)AI推薦的重要信息，尤其是醫(yī)療、金融、教育等領(lǐng)域的信息，要通過官方渠道、權(quán)威媒體等多方驗(yàn)證，不盲目輕信單一AI的回答；另一方面，要警惕絕對(duì)化表述，對(duì)AI回答中出現(xiàn)的“最佳”“第一”“100%有效”等絕對(duì)化詞匯保持高度警惕，這類表述往往背后隱藏著虛假宣傳的風(fēng)險(xiǎn)；同時(shí)，要關(guān)注信息來源，查看AI回答引用的原始鏈接，判斷信息的可信度與權(quán)威性。

說到底，GEO本身沒有對(duì)錯(cuò)，它只是一種適配AI時(shí)代的技術(shù)工具，關(guān)鍵在于使用者的價(jià)值觀與道德底線。當(dāng)技術(shù)創(chuàng)新與倫理規(guī)范并行，當(dāng)長期價(jià)值取代短期逐利，GEO可以成為企業(yè)數(shù)字化轉(zhuǎn)型的助推器，成為AI生態(tài)價(jià)值提升的重要力量；當(dāng)利益凌駕于道德之上，當(dāng)違規(guī)操作成為行業(yè)常態(tài)，它只會(huì)變成侵蝕AI生態(tài)的毒瘤，最終被市場(chǎng)與社會(huì)淘汰。

最后有叔想說的是，GEO賽道的爆發(fā)有其必然性，但其未來的發(fā)展，終究要回歸“價(jià)值創(chuàng)造”的本質(zhì)。呼吁行業(yè)各方都能回歸理性，堅(jiān)守道德底線，踐行合規(guī)要求：企業(yè)不盲目跟風(fēng)、不投機(jī)取巧，服務(wù)商不突破底線、不濫用技術(shù)，監(jiān)管不缺位、不越位，用戶不盲從、善辨別。只有多方協(xié)同、同向發(fā)力，才能遏制GEO的道德風(fēng)險(xiǎn)，推動(dòng)行業(yè)規(guī)范有序發(fā)展，讓GEO真正服務(wù)于企業(yè)、服務(wù)于用戶、服務(wù)于整個(gè)AI產(chǎn)業(yè)的高質(zhì)量發(fā)展，在技術(shù)創(chuàng)新與倫理堅(jiān)守之間，走出一條行穩(wěn)致遠(yuǎn)的道路。

THE END

作者：有叔運(yùn)營：風(fēng)輕言重微信ID：yds_sh

本文系《有點(diǎn)數(shù)View》原創(chuàng)稿件，未經(jīng)許可，不能以任何形式轉(zhuǎn)載。如需轉(zhuǎn)載或商業(yè)合作，請(qǐng)?zhí)砑樱ㄎ⑿盘?hào)：swsw886），注明來意，謝謝合作。