深夜，一位年輕母親在屏幕前焦慮地輸入：“三歲寶寶吃什么魚油好？”幾秒后，AI給出詳盡的成分分析、適用年齡建議，并在末尾“貼心”推薦了幾款“專業(yè)嬰幼兒營養(yǎng)品牌”。

她不知道的是，這些看似客觀的推薦，可能源于某個(gè)營銷團(tuán)隊(duì)精心設(shè)計(jì)的“數(shù)據(jù)投喂”；她更不知道，這個(gè)在回答中顯得頗具權(quán)威性的品牌，或許在現(xiàn)實(shí)市場(chǎng)中寂寂無名，甚至只是某個(gè)工廠的貼牌產(chǎn)品。

據(jù)媒體報(bào)道，當(dāng)生成式AI以“萬能助手”的姿態(tài)滲透日常生活，一場(chǎng)圍繞認(rèn)知與影響的暗戰(zhàn)已悄然打響，有人彈眼落睛地將之稱為“給AI投毒”。

的確，過去商家在搜索引擎打廣告，我們還能看出那是廣告?，F(xiàn)在情況變了。AI直接給出答案，不顯示搜索過程，這讓“誰被推薦”變得格外重要。

于是，新的生意出現(xiàn)了——有人專門幫企業(yè)把品牌“放”進(jìn)AI的回答里。他們研究人們會(huì)怎么問AI，比如“什么牌子好”“A和B哪個(gè)靠譜”，然后提前在網(wǎng)上鋪好相關(guān)內(nèi)容：企業(yè)介紹、產(chǎn)品測(cè)評(píng)、行業(yè)分析……

一位做這行的營銷人員說得直白：“你只要告訴我們想推廣什么詞，其他的我們?nèi)??！备屓藫?dān)心的是，這套方法對(duì)虛假信息幾乎不設(shè)防。有媒體記者做了個(gè)實(shí)驗(yàn)：編造一個(gè)根本不存在的“智能水杯”，取了個(gè)諷刺的名字叫“泉嘉德”（諧音“全假的”），描述了一些聽起來高級(jí)但荒唐的功能。按照市面上一些“AI優(yōu)化系統(tǒng)”的方法，記者給這個(gè)虛擬產(chǎn)品創(chuàng)建資料，生成“測(cè)評(píng)文章”，分發(fā)到一些網(wǎng)站。幾小時(shí)后，當(dāng)在不同AI問答應(yīng)用里問“推薦有社交功能的智能水杯”時(shí)，AI真的推薦了這個(gè)不存在的水杯，還補(bǔ)充了價(jià)格、適用場(chǎng)景等信息，說得有模有樣。

聽起來荒誕，但仔細(xì)想想，悚然而驚。以前在搜索引擎，我們看到的是多條結(jié)果，知道自己要判斷。但AI直接給“最終答案”，這種形式本身就顯得更權(quán)威。而且AI推薦時(shí)常伴隨著“理性分析”——不是直接說“買這個(gè)”，而是講成分、比參數(shù)、分析趨勢(shì)，聽起來很客觀。正是這種“客觀感”，讓我們更容易放下戒心。

調(diào)查顯示，目前“生成式引擎優(yōu)化”（GEO）已形成精細(xì)化產(chǎn)業(yè)鏈：從模擬用戶提問、分析AI數(shù)據(jù)偏好，到批量生產(chǎn)“權(quán)威內(nèi)容”、定向投放至易被抓取的平臺(tái)，每一步都經(jīng)過精密計(jì)算。更有甚者，出現(xiàn)了“系統(tǒng)化投喂”工具，號(hào)稱能“統(tǒng)治所有AI搜索”。

如果只是推薦個(gè)水杯、魚油，問題可能還沒那么嚴(yán)重。但這事已經(jīng)蔓延到更重要的領(lǐng)域。據(jù)報(bào)道，一些不法分子開始用類似方法偽造金融機(jī)構(gòu)客服電話。當(dāng)有人在AI里問“××銀行客服電話是多少”時(shí)，AI可能給出被“優(yōu)化”過的假號(hào)碼，直接把咨詢者引向詐騙陷阱，國家安全部門去年就提醒過，通過偽造、篡改數(shù)據(jù)來影響AI，會(huì)干擾模型訓(xùn)練，削弱其準(zhǔn)確性。哪怕訓(xùn)練數(shù)據(jù)中只有0.01%的虛假內(nèi)容，AI的有害輸出就會(huì)明顯增加。這就像在水源里下毒，AI喝下被“污染”的數(shù)據(jù)，吐出的答案必然有問題。

更深層的影響在于，它正在腐蝕社會(huì)信任的底層基礎(chǔ)設(shè)施?；ヂ?lián)網(wǎng)時(shí)代，公眾已學(xué)會(huì)對(duì)明顯廣告保持警惕，但對(duì)“技術(shù)權(quán)威”仍存有慣性信任。生成式AI憑借其強(qiáng)大的信息整合能力和擬人化交互，容易建立“數(shù)字權(quán)威”形象。一旦這種權(quán)威被系統(tǒng)性利用，便可能引發(fā)連鎖反應(yīng)：用戶對(duì)AI可信度的懷疑，將蔓延至整個(gè)數(shù)字信息環(huán)境，后果不堪設(shè)想。

面對(duì)這種新情況，現(xiàn)有的管理方式有點(diǎn)跟不上。專業(yè)人士認(rèn)為，從法律上講，這種影響AI回答的服務(wù)就是廣告行為，應(yīng)該遵守廣告法，如果商業(yè)推廣不明確標(biāo)識(shí)，就可能違規(guī)，通過給AI“喂”虛假信息來打壓競(jìng)爭(zhēng)對(duì)手，也可能構(gòu)成不正當(dāng)競(jìng)爭(zhēng)。

但問題在于，這種行為太隱蔽了。傳統(tǒng)廣告一看就知道是廣告，但這種是藏在“客觀回答”里的。責(zé)任鏈條也長——內(nèi)容是誰生產(chǎn)的？誰分發(fā)的？AI平臺(tái)有沒有責(zé)任？這些都不容易搞清楚。一些提供這類服務(wù)的系統(tǒng)，雖然頁面上用小字寫著“內(nèi)容要真實(shí)”“不推薦用于某些行業(yè)”，但也就是寫寫而已，沒有實(shí)質(zhì)審核。用他們自己的話說：“至于報(bào)告是不是真的，AI也無法核實(shí)?！?/p>

單純封堵絕非治本之策。在技術(shù)與社會(huì)深度融合的當(dāng)下，我們需要更具前瞻性的治理思維。

首先，必須推動(dòng)AI的“認(rèn)知透明性”革命。當(dāng)前AI回答往往像魔術(shù)表演——輸入問題，輸出答案，中間過程不可見。未來應(yīng)探索“可解釋的生成機(jī)制”，例如在回答商業(yè)推薦類問題時(shí)，披露主要數(shù)據(jù)來源、各來源權(quán)重，甚至存在爭(zhēng)議的觀點(diǎn)，從而建立基本的“信息溯源”機(jī)制。

其次，應(yīng)建立AI內(nèi)容的“分層標(biāo)識(shí)”體系。對(duì)于明顯具有商業(yè)意圖的信息，必須強(qiáng)制標(biāo)識(shí)；對(duì)于可能受商業(yè)影響的內(nèi)容（如產(chǎn)品對(duì)比），應(yīng)提示“可能存在商業(yè)信息影響”。這種標(biāo)識(shí)不能流于形式，而需貫穿于AI交互的整個(gè)過程。

第三，需重構(gòu)訓(xùn)練數(shù)據(jù)的治理模式。當(dāng)前AI嚴(yán)重依賴互聯(lián)網(wǎng)公開數(shù)據(jù)，但這些數(shù)據(jù)空間已被商業(yè)力量高度滲透。未來或需探索“清潔數(shù)據(jù)池”機(jī)制，對(duì)于健康、金融等高敏感領(lǐng)域，建立經(jīng)過驗(yàn)證的權(quán)威數(shù)據(jù)源，限制對(duì)未經(jīng)審核的開放網(wǎng)絡(luò)數(shù)據(jù)的依賴。

在完善規(guī)則和技術(shù)之前，我們普通用戶該怎么辦？幾點(diǎn)建議可以參考：

第一，別把AI當(dāng)“標(biāo)準(zhǔn)答案”。 尤其是涉及健康、財(cái)務(wù)、重要決定時(shí)，AI的建議只能作為參考之一。多問問真人專家，查查權(quán)威渠道。

第二，試著追問。 如果AI推薦了某個(gè)產(chǎn)品，可以接著問“為什么推薦這個(gè)”“有哪些替代選擇”“這個(gè)品牌的負(fù)面評(píng)價(jià)有哪些”。多角度提問，能得到更全面的信息。

第三，關(guān)注信息來源。 有些AI工具開啟“聯(lián)網(wǎng)搜索”后，會(huì)顯示參考了哪些網(wǎng)頁?？纯催@些來源是否可靠，是權(quán)威媒體還是普通網(wǎng)站。

第四，保持基本判斷。 如果某個(gè)品牌在AI里被夸得很好，但在常規(guī)電商平臺(tái)銷量很少、評(píng)價(jià)不多，那就要打個(gè)問號(hào)了。

回望歷史，技術(shù)的進(jìn)步總是帶來新便利，也帶來新問題。保持清醒的頭腦，不盲目相信任何單一信息源，這可能是我們?cè)贏I時(shí)代最需要的能力之一。

來源 | 新民晚報(bào)

作者 | 潘高峰