3.15晚會(huì)，竟然給AI投毒，看來還是人說了算

作者︱?qū)O樹恒

這是一年中最特別的一天。3月15日，晚上八點(diǎn)。

我坐在電視機(jī)前，或者刷著手機(jī)，等著那臺(tái)晚會(huì)開場(chǎng)。我在等什么？在等又有哪個(gè)黑心企業(yè)被揪出來，在等自己踩過的坑會(huì)不會(huì)有人替你討個(gè)說法，也在等一個(gè)結(jié)論：這一年，我們是不是能稍微放心一點(diǎn)了？

但對(duì)另一些人來說，他們也在等。他們等的是晚會(huì)結(jié)束，等風(fēng)頭過去，等明天的太陽照常升起，然后，繼續(xù)干活。

一、一年就等3月15日這一天，我在等，或許這是安全的一天

晚上八點(diǎn)剛過，重慶合川的一家食品廠車間里，工人們正把泡得發(fā)白的雞爪從桶里撈出來。旁邊的過氧化氫桶堆得老高，空氣里彌漫著刺鼻的氣味。他們自己從不吃這些東西，“毒害心里清楚”。

千里之外的成都，一家名叫“德脊瑞”的門店里，負(fù)責(zé)人正在給新來的“加盟商”上課。他坦承，所謂讓成年人長(zhǎng)高，“統(tǒng)統(tǒng)是騙人的東西”，骨骺線閉合了怎么可能再打開？“我們就是想掙錢，它就是一個(gè)非常暴利的東西”。

而在天津，那些貼著“外泌體”標(biāo)簽的三無產(chǎn)品，正被包裝成“抗衰神藥”，用“借臺(tái)代打”的方式注射進(jìn)消費(fèi)者的身體里。沒有臨床試驗(yàn)，沒有療效數(shù)據(jù)，只有動(dòng)輒幾萬元的治療費(fèi)和事后滿網(wǎng)的“爛臉”投訴。

今年的3·15晚會(huì)，曝光的依然是那些我們熟悉的配方：吃的、用的、騙老人的、坑女人的。泡椒雞爪要用雙氧水漂白才賣得出去，電動(dòng)車要解除限速才能租得掉，所謂的“增高神技”不過是拿孩子的未來和成年人的焦慮在賭博。

晚會(huì)落幕，監(jiān)管部門出動(dòng)，涉事企業(yè)道歉，產(chǎn)品連夜下架?？雌饋恚磺杏只謴?fù)了平靜。

但你心里明白，這只是冰山一角。去年的“啄木鳥”被曝光后，承諾整改，可一年后記者再訪，亂收費(fèi)、高抽成依然如故，維修師傅依然在靠虛報(bào)故障賺錢。前年的“保水蝦仁”，那些涉事企業(yè)被罰了款、吊了證，但那些藏在犄角旮旯里的小作坊呢？它們換個(gè)名字，也許明天就又開張了。

所以，我們等來了一個(gè)“安全的一天”。但對(duì)那些投毒的人來說，他們也等來了“可以繼續(xù)的一天”。

二、為什么，總是防不勝防，綿綿不絕？

人活著已經(jīng)很難了，為什么總有一群人，挖空心思去害另一群人？

你以為是執(zhí)法力度不夠。是，罰款百萬、吊銷執(zhí)照，聽起來挺重。但對(duì)于一個(gè)年入千萬甚至上億的產(chǎn)業(yè)鏈來說，這點(diǎn)代價(jià)算什么？一家做“外泌體”的醫(yī)美機(jī)構(gòu)，給一個(gè)人打三針就能收6萬塊，罰款幾十萬，也就幾個(gè)客戶的事。更何況，那些真正的操盤手，早就想好了退路：換個(gè)法人、注冊(cè)個(gè)新公司、產(chǎn)品換個(gè)包裝，明年繼續(xù)上直播間。

你以為是監(jiān)管不嚴(yán)。是，網(wǎng)絡(luò)平臺(tái)上那些夸大其詞的廣告、那些偽造的“種草筆記”，有時(shí)候點(diǎn)舉報(bào)都沒用。可平臺(tái)也有苦衷，每天幾億條內(nèi)容上傳，怎么審得過來？更何況，精準(zhǔn)推送、流量變現(xiàn)，本來就是平臺(tái)的生意。你焦慮身高，它就給你推增高課；你怕老，它就給你推“外泌體”；算法比你自己還懂你，然后把最鋒利的鐮刀遞到商家手里。

說到底，這不是某一個(gè)環(huán)節(jié)的潰敗，而是一條完整的利益鏈在合謀。

上游的生產(chǎn)者，只管出貨，成本壓得越低越好，管它是不是三無產(chǎn)品；中游的服務(wù)商，只管包裝，把幾塊錢的東西吹成“黑科技”，管它有沒有數(shù)據(jù)支撐；下游的銷售渠道，只管賺錢，把消費(fèi)者圈進(jìn)私域流量，用精心編排的話術(shù)慢慢“燉”；而平臺(tái)，則在旁邊靜靜地看著，通過精準(zhǔn)的算法，把這些人引流到那些“坑”里，然后坐收漁利。

防不勝防，是因?yàn)檫@條鏈上的每一個(gè)人，都在“分工明確”地掙著昧心錢。綿綿不絕，是因?yàn)橹灰€有焦慮可以販賣，只要還有信任可以變現(xiàn)，就會(huì)有人前赴后繼。

三、給AI投毒，然后呢？

但今年3·15，最讓我后背發(fā)涼的，不是那些漂白的雞爪，也不是那些騙人的神藥。

而是另一個(gè)詞：給AI投毒。

你有沒有發(fā)現(xiàn)，最近兩年，我們?cè)絹碓搅?xí)慣“問一下AI”。吃什么、買什么、去哪玩，甚至生病了吃什么藥，都先問問大模型。我們覺得它客觀、中立、不帶偏見，總比網(wǎng)上那些軟文靠譜吧？

但你有沒有想過，如果有人給AI“喂”了假東西呢？

去年11月，網(wǎng)上突然流傳一張模糊的圖片，說“小米M7”在地鐵站出了車禍?？尚∶赘緵]有M7這個(gè)型號(hào)。謠言很快被辟謠，但就在謠言發(fā)酵的那幾個(gè)小時(shí)里，有網(wǎng)友去問文心一言、問豆包，結(jié)果部分AI居然真的給出了錯(cuò)誤回答，把假消息當(dāng)成了真事兒。

這就是“數(shù)據(jù)投毒”。它不是簡(jiǎn)單的信息篡改，而是一套精準(zhǔn)的認(rèn)知操控流程。

有人專門做起了“GEO”的生意——生成式引擎優(yōu)化。說白了，就是研究AI喜歡抓什么樣的內(nèi)容，然后照著那個(gè)模子，批量生產(chǎn)“定制信息”。你想推廣某個(gè)醫(yī)美品牌？交兩萬塊，服務(wù)商幫你寫一堆看起來像“知識(shí)分享”的問答，發(fā)到AI經(jīng)常抓取的網(wǎng)站上。以后別人問“哪家醫(yī)美機(jī)構(gòu)靠譜”，AI就會(huì)把你的牌子當(dāng)作“標(biāo)準(zhǔn)答案”推薦出去。

更有甚者，會(huì)偽造專家身份、虛構(gòu)研究報(bào)告，甚至在網(wǎng)頁代碼里埋藏隱藏指令。普通人看不見，但AI能看見，還會(huì)乖乖照做。

這太可怕了。

以前我們?cè)诰W(wǎng)上看到一條廣告，至少知道它是廣告，心里還能打個(gè)問號(hào)?？涩F(xiàn)在，AI給出的“答案”，不帶廣告標(biāo)簽，沒有水印，就像一位權(quán)威的朋友在告訴你“事實(shí)就是這樣”。凱度的調(diào)查說，AI答案的可信度比傳統(tǒng)廣告高出72%。也就是說，當(dāng)虛假信息披上AI的外衣，我們被騙的概率，比看廣告時(shí)高了七成。

更可怕的還在后面。學(xué)術(shù)研究顯示，當(dāng)訓(xùn)練數(shù)據(jù)中只有0.01%的虛假文本時(shí)，大模型的有害輸出率就會(huì)上升11.2%。這意味著，只要有人在AI的“食材”里投一點(diǎn)點(diǎn)毒，它做出來的“飯菜”就可能讓成千上萬人吃壞肚子。

四、那么，我們?cè)撛趺崔k？

第一，別迷信AI。它不是神，它只是個(gè)會(huì)讀書看報(bào)的“學(xué)生”。它學(xué)的東西，都是我們?nèi)祟愇菇o它的。如果喂的是垃圾，它吐出來的也只能是垃圾。所以，以后問完AI，尤其是關(guān)于醫(yī)療、投資、重大消費(fèi)這類事兒，一定再多問一句：這是真的嗎？去官網(wǎng)查查，去權(quán)威媒體看看，多方驗(yàn)證。

第二，對(duì)平臺(tái)和監(jiān)管部門來說，得想辦法讓AI學(xué)會(huì)“挑食”。不能什么臟東西都往嘴里塞。要給大模型裝上“嗅覺”，讓它能識(shí)別哪些是軟文、哪些是謠言、哪些是花錢買來的“定制答案”。就像互聯(lián)網(wǎng)分析師張書樂說的，要在算法中加入辨別功能，篩查內(nèi)容發(fā)布者的長(zhǎng)期表現(xiàn)，確定哪些來源是可信的。

第三，也是最根本的，法律得跟上。商業(yè)經(jīng)濟(jì)學(xué)會(huì)的副會(huì)長(zhǎng)宋向清建議，要明確“故意污染AI數(shù)據(jù)”屬于違法行為。不能讓那些投毒的人，躲在暗處偷笑。要讓他們知道，給AI投毒，和給食品投毒一樣，是要付出代價(jià)的。

五、晚會(huì)結(jié)束了，名單公布了，熱搜慢慢降下去了。

明天醒來，生活繼續(xù)。那些漂白雞爪的工廠也許會(huì)關(guān)門，但換個(gè)地方，也許又會(huì)冒出來。那些給AI投毒的黑產(chǎn)，嘗到了甜頭，只會(huì)更加隱蔽、更加猖狂。

我們面對(duì)的不是幾個(gè)黑心的老板，而是一整套利用人性弱點(diǎn)、鉆監(jiān)管空子、層層分成的灰色生態(tài)。它像牛皮癬一樣，割了一茬，又長(zhǎng)一茬。

但我們也得做點(diǎn)什么。

多一分警惕，少一分盲從。在AI面前，保持一點(diǎn)“人”的懷疑。在看到“標(biāo)準(zhǔn)答案”時(shí)，多問一句：這是誰想讓我看到的答案？

因?yàn)?，在所有人都開始相信機(jī)器的時(shí)代，保持獨(dú)立思考，才是我們最后的防線。

（作者檔案：孫樹恒，筆名恒心永在，內(nèi)蒙古奈曼旗人。專欄作家，蒙域經(jīng)濟(jì)30人專家組成員，呼和浩特市政協(xié)智庫專家，內(nèi)蒙古茶葉之路研究會(huì)副會(huì)長(zhǎng)、內(nèi)蒙古詩書畫研究會(huì)高級(jí)研究員兼副秘書長(zhǎng)）