文丨黃依婷

編輯丨盧枕

在很多人的印象里，造假是少數(shù)人的事。它需要專業(yè)的技術(shù)和硬件設(shè)備，需要行業(yè)人脈積累，造假者往往隱匿在灰黑產(chǎn)縫隙，是神秘的、恐怖的、沒有道德底線的，與大眾保持著既遠(yuǎn)又近的距離。

但今年開始，一群人感受到了明顯的變化。

11月，毛絨玩偶商家于瑾第一次遭遇AI假圖僅退款。到貨一周后，買家發(fā)來一張圖申請僅退款，在店鋪客服以人為損壞為由駁回后，買家申請平臺介入并成功拿回了50元。

但那張申請僅退款的圖有一個不合常理的地方——玩偶柔軟的裙邊上，有類似陶瓷制品的堅硬裂痕。于瑾認(rèn)定這是AI假圖，發(fā)到社交平臺吐槽。后來，在媒體的介入下，平臺自掏腰包，把這50元返還給了于瑾，用AI假圖申請僅退款的買家卻銷聲匿跡。

于瑾意識到，AI的普及讓“羊毛黨”的惡意退款成本更低了。一臺手機(jī)、一句提示詞就能生成一張以假亂真的圖片，薅走一個價值一百多元的玩偶，放在二手平臺倒賣?！安挥酶冻鍪裁矗膊粫玫绞裁磻土P。”

今年更早時候，公關(guān)齊云也經(jīng)歷過類似的沖擊。他服務(wù)的一家上市公司被AI生成的黑稿攻擊，文中細(xì)節(jié)讓他直言“離譜得很”。但受制于內(nèi)容平臺規(guī)則，他和同事們不得不花整整兩天時間，對文中細(xì)節(jié)一一舉證、蓋章、申訴，才讓這篇可能只花了幾十秒生成的帖文從平臺上消失。

齊云說，從業(yè)十多年，以前是和人基于事實交流，是一種智力上的挑戰(zhàn)，現(xiàn)在面對AI和AI編出來的謠言，感覺智商受到了侮辱，更生氣，卻又無可奈何。

這是過去三年，生成式AI爆發(fā)式發(fā)展的另一面。AI大模型在生成文字、圖片、視頻、音頻上的能力突飛猛進(jìn)，幾乎所有人都能零門檻、零成本地使用AI。這些人中，不僅有AIGC藝術(shù)家、前沿科技熱愛者，也有羊毛黨和靠流量吃飯的MCN機(jī)構(gòu)。

結(jié)果就是，造假的門檻越來越低，有意或無意參與的人越來越多，而平臺的審核機(jī)制還停留在簡單的比對和打標(biāo)簽，受害者被欺騙、被拖累還要付出成千上萬倍的成本被迫自證。當(dāng)造假變成低成本、低風(fēng)險、高收益的一件事，就會有越來越多的普通人加入造假行列，共同構(gòu)造一個充滿虛假信息的世界。

從無到有，學(xué)會鑒別AI假圖

最初，看到買家發(fā)來的圖片時，店里無一人懷疑過真假。

11月17日，買家拿到玩偶一個多星期后，于瑾店鋪的客服收到僅退款申請和一張佐證圖片。圖中，粉色的毛絨玩偶臟兮兮的，裙擺有被火焰灼燒過的痕跡。客服把圖片發(fā)到工作群，大家一致認(rèn)為是人為損壞?！坝锌赡苁堑粼谀嗬锘蛘呤堑粼诨鹄锪恕保阼f。

于是，按照常規(guī)流程，客服和買家說明，發(fā)貨全程有監(jiān)控錄像，保證全新，到貨后人為損壞不屬于商品質(zhì)量問題，不支持僅退款，駁回了買家申請。但買家不依不饒，直接申請平臺介入，當(dāng)天拿到了50元的賠償。

這屬于惡意退款，于瑾說。幾乎所有電商商家都遇到過類似的事。正常情況下，于瑾遇到的買家，申請退款的理由大多是開線、勾絲問題，與這次大不相同。被扣款后，于瑾馬上準(zhǔn)備證據(jù)申訴，但同事隨口一句話提醒了她——這張圖越看越奇怪，像AI生成的。

為了確認(rèn)，于瑾找做AI相關(guān)工作的朋友幫忙鑒定，結(jié)果顯示有AI痕跡；她又自己問了AI助手，同樣提示圖片進(jìn)行了AI修改——“服飾的裂紋紋理過于規(guī)整且缺乏真實材質(zhì)的物理邏輯”。

第一次遇到這種情況，于瑾有些無奈。她把證據(jù)和建議都整理好申訴，但平臺并未采納，駁回了她的訴求，50元退款到達(dá)買家賬戶。對商家來說，這意味著挽回?fù)p失的唯一渠道失效了。

于瑾不知道該怎么辦了，只能把自己的經(jīng)歷發(fā)到社交平臺，希望借此提醒同行。也因此，媒體找到她，幫忙聯(lián)系平臺拿回了款項。

但她其實并不開心。于瑾憤懣地跟我說：“造假沒什么技術(shù)含量，也沒有什么門檻，任何一張圖拿給AI，它都可以幫你修，作惡的成本很低，被發(fā)現(xiàn)了也不會得到什么懲罰?！彼芮宄?，這50元退款由平臺墊付，已經(jīng)退給買家的款項沒有追回。折騰一番，作為商家的她費心費力，討了個不開心，而造假者則實付款167元，拿回了50元，以及一個標(biāo)價179元的玩偶。

“雙11”期間，類似的案例被密集報道，“ai假圖 僅退款”等相關(guān)話題沖上了社交平臺熱搜榜，挑動著商家們敏感的神經(jīng)。偏偏這時，仍有人選擇頂風(fēng)作案。

11月21日，鍵盤商家柑橘收到一位買家的僅退款申請，這位買家同樣上傳了一張佐證圖片，申請平臺介入。此時距離這位買家簽收商品，已過去了半個月。

柑橘一眼就看出圖片是AI生成的——佐證圖片的構(gòu)圖、背景、光影，和買家簽收第三天發(fā)布的評價圖一模一樣，只是多個鍵帽都有開裂、破損、污漬、變形，過于夸張。她對這種顯而易見的破綻感到無語，也同步整理好證據(jù)提交給了平臺。這一次，平臺沒草率處理，而是駁回了買家申請，關(guān)閉退款渠道。

●上圖為買家評價圖，下圖為AI假圖。圖源：受訪者供圖

從收件人信息來看，柑橘很明確地知道，自己面對的不是老練的羊毛黨，而是一位普通的大學(xué)生。用AI假圖僅退款的人具像化了。

在很多老電商人心里，職業(yè)羊毛黨至少還是一個特定群體，有套路、有話術(shù)、有明確的牟利目的?？扇缃瘢晃辉竞突耶a(chǎn)毫無關(guān)系的人，只需要一個免費應(yīng)用和幾句提示詞，就能生成一套足以騙過平臺審核的證據(jù)鏈；退款成功后，商品掛二手平臺倒賣，再賺一筆。

對商家來說，這種變化帶來的不只是損失，更是一種陌生的無力，防不勝防。

AI突破造謠想象力

電商平臺上的AI假圖僅退款只是冰山一角。隨著AI大模型技術(shù)在生文、生圖、生視頻、生音頻四個方向的逐漸成熟和普及，過去只有專業(yè)團(tuán)隊才能完成的造假，如今被壓縮成人人可上手的簡單操作。

一個普通用戶，可以通過文生圖做商品損壞圖，也可以用文生視頻合成目擊現(xiàn)場；生成過程只需要幾秒鐘，被平臺呈現(xiàn)的可信度卻與真實內(nèi)容幾乎無異。

這不是某一個技術(shù)問題，而是一條由無數(shù)輕量工具組成的造假矩陣。如同電商商家感受到的那樣，內(nèi)容行業(yè)也在經(jīng)歷類似的沖擊：名人被AI換臉帶貨投訴無果、MCN機(jī)構(gòu)用AI大規(guī)模造謠、企業(yè)被源源不斷的AI黑稿攻擊……

“以前造謠要看人的想象力，一個人一天造一兩個謠頂天了，但AI可以幾秒鐘，在一篇稿件里造十個謠?！饼R云在公關(guān)行業(yè)從業(yè)十多年，親歷了AI造假給信息生態(tài)帶來的轟炸。

半年前，日常輿情監(jiān)控中，齊云發(fā)現(xiàn)了一篇公眾號文章。文章乍看像個正經(jīng)新聞，等他讀下來才驚覺內(nèi)容之離譜。

文中寫，齊云服務(wù)的這家公司，其董事長辦公室墻上掛著K線圖，又寫財務(wù)總監(jiān)某某說過哪些話?！半x譜得很。我們董事長辦公室沒有圖，財務(wù)總監(jiān)也不叫那個名字?！饼R云說。但文章就那么像模像樣地發(fā)了出來，還引發(fā)了不少討論。

這是齊云遇到的典型AI黑稿，主要特點就是細(xì)節(jié)豐富但無中生有，還比較容易鑒別，更多的是非典型AI文章，真假、人機(jī)參半。在他看來，對于專門生產(chǎn)黑稿的人來說，AI只是一個工具，以前是人工，“寫財經(jīng)文章還是要稍微懂點的，一天也就生產(chǎn)1到2條”，現(xiàn)在有了AI，成本和門檻更低了，生產(chǎn)效率變高了，但人還是那批人。

黑稿灰產(chǎn)把AI的能力嵌入商業(yè)模式，形成運(yùn)作更便捷的利益鏈條：一條鏈，用AI黑稿倒逼企業(yè)投放廣告，黑稿越多、越難辟謠，企業(yè)越焦慮，就越容易掏錢消災(zāi)；

另一條鏈，用AI寫的黑稿給投資群引流、賣課，標(biāo)題越聳動、內(nèi)容越“看似內(nèi)幕”，越容易吸引想抓住風(fēng)口的人。AI能秒產(chǎn)一批“重大利好/利空”的假截圖、假分析，塑造幾位股神般的王哥李姐，完成從公域推文到私域社群的流量轉(zhuǎn)化，最終通過賣課、咨詢獲利。

類似的模式還有很多。例如，2024年6月，央視新聞報道，一MCN機(jī)構(gòu)通過AI軟件，自動在網(wǎng)絡(luò)上抓取相關(guān)信息，生成配套圖文，并包裝成博眼球的“假新聞”，通過流量變現(xiàn)；日均生成4000-7000篇，每天收入在1萬元以上。

就在上個月底，小鵬汽車也遭遇了一次典型的AI造假事件。彼時，一段以小鵬汽車廣州車展展臺為背景的低俗色情視頻在社交平臺快速傳播，畫面里人物的衣著、光影和展臺幾乎無縫銜接，讓不少網(wǎng)友信以為真。小鵬汽車法務(wù)部介入后，警方最終確認(rèn)，視頻由一名男子李某利用AI技術(shù)生成，僅“為炫耀個人技術(shù)”，并非任何真實事件。造假在這里不再是灰產(chǎn)團(tuán)隊，而是一個普通人“順手試試”的產(chǎn)物。

這種變化讓人不安——AI已經(jīng)把造假的門檻降到幾乎與好奇心齊平的位置，只需要一次嘗試、幾句提示詞，每個人都可能成為“造假者”，不是因為惡意，而是因為輕易、便利、無成本，以及“反正不會怎樣”的心理。

平臺機(jī)制跟不上AI灰產(chǎn)節(jié)奏

生成式AI的普及，正在把造假變成零門檻、零成本的日常行為。

事實上，對于大多數(shù)AI助手來說，它并不認(rèn)為滿足用戶的要求是在協(xié)助造假，一句“你能讓這張圖片上的橙子看著像壞了一樣嗎”，它能機(jī)靈地給橙子加上霉斑，還會主動問你要不要生成一段配套的視頻。

●圖為AI生成的食物變質(zhì)照片。圖源：豆包App生成

而與這種輕松制造虛假相對的，是平臺的審核機(jī)制仍停留在過去。

為了處理那條離譜的AI黑稿，齊云和同事前前后后忙了整整兩天時間。第一次，他們上傳加蓋公章的投訴函件，向平臺申請刪文，失敗。第二次，他們給黑稿里的虛假信息一條一條地寫反駁、舉證；直接說公司財務(wù)總監(jiān)不叫某某還不行，需要寫明真正的財務(wù)總監(jiān)姓甚名誰，并附上公司在交易所發(fā)布的公告簽名截圖。

整個過程是繁瑣而折磨人的。“你造我的謠，我還要給你舉證?！饼R云有些憤懣，“我沒有說過這個話，請問我怎么給你舉證？董事長辦公室沒有這個圖，難道我要去他辦公室拍一張照片嗎？就算我拍了照片，你又怎么確定這真的是我董事長辦公室的照片？”

而如果要報警、起訴則更加麻煩。齊云直言，他曾經(jīng)服務(wù)的上市公司，法務(wù)部總共才六七個人，AI黑稿漫天飛，一個一個地走起訴流程，要走到猴年馬月。起訴或報警并不適合絕大部分公司。

在這種失控感之下，齊云意識到，平臺并沒有跟上AI灰產(chǎn)的節(jié)奏，“我不懂技術(shù)，但是我覺得到底什么是AI生成的東西，技術(shù)公司應(yīng)該是有能力去判別的”。

目前，在AI生成內(nèi)容的管理上，各個社交平臺主要采取“打標(biāo)簽”的方式，針對用戶上傳的、AI生成的圖片和視頻，在頂部或底部附一行小字提醒，該內(nèi)容系A(chǔ)I生成；而對于文字內(nèi)容，除平臺內(nèi)置的AI總結(jié)、AI搜索類工具外，用戶上傳的文字內(nèi)容并不會被標(biāo)識是否由AI生成。

AI生產(chǎn)的文字內(nèi)容成了平臺管理的真空地帶，技術(shù)上也相對更難識別。即使是較為嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)論文AI率，即AI生成內(nèi)容比例的檢測，也在今年畢業(yè)季引發(fā)大量討論，被質(zhì)疑誤判較多，并不靠譜。

當(dāng)AI批量產(chǎn)出內(nèi)容時，信息生態(tài)的失衡更明顯了?！案哔|(zhì)量內(nèi)容被淹沒了?！饼R云說。在專業(yè)圈層里，人們還能手動篩選公眾號文章，但在大眾信息池里，算法推送的往往是那些低成本、高刺激、批量復(fù)制的AI內(nèi)容。大量AI生成的低質(zhì)內(nèi)容，正在把真實信息擠到更窄的縫隙里。

齊云很坦誠地說，曾經(jīng)自己喜歡和人基于事實討論，哪怕是負(fù)面稿件，至少也是一種智力上的挑戰(zhàn)，但現(xiàn)在面對AI和AI編出來的謠言，他感覺智商受到了侮辱，“你還不知道該怎么去反駁，怎么去很好地證明它就是個傻子，你不覺得它是一個合格的對手，你就會很生氣。”

最終，齊云心灰意冷地轉(zhuǎn)崗了。他說，一個公關(guān)，整天琢磨怎么跟技術(shù)平臺去打交道，怎么總結(jié)投訴最有用，怎么利用平臺算法去限制文章的傳播，這跟他剛?cè)胄械臅r候，已經(jīng)不是一回事兒了。

可不是每個人都能轉(zhuǎn)身離開，更多的受害者，生活還要繼續(xù)，工作流程無法停止。一邊是隨手就能生成的虛假內(nèi)容，一邊是日復(fù)一日的自證、申訴。原本應(yīng)該由技術(shù)解決的問題，被悄悄轉(zhuǎn)嫁給了個體。

當(dāng)AI把造假成本壓到歷史最低，又反向把維權(quán)成本推高，中間的縫隙，是個體的困惑和試探。造假開始與每個人的選擇糾纏。當(dāng)一張假圖、一段假視頻、一篇假文章都能被輕易生成，當(dāng)違法與不違法之間只剩下一句提示詞的距離，“能不能”與“該不該”開始混在一起，真?zhèn)蔚慕缦薏辉儆墒聦崨Q定，而是由人心決定。

（文中受訪者皆為化名。）

【 版權(quán)聲明】所有內(nèi)容著作權(quán)歸屬鏡相工作室，未經(jīng)書面許可，不得轉(zhuǎn)載、摘編或以其他形式使用，另有聲明除外。

鏡相工作室正在尋找 商業(yè)領(lǐng)域的優(yōu)秀作者加入，請查看：

繼續(xù)閱讀：