“10天受益3000+，純軟件生成，小白可做”“用大模型7分鐘寫了9篇短篇小說，都簽約了”“下班后借助大模型搞虛擬資料，半個月自動接了750單”……打開社交平臺，諸如此類的宣傳語隨處可見。有沒有想過，網(wǎng)絡(luò)上的爆款文章、熱點視頻，有相當(dāng)一部分并非出自真人之手。更重要的是，由AI批量生產(chǎn)的“工業(yè)制品”中，相當(dāng)一部分違背事實，通過造謠的方式博取關(guān)注度，獲得收益。

社交平臺有大量鼓吹A(chǔ)I副業(yè)賺錢的帖子（網(wǎng)絡(luò)截屏）

記者歷時半個多月調(diào)查發(fā)現(xiàn)，一條涵蓋AI內(nèi)容生成、教程售賣、流量裂變、商業(yè)變現(xiàn)的完整造假產(chǎn)業(yè)鏈已悄然形成，不僅誤導(dǎo)普通網(wǎng)民，更對正常的網(wǎng)絡(luò)傳播秩序和商業(yè)環(huán)境造成沖擊。

一鍵“二創(chuàng)”，AI裂變

從各地網(wǎng)信部門和公安部門披露的案例看，使用AI大模型生成文字、視頻造謠，已經(jīng)不再稀奇。其實，在整條造假產(chǎn)業(yè)鏈上，用AI生成謠言，只是起點。

具體來看，整條產(chǎn)業(yè)鏈涉及不同的盈利方式，最常見的一種是造假者利用自媒體矩陣，發(fā)布大量AI造假內(nèi)容，為自己增加關(guān)注度，既能通過平臺的流量分成機制或植入廣告獲利，又能利用關(guān)注度推銷自己的服務(wù)。

同時，大量企業(yè)或個人在推銷“AI教程”。他們深諳平臺流量和廣告分配機制，繼而開發(fā)出對應(yīng)的“AI生成課程”以及相關(guān)服務(wù)，通過銷售課程和生成服務(wù)，也能牟利。

MCN等經(jīng)紀(jì)機構(gòu)也成為產(chǎn)業(yè)鏈中的一環(huán)，有的指導(dǎo)旗下賬號通過AI生成獲益，有的為相關(guān)賬號對接“市場需求”——只是部分需求并不那么光彩，包括抹黑部分企業(yè)、行業(yè)乃至知名人士的“小黑稿”。

這些盈利方式各有特點又互相交織，核心都是“AI造假”。在實際生活中，一條謠言的誕生和傳播，往往穿插著不同的利益鏈條。

典型案例是近期被寧波市餐飲業(yè)與烹飪協(xié)會辟謠的“寧波外賣商家集體下架平臺”消息。

溯源顯示，最初傳出“寧波外賣商家集體下架”消息的是一個以推銷課程為主要內(nèi)容的短視頻賬號。之所以一個賬號發(fā)布的內(nèi)容會快速發(fā)酵成話題，是因為該賬號并非“孤軍戰(zhàn)斗”，而是有20多個與其名稱相類似的賬號發(fā)布了總共約40余條相似內(nèi)容的消息。它們共同構(gòu)成本輪謠言源頭。而在這40余條消息中，有相當(dāng)一部使用了AI生成的文字和圖片。

進一步核查發(fā)現(xiàn)，這20多個賬號背后的主體是同一家公司，其主營業(yè)務(wù)是提供服務(wù)培訓(xùn)，通俗地說，就是“賣課”。該公司旗下共有超過200個社交平臺賬號。綜觀這些賬號發(fā)布的內(nèi)容可見，主要運營方式是發(fā)布各種消息吸引流量后，由賬號主播兜售培訓(xùn)課程。

“寧波外賣商家集體下架”的假消息進一步擴散傳播，還來自一堆賬號“助推”。追溯發(fā)現(xiàn)，在第一組假消息出現(xiàn)后一周內(nèi)，由AI創(chuàng)作的相關(guān)文字和圖片內(nèi)容開始在各個社交平臺出現(xiàn)，不同形式的“二創(chuàng)”謠言超過100條；一周后，更是出現(xiàn)了“山西忻州外賣集體下架”的謠言變體。

通過“眼球效應(yīng)”到底能賺多少錢？記者通過社交平臺購買了一套聲稱“10天受益3000元”的“視頻號AI生成勵志語錄保姆級教程”。下單后，記者收到對方發(fā)送的網(wǎng)盤鏈接，其中介紹了如何將他人發(fā)布的心靈雞湯去除水印、用AI生成圖片視頻進行二創(chuàng)的方法，表示只要用對工具，每天可以生成數(shù)百條。至于“10天受益3000元”，靠的是平臺的植入廣告分成機制、直播帶貨和微店銷售，主要來源是廣告分成。

記者購買的“AI教程”部分內(nèi)容截圖

知情人士更是為記者算了一筆細賬：且不說相關(guān)賬號利用關(guān)注度推銷自身產(chǎn)品或服務(wù)的盈利，單從社交平臺提供的流量分成與植入廣告收入看，就很可觀。

以某社交平臺的植入廣告分配制度為例，一個擁有1000粉絲、單篇閱讀量1000的視頻賬號，如果支持植入廣告，根據(jù)賬號定位、內(nèi)容是否為原創(chuàng)、植入廣告數(shù)量及位置等，單篇廣告收入從十幾元到上千元不等?！安灰】词畮自?，因為對那些靠吸引眼球牟利的企業(yè)來說，旗下有數(shù)百上千個賬號。所以，同一主題，用AI寫出不同角度、不同細節(jié)的文章，都能被平臺認(rèn)定為‘原創(chuàng)’，繼而獲得相對較高的廣告收入。綜合起來看，一條謠言就有可能獲得數(shù)千元收入?！痹撊耸刻嵝?。

爆款有“教程”，造假有“選題”

有人靠AI賺錢，也有人教他人用AI賺錢，還有人發(fā)布“需求”，暗地里支持AI造假牟利。

在多個社交平臺和知識付費平臺上，“AI爆款寫作秘籍”“零基礎(chǔ)玩轉(zhuǎn)AI文案”等教程隨處可見，價格從十幾元到數(shù)千元不等；甚至有賬號表示免費贈送AI教程。

記者在某社交平臺聯(lián)系了一個聲稱費贈送“AI副業(yè)”教程的賬戶。對方將記者引入一個“AI寫作群”，推銷了其所屬企業(yè)開發(fā)的AI寫作網(wǎng)站。使用該網(wǎng)站按字?jǐn)?shù)付費，目前的優(yōu)惠價是9.9元可生成10萬字。

使用AI生成的文字到底什么樣？客服說，得自己輸入指令才能看到成品。但他們提供參考的“爆款素材”，包括“追妻火葬場套路”“原生家庭缺陷”“奇葩親戚/同事/室友”等?？头€表示，用AI生成相關(guān)文章或視頻后，除了發(fā)布在社交平臺上獲得流量分成外，還可以向部分網(wǎng)絡(luò)文學(xué)平臺投稿，收入更可觀。

記者購買的課程提供的“AI文章爆款主題”（網(wǎng)絡(luò)截屏）

記者又聯(lián)系到另一名推銷AI副業(yè)的“導(dǎo)師”，他也毫不諱言地表示：“靠AI賺錢，選題是關(guān)鍵?！睘樽C明自己“經(jīng)驗豐富”，他向記者介紹了幾個核心“選題方向”。

“賣慘”是他給的第一個建議。他表示，用AI生成賣慘類話題很簡單，常見的“騎手賣慘”是典性話題，“用AI生成騎手遭遇惡劣天氣送餐、被客戶誤解、家庭困難仍堅守崗位等內(nèi)容，搭配煽情文案，極易引發(fā)同情和轉(zhuǎn)發(fā)”。他還建議，這類選題可以用“真假參半”的形式體現(xiàn)，“拍一點街頭送外賣的場景，就不容易被平臺判定為AI生成”。

他又介紹，若是覺得賣慘類話題比較雷同，可以反其道行之——炫富，“別人在發(fā)騎手賣慘，你也可以做騎手炫富，用AI生成‘騎手月入三萬買豪車’‘跑外賣三年全款買房’等內(nèi)容，利用反差感制造話題熱度?！?/p>

“根據(jù)熱點事件生成‘心靈雞湯’類型的分析稿件也有市場?！痹摗皩?dǎo)師”說，在這類稿件中，可以用真實事件作為主體，然后用AI生成“治愈”“勵志”“煽情”“批判”等不同風(fēng)格的“心靈雞湯”，“就是對真實事件進行解讀、分析、延伸。”他還建議：“用AI生成文字后，你對著提詞器讀，看上去是真人解讀，效果更好?！?/p>

該“導(dǎo)師”稱，如果記者購買付費服務(wù)，他還能傳授如何修改AI生成內(nèi)容的痕跡、如何判斷敏感詞規(guī)避平臺審核等；更進一步，能“介紹企業(yè)宣傳、自媒體運營的訂單，賺錢更多”。

可見，在AI造假牟利上，已經(jīng)形成了“教程售賣-工具推薦-內(nèi)容生成-商業(yè)接單”的完整灰色鏈條。

“用魔法打敗魔法”

AI生成的虛假內(nèi)容在網(wǎng)絡(luò)空間肆意傳播，真的處于無人監(jiān)管的真空地帶？答案顯然是否定的。

去年9月1日，《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行。辦法明確規(guī)定，所有AI生成合成的文本、圖片、視頻等內(nèi)容，必須添加顯式標(biāo)識，確保用戶能夠清晰辨別內(nèi)容來源。

記者實測驗證發(fā)現(xiàn)，主流大模型在生成內(nèi)容時已初步落實該規(guī)定：生成文稿時，結(jié)尾會自動標(biāo)注“本內(nèi)容包含AI生成部分”；生成圖片或視頻時，內(nèi)容角落也會添加半透明的“AI生成”水印。同時，將這類已標(biāo)注AI生成的內(nèi)容上傳至多個社交平臺時，發(fā)布界面會跳出彈窗提示：“經(jīng)檢測，該內(nèi)容含AI生成元素，將按規(guī)定展示標(biāo)識后發(fā)布”，強制完成合規(guī)標(biāo)注。

目前，不少社交平臺對明顯有AI生成痕跡的內(nèi)容進行強制標(biāo)注（網(wǎng)絡(luò)截屏）

不過，造假者也在總結(jié)“去標(biāo)識”技巧：文本類內(nèi)容直接刪減末尾的AI標(biāo)注語句；圖片類通過裁剪、拉伸或輕微調(diào)色抹去水印，視頻類利用剪輯工具剪掉帶標(biāo)識的片段；更進一步，通過調(diào)整格式或二次轉(zhuǎn)碼的方式，清除文件屬性中的AI標(biāo)記……經(jīng)過以上處理，部分AI生成內(nèi)容就能堂而皇之地以“原創(chuàng)”身份發(fā)布在社交平臺，普通用戶難以辨別。

面對這種規(guī)避監(jiān)管的行為，治理之路該如何推進？AI行業(yè)從業(yè)者尤騎給出的答案是進一步發(fā)揮“用魔法打敗魔法”的力量，即以AI技術(shù)對抗AI造假。他還介紹了一個真實的案例：

近期，外網(wǎng)出現(xiàn)一則以外賣騎手為主角的造假消息。該消息包含文本故事、騎手工作照片及短視頻，主題是“外賣平臺根據(jù)騎手的‘貧窮’程度分派訂單，比如向越貧窮的騎手分配配送難度更大、收入更低的訂單，因為貧窮的騎手不會拒絕”。當(dāng)?shù)孛襟w用大模型的鑒別能力查證該消息后發(fā)現(xiàn)，部分大模型認(rèn)為，該消息的文本由AI生成，但部分大模型認(rèn)為文字是人工撰寫的。不過，大模型在識別消息所用的圖片和視頻時指出，它們存在肉眼不可見且未被破壞的“AI生成印記”。最終，該消息被判斷為AI造假。

尤騎解釋，此次鑒別成功的核心在于越來越多的大模型開發(fā)者開發(fā)出了鑒別工具，能精準(zhǔn)捕捉AI生成內(nèi)容的隱性特征。國內(nèi)不少科技企業(yè)和科研機構(gòu)也研發(fā)出了專門的AI生成內(nèi)容檢測工具。這些工具通過深度分析文本的語義模式、句式規(guī)整度、邏輯連貫性，以及圖片的光影合理性、人物肢體細節(jié)，構(gòu)建多維度鑒別模型。雖然識別準(zhǔn)確率不能達到100%，但有很強的參考價值。

“更進一步，是要讓更多的AI生成肉眼不可見的隱藏水印?！庇闰T說，隱藏水印不會影響內(nèi)容視覺效果，而且能抵抗裁剪、調(diào)色、轉(zhuǎn)碼等常規(guī)修改操作。正因此，應(yīng)推動隱形水印技術(shù)成為AI生成工具的標(biāo)配，從技術(shù)層面筑牢造假的第一道防線。

平臺能否接入“鑒假”大模型？

在提升技術(shù)鑒別能力的同時，也需要平臺作為“把關(guān)人”，承接鑒別能力的落地。

從調(diào)查看，將AI造假作為牟利工具的“AI副業(yè)從業(yè)者”正在不斷探索“反標(biāo)注”方式，一些主打信息發(fā)布、文學(xué)創(chuàng)作的平臺似乎對AI生成的弊端也后知后覺，使得造假者仍舊能利用平臺的獎勵機制牟利。

要解決這一問題，恐怕還是“老生常談”：督促平臺夯實主體責(zé)任，落實事前審查機制。只不過這一次可以用上技術(shù)力量——由平臺接入成熟的AI生成內(nèi)容檢測大模型，建立“發(fā)布前檢測—疑似內(nèi)容預(yù)警—違規(guī)內(nèi)容攔截”的常態(tài)化審核流程。

具體而言，對用戶上傳的文本、圖片、視頻等內(nèi)容進行實時檢測，直接攔截存在AI造假且未標(biāo)注的內(nèi)容，不允許上線；對多次發(fā)布違規(guī)造假內(nèi)容的賬號，采取限流、禁言直至永久封號的梯度處罰措施。尤其對于“AI副業(yè)”培訓(xùn)中高頻出現(xiàn)的熱點議題，更要強化定向?qū)徍?，及時清理虛假內(nèi)容，遏制不良導(dǎo)向傳播。

為驗證鑒別效果，記者也選取多篇來自不同自媒體的熱點事件二創(chuàng)稿件，提交給國內(nèi)多個大模型行鑒別。結(jié)果顯示，有相當(dāng)一部分“心靈雞湯”被識別為“沒有人工創(chuàng)作痕跡”或“高度疑似AI生成”。再看這些自媒體賬號，往往關(guān)聯(lián)到同一個主體。不難推測，它們的始作俑者正是希望用這些AI生成的文章牟利。

記者用國產(chǎn)鑒別大模測試了部分自媒體發(fā)布的“心靈雞湯”，發(fā)現(xiàn)AI濃度很高。業(yè)內(nèi)人士表示，檢測結(jié)果雖然不能實現(xiàn)100%準(zhǔn)確，但有較強的參考性，而且隨著技術(shù)發(fā)展，AI鑒別的準(zhǔn)確度也能進一步提高（網(wǎng)絡(luò)截屏）

試想，如果發(fā)布平臺提前接入鑒別大模型，在信息發(fā)布伊始就將AI生成的內(nèi)容加以標(biāo)注，并下架那些涉嫌誤導(dǎo)的信息，是不是能從源頭減少謠言的傳播和擴散呢？

當(dāng)然，治理AI造假無法僅靠監(jiān)管和技術(shù)，公眾的辨別能力同樣重要。在信息爆炸時代，面對動輒10萬+的網(wǎng)絡(luò)爆款、看似治愈的心靈雞湯，公眾也要保持理性判斷，不盲目相信、不隨意轉(zhuǎn)發(fā)。如果僅憑情緒共鳴就輕信傳播，很可能被AI生成的虛假內(nèi)容迷惑，陷入更深的信息繭房。

題圖來源：AI生成

微信編輯：何夕

還原事實，洞悉真相。

歡迎關(guān)注，留言舉報！

除了辟謠，這里還關(guān)注網(wǎng)絡(luò)熱點，及時回應(yīng)網(wǎng)友關(guān)切，追蹤事件進展。