文 ｜Saltie

編輯 ｜ Wen

3月10日，小紅書官方賬號“薯管家”發(fā)布《關(guān)于打擊AI托管運營賬號的治理公告》，宣布即日起對“純AI托管賬號”開展專項治理。

根據(jù)規(guī)則，平臺將對不同類型的違規(guī)行為采取分級處理：

1.若普通賬號偶發(fā)使用AI托管進(jìn)行代寫、代發(fā)或虛假互動，將根據(jù)情節(jié)給予警告、限制分發(fā)等處罰；

2.通過AI工具完成注冊、發(fā)布、互動等全流程運營，或主頁公開筆記全部由AI代發(fā)的賬號，則將被直接封禁。

這一治理標(biāo)準(zhǔn)與國家《人工智能生成合成內(nèi)容標(biāo)識辦法》中 “禁止機(jī)器冒充真人運營” 的核心要求一致。

內(nèi)容平臺進(jìn)入“AI運營監(jiān)管”時代

從平臺表態(tài)來看，此次治理直指近期快速蔓延的“AI托管”產(chǎn)業(yè)鏈。

平臺監(jiān)測發(fā)現(xiàn)，一些用戶借助OpenClaw（俗稱“龍蝦”）等AI工具，將賬號注冊、內(nèi)容生成到評論互動實現(xiàn)自動化運營，并以批量生產(chǎn)“偽體驗”筆記的方式進(jìn)行種草引流，甚至通過私信導(dǎo)流、虛假互動等方式變現(xiàn)。

這類賬號通常呈現(xiàn)出明顯的模板化特征：語氣統(tǒng)一、配圖模式相似、評論互動高度機(jī)械化。

短期來看，這種批量生產(chǎn)模式會迅速占據(jù)內(nèi)容分發(fā)空間；但從平臺生態(tài)角度看，其對“真實分享”的社區(qū)基礎(chǔ)構(gòu)成了直接沖擊，甚至已經(jīng)出現(xiàn)用戶因AI筆記誤導(dǎo)消費而產(chǎn)生權(quán)益糾紛的情況。

為配合此次治理，小紅書同步開放了專項舉報入口。用戶可在筆記頁面通過“分享-舉報-對他人造成困擾或危害-AI 造假”進(jìn)行反饋，也可以在賬號頁通過“右上角（···）標(biāo)識”進(jìn)行舉報，發(fā)起投訴。平臺同時強調(diào)，本輪治理的重點并非限制AI技術(shù)使用，而是劃清邊界：AI可以作為內(nèi)容生產(chǎn)工具參與創(chuàng)作，但不能替代真人進(jìn)行賬號運營與互動。

據(jù)悉，公告發(fā)布后，部分從事批量“養(yǎng)號”的灰產(chǎn)團(tuán)隊已經(jīng)開始刪除內(nèi)容、注銷賬號，而真人創(chuàng)作者普遍表達(dá)支持，認(rèn)為平臺正在重新保護(hù)真實創(chuàng)作的流量空間。

業(yè)內(nèi)人士分析認(rèn)為，小紅書對“AI托管”的明確禁令，或?qū)⒊蔀槠脚_治理AI內(nèi)容的重要分水嶺。隨著 AI 深度參與內(nèi)容生產(chǎn)，平臺需要在鼓勵技術(shù)效率與維護(hù)生態(tài)秩序之間尋找平衡。一方面，AI 已經(jīng)成為創(chuàng)作者的重要工具，可以用于選題、寫作、剪輯甚至數(shù)據(jù)分析；另一方面，如果 AI 可以完全替代真人進(jìn)行賬號運營，內(nèi)容生產(chǎn)的規(guī)模與速度將遠(yuǎn)超平臺生態(tài)能夠承受的范圍。

目前抖音、快手已經(jīng)開始整治AI虛擬人帶貨和低質(zhì)批量視頻，B站、知乎也在強化AI內(nèi)容標(biāo)識機(jī)制。隨著生成式AI深度進(jìn)入內(nèi)容生產(chǎn)環(huán)節(jié)，“允許AI輔助創(chuàng)作、禁止AI替代真人運營”很可能逐漸成為平臺之間形成共識的治理原則。與此同時，這一政策也將直接沖擊“AI起號”“批量賣號”等灰色產(chǎn)業(yè)鏈，推動內(nèi)容平臺重新強調(diào)真實體驗與真實表達(dá)的價值。

AI時代，

真人社區(qū)成為平臺價值的護(hù)城河

更進(jìn)一步講，我們也能從此次事件中觀察到更加深刻的行業(yè)走向變化：隨著AI內(nèi)容的日漸泛濫，社群反而成為當(dāng)今最稀缺的資源。

這聽起來像是一個悖論，技術(shù)正在變得越來越先進(jìn)，為什么還要關(guān)注原來這些低效率的內(nèi)容生產(chǎn)方式？但如果我們把目光投向海外，就會發(fā)現(xiàn)類似的做法并不罕見。在海外大模型發(fā)展如火如荼的今天，Open AI、Google等公司，都在將目光投向Reddit等論壇平臺，尋求與這些有著大量真人產(chǎn)生的文本內(nèi)容的平臺合作。

合作的直接原因，是大公司希望這些有著真人語料的平臺能夠為大語言模型的訓(xùn)練提供支持。大語言模型的訓(xùn)練，本質(zhì)上是一個統(tǒng)計規(guī)律提取的過程。模型通過海量文本學(xué)習(xí)詞語共現(xiàn)的概率、句法結(jié)構(gòu)的模式、語義關(guān)聯(lián)的規(guī)則。從這一底層邏輯出發(fā)，可以說，想要訓(xùn)練一個優(yōu)秀的大語言模型，需要兩種類型的數(shù)據(jù)：

• 通用文本數(shù)據(jù)：包括網(wǎng)頁、圖書、新聞報道等，這類數(shù)據(jù)規(guī)模大、覆蓋面廣，主要提升模型的泛化能力；

• 專用文本數(shù)據(jù)：包括多語言內(nèi)容、科學(xué)論文、代碼等，提升模型完成專項任務(wù)的能力。

而社群語言恰恰處在這兩者的中點。它既有通用文本的多樣性，又在特定話題上具有深度。更重要的是，社群數(shù)據(jù)包含了一種AI生成內(nèi)容永遠(yuǎn)無法提供的東西，也就是互動中的語境。

一篇Reddit帖子或者小紅書筆記之所以有價值，不僅在于主貼內(nèi)容，還在于評論區(qū)里的追問、反駁、補充。這種多輪互動中蘊含的”對話邏輯“，用戶之間如何澄清歧義、如何回應(yīng)質(zhì)疑、如何基于上下文推進(jìn)話題，這些都是訓(xùn)練模型理解真實對話的核心素材。

同時，有研究嘗試用RAG（檢索增強生成）框架分析Reddit社區(qū)，發(fā)現(xiàn)結(jié)合真實社群數(shù)據(jù)的模型在分類任務(wù)上F1分?jǐn)?shù)達(dá)到0.99以上，顯著優(yōu)于傳統(tǒng)基線模型。這說明，真實社群的對話結(jié)構(gòu)本身，就是一種高質(zhì)量的”訓(xùn)練教材“。而另一方面，也有研究指出，AI生成文本可以作為數(shù)據(jù)稀缺時的補充，但絕對無法替代真實數(shù)據(jù)。當(dāng)訓(xùn)練集中AI生成內(nèi)容占比過高時，模型就會出現(xiàn)崩潰的風(fēng)險。

但是，如果僅僅是為了有利于大模型的訓(xùn)練，顯然不足以成為小紅書大力整治AI的理由。更關(guān)鍵的問題在于社群自身。試想，如果小紅書的平臺上充斥著AI生成內(nèi)容，那么用戶有什么理由停留在小紅書而不是去直接與AI大模型互動呢？而這一潛在的風(fēng)險正在隨著大語言模型帶來的內(nèi)容爆炸式增長而不斷提高。而這也根本性的扭轉(zhuǎn)了過去十年移動互聯(lián)網(wǎng)時代內(nèi)容平臺的競爭邏輯。在過去十年里，哪個平臺的內(nèi)容多，就能讓用戶在平臺上消耗更多的用戶時長，平臺也因此可以從這些數(shù)據(jù)中獲益。

但這種模式正在隨著內(nèi)容的泛濫而失效。在AI內(nèi)容大量充斥平臺的情況下，當(dāng)用戶發(fā)現(xiàn)自己關(guān)注的“寶藏博主”其實是一個AI賬號，當(dāng)評論區(qū)里的“熱心網(wǎng)友”其實是自動回復(fù)的程序，當(dāng)種草筆記里的“親身體驗”全是AI編造，平臺與用戶之間的信任基礎(chǔ)就會崩塌。而這種信任，一旦崩塌就極難重建。

小紅書的治理，標(biāo)志著平臺競爭從“流量邏輯”轉(zhuǎn)向“信任邏輯”。流量可以靠技術(shù)堆砌，信任只能靠時間沉淀。一個平臺上如果全是AI，它可以在短期內(nèi)產(chǎn)出海量內(nèi)容，但長期來看，它只是一座數(shù)據(jù)工廠，而不是一個社區(qū)。社區(qū)的價值，不在于“產(chǎn)出”，而在于“連接”。 而連接的前提，是雙方都知道自己在和真人對話，而這也是小紅書得以在過去幾年中快速崛起的關(guān)鍵。

總而言之，小紅書的策略絕非是過度反應(yīng)。AI可以是工具，可以是助手，可以輔助創(chuàng)作、提升效率；但它不能成為替身，不能冒充真人，不能侵蝕社群最核心的信任資產(chǎn)。

展望未來，AI與真人社群的關(guān)系不是取代，而是互補。AI將承擔(dān)越來越多的內(nèi)容生產(chǎn)任務(wù)，釋放人類的創(chuàng)造力；但真正的社群價值，將越來越聚焦于那些AI無法復(fù)制的東西。正是這些看似“低效”的連接，構(gòu)成了人類社會的底色。而能夠承載這種連接的平臺，將在AI時代找到新的成長方向。