文｜張果

在宋代工筆畫創(chuàng)作者@一方畫貓呢 的記憶里，AI介入創(chuàng)作有一條清晰的變化時間線。

2023年，AI還只是一個遙遠的技術(shù)名詞。當時，她嘗試用傳統(tǒng)視頻剪輯特效把原稿做成動畫，收到的反饋是“不如不做”。2024年初，她第一次嘗試把原稿丟進AI模型，結(jié)果依然令她大跌眼鏡：模型無法準確識別畫中的小蛇與龍貓，瑞鶴振翅的畫面帶有一種“扯著嗓子打鳴”的崩壞感。

變化發(fā)生在2025年。隨著模型對首尾幀控制力的提升，在自繪畫稿的基礎(chǔ)上，AI已經(jīng)能精準還原出作品中的神態(tài)，龍貓能在保持完整身體形態(tài)的同時，開始自然地揮動爪子、穿云而過。

過去，想要實現(xiàn)這種動態(tài)效果，創(chuàng)作者往往需要依賴一支專業(yè)的動畫制作團隊，經(jīng)歷數(shù)周的建模、溝通與渲染。而現(xiàn)在，一方只需要一個“AI助手”。

AI技術(shù)的迭代正以“天”為單位變化。這種突破讓技術(shù)無可避免地滲入更多人的日常創(chuàng)作，也將內(nèi)容行業(yè)推向了一個十字路口。

創(chuàng)意與效率解放的B面，是全球內(nèi)容生態(tài)共同面臨的秩序挑戰(zhàn)。當一張從未被拍攝過的照片、一段從未發(fā)生過的“親身經(jīng)歷”、甚至一個不曾存在的人能以流水線效率批量制造時，內(nèi)容行業(yè)最核心的信任資產(chǎn)，正面臨坍塌風險。

面對這股不可逆的技術(shù)浪潮，小紅書在4月27日通過首屆AI治理開放日，率先給出了一份系統(tǒng)性的治理主張：鼓勵AI作為創(chuàng)意放大器，反對AI作為造假工具與低質(zhì)內(nèi)容生產(chǎn)機器，所有AI參與創(chuàng)作的內(nèi)容均需主動標識。

這也是此輪技術(shù)爆發(fā)以來，首個系統(tǒng)性給出AI治理原則的平臺，試圖在AIGC的混沌期，為創(chuàng)作者們提供一份可參考的AI創(chuàng)作標準，也提供了一個可供內(nèi)容平臺參考的樣本。

AI兩面，生產(chǎn)力杠桿與造假溫床

在傳統(tǒng)的創(chuàng)作邏輯中，創(chuàng)意到成品之間還需要的是技術(shù)“苦工”。

一方鉆研的宋代工筆畫更是如此：在蠶絲織成的白絹上，用橡子殼煮水做底色，歷經(jīng)勾線、染墨、正反面分染、罩染，一幅完整的宋代風格院體畫往往需要央美創(chuàng)作者“一方”手工打磨至少兩個星期。

而讓這些來自1000年前技術(shù)的畫作動起來，一方想了好幾年。這種想法在傳統(tǒng)工業(yè)路徑下，基本很難低成本實現(xiàn)。一位影視行業(yè)人士曾提到過這種差距：幾年前，通過3D建模制作動畫時，光是一個5秒的鏡頭就花了整整15天。

直到AI技術(shù)的變革，這種成本才被極度壓縮，一方也擁有了一支“隨叫隨到”的數(shù)字動畫小組，制作時間單位成了小時。

創(chuàng)作者利用AI讓靜態(tài)國畫“動起來”

根本上，效率的提升不是要把人趕出創(chuàng)作現(xiàn)場，而是讓AI作為工具，成為“創(chuàng)意的放大器”。在全球范圍內(nèi)，這種生產(chǎn)力變革正以各種形式發(fā)生：國際電影節(jié)上開始增設(shè)AIGC特別單元，頂尖品牌如可口可樂、耐克嘗試用生成式技術(shù)拍攝品牌片。

AI介入創(chuàng)作甚至融入生活已經(jīng)不可阻擋，但真正的問題在于如何使用它。

在顯而易見的效率紅利面前，低質(zhì)AI內(nèi)容的溢出正在成為全行業(yè)的陰影。當創(chuàng)作門檻趨近于零，虛假內(nèi)容、低質(zhì)AI內(nèi)容的成本也隨之坍塌。

過去，一份有價值的內(nèi)容背后，創(chuàng)作者必須付出時間、金錢或肉身的“現(xiàn)場感”作為成本。這種物理投入本身就是一種“真實性”的信用背書。而現(xiàn)在，這種物理約束被算法解構(gòu)。

全球都在經(jīng)歷這種真實性危機。真假難辨的AI解說視頻，由代碼生成的虛擬創(chuàng)作者，虛構(gòu)的內(nèi)容正以流水線效率擠占有限的流量池。行業(yè)中開始普遍出現(xiàn)利用AI批量復制親身經(jīng)歷口吻、虛構(gòu)從未發(fā)生的消費體驗或生活瞬間的現(xiàn)象。更有甚者，通過AI程序?qū)嵭匈~號托管，在評論區(qū)冒充真人進行全自動、無感知的互動。

AI生成內(nèi)容真假難辨

這種矛盾在所有內(nèi)容生態(tài)中基本都存在。一邊是優(yōu)質(zhì)創(chuàng)作者利用AI延伸審美創(chuàng)意、品味、知識，核心在于人的意志；而另一邊，低質(zhì)內(nèi)容用AI替代甚至偽造“人”的存在，虛構(gòu)故事、體驗，核心在于流量套利。

這些構(gòu)成了AI技術(shù)與內(nèi)容碰撞的兩面性，而這種兩面性不是單個平臺的攻防戰(zhàn)，而是成為了全球內(nèi)容產(chǎn)業(yè)共同面臨的考題。

治理進化，小紅書劃出3條邊界線

技術(shù)不斷往前走，平臺也在同步改寫規(guī)則。

以小紅書作為觀測樣本，今年以來，從零散的動作到對外給出系統(tǒng)的AI治理主張，小紅書正逐步建立一套規(guī)則：從最早鼓勵標識，到打擊AI托管賬號，再到把規(guī)則細化，平臺開始明確一件事，AI可以用，但怎么用有邊界。

小紅書在治理開放日上，第一次為AI治理明確了三條邊界：鼓勵AI作為創(chuàng)意放大器，反對AI作為造假工具與低質(zhì)內(nèi)容生產(chǎn)機器，所有AI參與創(chuàng)作的內(nèi)容均需主動標識。

AI治理主張摘錄

一個明顯的變化是，過去那種靠“抓破綻”的方式辨別是否為AI生成的方式正在退場。比如通過“人有六根手指”去判斷，這類方法在今天已經(jīng)沒有太大意義。模型能力提升之后，真假本身就越來越難簡單識別。

于是，“是不是AI做的”不再是首要問題，“這樣用AI行不行”成為重點。

早在今年1月，小紅書在《社區(qū)公約2.0》中，就明確提出：“如果你在創(chuàng)作中使用了AI輔助工具，請主動標明?！边@是平臺對AI內(nèi)容的首次表態(tài)，以此讓更多創(chuàng)作者參與標識，主動承擔信息透明的責任。

緊接著，規(guī)則開始收束。2月，“薯管家”發(fā)布公告稱，呼吁用戶主動添加AI生成合成標識，對未主動標識的內(nèi)容，平臺識別后將統(tǒng)一添加，并明確打擊售賣“去AI標識教程”的黑產(chǎn)行為。

近期小紅書多次發(fā)布AI治理公告

針對“標識”治理，小紅書一邊堵，一邊疏。在發(fā)布AI治理主張的同時，平臺也補上了另一側(cè)的規(guī)則：有標識的優(yōu)質(zhì)AI內(nèi)容，將會得到公域流量傾斜。

當內(nèi)容真假界限模糊時，單靠平臺或用戶都很難獨立判斷。因此，小紅書強調(diào)，標識不是貼標簽，而是保障用戶的知情權(quán)。讓AI參與的內(nèi)容在陽光下運行，而非在暗處寄生，是為了防止虛假信息最終消解用戶對創(chuàng)作者、以及對平臺的信任。

在另一端，針對利用AI從事黑灰產(chǎn)的行為，小紅書旗幟鮮明地表示反對：對于利用AI程序或第三方工具實現(xiàn)全自動發(fā)布、全自動互動的“托管賬號”，平臺將實行梯度處理，直至封禁。

數(shù)據(jù)顯示，今年以來，小紅書已累計處置各類AI不良行為超百萬例，其中AI托管賬號超80萬個、AI造假筆記近15萬篇。

作為行業(yè)內(nèi)首個向AI托管說“不”的平臺，小紅書認為這類內(nèi)容本質(zhì)上是在批量制造“看起來像真人”的偽裝。它繞開的，正是社區(qū)最基礎(chǔ)的“真誠分享”原則。

本質(zhì)上，這份AI治理主張并非為了限制，而是為了給創(chuàng)作者提供更清晰的路徑。無論是利用AI擾亂秩序、造假侵權(quán)，還是生產(chǎn)低質(zhì)內(nèi)容，都在治理范圍之內(nèi)；而對于優(yōu)質(zhì)AI內(nèi)容，平臺則明確了歡迎與支持的態(tài)度。

尤其是那些“有審美、有敘事、有真實信息增量”的內(nèi)容，例如鼓勵算法背景的程序員深入淺出地科普硬核論文，或者支持設(shè)計師、攝影師用AI輔助達成復雜的視覺設(shè)想。正如創(chuàng)作者“一方”用AI讓宋代國畫“動”起來，這是人的創(chuàng)意在主導技術(shù)，而非技術(shù)在替代人的思考。

而諸如利用AI冒充真人、虛構(gòu)親測體驗、甚至搬運侵權(quán)一類行為，則在直接打擊的名單中。

歸根結(jié)底，這套AI治理規(guī)則想做的事情很簡單：把模糊地帶變清楚。什么可以用，怎么用算合理，哪些行為不被接受，都盡量說在前面。

AI治理背后是平臺的價值選擇

過去很長一段時間，不少創(chuàng)作者在使用AI時處于一種模糊地帶：標注了AI會不會被限流？使用到什么程度算“過度”？

當這些問題懸而未決，創(chuàng)作者容易轉(zhuǎn)向保守，或者滑向另一端，將AI僅僅作為低成本批量灌水的工具。

小紅書此次給出的AI治理框架，試圖照亮灰色區(qū)域。它傳達了一個核心信號：平臺并不排斥AI，也不會把AI趕出社區(qū)，真正被區(qū)別劃分的是AI的用途、是否帶來真實的信息增量。

在此次開放日上，小紅書方透露平臺也正在建立誤判場景下的流量補償機制，也同樣適用于AI場景下的平臺誤判，通過補償流量券等方式，不讓治理規(guī)則變成冷冰冰的一刀切。

小紅書公布已上線針對AI筆記貼條的申訴通道

AI大幅拉低創(chuàng)作門檻的當下，不可復制的真人體驗、真實視角，反而成為內(nèi)容行業(yè)的稀缺資產(chǎn)。倘若無限制放任AI內(nèi)容泛濫，工業(yè)化批量產(chǎn)出的虛假內(nèi)容，勢必擠壓原創(chuàng)創(chuàng)作者生存空間，使內(nèi)容生態(tài)陷入劣幣驅(qū)逐良幣的惡性循環(huán)。

近期文娛行業(yè)因AI合成內(nèi)容引發(fā)的連鎖爭議，本質(zhì)都指向同一個問題：當AI越界偽造親歷體驗、虛構(gòu)真實場景，信任體系便會快速松動。

回頭來看，小紅書的這些措施和細則，都不希望針對AI內(nèi)容的治理會成為創(chuàng)作的負面阻力，而是讓此成為一份更有確定性的使用指南——可以用AI提高效率，可以用AI表達創(chuàng)意，但不能讓AI替代真實經(jīng)驗，更不能用AI偽裝成人的經(jīng)歷、人的身份和人的判斷。

本質(zhì)上，任何治理行為都是平臺價值選擇的外化。小紅書作為國內(nèi)首個正面、系統(tǒng)回答“平臺怎么看AI”的社區(qū)，核心考量并非單純的技術(shù)決策，而是關(guān)于“平臺想保留什么”。小紅書給出的答案依然是強調(diào)了多年的社區(qū)底色：“真誠分享、友好互動”。

例如，對“AI托管”的嚴厲打擊，本質(zhì)是因為機器模擬真人的行為會稀釋真實創(chuàng)作者的空間。在一個每天有數(shù)億人參考小紅書做消費決策的生態(tài)里，這種對真實感的干擾，是對社區(qū)互信根基的直接侵蝕。

AI托管賬號

對整個行業(yè)而言，我們已經(jīng)無法否認AI的效率與創(chuàng)造力，更不能試圖回到那個沒有生成技術(shù)的舊時代。作為平臺能做的，是重新劃定邊界：明確哪些表達必須建立在真實經(jīng)驗之上，哪些生成內(nèi)容必須置于陽光下的標注體系內(nèi)，哪些行為會破壞社區(qū)的生態(tài)平衡。

小紅書AI治理主張就是一種平臺態(tài)度的提前回應。當AI繼續(xù)向內(nèi)容生產(chǎn)的各個環(huán)節(jié)滲透，所有平臺都會面臨同一個終極拷問：如果不加區(qū)分地放任生成內(nèi)容流入，信任會被稀釋；如果過度限制，創(chuàng)意又會被壓制。

在這兩者之間，小紅書試圖找到一條中間路徑，并率先將其具象化為一套可執(zhí)行的規(guī)則體系。它未必是治理的終點，但至少提供了一個清晰的起點。

在一個“什么都可以被生成”的時代，內(nèi)容平臺依然可以選擇，什么必須由人來完成。