防走丟，大家也可以在“事兒君看世界”找到我

關(guān)注起來，以后不“失聯(lián)”~

上周，兩件看似毫不相關(guān)的事同時發(fā)生了。

第一件事，TikTok集中封禁了一大批網(wǎng)紅賬號，她們是清一色的黑人女性，面孔精致、身材夸張、表情自然。

唯一的問題是，她們?nèi)茿I生成的假人。

同一周，美國男子Michael Smith在紐約聯(lián)邦法院認了罪。

他用AI生成了數(shù)十萬首歌曲，再用一千多個機器人賬號循環(huán)播放，七年騙走超過800萬美元版稅。

一個賣假人，一個賣假歌。一個在社交媒體上收割流量，一個在流媒體上收割版稅。兩件事的行業(yè)不同、手法不同、受害者不同，但它們背后的邏輯是一樣的。

曾經(jīng)需要高門檻才能實施的犯罪，現(xiàn)在變成一門任何人都可以上手的“生意”。

先來說第一件事。

BBC最新調(diào)查發(fā)現(xiàn)，TikTok和Ins上活躍著大量由AI生成的黑人女性賬號。

她們往往穿著暴露，皮膚經(jīng)過處理，顯得異常地黑，且賬號名稱刻意使用“Black”“Ebony”等標(biāo)簽，其目標(biāo)人群是誰已經(jīng)不言自明。

BBC發(fā)現(xiàn)了至少60個此類賬號，絕大多數(shù)在ins上運營，約三分之一同時活躍在TikTok上。重點是，這些AI圖像和視頻沒有標(biāo)注為AI生成，明顯違反了平臺規(guī)則。

舉個例子，其中一個被TikTok封禁的賬號，盜用了模特Riya Ulan的視頻。Riya是馬來西亞人，純亞洲人膚色，結(jié)果經(jīng)過AI上色，她變成了這樣：

（@riyaulann VS 假賬號）

最讓人不安的是，“上色版”的Riya在TikTok上獲得了3500萬次觀看，在Instagram上獲得了1.73億次，是Riya原版視頻的47倍。

評論里有網(wǎng)友看出了AI味兒，留言說：“我希望你不是AI，你是在太太太太太漂亮了。”

結(jié)果假賬號回復(fù)道：“哈哈哈當(dāng)然不是了，謝謝你?！?/p>

（假賬號的回復(fù)）

Riya表示，她很生氣：“我的視頻當(dāng)然都在網(wǎng)上...但這不意味著你可以隨意偷走它，當(dāng)成是你的?！?/p>

她曾多次向兩個平臺舉報假賬號，但官方無動于衷，直到BBC聯(lián)系TikTok后，假賬號才終于被封禁。

這些賬號當(dāng)然不是做著玩的，它們會互相關(guān)注、互相點贊，形成矩陣式推送。它們都會帶鏈接，最終會導(dǎo)向第三方的付費色情網(wǎng)站。

換句話說，社交媒體上免費的擦邊內(nèi)容是魚餌，為了把流量引導(dǎo)至付費平臺。當(dāng)然，付費平臺上的視頻，也是AI做的。

在BBC介入后，TikTok在兩天內(nèi)封了其中20個賬號，但ins那邊仍然表示“正在調(diào)查”，截至BBC發(fā)稿時，那些假賬號仍然活得好好的......

而這，只是AI色情產(chǎn)業(yè)鏈的冰山一角罷了。

2025年底，馬斯克旗下的聊天機器人Grok推出圖片編輯功能，然后立刻被大規(guī)模濫用......用戶只需對一張女性照片說一句類似“給她換上比基尼”之類的指令，Grok就會直接生成圖片，根本無需征得照片原主人同意。

據(jù)《紐約時報》統(tǒng)計，當(dāng)時Grok在九天內(nèi)生成了440萬張圖片，其中至少41%，是色情化的女性照片。

而這仍然不是最恐怖的。

在通用的圖像生成AI中，如果你叫AI生成一個人，它只會隨機生成一張臉。

但如果你非要生成特定的張三李四，它做不到，因為AI并不認識張三李四。

這時候就需要一種叫“LoRA”的微調(diào)體系..。

你只要收集一個人的幾十張照片，就可以訓(xùn)練出一個專門針對這個人的LoRA文件。把這個文件加載到AI工具里，它就認識這個人了。

之后你輸入任何指令，AI生成的圖像里都會是這個人的臉。

現(xiàn)在市面上甚至能找到專門制作這類小模型的服務(wù)。比如，美國有一個網(wǎng)站叫Civitai，里面有一個板塊是“懸賞”。顧名思義，可以花錢懸賞別人幫忙做LoRA文件。

（Civitai網(wǎng)站）

這甚至不是什么暗網(wǎng)、黑市，而是有風(fēng)投支持的正經(jīng)網(wǎng)站。

準確來說，制作LoRA模型本身只是讓AI“認識”一張臉，這一步確實不違法。

但這也意味著，任何人只要拿到你的幾張照片，都可以付費請人制作你的小模型，然后用AI無限生成你的照片......

至于是什么照片呢？你當(dāng)然不會知道，你也沒有任何控制權(quán)。

這就相當(dāng)于花錢買了一把專門打開某個人的鑰匙。而像Riya這類網(wǎng)紅、模特，本來就會在網(wǎng)上大量發(fā)布自己的照片，無疑是最“完美”的受害者。

（Riya的主頁有她的海量自拍）

時至今日，AI“制造”一個女人的成本幾乎已經(jīng)降到了零。

然后圍繞這個能力，流量引導(dǎo)至色情內(nèi)容，色情內(nèi)容又變成更多的流量，一條產(chǎn)業(yè)鏈就這么形成了。

接下來是同一周發(fā)生的第二件事。

2026年3月19日，美國男子Michael Smith承認了電信欺詐的罪名。他同意退還八百多萬美元的非法所得，面臨最高5年監(jiān)禁。

這是美國司法史上首例AI音樂欺詐的刑事案件。

Smith最初是個真正的音樂人，有自己創(chuàng)作的少量歌曲。但他很快意識到，靠真實創(chuàng)作根本就賺不到什么錢。

（Smith 2016年的照片）

想從流媒體平臺賺錢，你首先得有播放量。而想要有播放量，你要么出名，要么出爆款熱歌，而這兩個東西，Smith都沒有。

但是他可以偽造。

2018年底，他開始與一家AI音樂公司合作，買了數(shù)十萬首AI生成的曲目。從此，原材料的供應(yīng)變成了無限的。

有了歌，下一步是制造聽眾。

Smith創(chuàng)建了1040個機器人賬號，分布在Spotify、Apple Music等流媒體平臺上。他用自動化軟件讓這些賬號不間斷地播放自己的AI歌曲。每個機器人每天播放約636首歌，合計每天制造約66.1萬次播放。

為了不觸發(fā)平臺的反欺詐系統(tǒng)，他的設(shè)計相當(dāng)周密：播放量分散在數(shù)千首歌曲中，避免任何單曲播放量猛增；而且所有機器人都掛著VPN，模擬不同地區(qū)的真實聽眾。

這套系統(tǒng)從2018年運行到2024年。六年，硬生生造了數(shù)十億次虛假播放，最終騙取了超過800萬美元的版稅。

需要特別指出，Smith這套做法并不只是“薅平臺羊毛”這么簡單，而是真實地傷害了其他音樂人的利益。

這里稍微科普一下，Spotify、Apple Music這些平臺，用的都是所謂的“Pro-Rata”模式。

（Pro-Rata模式）

簡單地說，平臺每個月把所有訂閱費和廣告收入?yún)R成一個總池子，扣除平臺自身運營成本后，剩下的錢按比例分給所有版權(quán)持有者。你這個月的播放量占全平臺總播放量的百分之多少，你就拿走池子里百分之多少的錢。

而且，這個池子的總量是相對固定的，因為Spotify的會員數(shù)量就是相對固定的。播放量的增多并不會把蛋糕做大，反而會讓每個人切到的蛋糕變小。

打個比方：你和99個音樂人分一個月的版稅池。本來你的歌占了總播放量的1%，你拿走1%的錢。但現(xiàn)在Smith用機器人灌進來大量虛假播放，總播放量被人為撐大了，你的播放量還是那么多，但在總量中的占比從1%變成了0.8%。你的收入就憑空少了20%。

言歸正傳，據(jù)起訴書和Billboard報道，Smith并不是一個人在戰(zhàn)斗，他背后有一名幫他管理機器人賬號的“音樂推廣人”，以及那家AI音樂公司的CEO。Smith每個月會給這家AI音樂公司分成，每月不低于2000美元，徹底形成了產(chǎn)業(yè)鏈。

最恐怖的是，Smith干的事恐怕并不是個案，只不過他是第一個被揪出來的倒霉蛋罷了。

法國流媒體平臺Deezer的數(shù)據(jù)更能說明這個問題的規(guī)模。

（Deezer平臺，示意圖）

截至2026年1月，Deezer每天能收到約6萬首完全由AI生成的新曲，占其每日總上傳量的39%。

2025年全年，Deezer共標(biāo)記了1340多萬首AI生成曲目。而在這一千多萬首AI曲中，高達85%檢測出了“欺詐性播放”。

（當(dāng)然，欺詐播放會被平臺標(biāo)記出來，一毛錢都分不到。）

這并不意味著剩下那15%就不是欺詐，可能只是像Smith一樣，還沒有被檢測出來而已。

現(xiàn)在回過頭來看這兩件事，表面上，一個是AI色情，一個是AI音樂。但剝開表象，它們的運轉(zhuǎn)邏輯是一樣的：

第一步，AI把內(nèi)容生產(chǎn)的成本降到零。

色情視頻不需要真人，歌曲不需要真人創(chuàng)作。原材料可以無限供應(yīng)。

第二步，利用平臺獲得流量。

利用人們的好色心理獲得流量，或者干脆造一大堆機器人偽裝流量。

第三步，流量變現(xiàn)。

色情流量導(dǎo)向付費平臺，虛假播放騙取版稅池中的真金白銀......

身在2026年，我們現(xiàn)在遇到的問題是，AI進化的速度已經(jīng)超過法律修訂的速度了。

去年5月，美國簽署了《Take It Down》法案，將未經(jīng)同意發(fā)布親密圖像，也包括AI生成圖，列為聯(lián)邦犯罪，違者將面臨最高3年監(jiān)禁，平臺也必須在接到投訴后48小時內(nèi)刪除。

但這部法律針對的是“發(fā)布”這個環(huán)節(jié)，而非工具本身。這意味著兩件事：

第一，如果某個人私下里生成了你的圖片，而不發(fā)出去，法律將沉默以對。

第二，制作LoRA模型、提供生成工具的平臺和服務(wù)，只要自身沒有發(fā)布違規(guī)內(nèi)容，同樣是安全的。

怎么說呢，TikTok封禁了賬號，Michael Smith認了罪，但是類似的假賬號幾乎毫無疑問地會繼續(xù)涌現(xiàn)、Deezer每天仍要面對6萬首AI新曲的上傳......

這種局面不會很快消失。即便AI真的是泡沫，即便AI泡沫真的破裂，已經(jīng)生成的圖片和視頻都已經(jīng)存在了，或許就在某個人的硬盤里......

ref:

https://www.bbc.com/news/articles/c070e283k8vo
https://www.rollingstone.com/music/music-news/mike-smith-guilty-ai-generated-music-streaming-fraud-1235534089/

https://www.nytimes.com/2026/01/22/technology/grok-x-ai-elon-musk-deepfakes.html