經(jīng)參調(diào)查丨色情視頻被惡意“炮制” 幾元就能買到預(yù)訓(xùn)練模型 警惕AI換臉技術(shù)濫用滋生黑灰產(chǎn)

買家提供明星或私人照片可實(shí)現(xiàn)定制換臉。

網(wǎng)上售賣AI換臉制作的淫穢視頻信息。

新京報(bào)記者近日調(diào)查發(fā)現(xiàn)，隨著AI技術(shù)走紅以及門檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門地下生意。百度貼吧中部分標(biāo)榜“換臉＋女明星姓名”的發(fā)帖者，售賣通過AI換臉技術(shù)合成的視頻，價(jià)格可4元一部，也可158元打包購買700部視頻。而多位知名女明星頻被提及。

此外，新京報(bào)記者注意到，閑魚上還有賣家提供“定制換臉”服務(wù)。買家提供明星或私人照片，賣家即可將淫穢視頻中的主角“移花接木”。定制換臉視頻1分鐘20元－50元不等。

對(duì)此，聯(lián)合國網(wǎng)絡(luò)安全與網(wǎng)絡(luò)犯罪問題高級(jí)顧問吳沈括對(duì)新京報(bào)記者表示，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時(shí)也侵犯了肖像權(quán)。而買家購買之后加以傳播或者以傳播牟利，則可能構(gòu)成違法。

售賣

女星頻被“換臉”，35部視頻打包69元

新華社發(fā) 徐駿 作

女性面容被惡意嫁接

小雨是一名娛樂主播，直播內(nèi)容主要是和粉絲聊天，不涉及任何擦邊內(nèi)容。但不法分子卻將小雨的臉換到色情影片中傳播，讓她無端卷入不良輿論風(fēng)波。

“視頻是不能P的”“居然背著我們偷偷拍片”……看到直播間公屏上類似彈幕如爆炸般襲來，小雨自此不敢再參加任何線上或線下社交活動(dòng)。

后來，小雨在短視頻平臺(tái)又看到，有人毫不避諱地宣揚(yáng)有關(guān)她的色情影片。順著對(duì)方給的聯(lián)系方式，小雨進(jìn)入了所謂的“工程設(shè)計(jì)交流群”，發(fā)現(xiàn)群里全是各種各樣的網(wǎng)址和行業(yè)黑話。在這個(gè)群里，不法分子將許多女性的臉換到色情電影中非法牟利。最終，小雨報(bào)警，五名嫌疑人被抓，相關(guān)賬號(hào)和群聊也被永久封禁。

小雨的遭遇，并非個(gè)例。

記者潛入一個(gè)AI交流群群聊，群里一位名叫“學(xué)校的你進(jìn)社會(huì)”的網(wǎng)友發(fā)布了一條擦邊視頻，聲稱“988元包教會(huì)，流量很好”。視頻中，一位自稱女大學(xué)生的人坐在宿舍床上，穿著黑絲和蕾絲緊身衣做著各種低俗動(dòng)作。這位網(wǎng)友自詡AI換臉領(lǐng)域高手，只要發(fā)給他正臉照，即可生成與照片主人公相關(guān)的擦邊視頻。

女星頻被“換臉”，35部視頻打包69元

記者搜索發(fā)現(xiàn)，“換臉”、“Deepfake”以及“FakeApp”貼吧等都存在售賣AI換臉淫穢視頻的帖子。發(fā)帖者多為無頭像、簡單英文字母名稱的用戶，而且發(fā)帖用詞隱晦，包括“國內(nèi)外81部，誠信第一”。

記者聯(lián)系到一位名為阿長(化名)的賣家，其隨后發(fā)來“80部明星合成視頻列表”的壓縮包，包含多部淫穢視頻的列表截圖，文件名上標(biāo)注出多位大眾熟知的女明星。

“(購買)低于15部算4元一部，超過15部算3元一部，80部全買只要68元?！卑㈤L表示，視頻文件將通過QQ文件發(fā)送，支持微信、支付寶、QQ紅包等支付方式。記者4元隨機(jī)購買了一個(gè)標(biāo)題為某知名女明星的視頻。視頻中女主角臉部全部替換成了該女明星，盡管換臉效果粗糙，但仍能一眼識(shí)別出來。

隨后，阿長附贈(zèng)了相關(guān)視頻的剪輯版本，包含多個(gè)淫穢視頻的部分內(nèi)容，其中女主角的臉全被替換成了這一女星。

而在淘寶搜索“AI人臉替換”，也會(huì)出現(xiàn)不少提供AI換臉視頻制作服務(wù)的商家。消費(fèi)者只需花費(fèi)幾元到十幾元不等，就能定制一部換臉視頻，換臉對(duì)象可以是普通女性，也可以是女網(wǎng)紅、女明星。法律界人士指出，這些被明碼標(biāo)價(jià)的照片和視頻嚴(yán)重?fù)p害了受害者的肖像權(quán)益和人格尊嚴(yán)，亟待加強(qiáng)清理。

背后暗藏黑色產(chǎn)業(yè)鏈

深度偽造（Deepfake），是指通過使用人工智能生成技術(shù)，將個(gè)人的聲音、面部表情以及身體動(dòng)作拼接合成虛假內(nèi)容。最常見的是AI換臉技術(shù)，也包括語音模擬、人臉合成、視頻生成等。

除了百度貼吧，二手閑置平臺(tái)閑魚同樣存在相關(guān)售賣信息。記者在閑魚上搜索“AI換臉”看到，“AI換臉 明星最全精品”、“AI換臉，合集，都懂！”等信息，實(shí)則在售賣“嫁接”了女明星臉部的淫穢視頻。

記者分別與4位賣家進(jìn)行了溝通，其一般會(huì)提供標(biāo)有女明星姓名的目錄截圖，并以100部打包的形式售賣，價(jià)格從10元－38元不等。賣家子君(化名)告訴記者，在他打包售賣的淫穢視頻中，知名女性明星被惡意“嫁接”的最多。

此外，記者檢索閑魚發(fā)現(xiàn)，部分賣家還提供“定制換臉”服務(wù)，買家提供明星或私人照片，賣家可將照片中的臉“嫁接”到包括淫穢視頻在內(nèi)的任何視頻之中，制作周期為1-2天，報(bào)價(jià)1分鐘20元－50元不等。

賣家高爾(化名)表示，視頻素材和照片需要買家提供。“照片要多點(diǎn)，側(cè)面等各個(gè)角度，至少需要提供二十張以上。照片越多越像，沒照片發(fā)視頻也行”。

另一賣家要求，如果是“換臉”淫穢視頻，3分鐘起做。該賣家的定制價(jià)為一分鐘50元、二分鐘95元、三分鐘135元，也就是說，買家至少要花費(fèi)135元才能定制換臉淫穢視頻。

記者近日在閑魚平臺(tái)搜索“AI換臉”顯示9個(gè)商品售出，包括“換臉軟件”、“定制換臉”和“換臉教學(xué)”，有部分賣家在商品信息中注明，“本店僅負(fù)責(zé)服務(wù)配置環(huán)境和教授基礎(chǔ)知識(shí)，不幫忙操作，請(qǐng)各位自覺遵守當(dāng)?shù)胤?，否則后果自負(fù)”。

呼吁加強(qiáng)監(jiān)管治理

實(shí)際上，在打擊AI換臉色情視頻的技術(shù)攻防戰(zhàn)中，公安機(jī)關(guān)面臨前所未有的挑戰(zhàn)。

太原市某分局王警官介紹，Deepfake技術(shù)的受害者群體主要是女性：發(fā)布在社交平臺(tái)上穿著校服的女高中生照片被合成在裸體表情包上；外網(wǎng)流傳的相關(guān)群聊只需要提供照片便能實(shí)現(xiàn)色情圖片和視頻的自動(dòng)合成，并且這些群聊還被按照城市和學(xué)校進(jìn)行分類，目的是能在這些人的社交圈內(nèi)傳播。

服務(wù)器難以追蹤、證據(jù)難以保存，是警方不得不面對(duì)的現(xiàn)實(shí)問題?！跋胍獙?duì)AI生成內(nèi)容進(jìn)行溯源，難度不亞于大海撈針?！蓖蹙俳榻B，“犯罪嫌疑人會(huì)通過頻繁更換服務(wù)器、匿名網(wǎng)絡(luò)信息等手段隱藏蹤跡，再加上電子證據(jù)極易被加密、篡改或銷毀，都對(duì)警方搜集證據(jù)、研判案情造成阻礙?！?/p>

而對(duì)于受害者而言，過高的技術(shù)壁壘也使得獨(dú)立取證幾乎成為一件不可能的事?！皞鹘y(tǒng)辦案中‘人贓俱獲’的模式在AI犯罪面前已經(jīng)不起作用了?！蓖蹙偬寡?。

值得注意的是，近年來，通過開展各類專項(xiàng)行動(dòng)、加強(qiáng)技術(shù)研究，必要時(shí)聯(lián)合國際執(zhí)法機(jī)構(gòu)協(xié)同辦案，公安機(jī)關(guān)“打擊利用AI技術(shù)犯罪”的多維防線日益緊固。2025年1月，天津的李先生被詐騙分子偽造的企業(yè)老板視頻誘導(dǎo)轉(zhuǎn)賬95萬元。專案組通過分析轉(zhuǎn)賬資金流向、追蹤異常IP地址，聯(lián)合網(wǎng)絡(luò)安全公司還原了犯罪團(tuán)伙利用AI語音合成技術(shù)實(shí)施詐騙的全過程。最終警方與銀行聯(lián)動(dòng)凍結(jié)了李先生的賬戶，追回了83萬元。

在我國，根據(jù)《刑法》第三百六十三條規(guī)定，以牟利為目的，制作、復(fù)制、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴(yán)重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴(yán)重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財(cái)產(chǎn)。

聯(lián)合國網(wǎng)絡(luò)安全與網(wǎng)絡(luò)犯罪問題高級(jí)顧問吳沈括表示，就中國法律來講，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時(shí)在民事侵權(quán)領(lǐng)域，未經(jīng)允許，將他人的肖像用于謀利的，也侵犯了肖像權(quán)。

業(yè)內(nèi)人士指出，技術(shù)再逼真，人性的漏洞永遠(yuǎn)是突破口。面對(duì)可疑電話時(shí)保持冷靜，收到親友緊急轉(zhuǎn)賬請(qǐng)求時(shí)多渠道核實(shí)，警惕背后可能存在的AI語音合成陷阱。

來源：經(jīng)濟(jì)參考報(bào)

聲明：部分圖片素材來源于網(wǎng)絡(luò)，我們無法獲取原作者信息，如有違規(guī)請(qǐng)聯(lián)系我們刪除

持續(xù)關(guān)注！