（來源：麻省理工科技評(píng)論）

斯坦福與印第安納大學(xué)的最新研究顯示，AI 內(nèi)容交易平臺(tái) Civitai 仍允許用戶買賣用于微調(diào)深度偽造內(nèi)容的工具，而這類內(nèi)容正是該平臺(tái)宣稱明令禁止的。

由 a16z（Andreessen Horowitz）風(fēng)險(xiǎn)投資基金注資的 Civitai，是一家主打 AI 生成內(nèi)容交易的線上平臺(tái)。最新分析發(fā)現(xiàn)，該平臺(tái)竟默許用戶買賣用于生成名人深度偽造內(nèi)容的定制指令文件，其中部分文件更是專門用于制作平臺(tái)禁售的色情圖像。

這項(xiàng)由斯坦福大學(xué)和印第安納大學(xué)研究人員開展的研究，對(duì)該平臺(tái)上名為 “懸賞需求” 的用戶內(nèi)容定制請(qǐng)求進(jìn)行了分析。研究發(fā)現(xiàn)，2023 年年中至 2024 年底，平臺(tái)上的懸賞需求大多圍繞動(dòng)畫內(nèi)容展開，但也有相當(dāng)一部分是制作真人深度偽造內(nèi)容，且 90% 的真人深度偽造需求均以女性為目標(biāo)對(duì)象（相關(guān)研究成果尚未經(jīng)過同行評(píng)審）。

近期，X 平臺(tái)旗下聊天機(jī)器人 Grok 因生成露骨圖像引發(fā)公眾反對(duì)，也讓深度偽造內(nèi)容的相關(guān)爭(zhēng)議再次發(fā)酵，核心焦點(diǎn)始終是各大平臺(tái)應(yīng)如何封禁此類內(nèi)容。而 Civitai 的情況則更為復(fù)雜：該平臺(tái)不僅交易 AI 生成的圖片、視頻和模型，還允許用戶買賣一種名為 LoRAs 的低秩適應(yīng)指令文件。這類文件能引導(dǎo) “穩(wěn)定擴(kuò)散” 等主流 AI 模型，生成其原始訓(xùn)練中并未涉及的內(nèi)容。用戶可將該文件與其他工具結(jié)合，制作出露骨或涉性的深度偽造內(nèi)容，研究人員發(fā)現(xiàn)，Civitai 上86% 的深度偽造需求均是求購這類 LoRAs 文件。

在這些深度偽造內(nèi)容的懸賞任務(wù)中，用戶會(huì)要求制作者提供高質(zhì)量的 AI 模型，用以生成網(wǎng)紅查莉?達(dá)梅利奧（Charli D’Amelio）、歌手格雷西?艾布拉姆斯（Gracie Abrams）等公眾人物的偽造圖像，還常會(huì)附上這些人物的社交媒體主頁鏈接，方便制作者從網(wǎng)絡(luò)上獲取相關(guān)影像素材。部分需求會(huì)明確要求，模型生成的內(nèi)容要包含人物全身、精準(zhǔn)還原紋身細(xì)節(jié)，或是支持調(diào)整發(fā)色。還有些需求的目標(biāo)是特定領(lǐng)域的女性群體，比如 ASMR 視頻創(chuàng)作者。

其中有一則需求，要求制作一名據(jù)稱是用戶妻子的女性的深度偽造內(nèi)容。平臺(tái)上的所有用戶都可提交自己制作的 AI 模型參與懸賞任務(wù)，最終的最優(yōu)作品制作者會(huì)獲得報(bào)酬，金額在 0.5 至 5 美元之間。該平臺(tái)上近 92% 的深度偽造內(nèi)容懸賞任務(wù)都已有制作者中標(biāo)。

截至目前，Civitai 平臺(tái)和 a16z 基金均未對(duì)相關(guān)置評(píng)請(qǐng)求作出回應(yīng)。

不排除部分用戶購買 LoRAs 文件，是為了制作非性相關(guān)的深度偽造內(nèi)容。但即便如此，這類行為依然違反 Civitai 的平臺(tái)使用條款，且存在倫理爭(zhēng)議。而 Civitai 平臺(tái)還會(huì)提供各類教學(xué)資源，指導(dǎo)用戶如何借助外部工具進(jìn)一步定制圖像生成器的輸出內(nèi)容，比如調(diào)整人物的肢體姿勢(shì)。平臺(tái)上還有用戶撰寫的文章，詳細(xì)介紹了如何調(diào)教 AI 模型生成色情內(nèi)容。研究人員發(fā)現(xiàn)，該平臺(tái)上的色情內(nèi)容數(shù)量持續(xù)增加，目前平臺(tái)每周的大部分內(nèi)容需求都為不適宜公開的成人內(nèi)容。

該研究的負(fù)責(zé)人之一、斯坦福大學(xué)網(wǎng)絡(luò)政策中心博士后研究員馬修?德沃爾納（Matthew DeVerna）表示：“Civitai 不僅搭建了催生這些問題的基礎(chǔ)設(shè)施，還會(huì)明確指導(dǎo)用戶如何利用這些工具制作違規(guī)內(nèi)容。”

Civitai 此前僅封禁針對(duì)真人的性相關(guān)深度偽造內(nèi)容，卻在 2025 年 5 月宣布，將全面封禁所有深度偽造內(nèi)容。《麻省理工科技評(píng)論》核實(shí)發(fā)現(xiàn)，該禁令發(fā)布前，平臺(tái)上已存在的大量深度偽造內(nèi)容懸賞任務(wù)至今仍未下線，不少中標(biāo)并完成這些任務(wù)的相關(guān)作品，也仍在平臺(tái)上供用戶購買。

德沃爾納表示：“我認(rèn)為該平臺(tái)的運(yùn)營思路，就是盡可能少采取管控措施，以此在平臺(tái)上催生更多所謂的創(chuàng)作內(nèi)容?！?/p>

用戶需通過平臺(tái)的虛擬貨幣 Buzz 購買 LoRAs 文件，而該虛擬貨幣可通過法定貨幣兌換。2025 年 5 月，因平臺(tái)上的非合意內(nèi)容問題始終得不到解決，為 Civitai 提供信用卡支付服務(wù)的機(jī)構(gòu)終止了與其合作。目前用戶若要購買露骨內(nèi)容，只能通過禮品卡或加密貨幣兌換 Buzz，平臺(tái)則為非露骨內(nèi)容的交易單獨(dú)設(shè)置了另一種虛擬貨幣。

Civitai 會(huì)為要求制作深度偽造內(nèi)容的懸賞任務(wù)自動(dòng)添加標(biāo)簽，同時(shí)在平臺(tái)上公布相關(guān)流程，允許被偽造的當(dāng)事人手動(dòng)申請(qǐng)下架相關(guān)內(nèi)容。這一機(jī)制意味著，Civitai 其實(shí)有一套效果尚可的方式，能夠識(shí)別出平臺(tái)上的深度偽造內(nèi)容懸賞任務(wù)。但該平臺(tái)始終將內(nèi)容審核的責(zé)任推給公眾，并未主動(dòng)開展相關(guān)工作。

科技公司需為用戶的行為承擔(dān)何種法律責(zé)任，目前尚無明確界定。依據(jù)《通信規(guī)范法》第 23 條，科技公司通常能在內(nèi)容相關(guān)的法律責(zé)任上獲得廣泛保護(hù)，但這類保護(hù)并非無上限。華盛頓大學(xué)法學(xué)院專攻科技與人工智能領(lǐng)域的教授瑞安?卡洛（Ryan Calo）表示，比如平臺(tái)不能故意為網(wǎng)站上的非法交易提供便利。

2024 年，Civitai 與 OpenAI、Anthropic 等多家人工智能企業(yè)聯(lián)合推出了一項(xiàng)設(shè)計(jì)準(zhǔn)則，旨在防范 AI 生成的兒童性虐待素材的制作與傳播。該舉措的出臺(tái)，源于斯坦?；ヂ?lián)網(wǎng)觀測(cè)站 2023 年發(fā)布的一份報(bào)告。報(bào)告指出，兒童性虐待相關(guān)社群中提及的絕大多數(shù) AI 模型，均以 Stable Diffusion 為基礎(chǔ)，且這些模型基本都是從 Civitai 平臺(tái)獲取的。

但針對(duì)成人的深度偽造內(nèi)容，卻始終未得到內(nèi)容平臺(tái)及其投資風(fēng)投機(jī)構(gòu)的同等重視?？灞硎荆骸八麄儗?duì)此的重視程度遠(yuǎn)遠(yuǎn)不夠，甚至過度縱容這類內(nèi)容的存在。執(zhí)法機(jī)構(gòu)和民事法庭也未能采取有效措施防范此類問題，兩者的重視程度有著天壤之別?！?/p>

2023 年 11 月，Civitai 獲得安德森?霍洛維茨基金 500 萬美元的投資。在該基金發(fā)布的一段視頻中，Civitai 聯(lián)合創(chuàng)始人兼首席執(zhí)行官賈斯汀?邁爾（Justin Maier）闡述了自己的創(chuàng)業(yè)目標(biāo)，他希望將平臺(tái)打造為全球首屈一指的 AI 模型交易與分享平臺(tái)，讓用戶能獲取適配個(gè)人需求的各類 AI 模型。他表示：“我們希望讓這個(gè)原本小眾、且對(duì)技術(shù)要求極高的領(lǐng)域，變得越來越親民，讓更多人能夠參與其中。”

Civitai 并非 a16z 基金投資的唯一存在深度偽造內(nèi)容相關(guān)問題的企業(yè)。《麻省理工科技評(píng)論》今年 2 月首次披露，該基金投資的另一家企業(yè) Botify AI 也存在違規(guī)問題。該平臺(tái)推出的多款 AI 虛擬伴侶均以真人演員為原型，這些虛擬形象均自稱未滿 18 歲，會(huì)與用戶進(jìn)行性暗示對(duì)話，還會(huì)向用戶發(fā)送所謂的性感照片，部分虛擬形象甚至?xí)Q法定同意年齡相關(guān)法律毫無道理、本就該被打破。

https://www.technologyreview.com/2026/01/30/1131945/inside-the-marketplace-powering-bespoke-ai-deepfakes-of-real-women/