Put her in a bikini.

作者I薛星星

編輯I蔣澆

封面IGemini生成

幾天前，伊隆·馬斯克在自己的 X 賬號(hào)上轉(zhuǎn)發(fā)了一條給吐司機(jī)穿上比基尼的帖子。他說(shuō)，“不知道為什么，但我就是忍不住為這件事笑個(gè)不停。”

馬斯克轉(zhuǎn)發(fā)給吐司機(jī)穿上比基尼的照片

吐司機(jī)身著比基尼的照片是過(guò)去半個(gè)多月來(lái) Grok 及 X 平臺(tái)深陷色情爭(zhēng)議的縮影。Grok 早在去年年中就推出了 AI 圖像生成及編輯功能，也曾因更激進(jìn)大膽的 Spicy（火辣）模式屢上報(bào)端。在 Spicy 模式下，Grok 限制更少，允許生成成人內(nèi)容。

但那時(shí)這一模式尚未像如今引發(fā)巨大爭(zhēng)議。去年底，X 平臺(tái)逐漸將這一功能引入平臺(tái)內(nèi)的 Grok 機(jī)器人后，大量 X 用戶開(kāi)始評(píng)論區(qū)中隨意艾特 Grok 來(lái)生成帶有性暗示或色情意味的合成圖片，并在短時(shí)間內(nèi)迅速演變成一場(chǎng)波及全球的 AI 色情暴力風(fēng)波。

就像馬斯克轉(zhuǎn)發(fā)的那條帖子寫道，“Grok 能給任何東西穿上比基尼。”政客、明星、富豪（包括馬斯克自己）乃至更多只是分享個(gè)人照片的普通人，只要照片一旦發(fā)布在 X 上，總有人在評(píng)論區(qū)中艾特 Grok，令其將照片人物修改成身著比基尼或其他帶有性暗示的裸露照片，也就是所謂的“AI 脫衣”。

絕大部分受害者都是女性，甚至包括部分未成年人?！癙ut her in a bikini”已經(jīng)成為 X 平臺(tái)上最熱門的風(fēng)潮。起初，評(píng)論區(qū)中部分用戶提出的修改，尚且局限在給女性穿上比基尼等簡(jiǎn)單需求上。但緊接著要求愈發(fā)大膽且極端，僅僅是要求 Grok 給女性穿上比基尼還不夠，還要更小、更透明乃至露出私處、擺出性暗示姿勢(shì)等。

截至 1 月 14 日，包括英國(guó)、法國(guó)、意大利、印度、巴西、澳大利亞及歐盟等國(guó)家及地區(qū)的監(jiān)管機(jī)構(gòu)都已對(duì) Grok 發(fā)出警告或展開(kāi)調(diào)查，印尼及馬來(lái)西亞已先后宣布暫時(shí)封禁 Grok。

多國(guó)監(jiān)管機(jī)構(gòu)普遍認(rèn)為，馬斯克縱容 AI 工具隨意生成未經(jīng)他人同意的性暗示乃至兒童色情圖像?！拔唇?jīng)同意的、性化的深度偽造行為嚴(yán)重侵犯了公民在數(shù)字空間中的人權(quán)、尊嚴(yán)和安全?！庇∧岜O(jiān)管機(jī)構(gòu)負(fù)責(zé)人表示。

馬斯克似乎對(duì)此不屑一顧。除了轉(zhuǎn)發(fā)吐司機(jī)身著比基尼的照片外，他甚至也加入風(fēng)潮，要求 Grok 給自己穿上比基尼?！癙erfect. ”他說(shuō)。針對(duì)媒體們的問(wèn)詢，xAI 均以自動(dòng)郵件回復(fù)稱，“Legacy Media Lies（傳統(tǒng)媒體的謊言）?！?/p>

Put her in a bikini

很難搞清楚 X 平臺(tái)上的這股“Put her in a bikini”的風(fēng)潮到底是何時(shí)興起的，但媒體們開(kāi)始普遍關(guān)注此事集中在新年前后，也就是圣誕及元旦假期期間。

英國(guó)《衛(wèi)報(bào)》統(tǒng)計(jì)稱，12 月中旬，X 平臺(tái)上 Grok 收到的比基尼修改需求平均每天大概只有 10 到 20 個(gè)，但月底飆升至超 4 萬(wàn)個(gè)?！缎l(wèi)報(bào)》引述數(shù)字情報(bào)公司 Peryton Intelligence 分析稱，相關(guān)趨勢(shì)在新年期間蔓延至全球，1 月 2 日 Grok 共收到近 20 萬(wàn)個(gè)獨(dú)立請(qǐng)求。

在新年前后，X 幾乎已成為全球最大的 Deepfake 網(wǎng)站。彭博社引述社交媒體與深度偽造研究專家吉納維芙·吳（Genevieve Oh）的說(shuō)法稱，1 月 5 日至 6 日的 24 小時(shí)中，X 上的 Grok 平均每小時(shí)會(huì)生成約 6700 張性暗示圖片。

吉納維芙·吳統(tǒng)計(jì)了同期市場(chǎng)排名前五的 Deepfake 類網(wǎng)站，稱這些網(wǎng)站平均每小時(shí)生成的 AI 脫衣圖片不過(guò) 79 張。也就是說(shuō)，X 平臺(tái)上的 Grok 每小時(shí)發(fā)布的性暗示圖片是其他網(wǎng)站約 84 倍。

許多女性都深受其害。她們往往只是在 X 平臺(tái)上分享了一張個(gè)人照片，就被人用 Grok 生成比基尼或者其他性暗示圖片大肆傳播。而一旦她們公開(kāi)發(fā)表不滿，隨即就會(huì)引發(fā)更多報(bào)復(fù)。一些用戶會(huì)變本加厲地要求 Grok 將照片修改成更色情、更裸露的圖片。

比如美國(guó)網(wǎng)紅、與馬斯克育有一子的阿什莉·圣克萊爾（AshleySt.Clair）公開(kāi)反對(duì)相關(guān)行為后，就有人開(kāi)始用她幼年圖片生成比基尼照片。前段時(shí)間，一名女性在美國(guó)明尼蘇達(dá)州被移民及海關(guān)執(zhí)法局槍殺，槍擊現(xiàn)場(chǎng)照片在 X 平臺(tái)傳播后，甚至有人利用 Grok 生成遇害者身著比基尼的照片。

網(wǎng)絡(luò)觀察基金會(huì)對(duì)外表示，他們?cè)谝粋€(gè)暗網(wǎng)論壇上發(fā)現(xiàn)了未成年人的色情化圖片，上傳者聲稱這些圖片都是用 Grok 制作的。網(wǎng)絡(luò)觀察基金會(huì)是一個(gè)專注于打擊兒童色情類內(nèi)容的非盈利組織，該組織負(fù)責(zé)人對(duì)外表示，像 Grok 這樣的工具現(xiàn)在有可能將兒童 AI 色情圖像帶入主流。

歐洲非盈利組織 AI Forensics 分析了 Grok 生成的 2 萬(wàn)多張圖片以及 12 月 25 日至 1 月 1 日期間的近 5 萬(wàn)個(gè)用戶請(qǐng)求，指出 Grok 生成的人物圖像中，超過(guò)一半的人物身著暴露，其中 81% 的圖像為女性，且有 2% 的圖像人物似乎未滿 18 歲。

元旦假期之后，多個(gè)國(guó)家監(jiān)管部門開(kāi)始著手對(duì) Grok 及 X 平臺(tái)上的 AI 色情泛濫展開(kāi)調(diào)查。歐盟委員會(huì)公開(kāi)表示不滿且譴責(zé) X 平臺(tái)，歐盟數(shù)字事務(wù)發(fā)言人托馬斯·雷尼耶（Thomas Regnier）稱，Grok 的 Spicy 模式根本不是什么刺激，而是違法且令人作嘔的。

包括英國(guó)、法國(guó)、印度、巴西、澳大利亞等多國(guó)監(jiān)管機(jī)構(gòu)開(kāi)始對(duì) Grok 及 X 平臺(tái)展開(kāi)調(diào)查或計(jì)劃采取相關(guān)限制措施，印尼及馬來(lái)西亞分別于 1 月 10 日及 11 日暫時(shí)封禁 Grok。美國(guó)亦有部分參議員呼吁蘋果及谷歌將 X 與 Grok 應(yīng)用從應(yīng)用商店下架。

馬來(lái)西亞宣布封禁 Grok

僅供付費(fèi)用戶使用

馬斯克最早對(duì)平臺(tái)上的“Put her in a bikini”風(fēng)潮不以為然，甚至主動(dòng)玩梗。

除了轉(zhuǎn)發(fā)吐司機(jī)及他自己身著比基尼的照片外，他也轉(zhuǎn)發(fā)過(guò)微軟創(chuàng)始人比爾·蓋茨、英國(guó)首相基爾·斯塔默等名人身著比基尼的照片。一位 X 用戶發(fā)帖吐槽說(shuō)，自己的時(shí)間線仿佛變成了充斥著比基尼女郎的酒吧，馬斯克用一個(gè)笑哭的表情回應(yīng)。

但隨著事態(tài)發(fā)展愈發(fā)嚴(yán)重，馬斯克也不得不收起調(diào)侃口吻，開(kāi)始正面回應(yīng)平臺(tái)爭(zhēng)議。但他似乎并不認(rèn)為平臺(tái)應(yīng)當(dāng)承擔(dān)責(zé)任，他對(duì)外強(qiáng)調(diào)，“任何使用 Grok 制作非法內(nèi)容的人，都將面臨與上傳非法內(nèi)容相同的后果?！?/p>

馬斯克及 X 的對(duì)外回復(fù)

緊接著，X 也公開(kāi)對(duì)外表示，他們將針對(duì)平臺(tái)上的非法內(nèi)容如兒童性虐待采取行動(dòng)，包括刪除相關(guān)內(nèi)容、永久封禁賬號(hào)及與當(dāng)?shù)卣蛨?zhí)法部門合作等，試圖對(duì)外表明平臺(tái)態(tài)度。此后，X 限制了平臺(tái)內(nèi) Grok 的使用范圍，只有付費(fèi)訂閱用戶才可以在 X 中使用 Grok 的圖像生成和編輯功能。

但這些回應(yīng)和限制措施并未平息爭(zhēng)議。批評(píng)者認(rèn)為，馬斯克試圖將責(zé)任歸咎于使用 Grok 制作“AI 脫衣”圖像的用戶，卻回避了平臺(tái)應(yīng)承擔(dān)的審核與治理責(zé)任。

X 此后將圖像生成功能限制為僅向付費(fèi)用戶開(kāi)放，更進(jìn)一步引發(fā)外界質(zhì)疑，好似這些功能更能刺激平臺(tái)拉高訂閱收入。此外，Grok 的圖像生成功能雖不在 X 平臺(tái)免費(fèi)開(kāi)放，但在 Grok 應(yīng)用內(nèi)仍可免費(fèi)使用。

面對(duì)多國(guó)監(jiān)管機(jī)構(gòu)的批評(píng)和調(diào)查舉措，馬斯克的反應(yīng)更為激烈，不止一次地批評(píng)其他國(guó)家對(duì) Grok 和 X 的限制是在打壓言論自由。尤其在英國(guó)首相斯塔默等人譴責(zé) Grok 并要求 Ofcom 采取行動(dòng)后，馬斯克甚至直接稱呼英國(guó)政府為“法西斯”，怒罵英國(guó)是“監(jiān)獄島”。

馬斯克轉(zhuǎn)發(fā)英國(guó)首相斯塔默身著比基尼照片，并稱對(duì)方打壓言論自由

他舉出的佐證之一是 Gemini 及 ChatGPT 等 AI 應(yīng)用也均能將人物圖片修改為身著比基尼的照片，但只有 Grok 和 X 陷入爭(zhēng)議，稱“他們想方設(shè)法地尋找審查制度的借口?！?/p>

馬斯克轉(zhuǎn)發(fā) Gemini 及 ChatGPT 均能生成身著比基尼照片

過(guò)去一周，除了轉(zhuǎn)發(fā)各類支持者們的言論外，馬斯克做的最多的就是不遺余力地對(duì)外轉(zhuǎn)發(fā) Grok 在多國(guó)應(yīng)用商店下載榜登頂?shù)奶樱癎rok 正在越來(lái)越多的國(guó)家排名第一。”

馬斯克或許忽略了 Grok 與 Gemini 或者 ChatGPT 的不同。Grok 直接內(nèi)置在 X 平臺(tái)中—— X 至今仍然是全球最大的社交媒體之一，每天有數(shù)以萬(wàn)計(jì)的用戶在 X 上分享照片，用戶無(wú)需跳轉(zhuǎn)就可以直接在評(píng)論區(qū)中利用 Grok 來(lái)生成圖像，傳播力度和便捷程度都要比后兩者大得多，更遑論 Gemini 或 ChatGPT 在隱私保護(hù)和色情內(nèi)容限制上都要比 Grok 更加嚴(yán)苛。

Grok 在色情內(nèi)容上爭(zhēng)議性似乎也是由馬斯克一手造成的。他治下的 Grok 最早就是以毒舌、大膽著稱，馬斯克自己也不止一次地對(duì)外反對(duì) AI 的政治正確。在此次的色情爭(zhēng)議之前，Grok 也曾因反猶及法西斯言論引起爭(zhēng)議。

CNN 此前報(bào)道稱，在 X 平臺(tái)上 “Put her in a bikini”大肆泛濫前幾周，馬斯克在一次 xAI 的內(nèi)部會(huì)議上對(duì)團(tuán)隊(duì)表達(dá)不滿，要求放松對(duì) Grok 圖像生成的內(nèi)容限制。此后，三位 xAI 安全團(tuán)隊(duì)的核心人員辭職離開(kāi)，包括產(chǎn)品安全主管和法務(wù)主管。

The Information 去年 11 月報(bào)道稱，X 裁掉了半數(shù)負(fù)責(zé)信任和安全問(wèn)題的工程團(tuán)隊(duì)員工。The Information 還報(bào)道稱，X 員工擔(dān)心 Grok 的圖像生成功能“可能導(dǎo)致非法或其他有害圖像的傳播”。

AI 的責(zé)任與邊界

此次 X 及 Grok 深陷的色情內(nèi)容爭(zhēng)議，或許可以被寬泛地歸類于 DeepFake（深度偽造）類色情內(nèi)容在 AI 時(shí)代下的大范圍復(fù)蘇。

在生成式 AI 崛起之前，DeepFake 類色情內(nèi)容已經(jīng)在社交網(wǎng)絡(luò)和色情網(wǎng)站上大規(guī)模出現(xiàn)，典型形式是把女明星的臉嫁接到色情視頻演員身上。

2019 年，一款名為 DeepNude 的 AI 工具進(jìn)一步將這類技術(shù)簡(jiǎn)化為“一鍵 AI 脫衣”，用戶上傳女性照片就能生成裸體版本。但發(fā)布不久，DeepNude 就因巨大爭(zhēng)議而不得不下線暫停運(yùn)行。

此后，類似的 DeepFake 應(yīng)用仍在部分黑灰產(chǎn)網(wǎng)站或 Telegram 群組中流傳，但很少走進(jìn)大眾視野，也幾乎無(wú)法觸達(dá)類似于 Grok 在 X 平臺(tái)中的造成的深偽色情泛濫程度。

某種程度上，AI 的技術(shù)進(jìn)步或許進(jìn)一步加劇了 DeepFake 色情內(nèi)容的泛濫，甚至部分 AI 公司在模型訓(xùn)練時(shí)也會(huì)利用大量成人視頻或色情小說(shuō)數(shù)據(jù)，導(dǎo)致 AI 模型本身也會(huì)更容易生成色情化內(nèi)容，比如 Meta 就因爬蟲色情網(wǎng)站視頻而遭到起訴。

AI 公司們或許也很難抵御色情內(nèi)容帶來(lái)的巨大流量和商業(yè)價(jià)值。姑且不提馬斯克執(zhí)著地要為 Grok 加入 Spicy 模式，將成人內(nèi)容作為 Grok 的標(biāo)簽之一。此前一直對(duì)色情避而遠(yuǎn)之的 OpenAI 創(chuàng)始人薩姆·奧爾特曼，也曾對(duì)外松口要為成人用戶開(kāi)放情色內(nèi)容。但截至目前，相關(guān)功能尚未真正上線。

曾在 2020 年至 2024 年間擔(dān)任 OpenAI 產(chǎn)品安全主管的史蒂文·阿德勒（Steven Adler）公開(kāi)反對(duì)奧爾特曼開(kāi)放情色內(nèi)容。在他看來(lái)，OpenAI 開(kāi)放情色內(nèi)容的做法是將利潤(rùn)與競(jìng)爭(zhēng)放在安全之上。微軟人工智能業(yè)務(wù) CEO 穆斯塔法·蘇萊曼（Mustafa Suleyman）也反對(duì) AI 色情內(nèi)容，稱微軟絕不會(huì)提供此類服務(wù)。

當(dāng)前的主流 AI 應(yīng)用均對(duì)色情內(nèi)容做出了相關(guān)限制，比如谷歌禁止生成兒童性虐待或性剝削內(nèi)容，也不得利用 AI 生成露骨色情內(nèi)容。但在大公司之外，仍有大量初創(chuàng)團(tuán)隊(duì)主動(dòng)介入 AI 色情領(lǐng)域。Meta 此前曾因違規(guī)投放廣告而起訴一家總部位于香港的成人 AI 公司 CrushAI，該平臺(tái)主打提供無(wú)過(guò)濾的成人 AI 聊天。

去年 9 月，“國(guó)內(nèi) AI 服務(wù)涉黃第一案”一審宣判，上海市徐匯區(qū)人民法院一審判決，兩名被告人犯制作淫穢物品牟利罪，分別獲刑四年、一年半。兩名被告人不服判決，已提出上訴。

對(duì)于馬斯克來(lái)說(shuō)，這類 AI 色情內(nèi)容或許正是提高 Grok 用戶活躍度的有效手段。自去年年中 Grok 推出 Spicy 模式以來(lái)，Grok 下載量與付費(fèi)用戶數(shù)不斷走高。

根據(jù) Appfigures 的統(tǒng)計(jì)，Grok 的去年第三季度的移動(dòng)端收入已達(dá)到 1850 萬(wàn)美元，較第一季度增長(zhǎng) 400%，增長(zhǎng)幅度遙遙領(lǐng)先一眾 AI 應(yīng)用。Appfigures 稱圖像生成功能助推顯著。

過(guò)去半個(gè)月來(lái) Grok 及 X 雖然屢陷爭(zhēng)議，但相關(guān)下載量同樣飆漲。據(jù)追蹤移動(dòng)應(yīng)用趨勢(shì)的 Apptopia 數(shù)據(jù)顯示，自 1 月 2 日以來(lái)，Grok 的每日下載量增長(zhǎng)了 54%，而 X 的每日下載量在三日內(nèi)增長(zhǎng)了 25%。

過(guò)去一周來(lái)，Grok 已先后登頂法國(guó)、英國(guó)、日本、芬蘭、新西蘭、泰國(guó)等地 App Store 總榜第一。Grok 在 Google Trends 的搜索熱度也創(chuàng)下過(guò)去半年來(lái)新高。