由全球首富埃隆?馬斯克創(chuàng)造的Grok AI終于一炮而紅。

不過靠的并不是其技術(shù)突破，而是因其被廣泛濫用于生成裸露擦邊內(nèi)容，甚至涉及未成年人，最終遭到英國、歐盟、印尼等多國的強烈譴責(zé)與監(jiān)管介入。

這場風(fēng)波不僅暴露了單個產(chǎn)品的漏洞，更撕開了AI行業(yè)商業(yè)化與倫理安全的深層矛盾，全球AI涉黃警報正式拉響。

Grok“失控”，受害者遍布全球

一切的起因，要從Grok最新的視頻生成功能Imagine說起，據(jù)稱該功能在開放后24小時內(nèi)用戶使用量達數(shù)千萬次。

2025年8月，xAI向X平臺的付費用戶推出了AI圖像生成功能“Grok Imagine”，除了支持文字指令生成圖像、視頻外，其中還特意設(shè)置了一個名為“Spicy Mode”（火辣模式）的功能，直接打破了主流AI產(chǎn)品對“不適宜內(nèi)容”（NSFW）的嚴格限制——因為其明確允許生成成人內(nèi)容。

當(dāng)OpenAI、谷歌等巨頭在提升代碼能力和邏輯推理的賽道上內(nèi)卷時，馬斯克為Grok選擇了一條截然不同的道路。

圖源：X

彼時，xAI或許認為允許成人內(nèi)容帶來的商業(yè)利益遠超于其面臨的風(fēng)險，但現(xiàn)實很快證明，在龐大的用戶需求與技術(shù)濫用面前一切的風(fēng)險預(yù)設(shè)都顯得不堪一擊。

隨著Grok Imagine支持“修改他人發(fā)布圖像”的功能上線，亂象迅速升級。

大量用戶開始利用這一工具對真實人物照片進行“脫衣”“添加性暗示元素”等操作。

據(jù)英國知名媒體《衛(wèi)報》援引的數(shù)據(jù)顯示，Grok的用戶群體平均每小時要生成6700多張“脫衣”圖像，而英國三一學(xué)院的社交媒體研究更指出，在X平臺上由Grok生成的圖像中，3/4的素材源自“真實人物”——這些人物的照片多來自社交平臺，未經(jīng)本人同意便被用于成人內(nèi)容創(chuàng)作。

最受關(guān)注的案例之一，是美國歌手泰勒?斯威夫特的肖像被惡意嫁接至比基尼圖像中，在網(wǎng)絡(luò)上廣泛傳播，不僅嚴重侵犯其肖像權(quán)與人格尊嚴，更引發(fā)了公眾對“AI圖片生成技術(shù)”的恐慌。

更令人擔(dān)憂的是未成年人成為受害者。多方消息顯示，Grok生成的擦邊內(nèi)容中，包含多起涉及未成年人的案例——有用戶將中小學(xué)生的校園照片上傳至平臺，通過“火辣模式”生成性意味圖像，并在私密群聊中傳播。

圖像人工智能篡改檢測公司Copyleaks的監(jiān)測數(shù)據(jù)顯示，2025年12月下旬，Grok公開可訪問的圖片流中，平均每分鐘就會出現(xiàn)一張“未經(jīng)同意的性暗示圖片”，其中不乏未成年人影像。

面對愈演愈烈的亂象，xAI的應(yīng)對卻顯得敷衍且被動。在多國監(jiān)管壓力與輿論譴責(zé)下，Grok僅做出了小幅調(diào)整：將圖像生成與編輯功能“僅限付費用戶使用”，并在X平臺上發(fā)布聲明稱“會刪除非法內(nèi)容、永久封禁賬戶”。

圖源：X

但這種調(diào)整不僅未能解決核心問題，反而被質(zhì)疑是“借監(jiān)管爭議營銷付費服務(wù)”——英國技術(shù)大臣Liz Kendall對這種將問題轉(zhuǎn)化為付費服務(wù)的做法表示：“如果說仍可以通過付費訪問這項服務(wù)，那是侮辱性的?！?/strong>

更糟糕的是，作為xAI創(chuàng)始人的馬斯克不僅不以為恥，反而自己多次下場玩起了“AI黃色笑話”。

圖源：X

甚至就在幾天前，他還自己用Grok為自己生成了一張“馬斯克比基尼照片”，畫面不堪入目，而馬斯克卻洋洋自得，大呼“完美”。

圖源：X

馬斯克才是真正的“流量之神”

Grok的“裸奔”并非偶然，而是多重因素交織的結(jié)果——馬斯克的商業(yè)化野心驅(qū)動監(jiān)管套利，技術(shù)層面的防護欄缺失降低濫用門檻，以及部分用戶需求的異化，共同將這款A(yù)I產(chǎn)品推向了倫理與法律的邊緣。

從商業(yè)邏輯來看，馬斯克對Grok的定位自始至終帶有“流量導(dǎo)向”的色彩。

上海社會科學(xué)院信息研究所所長劉煒指出，馬斯克深諳“爭議是最好的催化劑”，而Grok的寬松內(nèi)容政策，本質(zhì)上是一種“監(jiān)管套利”策略。

在ChatGPT、谷歌Gemini等主流AI平臺因嚴格限制成人內(nèi)容而“流失”部分用戶時，Grok通過降低倫理門檻，收割那些被主流平臺拒絕的需求，進而為X平臺的付費訂閱服務(wù)引流。

這種策略并非無跡可尋：早在Grok Imagine推出前，X平臺就多次通過“釋放邊緣內(nèi)容”吸引關(guān)注。

此前，Grok已經(jīng)悄然上線了“Companions”（AI伙伴）功能。

其中一個名為“Ani”的二次元風(fēng)格女性角色，因其露骨的對話風(fēng)格和“讓你的生活更性感”的宣傳語引發(fā)了巨大爭議。

隨后推出的“Valentine”，設(shè)定為“富有魅力、具有保護欲”，能夠“真正理解你的氛圍”，并與基于Solana區(qū)塊鏈的同名模因幣綁定，形成了一個集AI伴侶、粉絲經(jīng)濟和加密文化于一體的獨特生態(tài)系統(tǒng)。

圖源：網(wǎng)易科技

與OpenAI對ChatGPT設(shè)置的多層內(nèi)容過濾機制不同，Grok從設(shè)計之初就弱化了風(fēng)險防控，甚至還會主動幫你尋求刺激。

據(jù)一名X網(wǎng)友透露，在他選擇了“火辣模式”卻沒有要求Grok脫掉角色的衣服的時候，最終呈現(xiàn)出來的畫面居然是“立刻脫掉了裙子，底下只穿著一條流蘇丁字褲，然后開始跳舞，完全未經(jīng)審查，完全暴露”。

世界各國反應(yīng)迅速而強烈。英國通信管理局已緊急聯(lián)系X平臺，表示正對Grok生成裸露圖像及兒童性暗示圖像的功能表示嚴重關(guān)切。

歐盟委員會發(fā)言人Thomas Renier也確認，歐盟正嚴肅調(diào)查針對Grok的投訴，并要求X平臺提供更多信息。

美國三位參議員——俄勒岡州的Ron Wyden、馬薩諸塞州的Edward J.Markey和新墨西哥州的Ben Ray Luján，聯(lián)名致信蘋果和谷歌首席執(zhí)行官，要求立即將X和Grok應(yīng)用從應(yīng)用商店下架。

更直接的是印度尼西亞，這個東南亞最大經(jīng)濟體已成為全球首個對Grok實施全面封禁的國家。

圖源：中國經(jīng)濟網(wǎng)

當(dāng)然，Grok的問題并非孤立存在。

或許是看到了商機所在，除了馬斯克的Grok外，去年11月谷歌發(fā)布的新圖像生成模型Nano Banana Pro，12月OpenAI更新的ChatGPT Images模型，同樣被爆出具備編輯圖像將人放入比基尼的功能。

康奈爾大學(xué)安全、信任與安全倡議主任Alexios Mantzarlis指出：“整個科技行業(yè)推動和放任了AI圖像生成器的魯莽部署。”

AI涉黃不是“自由”，而是必須守住的紅線

Grok引發(fā)的全球監(jiān)管風(fēng)暴，標志著各國對“AI生圖濫用”的態(tài)度從“觀望”轉(zhuǎn)向“強硬”——技術(shù)創(chuàng)新不能以犧牲倫理為代價，AI的“自由發(fā)展”必須有明確的邊界。而“不傷害他人”，是最基本的底線。

目前，歐盟已經(jīng)根據(jù)《數(shù)字服務(wù)法》對X展開了調(diào)查，并正在考慮處以罰款。罰款金額可能高達X公司全球年收入的6%。

更值得注意的是，歐盟正在積極推進《人工智能法案》的落地，該法案已于2024年5月獲批，預(yù)計2026年8月正式實施。

作為全球首部綜合性AI監(jiān)管立法，它采用風(fēng)險分級監(jiān)管方法，并對通用AI模型設(shè)置專門規(guī)則。

法案中的透明度義務(wù)規(guī)定，AI系統(tǒng)提供者必須確保其生成的內(nèi)容以機器可讀的形式被標記，并可被識別為AI所生成。

同時，Grok事件正加速全球AI治理版圖的重塑。截至2024年底，全球已有69個國家和地區(qū)制定了人工智能相關(guān)政策和立法。

但這種繁榮背后是“規(guī)范碎片化”的風(fēng)險。不同司法管轄區(qū)規(guī)則的差異，迫使跨國企業(yè)必須維護多套合規(guī)機制，導(dǎo)致合規(guī)成本急劇上升。

一家同時在歐盟、東南亞與中國運營的公司，可能需要應(yīng)對三套以上不同的AI治理規(guī)則。

當(dāng)歐盟試圖通過《AI法案》確立全球標準，其他國家卻可能強調(diào)國家安全與數(shù)據(jù)主權(quán)，形成替代性的規(guī)范體系。

結(jié)果可能不是一個統(tǒng)一的全球框架，而是多個區(qū)域性、陣營化的規(guī)則體系。

在這種背景下，Grok事件成為了一個關(guān)鍵的壓力測試案例。

它迫使各國監(jiān)管機構(gòu)、技術(shù)公司和公民社會共同面對一個根本問題：在一個AI可以輕易越過人類倫理與法律邊界的時代，我們究竟需要什么樣的全球性護欄？

作者 | 劉峰