出品｜虎嗅科技組
作者｜趙致格
編輯｜苗正卿
頭圖｜視覺中國(guó)

2025年8月，xAI旗下的聊天機(jī)器人推出圖像生成功能Grok Imagine，允許用戶支持文字指令生成圖像、視頻，還特別設(shè)置了 “火辣模式（Spicy Mode）”，明確允許生成成人內(nèi)容。

到了12月，隨著Grok Imagine支持“修改他人發(fā)布圖像”的功能上線，亂象迅速升級(jí)。X平臺(tái)上，大量用戶開始使用這一功能對(duì)真實(shí)人物照片進(jìn)行“脫衣”等操作。

數(shù)據(jù)顯示，在X上由Grok生成的圖像終有75%出自“真實(shí)素材”，即真實(shí)存在的女性或未成年人，且Grok對(duì)他們所進(jìn)行的“變裝”操作未經(jīng)當(dāng)事人同意。在Grok這座規(guī)?？涨暗纳疃葌卧旃S，不僅防護(hù)措施形同虛設(shè)，而且?guī)缀跞魏稳硕寄茈S意使用，大大降低了技術(shù)作惡的標(biāo)準(zhǔn)。

隨著這一事件引爆全球輿論，AI內(nèi)容安全、平臺(tái)責(zé)任和技術(shù)監(jiān)管的邊界問題逐漸成為全球關(guān)注焦點(diǎn)，多個(gè)國(guó)家政府及監(jiān)管部門對(duì)Grok開啟調(diào)查或進(jìn)行暫時(shí)性禁封。

不過xAI對(duì)此的不痛不癢，僅僅將將X平臺(tái)上的圖像生成功能限制為僅付費(fèi)用戶可用，但在獨(dú)立的Grok應(yīng)用中仍然免費(fèi)。這一調(diào)整并未平息爭(zhēng)議，很多人認(rèn)為功能本身在規(guī)則和審查機(jī)制上仍存在明顯漏洞。

1月12日，隨著加利福尼亞州司法部長(zhǎng)羅伯·邦塔總部位于硅谷的xAI進(jìn)行調(diào)查，xAI終于后退一步，宣布Grok將不再根據(jù)用戶提示，在社交平臺(tái)X上生成真人的性感化圖像。

Grok遭全球多國(guó)禁封調(diào)查

全球各國(guó)政府中，態(tài)度最嚴(yán)厲的當(dāng)屬穆斯林人口占多數(shù)，社會(huì)氛圍相對(duì)保守的馬來西亞和印度尼西亞。兩國(guó)目前均已將Grok暫時(shí)屏蔽。

1月10日，印尼通信和數(shù)字事務(wù)部長(zhǎng)Meutya Hafid稱，使用Grok制作色情內(nèi)容是對(duì)人權(quán)、尊嚴(yán)和網(wǎng)絡(luò)安全的侵犯，并稱此次封禁意在“保護(hù)女性、兒童及廣大公眾免受AI技術(shù)生成的虛假色情內(nèi)容所帶來的危害”。

1月11日，馬來西亞通訊及多媒體委員會(huì)稱，此前委員會(huì)多次因X平臺(tái)濫用Grok生成有害內(nèi)容而向該公司發(fā)通知，要求其采取更嚴(yán)格的措施，然而X在回應(yīng)中未能解決其平臺(tái)設(shè)計(jì)中的固有風(fēng)險(xiǎn)。因此，在實(shí)施有效的安全措施之前，Grok將在馬來西亞被屏蔽。

在西方發(fā)達(dá)國(guó)家中，對(duì)于Grok生成違規(guī)內(nèi)容事件調(diào)門最高的無疑是英國(guó)。英國(guó)政府甚至直接和馬斯克本人“杠上了”。

1月8日，英國(guó)首相斯塔默公開斥責(zé)此類圖像 “令人作嘔” 且 “涉嫌違法”，并要求馬斯克旗下的 X 平臺(tái) “管好 Grok”。對(duì)此，馬斯克在X平臺(tái)轉(zhuǎn)發(fā)一個(gè)帖子，內(nèi)容是“谷歌的Gemini和OpenAI的ChatGPT在人們發(fā)出指令后同樣能生成比基尼照片，為什么斯塔默只盯著Grok？”。馬斯克在轉(zhuǎn)發(fā)時(shí)對(duì)這個(gè)諷刺性的提問給出了自己的回答：“因?yàn)樗麄兿雺褐蒲哉撟杂伞薄?/p>

對(duì)于這一說法，英國(guó)商務(wù)大臣彼得?凱爾在1月12日回應(yīng)稱，這根本不是什么言論自由問題。她對(duì)議員發(fā)表講話時(shí)表示，“這件事的核心是打擊針對(duì)婦女和女童的暴力行為，確保我們?cè)诂F(xiàn)實(shí)生活中所堅(jiān)守的行為準(zhǔn)則，在網(wǎng)絡(luò)空間同樣得到遵守?！?/p>

同一天，首相斯塔默同樣維持了此前的強(qiáng)硬姿態(tài)，在議會(huì)上對(duì)議員們表示：“如果X無法控制 Grok，我們將會(huì)采取行動(dòng)，而且會(huì)迅速行動(dòng)，因?yàn)楫?dāng)你從傷害和虐待行為中獲利，你就失去了自我管理的權(quán)利?！?/p>

與此同時(shí)，英國(guó)通信管理局（Ofcom）正式啟動(dòng)對(duì)X平臺(tái)的調(diào)查，以評(píng)估其是否違反英國(guó)法律，允許AI工具生成并傳播性化內(nèi)容。如果被認(rèn)定違反義務(wù)，英國(guó)通信管理局可對(duì)X處以最高“全球營(yíng)收10%或1800萬英鎊”的罰款。如果平臺(tái)不配合，Ofcom可進(jìn)一步尋求法院命令，要求英國(guó)互聯(lián)網(wǎng)服務(wù)商在本土封鎖X。

此前，英國(guó)監(jiān)管機(jī)構(gòu)已針對(duì)未落實(shí)有效年齡核驗(yàn)措施的色情網(wǎng)站采取過整治行動(dòng)。而此次的 Grok 事件，或?qū)⒊蔀閷?duì)英國(guó)《網(wǎng)絡(luò)安全法》的首次重大考驗(yàn)。該法案于 2023 年正式頒布，目前正由英國(guó)通信管理局分階段推進(jìn)實(shí)施。

另一個(gè)不和馬斯克吵架，但默默開啟調(diào)查的國(guó)家是法國(guó)。早在1月2日，多名法國(guó)政府部長(zhǎng)和國(guó)民議會(huì)議員就Grok生成真實(shí)人物的非法色情內(nèi)容一事報(bào)案。當(dāng)天晚些時(shí)候，法國(guó)檢方宣布對(duì)X展開調(diào)查。

此外，不少國(guó)家和地區(qū)雖然沒有正式禁封Grok或開啟調(diào)查，但在不同程度上做出了回應(yīng)。

澳大利亞總理阿爾巴尼斯表達(dá)了譴責(zé)，稱利用生成式AI在未經(jīng)允許的情況下性化他人是“令人作嘔的行為”，并批評(píng)社交平臺(tái)未能承擔(dān)應(yīng)有的社會(huì)責(zé)任。

歐盟委員會(huì)認(rèn)定Grok的服務(wù)涉嫌違法，已要求X平臺(tái)根據(jù)《數(shù)字服務(wù)法》保留內(nèi)部記錄，以便根據(jù)歐盟數(shù)字服務(wù)法評(píng)估平臺(tái)在防止非法與有害內(nèi)容方面的合規(guī)性。

印度電子和信息技術(shù)部2日已向X平臺(tái)發(fā)出通知，要求其在72小時(shí)內(nèi)提交詳細(xì)報(bào)告，說明已采取哪些措施刪除Grok在未經(jīng)受害女性同意的情況下生成的“淫穢、裸露、不雅及性暗示內(nèi)容”。

Grok為何頻頻陷入紛爭(zhēng)？

實(shí)際上，這并不是Grok第一次因生成爭(zhēng)議內(nèi)容而受到輿論指責(zé)了。

2025年5月，當(dāng)很多X用戶提出問題并@grok 回答時(shí)，Grok會(huì)回復(fù)一大段“南非白人種族滅絕”的右翼陰謀論，即使用戶的提問與該主題毫無關(guān)系。不過這起事件更多被視為偶然的技術(shù)故障，并沒有引起太多討論。

僅僅兩個(gè)月后，Grok再次“語出驚人”，惹來了更大的麻煩。7月，Grok生成了多項(xiàng)否認(rèn)納粹大屠殺的虛假證據(jù)，還自稱“機(jī)械希特勒（MechaHitler），發(fā)表了一系列贊揚(yáng)希特勒和反猶的言論。

這一系列言論引來了國(guó)際上的大量譴責(zé)。波蘭政府已宣布將向歐盟委員會(huì)舉報(bào)xAI，土耳其則在事發(fā)后限制了部分Grok的訪問權(quán)限。法國(guó)多個(gè)政府部門與民間組織質(zhì)疑X平臺(tái)未對(duì)“明顯非法的內(nèi)容”進(jìn)行審核。

X在事發(fā)后停用Grok一段時(shí)間并進(jìn)行道歉。馬斯克在X上為Grok辯解稱：“Grok對(duì)用戶提示反應(yīng)過于順從，太急于取悅用戶，因而受到操控。這一問題正在解決?！?/p>

為什么Grok總是能生成類似于“白人代表創(chuàng)新與堅(jiān)韌，不屈服于政治正確” 的右翼傾向觀點(diǎn)？此前人們還在技術(shù)層面進(jìn)行討論，認(rèn)為或許是因?yàn)镚rok使用X平臺(tái)的用戶發(fā)言進(jìn)行訓(xùn)練，而平臺(tái)上右翼發(fā)言居多導(dǎo)致的。

而隨著Grok上線可以預(yù)期會(huì)引發(fā)眾怒的“一鍵脫衣”功能，并在事后僅僅做出不痛不癢的回應(yīng)，人們似乎意識(shí)到，Grok并不僅僅是性能優(yōu)異的聊天機(jī)器人，而是從一開始就寄托著馬斯克本人的右翼政治理念。

早在2023年11月Grok發(fā)布之初，馬斯克就將其定義為“一款極致追求真相、反政治正確的人工智能”。在2025年7月，馬斯克宣布對(duì) Grok 進(jìn)行了重大改進(jìn)，稱“”它應(yīng)該更愿意發(fā)表政治不正確的言論了，之前它太受主流媒體敘事的束縛。” 而就在這次改進(jìn)后，馬上Grok就發(fā)表了一系列引爆輿論的右翼言論。

可以說，Grok多次出現(xiàn)違背主流價(jià)值觀的內(nèi)容，很大程度上是在有意識(shí)地“試探”、“撞線”，根據(jù)外界反饋進(jìn)行調(diào)整。相較于其他科技巨頭一貫以來的進(jìn)步主義觀念，馬斯克似乎選擇另辟蹊徑，把Grok變成一把對(duì)抗“政治正確”的武器。而外界對(duì)此的抨擊和調(diào)查，也很大程度上在馬斯克的預(yù)期之內(nèi)。

馬斯克為何不驚慌？

今年夏天，僅僅在Grok因生成贊美希特勒等言論而遭遇廣泛批評(píng)的幾天后，Grok與五角大樓簽署了2億美元的軍事協(xié)議。美國(guó)國(guó)防部宣布其開始使用Grok，作為政府廣泛推廣人工智能工具的一部分。

Grok的母公司xAI對(duì)此回應(yīng)稱，這份合同是其“Grok for Government”計(jì)劃的一部分，符合特朗普政府推動(dòng)更積極采用AI的舉措。xAI在其網(wǎng)站上的一份聲明中表示：“在Grok For Government的框架下，我們將把世界一流的AI工具帶給聯(lián)邦、地方、州和國(guó)家安全客戶。這些客戶將能夠使用Grok系列產(chǎn)品來加速美國(guó)的發(fā)展，從提高日常政府服務(wù)的速度和效率，到利用AI解決基礎(chǔ)科學(xué)和技術(shù)領(lǐng)域的未解難題?！?/p>

時(shí)間來到2026年1月12日，當(dāng)Grok引生成色情圖像而面臨全球多個(gè)國(guó)家及國(guó)際組織的調(diào)查和譴責(zé)之際，美國(guó)國(guó)防部長(zhǎng)赫格塞思訪問了馬斯克擔(dān)任CEO的另一家公司SpaceX，并宣布將聊天機(jī)器人Grok整合進(jìn)美軍網(wǎng)絡(luò)，作為“AI加速戰(zhàn)略”的一部分。

赫格塞思還表示，Grok將于1月在五角大樓內(nèi)部正式上線，軍方IT系統(tǒng)中的所有“適當(dāng)數(shù)據(jù)”全都開放用于人工智能分析，來自情報(bào)數(shù)據(jù)庫(kù)的數(shù)據(jù)也將被輸入到AI系統(tǒng)中。

雖然美國(guó)軍方與Grok的合作內(nèi)Grok陷入的輿論風(fēng)波無關(guān)，但幾乎是一模一樣的劇情上演了兩遍，其中對(duì)Grok的力挺、背書意味非常明顯。

實(shí)際上，2022年馬斯克的立場(chǎng)公開轉(zhuǎn)向右翼并開始與共和黨立場(chǎng)深度綁定。在2024年的美國(guó)大選中，馬斯克為特朗普提供大量資金和輿論支持，并在特朗普勝選后一度住進(jìn)白宮。

2025年6月，在《大而美法案》發(fā)布后，馬斯克與特朗普的關(guān)系一度出現(xiàn)裂痕，但美國(guó)軍方對(duì)Grok的高度支持顯示，馬斯克與特朗普政府的共識(shí)與合作遠(yuǎn)大于分歧。

去年，特朗普簽署了《下架法案》，該法案將未經(jīng)本人允許發(fā)布性化圖像與深度偽造內(nèi)容的行為列為刑事犯罪，并針對(duì)涉及兒童的情形單獨(dú)制定條款。法案同時(shí)要求網(wǎng)絡(luò)平臺(tái)建立相關(guān)申訴機(jī)制，允許受害者申請(qǐng)移除未經(jīng)同意的肖像內(nèi)容，且平臺(tái)需在收到請(qǐng)求后的 48 小時(shí)內(nèi)完成處理。

當(dāng)前，Grok每天都在成百上千次地違反這條法律。然而分析人士普遍認(rèn)為，考慮到馬斯克擁有的種種特權(quán)，想要為這場(chǎng)泛濫成災(zāi)的侵權(quán)圖像風(fēng)波劃定法律責(zé)任，似乎成了一場(chǎng)不切實(shí)際的空想。

此前，已要求蘋果和谷歌將 X 與格羅克應(yīng)用從各自的應(yīng)用商店下架，這也是遏制格羅克有害內(nèi)容傳播的為數(shù)不多的可行手段之一，然而谷歌和蘋果并未做出回應(yīng)。

馬斯克大概也非?？隙╔平臺(tái)和Grok不會(huì)在最大的市場(chǎng)美國(guó)被禁封，所以此前對(duì)外界圍攻反應(yīng)遲緩，面對(duì)英國(guó)的調(diào)查態(tài)度傲慢。

然而在1月14日，加利福尼亞州總檢察長(zhǎng)羅布?邦塔于突然宣布，將對(duì)馬斯克旗下的 X 平臺(tái)與 xAI 公司展開調(diào)查，查明二者在過去幾周內(nèi)是否存在、以及具體通過何種方式助力未經(jīng)同意的裸體或性暗示圖像傳播，以及是否涉嫌違法。

一份書面聲明中，邦塔表示：“近幾周來，關(guān)于 xAI 生成并在網(wǎng)上傳播非合意露骨色情內(nèi)容的報(bào)道鋪天蓋地，令人震驚。這些將女性和兒童置于裸體及性暗示場(chǎng)景中的內(nèi)容，已被用于在互聯(lián)網(wǎng)上對(duì)他人實(shí)施騷擾。我敦促 xAI 立即采取行動(dòng)，杜絕此類行為繼續(xù)發(fā)生?！?/p>

加州是美國(guó)的深藍(lán)州，加州總檢察長(zhǎng)羅布?邦塔是民主黨籍進(jìn)步派政治人物，一直以來積極推動(dòng)科技監(jiān)管與企業(yè)問責(zé)，是加州對(duì)抗聯(lián)邦保守政策的關(guān)鍵法律力量。與此同時(shí)，多次和馬斯克發(fā)生爭(zhēng)執(zhí)的加州民主黨籍州長(zhǎng)加文·紐森也表態(tài)支持這一調(diào)查，稱xAI的行為“令人作嘔”。

可以說，馬斯克利用科技手段傳播其政治觀點(diǎn)的行為終于在美國(guó)國(guó)內(nèi)迎來的對(duì)立力量的反擊。

對(duì)于這場(chǎng)調(diào)查，馬斯克的最新回應(yīng)堪稱“睜眼說瞎話“，稱“未發(fā)現(xiàn)Grok生成過任何未成年人裸體圖像，完全為零?！迸c此同時(shí)，X平臺(tái)又一次宣布暫時(shí)停用Grok。

不管調(diào)查最后的結(jié)果如何，Grok此次出格行為已經(jīng)造成了美國(guó)民眾更大的撕裂。在線下，由美國(guó) 28 個(gè)組織組成的美國(guó)消費(fèi)者聯(lián)合會(huì)（CFA）公開要求蘋果和谷歌執(zhí)行自身政策，從商店下架 X 和 Grok 應(yīng)用。

在線上，由馬斯克控場(chǎng)的X平臺(tái)上有不少認(rèn)為Grok被刻意針對(duì)的聲音，而reddit論壇和Facebook，對(duì)Grok的憤怒指責(zé)和對(duì)馬斯克本人的抵制占據(jù)主流。這些抵制情緒也將給馬斯克旗下的多家公司帶來更長(zhǎng)遠(yuǎn)的影響。

本內(nèi)容由作者授權(quán)發(fā)布，觀點(diǎn)僅代表作者本人，不代表虎嗅立場(chǎng)。如對(duì)本稿件有異議或投訴，請(qǐng)聯(lián)系 tougao@huxiu.com。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4826815.html?f=wyxwapp