在持續(xù)數(shù)周的輿論抗議與多國監(jiān)管高壓下，馬斯克旗下X平臺與xAI聯(lián)合發(fā)布緊急安全更新，正式封殺Grok聊天機器人的“一鍵脫衣”相關功能，將所有圖像生成功能移至付費墻后，以此回應全球范圍內的圍剿態(tài)勢。這場風波再次引發(fā)對生成式AI倫理邊界與監(jiān)管缺失的深刻拷問。

此次危機的導火索，是Grok以“辛辣反叛”“極少審查”為賣點的產(chǎn)品定位所滋生的漏洞。用戶可借助該工具輕易將現(xiàn)實女性照片生成“深偽”脫衣圖像，獨立研究員數(shù)據(jù)顯示，高峰時段X平臺每分鐘就有一張非自愿性色情深偽圖像產(chǎn)生。更令人發(fā)指的是，傷害已蔓延至未成年人，暗網(wǎng)中出現(xiàn)用戶炫耀用Grok生成11至13歲女童裸露圖像的情況，加州總檢察長調查亦發(fā)現(xiàn)其生成圖像中超半數(shù)含衣著暴露內容，甚至涉及兒童形象。

面對全球聲討，X平臺推出“補救三板斧”：禁止編輯真人暴露服裝圖像、圖像生成功能付費化、敏感地區(qū)地域攔截。但媒體實測顯示，這些措施漏洞百出，改用“露臍裝”等隱晦提示詞仍可生成性暗示圖像，年齡驗證機制形同虛設，移動端甚至無需驗證即可使用。英國技術大臣痛批，將違規(guī)功能付費化是對受害者的二次傷害，是對罪行的“貨幣化”。

監(jiān)管層面的圍剿已成燎原之勢。印尼、馬來西亞率先封禁Grok，歐盟、英國、法國、美國加州等多國啟動調查，美國參議員更要求蘋果、谷歌下架相關應用。此前倚仗《通信規(guī)范法》230條款“免死金牌”硬剛的馬斯克，雖仍嘴硬將問題歸咎于用戶惡意與系統(tǒng)Bug，但最終不得不妥協(xié)整改。法律專家指出，xAI作為內容生成者，其“假定善意”“零摩擦”的設計決策才是根源，不應再享有法律豁免。

當前xAI剛完成200億美元融資，但此次風波暴露其商業(yè)擴張與社會責任的失衡。全球監(jiān)管行動已明確信號：AI的自由絕不能以剝奪他人尊嚴為代價。Grok的未來走向尚未可知，但這場風波已為全球生成式AI監(jiān)管敲響警鐘，技術創(chuàng)新必須筑牢倫理與法律的底線。