IT之家1月7日消息，據(jù)彭博社報(bào)道，第三方分析顯示，埃隆?馬斯克旗下平臺(tái) X 已成為傳播 AI 生成的非自愿脫衣圖像的主要網(wǎng)站，本周早些時(shí)候，該平臺(tái)每小時(shí)就會(huì)出現(xiàn)數(shù)千張此類圖片。

馬斯克與旗下AI"Grok"

自去年12月下旬以來，越來越多的 X 平臺(tái)用戶利用該平臺(tái)內(nèi)置的人工智能聊天機(jī)器人 Grok，對(duì)他人發(fā)布的自拍照進(jìn)行篡改。社交媒體與深度偽造技術(shù)研究員吉納維芙?吳指出，在對(duì) Grok 官方賬號(hào)發(fā)布到 X 的圖片進(jìn)行的24小時(shí)監(jiān)測(cè)中發(fā)現(xiàn)，該聊天機(jī)器人平均每小時(shí)生成約6700張帶有性暗示或裸露性質(zhì)的圖像。而在1月5日至6日的同一監(jiān)測(cè)周期內(nèi)，其余五個(gè)傳播此類內(nèi)容的主要網(wǎng)站，平均每小時(shí)新增的 AI “脫衣”圖像僅為79張。

專攻網(wǎng)絡(luò)性犯罪案件的律師卡麗?戈德堡表示，X 平臺(tái)上深度偽造內(nèi)容的泛濫程度“前所未有”。她補(bǔ)充道：“我們從未見過哪項(xiàng)技術(shù)能如此輕易地生成這類圖像”，因?yàn)?Grok 是免費(fèi)的，還與平臺(tái)自帶的傳播系統(tǒng)直接關(guān)聯(lián)。

美國(guó)責(zé)任創(chuàng)新組織政策高級(jí)主管布蘭迪?諾內(nèi)克指出，與其他主流聊天機(jī)器人不同，Grok 對(duì)用戶幾乎不設(shè)限，允許用戶生成針對(duì)真人（包括未成年人）的性化內(nèi)容。她表示，Anthropic 公司、OpenAI 以及谷歌母公司 Alphabet 旗下的其他生成式人工智能技術(shù)，“從一開始就在真誠(chéng)地采取措施，抑制此類不良內(nèi)容的生成”?！帮@然，xAI（Grok 的開發(fā)公司）的做法截然不同，它幾乎是在放任用戶肆意妄為。”馬斯克曾宣稱，Grok 比其他聊天機(jī)器人更有趣、更敢說，并為 X 平臺(tái)成為“言論自由之地”而感到自豪。

針對(duì)此事，X 平臺(tái)未予置評(píng)。馬斯克并未從源頭阻止聊天機(jī)器人生成此類內(nèi)容，而是主張對(duì)提出相關(guān)生成請(qǐng)求的用戶進(jìn)行懲罰。他在 X 平臺(tái)的一則帖子回復(fù)中表示：“任何利用 Grok 生成非法內(nèi)容的用戶，都將面臨與上傳非法內(nèi)容相同的后果?！?/p>

然而，這樣的舉措給受害者留下的維權(quán)空間微乎其微。23歲的醫(yī)學(xué)預(yù)科生麥迪（化名）稱，元旦當(dāng)天醒來，她看到了一張令自己毛骨悚然的圖片。此前，她曾在 X 平臺(tái)發(fā)布一張與男友在當(dāng)?shù)鼐瓢傻暮嫌?，兩名陌生用戶卻用 Grok 對(duì)這張照片進(jìn)行了篡改：一人讓 Grok 移除了照片中的男友，并將她的衣服換成比基尼；另一人則要求 Grok 把比基尼替換成牙線。

“我的心一下子沉了下去，”麥迪說，“我感到絕望、無助，滿心都是厭惡。”

麥迪表示，她和朋友曾通過 X 平臺(tái)的內(nèi)容審核系統(tǒng)舉報(bào)這些圖片，但始終未收到任何回復(fù)。她還舉報(bào)了其中一名用戶發(fā)布的其他帖子，而根據(jù)舉報(bào)反饋截圖顯示，X 平臺(tái)稱“經(jīng)核查，你舉報(bào)的內(nèi)容未違反 X 平臺(tái)相關(guān)規(guī)定”。截至本文刊發(fā)時(shí)，這些違規(guī)圖片仍未被下架。

遭遇深度偽造侵害的受害者們紛紛在相關(guān)帖子的評(píng)論區(qū)與 Grok 對(duì)質(zhì)。Grok 雖時(shí)常道歉并承諾會(huì)刪除圖片，但在多數(shù)情況下，這些圖像依然存在，且 Grok 還在不斷生成新的偽造內(nèi)容。吳的研究數(shù)據(jù)顯示，Grok 生成的圖像中，高達(dá)85% 都帶有性化性質(zhì)。

IT之家注意到，Grok 因生成傳播未經(jīng)同意的性化圖像（包括涉及未成年人的內(nèi)容），正遭到歐盟、英國(guó)、馬來西亞、法國(guó)和印度等多國(guó)監(jiān)管機(jī)構(gòu)的強(qiáng)烈譴責(zé)。歐盟委員會(huì)發(fā)言人托馬斯?勒尼耶在周一的新聞發(fā)布會(huì)上表示：“我們注意到，X 平臺(tái)或其旗下 Grok 聊天機(jī)器人推出了所謂的‘火辣模式’，該模式會(huì)生成露骨的性內(nèi)容，部分輸出圖像甚至包含兒童形象?！彼傅氖侨ツ?1月初 Grok 的一次更新，該更新使其具備了生成性暗示內(nèi)容的功能，“這根本不是什么‘火辣’，而是違法行為?！?/p>

一位化名 BB 杰絲的 X 平臺(tái)網(wǎng)紅博主稱，此前其他網(wǎng)站上未經(jīng)她同意發(fā)布的“脫衣”偽造圖片，終于陸續(xù)被下架。但就在上周，Grok 又生成了大量針對(duì)她的新偽造圖像。她表示，當(dāng)自己在 X 平臺(tái)發(fā)文維權(quán)、譴責(zé)深度偽造行為后，相關(guān)惡意帖子反而變本加厲。

美國(guó)《通信規(guī)范法》第230條款規(guī)定，平臺(tái)對(duì)用戶發(fā)布的內(nèi)容無需承擔(dān)法律責(zé)任。但律師戈德堡指出，在人工智能生成內(nèi)容的問題上，“X 平臺(tái)并非只是被動(dòng)的內(nèi)容發(fā)布方，它實(shí)際上直接參與了圖像的生成與創(chuàng)作”。

諾內(nèi)克表示，2025年簽署生效的聯(lián)邦法律《下架法案》明確規(guī)定，平臺(tái)需對(duì)這類內(nèi)容的生成與傳播承擔(dān)法律責(zé)任?！斑@一案例恰好充分說明，這部法律應(yīng)當(dāng)盡快落地實(shí)施?！毕嚓P(guān)平臺(tái)需在2026年5月前建立起法定的內(nèi)容下架處理機(jī)制。