一起匿名Discord用戶的舉報(bào)，讓警方發(fā)現(xiàn)了可能是首起經(jīng)確認(rèn)的Grok生成兒童性虐待材料（CSAM）案件——這一次，埃隆·馬斯克的xAI再也無法輕易否認(rèn)其不存在。

從否認(rèn)到面臨法律訴訟

就在今年1月，馬斯克還曾公開否認(rèn)Grok生成過任何CSAM。當(dāng)時(shí)正值一場丑聞：xAI拒絕更新過濾器，阻止聊天機(jī)器人為真實(shí)人物圖像"脫衣"裸化。

爭議最激烈之際，反數(shù)字仇恨中心的研究人員估計(jì)，Grok生成了約300萬張性化圖像，其中約2.3萬張涉及明顯兒童形象。xAI并未修復(fù)Grok，而是限制系統(tǒng)僅向付費(fèi)訂閱者開放。這一措施阻止了最聳人聽聞的輸出內(nèi)容在X平臺(tái)上傳播，但據(jù)《連線》雜志報(bào)道，最惡劣的內(nèi)容其實(shí)并未發(fā)布在那里。

這些內(nèi)容是在Grok Imagine獨(dú)立應(yīng)用中生成的。今年1月，一名研究人員深入該應(yīng)用后發(fā)現(xiàn)，在審查的約800張Imagine輸出圖像中，近10%似乎包含CSAM。在這一 revelations 之后，馬斯克在X平臺(tái)的發(fā)文中繼續(xù)拒絕接受證據(jù)，堅(jiān)稱自己"不知道Grok生成了任何未成年裸體圖像"，并強(qiáng)調(diào)他"確實(shí)一張都沒見過"。

然而，一名Discord用戶主動(dòng)聯(lián)系了一名受害者，促使執(zhí)法部門介入，馬斯克現(xiàn)在可能終于被迫正視Grok的CSAM問題。

三名女孩提起集體訴訟

本周一，田納西州三名未成年女孩及其監(jiān)護(hù)人對(duì)馬斯克提起擬議集體訴訟，指控其故意將Grok設(shè)計(jì)為"從真實(shí)人物的性掠奪中獲利，包括兒童"。她們估計(jì)"至少數(shù)千名未成年人"受害，并已向美國地區(qū)法院申請禁令，以最終終止Grok的有害輸出。她們還為所有受害未成年人尋求賠償，包括懲罰性賠償。

代表女孩的律師安尼卡·K·馬丁在新聞稿中證實(shí)，她們的生活已因此受到嚴(yán)重影響。

這起訴訟標(biāo)志著AI生成兒童色情內(nèi)容問題正式進(jìn)入司法程序，也可能成為監(jiān)管生成式AI技術(shù)的重要判例。隨著生成式AI技術(shù)的快速發(fā)展，如何在技術(shù)創(chuàng)新與內(nèi)容安全之間取得平衡，已成為全球科技行業(yè)面臨的緊迫挑戰(zhàn)。