當?shù)貢r間1月15日，曾和馬斯克育有一子的27歲美國保守派網(wǎng)紅阿什莉·圣克萊爾在紐約州法院正式起訴馬斯克旗下人工智能公司xAI，指控其聊天機器人“格羅克”生成并傳播針對她的深度偽造色情圖像。她要求法院頒布臨時禁制令，立即禁止“格羅克”繼續(xù)生成此類圖像。

▲阿什莉·圣克萊爾

根據(jù)起訴書內(nèi)容，圣克萊爾在起訴書中列出九項訴訟理由，包括疏忽、設(shè)計缺陷、故意造成精神痛苦以及公共滋擾等，并要求xAI進行懲罰性賠償和補償性賠償。她指控xAI“通過創(chuàng)建和傳播深度偽造內(nèi)容獲利”，且“這是故意的”，“格羅克”的設(shè)計“本質(zhì)上存在不合理的危險”，已成為騷擾和羞辱的工具。

據(jù)圣克萊爾稱，在2025年1月，她在一個社媒帖子中發(fā)現(xiàn)，聊天機器人“格羅克”基于用戶請求生成并發(fā)布了一張她與兩個朋友身著“黑色吊帶比基尼”的照片。隨后，圣克萊爾公開回應，表示她“不同意被脫衣、產(chǎn)生任何親密內(nèi)容或以任何方式修改她的圖像”，平臺當時確認“未來未經(jīng)明確同意，不會使用或修改她的圖像”。

在訴訟書中，圣克萊爾表示：“這是一個謊言?！痹谶@之后，大量用戶繼續(xù)利用“格羅克”生成并廣泛傳播關(guān)于她的深度偽造內(nèi)容，包括將她14歲時穿著衣服的照片“脫衣”并換成比基尼。她還聲稱xAI在投訴后取消了她在該社媒平臺的付費賬戶資格，平臺也并未刪除這些圖像。

圣克萊爾表示，此事讓她生活在恐懼之中，擔心裸體或性化圖像會被不斷生成并被惡意利用。她強調(diào)，這不僅是對她個人的傷害，更是AI技術(shù)濫用帶來的系統(tǒng)性風險。

▲當?shù)貢r間1月14日，英國倫敦，一個名為“Everyone Hates Elon”的活動組織在公交車站張貼了一張反馬斯克和反X平臺的宣傳海報。海報提及X平臺備受爭議的新AI工具“格羅克”，該工具可根據(jù)指令“脫掉”圖片中人物的衣服，海報暗示這可能成為兒童虐待的工具 圖據(jù)視覺中國

該訴訟正值公眾對格羅克生成深度偽造圖像的憤怒爆發(fā)之際。美國加利福尼亞州總檢察長于當?shù)貢r間1月14日正式宣布，將針對xAI開發(fā)的AI模型“大規(guī)模制造并傳播非自愿性色情材料”的問題展開全面調(diào)查。

目前，馬斯克旗下的社媒平臺X已發(fā)布聲明，宣布其已實施技術(shù)限制，禁止“格羅克”編輯或生成涉及真實人物穿著比基尼、內(nèi)衣或其他暴露服裝的圖像。這項措施適用于所有用戶，包括付費訂閱者。

這一系列動作被視為對全球監(jiān)管壓力和公眾反彈的“緊急補救”，但有批評者指出，這些限制來得太晚，且可能僅為表面應對措施。例如，在“格羅克”的獨立應用或網(wǎng)站上，部分功能仍可能繞過限制使用。

在圣克萊爾15日對人工智能企業(yè)xAI提起訴訟后，該公司已提起反訴，聲稱根據(jù)社媒平臺X的服務(wù)條款，圣克萊爾不能在紐約起訴該公司，而必須在得克薩斯州起訴。

紅星新聞記者 周月瀟

編輯 鄧旆光

審核 何先菊