當(dāng)?shù)貢r(shí)間1月10日，印度尼西亞通信和數(shù)字事務(wù)部長(zhǎng)表示，由于擔(dān)心人工智能會(huì)生成色情內(nèi)容，該國(guó)暫時(shí)封禁了美國(guó)企業(yè)家埃隆·馬斯克旗下聊天機(jī)器人Grok，并要求馬斯克旗下的社交媒體X平臺(tái)就Grok所引發(fā)的負(fù)面影響盡快作出說(shuō)明。

印尼通信與數(shù)字部長(zhǎng)穆蒂亞·哈菲德在一份聲明中表示：“政府認(rèn)為未經(jīng)同意的非自愿性深度偽造行為嚴(yán)重侵犯了人權(quán)、公民尊嚴(yán)以及數(shù)字空間中的公民安全?！?/p>

緊隨其后，馬來(lái)西亞通訊及多媒體委員會(huì)1月11日發(fā)布聲明，暫時(shí)禁止該國(guó)用戶訪問(wèn)Grok。該委員會(huì)在聲明中指出，鑒于Grok工具被多次用于生成“淫穢露骨、不雅低俗、極具冒犯性的內(nèi)容，以及經(jīng)篡改的非自愿圖像，其中包括涉及女性和未成年人的相關(guān)素材”，委員會(huì)已下令“暫時(shí)限制馬來(lái)西亞用戶訪問(wèn)Grok”。

Grok由馬斯克旗下的人工智能公司xAI開(kāi)發(fā)，并內(nèi)置于社交媒體X平臺(tái)，X用戶可直接調(diào)用該聊天機(jī)器人。近期，X平臺(tái)出現(xiàn)部分用戶利用Grok編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實(shí)人物的虛假性暴露內(nèi)容，并在X平臺(tái)上散播，受害者包括數(shù)百名成年女性和未成年人。

這場(chǎng)風(fēng)波的導(dǎo)火索源自去年8月xAI推出的AI圖像生成工具Grok Imagine，它包含一個(gè)所謂的“熱辣”(spicy)模式，可生成成人內(nèi)容。此后，隨著Grok大量響應(yīng)用戶修改他人發(fā)布圖像的請(qǐng)求，去年底起亂象擴(kuò)大。X平臺(tái)不少用戶利用新功能對(duì)圖像中人物執(zhí)行“脫衣服”、“給她穿上比基尼”等指令。

研究數(shù)據(jù)顯示，Grok的用戶群體平均每小時(shí)生成6700多張“脫衣”圖像。圖像人工智能篡改檢測(cè)公司Copyleaks表示，去年12月下旬，在Grok公開(kāi)可訪問(wèn)的圖片流中，平均每分鐘出現(xiàn)一張未經(jīng)同意的性暗示圖片。

目前已有多個(gè)國(guó)家對(duì)此予以譴責(zé)。法國(guó)政府1月早些時(shí)候?qū)γ襟w表示，將對(duì)Grok生成的露骨色情深度偽造內(nèi)容展開(kāi)調(diào)查；英國(guó)數(shù)據(jù)監(jiān)管機(jī)構(gòu)則稱，已要求X平臺(tái)解釋在遵守?cái)?shù)據(jù)保護(hù)法律方面所采取的措施；印度政府近日在一封致X公司的信中表示，Grok正被“用戶濫用”，以“貶損或粗俗的方式生成女性圖像或視頻，從而對(duì)她們進(jìn)行猥褻詆毀”。

此外，美國(guó)三名民主黨參議員于1月9日要求蘋(píng)果和谷歌下架X和Grok應(yīng)用，認(rèn)為在馬斯克未能阻止平臺(tái)傳播未經(jīng)同意的色情內(nèi)容及兒童性虐待圖像前，兩款應(yīng)用不應(yīng)繼續(xù)留在應(yīng)用商店。他們強(qiáng)調(diào)，這些行為不僅令人不安，而且很可能違法。如果繼續(xù)放任X的問(wèn)題行為，將使蘋(píng)果和谷歌長(zhǎng)期宣稱的內(nèi)容審核與安全承諾失去公信力，并削弱其在公共輿論和司法程序中關(guān)于應(yīng)用商店安全性的立場(chǎng)。

為應(yīng)對(duì)批評(píng)，xAI已宣布將Grok在社交媒體平臺(tái)X上的圖像生成功能限制為“僅向付費(fèi)訂閱用戶開(kāi)放”。不過(guò)，獨(dú)立運(yùn)行的Grok應(yīng)用程序仍允許用戶在無(wú)需訂閱的情況下生成圖像。

馬斯克本人在社交媒體上表示，“任何利用Grok生成非法內(nèi)容的人，都將面臨與上傳非法內(nèi)容同等的后果。”

值得一提的是，1月7日，xAI公司宣布完成E輪融資，融資額超過(guò)了此前設(shè)定的150億美元目標(biāo)，最終達(dá)到200億美元。馬斯克隨后轉(zhuǎn)發(fā)了融資公告并對(duì)投資者的信任表示了感謝。

本輪融資吸引了包括Valor股權(quán)投資公司、富達(dá)基金、卡塔爾投資局以及阿布扎比基金MGX在內(nèi)的全球頂級(jí)資本參與。此外，英偉達(dá)和思科作為戰(zhàn)略投資者也參與了本輪融資。公告中并未提及估值，但有消息稱，這一輪融資將使xAI的估值達(dá)到2300億美元，較2025年3月時(shí)披露的1130億美元估值翻了一番。