AI被異化為“造黃”工具，其危害無疑是系統(tǒng)性的。

▲央視揭秘AI“造黃”產(chǎn)業(yè)鏈。圖/央視財(cái)經(jīng)視頻截圖

文| 和生

9.9元，就能買到一套AI“造黃”教程；幾塊錢，就能獲取批量生成擦邊視頻的“提示詞”。近日，央視曝光的AI“造黃”產(chǎn)業(yè)鏈，令人觸目驚心。

從兜售制作教程、交易定制化提示詞，到利用AI應(yīng)用漏洞生成色情內(nèi)容，再到銷售境外涉黃AI聊天軟件，AI“造黃”已形成一條完整的黑色產(chǎn)業(yè)鏈：商家以“AI擦邊賽道日入5位數(shù)”為誘餌，在電商平臺(tái)公開售賣教程，教用戶使用境外AI軟件或本地部署程序來規(guī)避監(jiān)管；而“提示詞”中的敏感詞匯還被翻譯成英文以逃避審核。

技術(shù)本身是中性的，但技術(shù)的使用須有邊界。當(dāng)AI被異化為“造黃”工具，其危害無疑是系統(tǒng)性的。

這首先是對(duì)女性權(quán)益的嚴(yán)重侵害。AI換臉、AI脫衣等技術(shù)，讓任何一張普通照片都可能被惡意加工成色情內(nèi)容，受害者往往毫無察覺，直到謠言滿天、名譽(yù)掃地，遭遇社會(huì)性死亡。與此同時(shí)，這也是對(duì)網(wǎng)絡(luò)生態(tài)的毒化。大量AI生成的擦邊視頻充斥平臺(tái)，形成“劣幣驅(qū)逐良幣”的惡性循環(huán)。

更令人揪心的，是這一亂象對(duì)未成年人的潛在危害。如今，AI技術(shù)深度參與青少年的日常生活，但“9.9元造黃”的門檻卻如此之低。試想，當(dāng)境外涉黃AI軟件通過灰色渠道流入國內(nèi)，就不得不警惕，那些心智尚未成熟的孩子，會(huì)否在不經(jīng)意間接觸到這些內(nèi)容？

這并非杞人憂天。業(yè)內(nèi)人士透露，那些AI聊天軟件“普遍尺度很大，充斥著色情內(nèi)容”，而“戀愛的感覺、及時(shí)的回復(fù)、量身定制的人設(shè)”正吸引著越來越多年輕人沉浸其中，其中不乏未成年人。

因此，必須盡早斬?cái)郃I“造黃”產(chǎn)業(yè)鏈，這不僅是對(duì)法律底線的捍衛(wèi)，更是在AI時(shí)代守護(hù)好下一代的必要手段。

值得注意的是，雖然跨境監(jiān)管的難度給黑產(chǎn)留下可乘之機(jī)，但不代表監(jiān)管部門無能為力：如深化國際執(zhí)法合作，循線追蹤境內(nèi)人員參與、境外服務(wù)器服務(wù)的案件；強(qiáng)化技術(shù)封堵，依法切斷涉黃AI應(yīng)用訪問渠道；對(duì)平臺(tái)審核失職、灰色渠道引流等行為依法嚴(yán)懲。

剛剛公布的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》，已明確對(duì)未成年人使用擬人化互動(dòng)服務(wù)作出專門規(guī)定。這為治理提供了法律依據(jù)，關(guān)鍵在于執(zhí)行到位。

此外，AI平臺(tái)必須承擔(dān)起主體責(zé)任，建立更嚴(yán)格的內(nèi)容審核機(jī)制，堵住提示詞繞過、英文規(guī)避等漏洞。電商平臺(tái)更要加強(qiáng)審查，對(duì)售賣“造黃”教程、提示詞的店鋪零容忍。

技術(shù)向善，應(yīng)是AI發(fā)展的底線。也只有堅(jiān)決斬?cái)郃I“造黃”產(chǎn)業(yè)鏈，才能讓技術(shù)真正服務(wù)于人，而非異化為傷害人的工具。這不僅是為了當(dāng)下，更是為了孩子們的未來。

撰稿 / 和生（媒體人）

編輯 / 馬小龍

校對(duì) / 趙琳

歡迎投稿：

新京報(bào)評(píng)論，歡迎讀者朋友投稿。投稿郵箱：xjbpl2009@sina.com

評(píng)論選題須是機(jī)構(gòu)媒體當(dāng)天報(bào)道的新聞。來稿將擇優(yōu)發(fā)表，有稿酬。

投稿請(qǐng)?jiān)卩]件主題欄寫明文章標(biāo)題，并在文末按照我們的發(fā)稿規(guī)范，附上作者署名、身份職業(yè)、身份證號(hào)碼、電話號(hào)碼以及銀行賬戶（包括戶名、開戶行支行名稱）等信息，如用筆名，則需要備注真實(shí)姓名，以便發(fā)表后支付稿酬。