4月13日消息，今日，央視曝光了多款生成式AI應(yīng)用存在嚴(yán)重涉黃生成漏洞，平臺(tái)內(nèi)容審核機(jī)制形同虛設(shè)，用戶僅需幾句經(jīng)過隱晦處理的提示詞，就能輕松繞過限制，快速生成大尺度色情視頻與圖片。

實(shí)測(cè)發(fā)現(xiàn)，直白露骨的提示詞會(huì)被多數(shù)平臺(tái)攔截，但將敏感表述替換為含蓄描述、英文詞匯等方式后，違規(guī)內(nèi)容可順利生成。

在一款A(yù)I應(yīng)用中，使用網(wǎng)購(gòu)的隱晦提示詞，僅幾分鐘就生成半裸女性跳舞視頻，全程未觸發(fā)任何平臺(tái)限制機(jī)制，同類問題也出現(xiàn)在多款主流AI應(yīng)用平臺(tái)。

調(diào)查顯示，AI“造黃”已形成完整黑色產(chǎn)業(yè)鏈，從違規(guī)提示詞售賣、工具使用教程，到批量生成色情內(nèi)容、付費(fèi)換臉造假，各環(huán)節(jié)分工明確、牟利猖獗。

網(wǎng)絡(luò)上有商家公開兜售定制提示詞，搭配境外AI工具或本地部署模型，進(jìn)一步規(guī)避監(jiān)管。

部分付費(fèi)AI照片生成器宣稱，只要充值對(duì)應(yīng)金額，僅憑一張照片就能一鍵生成色情視頻，嚴(yán)重突破法律與倫理底線。

此類亂象不僅污染網(wǎng)絡(luò)生態(tài)，還極易滋生色情傳播、敲詐勒索、惡意造謠等違法犯罪行為，對(duì)未成年人身心健康與網(wǎng)絡(luò)空間秩序造成極大危害。

目前，我國(guó)已出臺(tái)多項(xiàng)法規(guī)整治AI技術(shù)濫用，明確要求平臺(tái)落實(shí)內(nèi)容安全主體責(zé)任，強(qiáng)化算法審核與風(fēng)險(xiǎn)防控，嚴(yán)禁生成傳播淫穢色情信息。

監(jiān)管部門正持續(xù)開展“清朗”專項(xiàng)行動(dòng)，重點(diǎn)打擊利用AI制作低俗色情內(nèi)容、違規(guī)提供生成服務(wù)等行為，督促平臺(tái)升級(jí)審核技術(shù)，封堵提示詞繞過漏洞。