魔高一尺，必須道高一丈

據(jù)央視財(cái)經(jīng)報(bào)道，在網(wǎng)絡(luò)平臺(tái)檢索發(fā)現(xiàn)，不少平臺(tái)上有人公開兜售“利用AI技術(shù)制作色情擦邊視頻”的教程，堂而皇之地宣揚(yáng)讓用戶僅憑一張圖、幾句話就可自行“手搓”“讓自己滿意的大尺度視頻”。一些教程還刻意引導(dǎo)用戶如何規(guī)避監(jiān)管，比如使用境外圖生視頻AI軟件、將程序部署在本地電腦離線運(yùn)行等。

快評(píng)丨別讓借AI“造黃”牟利的歪心思，毀了技術(shù)的未來_快評(píng)丨別讓借AI“造黃”牟利的歪心思，毀了技術(shù)的未來_

記者對(duì)10款用戶較多的AI應(yīng)用實(shí)測(cè)發(fā)現(xiàn)，若提示詞表述較為“露骨”，多數(shù)AI應(yīng)用會(huì)觸發(fā)審核機(jī)制并拒絕生成內(nèi)容。但只需把提示詞修改得更隱晦，便可能繞過限制。比如一款擁有1.4億用戶的某AI應(yīng)用，按購買的提示詞教程，用一張圖、一段詞，1分鐘后就生成了一個(gè)美女擦邊視頻；在“哩布哩布AI”輸入提示詞，幾分鐘后就生成了半裸女性跳舞的視頻，且沒觸發(fā)平臺(tái)任何限制機(jī)制。

技術(shù)本無罪，人心有善惡。若存心使壞，與AI斗智斗法，總能找到漏洞。個(gè)別商家將AI技術(shù)作為牟利工具，既背棄了技術(shù)倫理與法律底線，也污染了網(wǎng)絡(luò)空間、敗壞了社會(huì)風(fēng)氣。

魔高一尺，必須道高一丈。對(duì)于借AI“造黃”牟利的亂象，平臺(tái)監(jiān)管和執(zhí)法認(rèn)定都需有相應(yīng)制度性防范，對(duì)違法“造黃”行為進(jìn)行系統(tǒng)性打擊。以此牟利者，不管是軟件開發(fā)者還是教程販賣者，都帶有明顯的主觀惡意，應(yīng)依法嚴(yán)懲。

據(jù)報(bào)道，除了以問答模式生成擦邊視頻的AI平臺(tái)，市場(chǎng)上還有專門靠AI生成色情視頻牟利的軟件。比如，購買者可根據(jù)充值金額的不同，通過AI技術(shù)一鍵快速替換原片，生成虛構(gòu)的色情照片，只要購買者愿意付費(fèi)，相應(yīng)軟件即可通過一張圖片，生成全裸照片和色情視頻。

換言之，誰的臉都有可能被惡意生成為擦邊視頻的主角，若任其無序發(fā)展與濫用，只會(huì)人人自危。當(dāng)無辜者被替換成性騷擾、投毒、殺人等AI偽造的涉案者，又會(huì)帶來怎樣的恐慌和執(zhí)法成本？

據(jù)紅星新聞?dòng)浾咚阉鲬?yīng)用平臺(tái)發(fā)現(xiàn)，相關(guān)涉黃AI軟件目前仍未下架。風(fēng)起于青萍之末，此類苗頭必須及早遏制，若“造黃”“傳黃”的成本趨近“零門檻”，其對(duì)公共空間的社會(huì)危害不容小覷。從報(bào)道中可以看出，借AI“造黃”牟利儼然形成灰色鏈：兜售教程、推廣軟件、售賣提示詞；規(guī)避監(jiān)管招數(shù)多，將敏感詞匯翻譯成英文、開發(fā)灰色通道讓用戶使用境外軟件、激勵(lì)老用戶拉新并為用戶發(fā)帖引流提供幫助等。

環(huán)環(huán)相扣的牟利鏈條，暴露出從技術(shù)開發(fā)、內(nèi)容生產(chǎn)到平臺(tái)傳播、監(jiān)管治理等多個(gè)環(huán)節(jié)的失守。需盡快厘清各方責(zé)任，構(gòu)建全鏈條治理體系，從根本上遏制AI“造黃”亂象。

如此公開叫賣的涉黃“生意”，不能只打露頭者，對(duì)于造黃、傳黃、平臺(tái)放任等行為，每一環(huán)都必須付出沉痛代價(jià)。技術(shù)防“越獄”，法律懲“越界”，AI技術(shù)的健康發(fā)展，離不開技術(shù)向善的倫理堅(jiān)守、平臺(tái)履責(zé)的嚴(yán)格把關(guān)、監(jiān)管有力的法治保障和公眾參與的共治格局。唯有各方形成合力，才能讓AI技術(shù)真正服務(wù)于人，而非淪為污染網(wǎng)絡(luò)空間的工具。