文丨張蕾

據(jù)大冶檢察消息，近日，法院以制作、販賣(mài)、傳播淫穢物品牟利罪，判處被告人柯某某有期徒刑10個(gè)月，并處罰金人民幣5000元，同時(shí)追繳全部違法所得。

據(jù)悉，2022年11月至2023年3月期間，犯罪嫌疑人柯某某以牟利為目的，使用翻墻軟件在境外網(wǎng)站借助AI工具批量生成淫穢小說(shuō)發(fā)布并售賣(mài)，總計(jì)售賣(mài)約760篇（次），共計(jì)獲利22873.95元。

AI浪潮沖擊著普通人的生活和工作方式，不少人主動(dòng)學(xué)習(xí)AI產(chǎn)品，積極尋找借助AI賺錢(qián)的方法。

你肯定已經(jīng)看到過(guò)不少類(lèi)似的宣傳：用AI賺大錢(qián)，AI賺錢(qián)的100種方法，普通人用AI賺錢(qián)的5個(gè)方法，AI賺錢(qián)的三個(gè)階段，一人一臺(tái)電腦、年?duì)I收千萬(wàn)。

但總有人“劍走偏鋒”，拿AI寫(xiě)黃色小說(shuō)、拿AI編謠言、拿AI換臉詐騙……第一批拿AI賺錢(qián)的，已經(jīng)有人進(jìn)去了。

近日，一則“有頂流明星在澳門(mén)輸了10億”的信息在互聯(lián)網(wǎng)平臺(tái)傳播，引發(fā)網(wǎng)民熱議和各種猜測(cè)，頂流明星周杰倫、黃曉明等都被裹挾其中，不得不側(cè)面辟謠。

今日，官方消息表示，公安網(wǎng)安部門(mén)查明，網(wǎng)民徐某強(qiáng)（男，36歲）為博取流量、謀取非法利益，于2025年3月10日10時(shí)，使用軟件“某書(shū)”中AI智慧生成功能，輸入社會(huì)熱點(diǎn)詞制作了標(biāo)題為“頂流明星被曝境外豪賭輸光十億身價(jià)引發(fā)輿論海嘯”的謠言信息，并通過(guò)互聯(lián)網(wǎng)平臺(tái)對(duì)外發(fā)布。

徐某強(qiáng)行為，造成謠言迅速傳播擴(kuò)散，引發(fā)大量網(wǎng)民議論，誘發(fā)相關(guān)謠言、話題等頻繁登上熱搜熱榜，嚴(yán)重?cái)_亂公共秩序。公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī)，對(duì)徐某強(qiáng)處以行政拘留8日處罰。

這已經(jīng)不是第一次出現(xiàn)網(wǎng)友用AI生成虛假內(nèi)容攫取流量的報(bào)道了。

今年1月，西藏日喀則市定日縣發(fā)生6.8級(jí)地震，就在網(wǎng)友關(guān)注救援進(jìn)展時(shí)，一張“被埋在廢墟下的小孩”的圖片刷屏社交網(wǎng)絡(luò)。

圖片中的小孩穿戴彩色衣帽，滿身灰土。不少博主將照片內(nèi)容和西藏日喀則地震消息關(guān)聯(lián)，而網(wǎng)友紛紛表示祈福，并追問(wèn)小孩情況。

但很快，有網(wǎng)友發(fā)現(xiàn)這組圖是由AI制作的。據(jù)媒體報(bào)道，圖片發(fā)布于2024年11月，圖片中的小孩名為“小土豆”，作者以其為主角創(chuàng)作了多張AI圖片，并且都標(biāo)注“作品均為AI制作，視頻內(nèi)容純屬虛構(gòu)”。

此后，網(wǎng)友發(fā)現(xiàn)了不少AI制作的圖片、視頻等，比如“建筑物倒塌、兒童無(wú)家可歸、廢墟中媽媽用身體守護(hù)孩子”等，嚴(yán)重干擾救援。

更嚴(yán)重的情況是，隨著AI技術(shù)的普及，新型犯罪也開(kāi)始出現(xiàn)。在所有AI詐騙案例中，冒充類(lèi)詐騙占比高達(dá)62%，原因就是AI換臉技術(shù)“日新月異”。

據(jù)新京報(bào)報(bào)道，根據(jù)對(duì)103篇新聞報(bào)道的分析，AI換臉技術(shù)在詐騙案件中的使用率近一半，語(yǔ)音合成技術(shù)約四成。犯罪分子通過(guò)非法獲取的人臉照片和語(yǔ)音樣本，利用開(kāi)源AI工具生成逼真的虛擬形象，冒充受害人親人好友進(jìn)行詐騙。

知名電腦安全技術(shù)公司McAfee（邁克菲）發(fā)布的一項(xiàng)全球性調(diào)研顯示，在接受調(diào)查的7000多人中，四分之一的受訪者表示經(jīng)歷過(guò)AI語(yǔ)音克隆騙局，70%的人不能分辨克隆聲音和真實(shí)聲音。

AI在深刻改變著我們的生活。我們?cè)趽肀н@個(gè)新技術(shù)時(shí)，一方面要甄別AI內(nèi)容，一方面也要將AI用在正確合法的場(chǎng)景中。