來(lái)源：公安部網(wǎng)安局

近日，浙江金華婺城網(wǎng)警雷霆出擊，成功偵破一起利用AI工具制作并傳播淫穢內(nèi)容的案件，抓獲犯罪嫌疑人8名。目前，屬地公安機(jī)關(guān)依法對(duì)8名犯罪嫌疑人采取刑事強(qiáng)制措施，案件正在進(jìn)一步偵辦中。

神秘群組暗藏淫穢定制黑產(chǎn)

某資深國(guó)漫愛(ài)好者在上網(wǎng)時(shí)，發(fā)現(xiàn)某互聯(lián)網(wǎng)群組內(nèi)的部分賬號(hào)打著“私人定制”和“眾籌更新”的旗號(hào)招攬生意，其發(fā)布的所謂熱門國(guó)漫角色“美圖”，內(nèi)容不堪入目。意識(shí)到這種行為嚴(yán)重褻瀆國(guó)漫形象，更已觸碰法律紅線，該愛(ài)好者向警方報(bào)了案。

新型技術(shù)成犯罪工具

接警后，婺城警方迅速成立專案組展開(kāi)偵查，很快鎖定了犯罪嫌疑人陳某，并組織警力展開(kāi)抓捕。

在對(duì)其住所進(jìn)行搜查時(shí)，民警在其電腦和硬盤中查獲大量專門用于生成淫穢內(nèi)容的AI模型文件、訓(xùn)練數(shù)據(jù)，以及已經(jīng)制作完成的成品圖片和視頻，在民警出示的一系列證據(jù)面前，他如實(shí)交代了犯罪事實(shí)。

8人團(tuán)伙全員落網(wǎng)

據(jù)陳某供述，為牟取非法利益，以“角色投票、私人定制、眾籌更新、終身會(huì)員”等噱頭，接收客戶指定的國(guó)漫角色，按照對(duì)方要求利用AI技術(shù)生成淫穢內(nèi)容，從中賺取非法利益。隨著調(diào)查的深入，警方順藤摸瓜，將該團(tuán)伙其余7名犯罪嫌疑人一網(wǎng)打盡。

網(wǎng)警提示

“新興技術(shù)的使用切勿用錯(cuò)地方。”辦案民警指出，犯罪嫌疑人利用AI技術(shù)打破虛擬與現(xiàn)實(shí)的邊界，將深受大眾喜愛(ài)的國(guó)漫角色惡俗化，嚴(yán)重污染了網(wǎng)絡(luò)環(huán)境，挑戰(zhàn)了社會(huì)公序良俗。

1. 平臺(tái)要履行主體責(zé)任，嚴(yán)審內(nèi)容，健全機(jī)制，杜絕“流量至上”，落實(shí)管理責(zé)任。

2. 技術(shù)與從業(yè)者應(yīng)明確AI等技術(shù)應(yīng)用邊界，嚴(yán)禁用于違法用途非法牟利及傳播違法犯罪信息。

3. 網(wǎng)民需提升法治與網(wǎng)絡(luò)素養(yǎng)，抵制違法內(nèi)容，違法必追責(zé)，共建清朗網(wǎng)絡(luò)空間。

素材 |浙江金華網(wǎng)警