記者2月12日從中央網(wǎng)信辦獲悉,近期,部分網(wǎng)絡(luò)賬號發(fā)布AI生成合成信息時,不添加AI標識,存在利用虛假不實內(nèi)容欺騙誤導(dǎo)公眾的問題,破壞網(wǎng)絡(luò)生態(tài),造成惡劣影響。網(wǎng)信部門督促網(wǎng)站平臺深入排查整治,依法依約處置賬號13421個,清理違法違規(guī)信息54.3萬余條,并通報了部分典型案例。

其中,微信賬號“浮萍9419”等以AI換臉、聲音克隆等方式,假冒運動員、演員、主持人、企業(yè)家等公眾人物,發(fā)布不實言論,借此吸粉引流,或未經(jīng)授權(quán)售賣AI生成的公眾人物“送祝福”“拜年”等視頻,從中不當牟利;抖音賬號“巷子里的魚”等發(fā)布AI生成的虛假火災(zāi)現(xiàn)場圖片、視頻,惡意編造、炒作火災(zāi)事故,混淆視聽,擾亂公共秩序。

據(jù)悉,下一步,網(wǎng)信部門將對無AI標識的虛假不實信息保持高壓嚴管態(tài)勢,發(fā)現(xiàn)即處置,嚴厲打擊違規(guī)行為。