AI制造“頂流明星輸十億”謠言吸睛，別讓人工智能走錯(cuò)了路！

吃瓜群眾熱議的“有頂流明星在澳門輸了10億”，終于有了結(jié)果。

兩個(gè)字：謠言！

并且，是AI生成的謠言。

媒體報(bào)道，公安網(wǎng)安部門查明，網(wǎng)民徐某強(qiáng)為博取流量、謀取非法利益，于2025年3月10日10時(shí)，使用軟件“某書”中AI智慧生成功能，輸入社會(huì)熱點(diǎn)詞制作了標(biāo)題為“頂流明星被曝境外豪賭輸光十億身價(jià)引發(fā)輿論海嘯”的謠言信息，并通過互聯(lián)網(wǎng)平臺(tái)對(duì)外發(fā)布，造成謠言迅速傳播擴(kuò)散，引發(fā)大量網(wǎng)民議論，誘發(fā)相關(guān)謠言、話題等頻繁登上熱搜熱榜，嚴(yán)重?cái)_亂公共秩序。公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī)，對(duì)徐某強(qiáng)處以行政拘留8日處罰。
在當(dāng)今時(shí)代，AI技術(shù)的迅猛發(fā)展正深刻改變著我們的生活，其強(qiáng)大的生成能力為諸多領(lǐng)域帶來了創(chuàng)新與便利。然而，技術(shù)的進(jìn)步猶如一把雙刃劍，當(dāng)AI被別有用心之人利用，淪為制造謠言的工具時(shí)，所帶來的危害不容小覷。AI制造謠言吸睛，這一現(xiàn)象必須引起我們的高度警惕，別讓人工智能在錯(cuò)誤的道路上漸行漸遠(yuǎn)。
一段時(shí)間以來，AI生成謠言的事件頻發(fā)，其影響范圍之廣、危害程度之深令人擔(dān)憂。從自然災(zāi)害到民生健康，從經(jīng)濟(jì)領(lǐng)域到公共安全，AI謠言幾乎無孔不入。在自然災(zāi)害發(fā)生時(shí)，一些人利用AI制作虛假的現(xiàn)場(chǎng)圖片和視頻，夸大災(zāi)情，制造恐慌氣氛。比如，西藏定日縣地震、廣東冰雹災(zāi)害以及新疆拜城縣地震期間，均出現(xiàn)了AI生成的虛假圖片和不實(shí)信息，誤導(dǎo)公眾，干擾救援和救災(zāi)工作的正常開展 。在民生健康領(lǐng)域，“80后死亡率突破5.2%”的虛假報(bào)告借助AI偽造的“權(quán)威數(shù)據(jù)”和“專家解讀”視頻，引發(fā)了網(wǎng)絡(luò)集體焦慮，背后竟是個(gè)別網(wǎng)民為售賣保健品而蓄意為之 。經(jīng)濟(jì)領(lǐng)域同樣未能幸免，“國內(nèi)首例智能駕駛致死案宣判”等謠言，嚴(yán)重影響企業(yè)聲譽(yù)和市場(chǎng)秩序。
AI之所以容易被用于制造謠言，一方面是其自身存在技術(shù)缺陷，如“AI幻覺”。大語言模型基于概率統(tǒng)計(jì)機(jī)制，在數(shù)據(jù)缺失或不準(zhǔn)確時(shí)，會(huì)自動(dòng)編造看似合理實(shí)則虛構(gòu)的內(nèi)容。另一方面，AI工具的低門檻和便捷性，使得造謠成本大幅降低。造謠者只需簡(jiǎn)單輸入指令，就能批量生產(chǎn)仿真度高的虛假信息，包括以假亂真的圖片和視頻 。此外，監(jiān)管的滯后性與AI技術(shù)的快速發(fā)展形成鮮明反差，使得相關(guān)法律法規(guī)難以對(duì)AI謠言及時(shí)進(jìn)行有效約束。

客觀講，造謠成本太低是很重要的因素?！靶姓辛?日”，是不是有些隔靴搔癢呢？相關(guān)法規(guī)，應(yīng)該跟進(jìn)了。
AI謠言的泛濫帶來了諸多嚴(yán)重危害。

首先，它誤導(dǎo)公眾輿論，使人們基于虛假信息形成錯(cuò)誤的認(rèn)知和判斷，進(jìn)而影響社會(huì)的穩(wěn)定和諧。其次，破壞新聞行業(yè)的信譽(yù)，當(dāng)虛假新聞充斥網(wǎng)絡(luò)，公眾對(duì)新聞媒體的信任度會(huì)大幅下降。再者，損害企業(yè)和個(gè)人的聲譽(yù)，給當(dāng)事人造成巨大的經(jīng)濟(jì)損失和精神傷害。更為嚴(yán)重的是，AI謠言可能對(duì)社會(huì)秩序、國家安全甚至人民群眾的生命財(cái)產(chǎn)安全構(gòu)成威脅。
要遏制AI謠言的滋生和傳播，需要多方共同努力。

政府應(yīng)加強(qiáng)對(duì)AI技術(shù)的監(jiān)管，完善相關(guān)法律法規(guī)，明確AI技術(shù)使用的邊界和責(zé)任，加大對(duì)造謠者的懲處力度。比如，細(xì)化《中華人民共和國治安管理處罰法（修訂草案）》對(duì)“散布謠言”的認(rèn)定標(biāo)準(zhǔn)，出臺(tái)網(wǎng)絡(luò)謠言行政處罰裁量基準(zhǔn)的具體規(guī)定和指導(dǎo)意見 。同時(shí)，推動(dòng)建立多部門協(xié)同監(jiān)管機(jī)制，加強(qiáng)對(duì)AI技術(shù)研發(fā)、應(yīng)用等全鏈條的監(jiān)督管理。
平臺(tái)也應(yīng)肩負(fù)起社會(huì)責(zé)任，建立健全內(nèi)容審核機(jī)制，利用技術(shù)手段加強(qiáng)對(duì)AI生成內(nèi)容的識(shí)別和監(jiān)測(cè)。構(gòu)建負(fù)責(zé)任的算法推薦機(jī)制，對(duì)疑似謠言內(nèi)容實(shí)施分級(jí)分類管控，減緩謠言的傳播速度 。
公眾則要提高自身的辨別能力和媒介素養(yǎng)，增強(qiáng)對(duì)AI謠言的警惕性。遇到所謂的“爆炸性新聞”，做到不輕信、不轉(zhuǎn)發(fā)、不擴(kuò)散，通過官方平臺(tái)驗(yàn)證信息，發(fā)現(xiàn)AI謠言立即舉報(bào)，保存證據(jù)協(xié)助溯源。不當(dāng)“受害者”，更別當(dāng)“幫兇”。
AI技術(shù)的發(fā)展是大勢(shì)所趨，它為人類社會(huì)帶來的積極影響不可估量。但我們絕不能忽視AI被濫用所帶來的風(fēng)險(xiǎn)，尤其是AI制造謠言的問題。

AI，編故事編的不錯(cuò)，但不能成為制造謠言的工具！