來源：央視新聞客戶端

粉碎謠言，真相來了。人工智能工具的使用，給我們的工作生活帶來便利，但也被一些不法分子利用，成為造謠的工具。近日，上海警方公布了多起案例，其中之一就是一個名為醫(yī)學科學院細胞中心的微信公眾號，發(fā)布了一則信息，自稱跟某家醫(yī)院合作，可以通過干細胞來治療腎病，一起來揭開真相。

今年3月初，上海黃浦警方接到一家三甲醫(yī)院報警稱，一個名為醫(yī)學科學院細胞中心的微信公眾號，發(fā)布了包含大量不實信息的文章，對該醫(yī)院聲譽造成影響。

上海市公安局黃浦分局網(wǎng)安支隊民警 郁敏皓：文章說跟某醫(yī)院有合作，可以通過干細胞來治療腎臟病，但是經(jīng)醫(yī)院反饋，他們在平時的臨床過程當中，干細胞是不能用在腎臟病的治療的。

文章中，不僅編造醫(yī)學科學院細胞中心與該醫(yī)院進行合作，還聲稱該干細胞治療項目源自國家級醫(yī)學院，并羅列出多項聯(lián)合研究療效評估數(shù)據(jù)，還附帶兩名患者的康復(fù)案例。經(jīng)醫(yī)院核實，這些信息全部為杜撰。警方隨后依法傳喚了該微信公眾號的工作人員陳某和蔡某。

上海市公安局黃浦分局網(wǎng)安支隊民警 郁敏皓：他是通過詞庫，還有關(guān)鍵字，利用AI直接生成這篇文章，包括提到的醫(yī)院，包括里面一些人物其實都是AI弄的。編寫文章的這個人，他是沒有醫(yī)療背景去識別這個文章的真實性的。

經(jīng)查，團隊運營主管蔡某沒有醫(yī)療知識背景，在無法核實真?zhèn)蔚那闆r下，放任陳某編寫發(fā)布毫無事實依據(jù)的文章。民警表示，該公眾號為某自媒體運營公司今年2月新注冊的賬號，以醫(yī)療科普為名發(fā)布文章，多篇文章出自沒有任何醫(yī)學知識的人員，目的只是為公司所服務(wù)的其他醫(yī)院引流，招攬病人線下就醫(yī)。

上海市公安局黃浦分局網(wǎng)安支隊民警 郁敏皓：其實他背后服務(wù)的團隊，就是線下的這種醫(yī)療機構(gòu)，為了引流，然后只要有客人來了，他們可能就會得到相應(yīng)的分成。

目前，陳某、蔡某已被警方依法處以行政處罰。

為博眼球 故意裁掉“AI生成視頻”標簽

除了利用AI編造謠言，還有人用AI生成的視頻制造爭議話題。在另一起案件中，當事人故意刪掉AI生成視頻的水印標簽，制造外賣騎手打翻餐食又倒回的假象，引發(fā)大量輿論關(guān)注。

外賣員：好的，馬上到了，你稍等一下。你放心吧，我的車技是這一帶最好的，一滴湯都不帶灑的，放心吧。

今年2月，這段外賣員將撒落在外賣箱里的面條，重新裝盒配送的短視頻在網(wǎng)上傳播，造成惡劣影響。經(jīng)警方調(diào)查，該視頻完全由AI生成。

上海市公安局青浦分局網(wǎng)安支隊民警 徐禎意：這段視頻下面并沒有標識是AI生成的，我們最后經(jīng)過溯源之后，發(fā)現(xiàn)這個視頻系轉(zhuǎn)載，原作者他在視頻下方，有標注視頻是AI生成這么一個情況。

經(jīng)查，網(wǎng)民劉某某從網(wǎng)上下載了該視頻，為博取眼球，他重新發(fā)布時故意裁切掉原視頻中“AI技術(shù)生成”的水印標簽。此后，網(wǎng)民高某某、武某某為吸引關(guān)注，還在評論區(qū)發(fā)布“我就這樣干過”“哪個外賣員沒干過，我就不相信了”等不實信息。

上海市公安局青浦分局網(wǎng)安支隊民警 徐禎意：評論區(qū)里的網(wǎng)民會去指責這個公司，如果我們不加以制止，讓視頻肆意擴散或者不及時澄清的話，對這個平臺和公司肯定會造成比較持久的負面影響。

目前，劉某某已被警方依法處以行政拘留，高某某、武某某被處以罰款。

AI“洗稿”編造多家車企謠言 兩人被抓

一些不法分子還用AI“洗稿”來批量制造謠言。

AI“洗稿”簡單說，就是利用AI技術(shù)，對他人發(fā)布的文章、信息進行抄襲、改寫、刪減、拼湊，甚至直接編造，變成偽原創(chuàng)內(nèi)容。

在上海警方此次公布的一起網(wǎng)絡(luò)水軍案件中，不法分子就是利用AI“洗稿”非法獲利8萬余元。

今年2月，多家車企向上海警方反映，長期遭受網(wǎng)絡(luò)不實信息侵擾。這些信息不僅捏造企業(yè)經(jīng)營狀況、新能源電池風險乃至交通事故傷亡等內(nèi)容，還大量散布銷量下滑、虧損擴大、員工福利降低等不實消息，并配上“腰斬”“信任崩塌”“窟窿50億”等聳人聽聞的詞匯，刻意制造經(jīng)營困難、亂收費等爭議話題，嚴重影響了車企的正常經(jīng)營。

上海市公安局嘉定分局網(wǎng)安支隊副支隊長 閻皓：像新能源車，大家都非常關(guān)心的一個問題就是起火，起火的原因，它可能會去演繹。那么有一些可能是通過撞擊，或者說發(fā)生了交通事故碰撞之后，電池液泄漏造成的起火。那么它可能是在AI編撰這個故事的過程當中，它會把細節(jié)給漏掉，就說這輛車在正常行駛的過程當中，突然就著火了。

經(jīng)查，這些集中發(fā)布虛假消息的賬號，實際運營者僅梁某、郭某兩人。今年3月，兩人被抓獲歸案。到案后他們交代，為博取眼球和獲取平臺獎勵，兩人配合搜集車企爭議話題，再利用AI工具“洗稿”，杜撰涉企不實文章，并發(fā)布到網(wǎng)上。因平臺獎勵僅限新注冊用戶，兩人通過非法渠道獲取了約4000個各類網(wǎng)絡(luò)平臺賬號，平臺獎勵減少后，便棄用，另尋新賬號。兩人明知無法保證AI生成內(nèi)容的真實性，仍選擇在平臺監(jiān)管較弱的凌晨1點至6點批量發(fā)布針對多家車企的謠言信息。

上海市公安局嘉定分局網(wǎng)安支隊副支隊長 閻皓：賺錢模式主要是養(yǎng)了一大批新的社交媒體賬號，然后是以這種發(fā)布原創(chuàng)型的文章在這個平臺上面，吸引別人去瀏覽，后續(xù)平臺會根據(jù)原創(chuàng)獎勵的這種機制給他返錢。

警方表示，根據(jù)相關(guān)司法解釋，違反國家規(guī)定，以營利為目的，明知是虛假信息，仍通過信息網(wǎng)絡(luò)有償提供發(fā)布信息等服務(wù)，擾亂市場秩序，屬非法經(jīng)營行為，個人非法經(jīng)營數(shù)額達5萬元以上或違法所得2萬元以上，單位非法經(jīng)營數(shù)額達15萬元以上或違法所得5萬元以上，即達到入刑標準。截至案發(fā)，梁某和郭某已累計發(fā)布不實文章70余萬篇次，非法獲利8萬余元。目前，兩人已被警方以涉嫌非法經(jīng)營罪依法采取刑事強制措施。

當AI成為造謠工具 網(wǎng)絡(luò)平臺應(yīng)加強監(jiān)管

通過此次上海警方公布的這些案件，我們看到，不法分子利用AI工具，低成本制造虛假信息，而一些網(wǎng)絡(luò)平臺已成為謠言傳播與變現(xiàn)的主要渠道。平臺一方面用獎勵機制鼓勵“原創(chuàng)內(nèi)容”，另一方面卻缺乏有效手段區(qū)分人工創(chuàng)作與AI編造洗稿。AI本身是一項技術(shù)，當它被用于編造謠言、制造爭議、牟取非法利益時，網(wǎng)絡(luò)平臺更應(yīng)加強監(jiān)管，避免虛假信息傳播。當前，上海警方已要求案件中涉及的平臺方關(guān)停相關(guān)賬號、下架不實信息，并會同網(wǎng)信部門敦促平臺企業(yè)切實履行用戶發(fā)布內(nèi)容的審核義務(wù)。