眼下，AI技術(shù)正賦能千行百業(yè)，為人們的工作、學(xué)習(xí)、生活帶來(lái)很多便利。但最近，一些人竟然用AI制作虛假圖片和視頻向網(wǎng)店商家索賠。來(lái)看江蘇蘇州一位大閘蟹經(jīng)銷商的遭遇。

買(mǎi)家發(fā)來(lái)“死螃蟹”圖片視頻

疑點(diǎn)重重

11月17日，在江蘇蘇州相城區(qū)經(jīng)營(yíng)大閘蟹生意的高女士，根據(jù)客戶訂單，發(fā)出了一箱8只裝大閘蟹。第二天，廣州的買(mǎi)家就收到了貨，完成簽收。就在簽收后10多分鐘，高女士收到平臺(tái)發(fā)來(lái)的客戶反饋。

江蘇蘇州相城區(qū)大閘蟹經(jīng)銷商 高晶：11月18日早上11點(diǎn)40分左右就簽收了，11點(diǎn)53分就來(lái)反饋說(shuō)8只螃蟹死了6只。

高女士經(jīng)營(yíng)大閘蟹生意

高女士對(duì)此也非常疑惑，立即聯(lián)系消費(fèi)者，請(qǐng)他們提供相應(yīng)的證據(jù)。

AI合成6只“死螃蟹”視頻截圖

很快，買(mǎi)家就發(fā)來(lái)了一張照片，畫(huà)面顯示，6只螃蟹腹部朝上躺在臺(tái)盆邊，但這張照片引起了高女士的懷疑。帶著疑惑，高女士讓客戶再拍一段視頻。

6只螃蟹腹部朝上躺在臺(tái)盆邊

江蘇蘇州相城區(qū)大閘蟹經(jīng)銷商 高晶：第一眼看上去就感覺(jué)像AI制作的，運(yùn)鏡很奇怪。如果再細(xì)看，螃蟹腳出現(xiàn)了5只小腿，和正常的大閘蟹不一樣。視頻比例也裁切了，很明顯就是為了去掉水印裁切的。所以我們讓他再拍一段視頻，用手指逐個(gè)去指一下，撥動(dòng)一下，這個(gè)我覺(jué)得不可能再造假了。后來(lái)他真的發(fā)來(lái)了這樣一段視頻。

AI視頻圖片明顯矛盾 警方介入查清事實(shí)

看了買(mǎi)家發(fā)來(lái)的第二段視頻，高女士按照平臺(tái)賠付要求，向買(mǎi)家賠付了195元。但她心里還是有些疑惑，第二天，她跟家人復(fù)盤(pán)整個(gè)事情過(guò)程，重新檢查買(mǎi)家發(fā)來(lái)的視頻后，有了新的發(fā)現(xiàn)。

高女士發(fā)現(xiàn)，買(mǎi)家發(fā)來(lái)的圖片和視頻中，前后死蟹公母數(shù)明顯不對(duì)。

發(fā)現(xiàn)了這個(gè)更大的疑點(diǎn)之后，高女士將其疑惑和買(mǎi)家再次提出，此時(shí)，買(mǎi)家就只顯示信息已讀，不再回應(yīng)。隨后，高女士將此事發(fā)在了網(wǎng)絡(luò)上，在廣州網(wǎng)友的聯(lián)動(dòng)下，廣州當(dāng)?shù)毓膊块T(mén)立即介入調(diào)查。

行政處罰決定書(shū)

12月2日，高女士收到了警方的處理結(jié)果：此前線上購(gòu)買(mǎi)螃蟹的買(mǎi)家利用手機(jī)合成制作收到6只“死螃蟹”的虛假視頻，要求商家退款195元，實(shí)施詐騙。該當(dāng)事人11月28日被公安機(jī)關(guān)查獲。根據(jù)相關(guān)法規(guī)，決定給予該當(dāng)事人行政拘留8日的處罰，追繳違法所得人民幣195元。

商家：期待線上平臺(tái)嚴(yán)審核幫甄別

高女士的遭遇并非個(gè)例。對(duì)于更多依托線上銷售的商家來(lái)說(shuō)，買(mǎi)家AI造假索賠成本低、識(shí)別難，遇到類似情況，又該如何維護(hù)商家利益呢？

江蘇蘇州相城區(qū)大閘蟹經(jīng)銷商 高晶：最直接的手段還是需要平臺(tái)來(lái)監(jiān)管，如果說(shuō)這段視頻上傳到平臺(tái)，平臺(tái)能夠自動(dòng)識(shí)別出這是由某個(gè)軟件制作出來(lái)的AI視頻，就會(huì)給我們商家省去很多麻煩。

利用AI編造高速車(chē)禍謠言 造謠者被行拘

有人用AI制作虛假視頻騙退款實(shí)施詐騙，而在湖南懷化市會(huì)同縣，一位自媒體博主通過(guò)AI工具移花接木，制造謠言。等待她的同樣是法律的懲處。

視頻中這段車(chē)禍視頻，并不是真實(shí)車(chē)禍現(xiàn)場(chǎng)，而是借助AI技術(shù)偽造的。今年11月21日，湖南懷化市會(huì)同縣的自媒體博主梁某某通過(guò)AI工具移花接木，編造“滬昆高速因大霧導(dǎo)致20多輛車(chē)追尾”的虛假場(chǎng)景，并寫(xiě)有“交警提醒”等不實(shí)文字注解。由于梁某某的短視頻賬號(hào)擁有1.2萬(wàn)粉絲，虛假視頻在短時(shí)間內(nèi)迅速傳播，嚴(yán)重干擾了駕駛員的出行判斷。

自媒體博主梁某某被行政拘留

據(jù)了解，梁某某因近期賬號(hào)流量不佳，聽(tīng)聞AI創(chuàng)作視頻可快速漲粉，便通過(guò)AI軟件生成虛假高速車(chē)禍視頻，并發(fā)布。視頻發(fā)布后不久，梁某某收到平臺(tái)警告，內(nèi)心惶恐之下迅速刪除視頻。

警方介紹，由于梁某某的虛假視頻傳播廣泛，影響惡劣，已構(gòu)成虛構(gòu)事實(shí)、擾亂公共秩序的行為，隨后被公安機(jī)關(guān)依法處以行政拘留3日的處罰。

警方接受采訪

會(huì)同縣公安局網(wǎng)絡(luò)安全管理大隊(duì)大隊(duì)長(zhǎng) 龍志洋：AI技術(shù)本應(yīng)是提升信息傳播效率、優(yōu)化出行服務(wù)的工具，而非造謠傳謠的“遮羞布”。高速公路的通行安全容不得虛假信息的干擾，每一次AI造謠都可能給公眾出行帶來(lái)潛在風(fēng)險(xiǎn)。唯有讓技術(shù)在法治軌道上運(yùn)行，讓造謠者付出應(yīng)有代價(jià)，才能遏制“指尖上的謊言”，讓AI真正服務(wù)于公眾出行的便捷與安全。

來(lái)源 央視新聞

編輯 肖旭

審核 羅祎 王晨郁