AI技術(shù)為人們的工作、學(xué)習(xí)、生活帶來很多便利，但最近，一些人竟然用AI制作虛假圖片和視頻向網(wǎng)店商家索賠。來看看蘇州一位大閘蟹經(jīng)銷商的遭遇。

買家發(fā)來“死螃蟹”圖片視頻

疑點重重

11月17日，在江蘇蘇州相城區(qū)經(jīng)營大閘蟹生意的高女士，根據(jù)客戶訂單，發(fā)出了一箱8只裝大閘蟹。第二天，廣州的買家就收到了貨，完成簽收。就在簽收后10多分鐘，高女士收到平臺發(fā)來的客戶反饋。

江蘇蘇州相城區(qū)大閘蟹經(jīng)銷商 高晶：11月18日早上11點40分左右就簽收了，11點53分就來反饋說8只螃蟹死了6只。

高女士對此也非常疑惑，立即聯(lián)系消費者，請他們提供相應(yīng)的證據(jù)。

很快，買家就發(fā)來了一張照片，畫面顯示，6只螃蟹腹部朝上躺在臺盆邊，但這張照片引起了高女士的懷疑。帶著疑惑，高女士讓客戶再拍一段視頻。

江蘇蘇州相城區(qū)大閘蟹經(jīng)銷商 高晶：第一眼看上去就感覺像AI制作的，運鏡很奇怪。如果再細看，螃蟹腳出現(xiàn)了5只小腿，和正常的大閘蟹不一樣。視頻比例也裁切了，很明顯就是為了去掉水印裁切的。所以我們讓他再拍一段視頻，用手指逐個去指一下，撥動一下，這個我覺得不可能再造假了。后來他真的發(fā)來了這樣一段視頻。

AI視頻圖片明顯矛盾 警方介入查清事實

看了買家發(fā)來的第二段視頻，高女士按照平臺賠付要求，向買家賠付了195元。但她心里還是有些疑惑，第二天，她跟家人復(fù)盤整個事情過程，重新檢查買家發(fā)來的視頻后，有了新的發(fā)現(xiàn)。

高女士發(fā)現(xiàn)，買家發(fā)來的圖片和視頻中，前后死蟹公母數(shù)明顯不對。

發(fā)現(xiàn)了這個更大的疑點之后，高女士將其疑惑和買家再次提出，此時，買家就只顯示信息已讀，不再回應(yīng)。隨后，高女士將此事發(fā)在了網(wǎng)絡(luò)上，在廣州網(wǎng)友的聯(lián)動下，廣州當(dāng)?shù)毓膊块T立即介入調(diào)查。

12月2日，高女士收到了警方的處理結(jié)果：此前線上購買螃蟹的買家利用手機合成制作收到6只“死螃蟹”的虛假視頻，要求商家退款195元，實施詐騙。該當(dāng)事人11月28日被公安機關(guān)查獲。根據(jù)相關(guān)法規(guī)，決定給予該當(dāng)事人行政拘留8日的處罰，追繳違法所得人民幣195元。

商家：期待線上平臺嚴審核幫甄別

高女士的遭遇并非個例。對于更多依托線上銷售的商家來說，買家AI造假索賠成本低、識別難，遇到類似情況，又該如何維護商家利益呢？

江蘇蘇州相城區(qū)大閘蟹經(jīng)銷商 高晶：最直接的手段還是需要平臺來監(jiān)管，如果說這段視頻上傳到平臺，平臺能夠自動識別出這是由某個軟件制作出來的AI視頻，就會給我們商家省去很多麻煩。

利用AI編造高速車禍謠言 造謠者被行拘

有人用AI制作虛假視頻騙退款實施詐騙，而在湖南懷化市會同縣，一位自媒體博主通過AI工具移花接木，制造謠言。等待她的同樣是法律的懲處。

視頻中這段車禍視頻，并不是真實車禍現(xiàn)場，而是借助AI技術(shù)偽造的。今年11月21日，湖南懷化市會同縣的自媒體博主梁某某通過AI工具移花接木，編造“滬昆高速因大霧導(dǎo)致20多輛車追尾”的虛假場景，并寫有“交警提醒”等不實文字注解。由于梁某某的短視頻賬號擁有1.2萬粉絲，虛假視頻在短時間內(nèi)迅速傳播，嚴重干擾了駕駛員的出行判斷。

據(jù)了解，梁某某因近期賬號流量不佳，聽聞AI創(chuàng)作視頻可快速漲粉，便通過AI軟件生成虛假高速車禍視頻，并發(fā)布。視頻發(fā)布后不久，梁某某收到平臺警告，內(nèi)心惶恐之下迅速刪除視頻。

警方介紹，由于梁某某的虛假視頻傳播廣泛，影響惡劣，已構(gòu)成虛構(gòu)事實、擾亂公共秩序的行為，隨后被公安機關(guān)依法處以行政拘留3日的處罰。

會同縣公安局網(wǎng)絡(luò)安全管理大隊大隊長 龍志洋：AI技術(shù)本應(yīng)是提升信息傳播效率、優(yōu)化出行服務(wù)的工具，而非造謠傳謠的“遮羞布”。高速公路的通行安全容不得虛假信息的干擾，每一次AI造謠都可能給公眾出行帶來潛在風(fēng)險。唯有讓技術(shù)在法治軌道上運行，讓造謠者付出應(yīng)有代價，才能遏制“指尖上的謊言”，讓AI真正服務(wù)于公眾出行的便捷與安全。

來源 央視新聞、都市快報