最近，買家用AI偽造“死螃蟹”僅退款195元被拘留的話題登上熱搜，AI造假該如何防范引發(fā)討論。

隨著AI工具普及，偽造瑕疵商品圖片、視頻的技術(shù)門檻急劇降低。一些用戶偽造生鮮水果腐爛、衣服污染、商品破損等情況時常見諸網(wǎng)端，甚至催生付費教學(xué)的灰產(chǎn)，賣家與快遞成為這類欺詐的受害者，陷入維權(quán)困境。

偽造視頻露出破綻

11月17日，廣東一顧客在高女士經(jīng)營的網(wǎng)店下單8只大閘蟹，18日簽收后稱8只螃蟹死了6只，發(fā)來照片和視頻索賠。高女士感覺不太可能，必定螃蟹經(jīng)過精挑細選，再加上現(xiàn)在氣溫較低，死亡率不會這么高。

于是，高女士讓客戶再拍一段視頻，用手指逐個去撥動一下，買家也按照要求發(fā)來這樣的視頻。“當時看完第二段視頻，以為視頻也不好造假了，我就按照平臺賠付要求，同意買家僅退款195元?！?/p>

第二天，越想越不對勁的高女士發(fā)現(xiàn)了端倪，“對方發(fā)我的第一段視頻中，死蟹為2公4母，第二段又變成3公3母，我實發(fā)是4公4母，且視頻中的螃蟹一側(cè)‘有5條腿’（正常大閘蟹一側(cè)是4條腿）。

億豹網(wǎng)了解到，事發(fā)后，她曾嘗試私下與買家溝通，但對方已讀不回，最終她向警方尋求幫助。12月3日，她拿到了廣州市公安局增城區(qū)分局出具的違法行為人被警方行政拘留8天、追繳195元的處罰結(jié)果。

高女士的遭遇并非個例。從事紫砂行業(yè)15年的電商賣家鐘先生上個月也遭遇了AI假圖騙退款：一位買家以商品破損為由申請僅退款，并發(fā)送數(shù)張顯示紫砂壺有多道裂紋的圖片。

有著多年經(jīng)驗的鐘先生察覺圖片異常，堅持要求買家發(fā)來“破損視頻”。“手一摸就開裂，肯定是AI的”，鐘先生與同行憑借專業(yè)識破騙局，對方最終取消申請。

現(xiàn)實情況是，“僅退款”規(guī)則下，風險轉(zhuǎn)嫁至快遞一方，快遞小哥經(jīng)常因“簽收未收到”等緣由被賣家追責，很多訂單最終都是小哥買單。因此，嚴厲打擊AI偽造圖片退款行為，對保護小哥合法權(quán)益，同樣具有重要意義。

多方攜手共筑防線

伴隨技術(shù)的快速發(fā)展，AI在為人們?nèi)粘９ぷ鳌⑸钐峁┍憬菪缘耐瑫r，確實在安全治理層面帶來了新的挑戰(zhàn)，出現(xiàn)了利用深度偽造技術(shù)進行欺詐、利用虛擬形象進行不當營銷等案例。

為應(yīng)對這些挑戰(zhàn)，國家網(wǎng)信辦等七部門聯(lián)合公布的《生成式人工智能服務(wù)管理暫行辦法》明確規(guī)定，提供者應(yīng)當按照管理規(guī)定對圖片、視頻等生成內(nèi)容進行標識。

億豹網(wǎng)發(fā)現(xiàn)，盡管輸出圖片通常帶有“AI生成”水印，但該標識多位于邊角位置，通過簡單裁剪即可輕易去除。也有部分商家反映，即便能識別出買家使用AI偽造商品破損，向平臺提交申訴后，卻常因平臺認定“憑證不足”而被駁回，最終被建議“與買家協(xié)商解決”。

與此同時，由于單筆或關(guān)聯(lián)訂單的總金額往往不足1000元，難以達到詐騙罪的刑事立案標準，致使各方尋求報警處理的途徑也難以走通，陷入維權(quán)無門的困境。

在AI合成“死螃蟹”這起事件中，高女士呼吁：“希望有關(guān)部門加強監(jiān)管，也期待線上平臺可以幫助商家甄別AI造假的情況，這樣也會幫我們省去很多麻煩。”

網(wǎng)絡(luò)時代，造假的低成本與維權(quán)的高代價形成強烈反差。生成一段足以亂真的虛假視頻，可能只需要幾分鐘；而商家或快遞要證明它的虛假，當事人可能需要投入大量時間、金錢進行技術(shù)鑒定、法律訴訟，有時即便勝訴，負面印象也難以徹底消除。這種不對稱性，實際上變相鼓勵了投機與惡意行為。

此外，多位律師建議，隨著全國首例AI偽造視頻網(wǎng)購詐騙案的行政處罰，也意味著法律開始對這一新型違法形態(tài)作出回應(yīng)。應(yīng)考慮在刑法中增設(shè)專門條款或出臺司法解釋，進行明確的法律配置與規(guī)制，加大對這一行為的打擊力度。

綜上所述，一個健康的電商生態(tài)，一定是讓商家敢賣、消費者敢買、快遞放心送、平臺居間做好服務(wù)，這才是高質(zhì)量與可持續(xù)的應(yīng)有之義。

來源 | 億豹網(wǎng) 作者 | 桑迪 版式 | 麥兜