“門口有個流浪漢，說認(rèn)識你，我讓他進(jìn)來了。” 當(dāng) TikTok 博主喬?梅爾（Joe Mele）把 AI 生成的流浪漢圖像發(fā)給父親時，他沒料到這個 “玩笑” 會引發(fā)連鎖反應(yīng)，父親連續(xù)撥打 7 通未接電話，在看到流浪漢 “用自己牙刷刷牙”“躺床上休息” 的后續(xù)圖像后徹底崩潰。

這條視頻最終獲得超 1040 萬次觀看，更意外點燃了全球范圍內(nèi)的 AI 整蠱狂歡。從國內(nèi)青少年用 AI 生成流浪漢闖家圖像嚇父母，到上班族制作 “流浪漢進(jìn)公司” 惡搞同事，看似無傷大雅的娛樂背后，正浮現(xiàn)出技術(shù)濫用的深層危機(jī)。

AI流浪漢如何風(fēng)靡全球

這場 AI 整蠱浪潮的起點清晰可溯。最近Ticktok創(chuàng)作者喬?梅爾使用谷歌 Gemini AI，僅用簡單指令就在自家室內(nèi)照片中添加了流浪漢形象，一系列 “惡作劇” 互動視頻迅速引爆 TikTok。谷歌新推出的 Nano Banana AI 工具將創(chuàng)作流程簡化至 “一鍵生成”, 只需上傳一張環(huán)境照片，輸入 “添加無家可歸者” 的文字指令，AI 就能在幾秒內(nèi)生成以假亂真的圖像。

這種低門檻創(chuàng)作模式迅速跨越國界，在國內(nèi)社交平臺形成復(fù)制熱潮。抖音上的博主將整蠱升級為視頻形式，生成流浪漢用父親毛巾擦臉、在家里休息的動態(tài)內(nèi)容，盡管視頻中出現(xiàn) “四換人臉、穿插外國人” 的明顯破綻，但仍成功引發(fā)長輩恐慌。更有網(wǎng)友將場景轉(zhuǎn)移到職場，用 AI 制作 “流浪漢在辦公區(qū)溜達(dá)” 的圖片測試同事反應(yīng)。

截至到10 月，此類 “AI 流浪漢整蠱” 視頻在抖音、快手等平臺的相關(guān)話題播放量累計突破 5 億次，大量 “一鍵生成流浪漢特效” 教程點贊量超 40 萬，評論區(qū)滿是 “求教程”“已試過，把父母嚇著了的” 的互動留言。

這種傳播熱度并非個例，從 TikTok 上爆火的 “后院蹦床萌兔” 偽視頻，到國內(nèi)被官方賬號誤轉(zhuǎn)的 “監(jiān)控視角狗狗救小孩” 短片，AI 生成內(nèi)容正憑借 “真實感 + 情緒化” 的雙重特質(zhì)，成為新的流量密碼。

01

濫用AI生成視頻造成法律與倫理雙重傷害

當(dāng)用戶沉浸在整蠱的快感中時，法律風(fēng)險已悄然滋生。今年10 月，四川會理市公安局接到居民王女士報警，稱 “流浪漢闖入家中危及獨自在家的孩子”，民警緊急出警后發(fā)現(xiàn)，竟是孩子用 AI 工具制作的惡作劇。這種情況并非個例，多地警方反映，類似虛假報警已占用大量警力資源。

知名律師周兆成指出，此類行為已觸碰法律紅線。根據(jù)《中華人民共和國治安管理處罰法》，明知可能引發(fā)誤報仍故意傳播 AI 偽信息，可被處 5-10 日拘留及 500 元罰款；若視頻擴(kuò)散引發(fā)社會恐慌，則可能觸犯《刑法》“編造虛假信息罪”，最高可判 5 年以上有期徒刑。

2024 年南京玄武區(qū)的 “AI 換臉盜刷案” 更敲響警鐘：犯罪嫌疑人符某利用 AI 生成動態(tài)人臉視頻，突破 23 名被害人的支付賬戶人臉識別防線，最終以侵犯公民個人信息罪、信用卡詐騙罪數(shù)罪并罰，獲刑 4 年 6 個月。

比法律風(fēng)險更隱蔽的是倫理層面的侵蝕。西南政法大學(xué)校長林維在中歐人權(quán)研討會上強(qiáng)調(diào)：“技術(shù)的最終目的是服務(wù)于人，而不是削弱個體的主權(quán)與自由?！盇I 整蠱狂歡中，最突出的倫理問題是對弱勢群體的 “去人格化” 傷害 ，將流浪者形象異化為娛樂素材，實質(zhì)是強(qiáng)化 “弱勢群體 = 危險符號” 的刻板印象，削弱公眾對社會救助議題的同理心。

這種傷害正在蔓延，例如網(wǎng)絡(luò)上出現(xiàn) AI 仿冒奧運(yùn)冠軍全紅嬋等聲音賣土雞蛋的亂象，歷史博主用 AI 生成 “偽歷史” 視頻歪曲史實，甚至有營銷號制作 “災(zāi)難現(xiàn)場” 虛假視頻博取關(guān)注。

更令人擔(dān)憂的是技術(shù)對認(rèn)知體系的沖擊。根據(jù)CNNIC的 數(shù)據(jù)顯示，截至 2024 年底我國生成式 AI 用戶達(dá) 2.49 億人，有92% 的創(chuàng)作者都在使用 AI 工具，越來越多人陷入認(rèn)知困惑：“過去覺得識別不了 AI 假視頻是老年人的事，年輕一代發(fā)現(xiàn)自己也常被騙，有些時候根本無法分清是否是AI生成視頻。”

02

AI偽視頻泛濫原因

技術(shù)易得性與偏好算法

生成式 AI 的 “平民化” 進(jìn)程正在加速，截至 2024 年底，我國已有 302 款生成式 AI 服務(wù)完成備案，核心產(chǎn)業(yè)規(guī)模近 6000 億元，從豆包到百度文心一格，各類工具已實現(xiàn) “零門檻使用”。這種易得性讓青少年成為主要使用者，而他們對技術(shù)風(fēng)險的認(rèn)知不足，進(jìn)一步助推了濫用行為。

平臺算法的商業(yè)邏輯則起到了 “放大器” 作用。短視頻平臺的推薦機(jī)制對 “情緒化內(nèi)容” 存在天然偏好，AI 整蠱視頻中 “父母驚慌失措”“同事暴怒” 等畫面，恰好符合 “高互動率” 的算法指標(biāo)，從而獲得流量傾斜。這種機(jī)制形成惡性循環(huán)，越刺激的內(nèi)容越易傳播，創(chuàng)作者越傾向于制作此類內(nèi)容，最終導(dǎo)致濫用行為常態(tài)化。

同時認(rèn)知鴻溝的存在讓危機(jī)進(jìn)一步加劇。中老年群體成為 AI 偽信息的主要受害者，他們既缺乏對 AI 技術(shù)的基本認(rèn)知，又習(xí)慣以 “視覺真實” 判斷信息真?zhèn)危@使得他們有時候在面對 “帶監(jiān)控時間戳” 的 AI 視頻時，幾乎沒有辨別能力。而年輕人群體雖熟悉技術(shù)，卻常因 “追求趣味”“博取關(guān)注” 的心態(tài)忽視風(fēng)險，形成 “制作者” 與 “受害者” 的代際錯位。

03

如何辨別AI生成視頻

面對 AI 濫用的挑戰(zhàn)，掌握基礎(chǔ)的辨別技巧至關(guān)重要。AI 生成內(nèi)容即便再逼真，仍會留下技術(shù)痕跡，例如圖像中常出現(xiàn)手指數(shù)量異常、光影與環(huán)境脫節(jié)等問題，視頻則容易出現(xiàn) “穿?！薄拔矬w突變” 等破綻。當(dāng)遇到可疑內(nèi)容時，可通過 “反向圖片搜索”“檢查元數(shù)據(jù)” 等方式驗證。

平臺作為內(nèi)容傳播的關(guān)鍵環(huán)節(jié)，亟需承擔(dān)起主體責(zé)任。目前，YouTube 已推出 AI 生成內(nèi)容標(biāo)注功能，要求創(chuàng)作者明確標(biāo)識虛擬內(nèi)容；

目前許多平臺開啟內(nèi)容標(biāo)注功能，要求創(chuàng)作者明確標(biāo)識虛擬內(nèi)容，例如抖音、快手等平臺也在試點 “AI 內(nèi)容溯源碼”，用戶掃碼即可查看內(nèi)容生成信息。并優(yōu)化算法推薦邏輯，減少情緒化虛假內(nèi)容的流量傾斜。

長遠(yuǎn)來看，認(rèn)知升級才是根本解決方案。2025 年中歐人權(quán)研討會達(dá)成的共識更具啟示：“算法不能替代尊嚴(yán)，發(fā)展不能為不平等辯護(hù)。” 這要求我們在擁抱技術(shù)進(jìn)步的同時，始終堅守 “以人為本” 的底線，當(dāng) AI 工具被用于尊重與創(chuàng)造，它能成為連接古今的橋梁；當(dāng)被用于戲謔與欺騙，便會淪為撕裂社會的利器。

在這個流浪漢的整蠱視頻下，有一條評論引人深思：“第一次看覺得好笑，第二次想到我媽媽也會被騙，突然笑不出來了。” 技術(shù)的溫度從來不是由參數(shù)決定的，而是由使用者的選擇定義的。當(dāng) AI 流浪者的形象不再被用于整蠱，當(dāng)虛擬內(nèi)容都帶著可追溯的標(biāo)識，技術(shù)才能真正成為服務(wù)人類的工具，而非制造恐慌的 “狼”。這既需要法律的剛性約束，更需要每個使用者的理性自覺。

微信訂閱

歡迎郵局訂閱2026年《電腦報》

訂閱代號：77-19

全年訂價：400.00元 零售單價：8元

郵局服務(wù)熱線：11185

編輯｜張毅

主編｜黎坤

總編輯｜吳新

爆料聯(lián)系：cpcfan1874（微信）

壹零社：用圖文、視頻記錄科技互聯(lián)網(wǎng)新鮮事、電商生活、云計算、ICT領(lǐng)域、消費(fèi)電子，商業(yè)故事。《中國知網(wǎng)》每周全文收錄；中國科技報刊100強(qiáng)；2021年微博百萬粉絲俱樂部成員；2022年抖音優(yōu)質(zhì)科技內(nèi)容創(chuàng)作者