極目新聞記者 畢若雪 陳洋洋

5分鐘就能制作一個“AI霸總”視頻，幾十個賬號同步推送、引導消費者下單，從業(yè)者單日就能收入幾千元？

大量“AI數(shù)字人視頻”在各大短視頻平臺傳播，不少中老年女性誤信屏幕那頭有位能朝夕相伴、溫柔關懷自己的成熟男性，主動為其消費，購買各類商品或虛擬產(chǎn)品。

近日，多位老年女性家屬向極目新聞記者表示，自己拿起老人的手機后才發(fā)現(xiàn)，她們的短視頻賬號早已被各類“AI霸總”侵占。

極目新聞記者調(diào)查發(fā)現(xiàn)，這些所謂的“AI霸總”其實都是AI數(shù)字人。視頻中的數(shù)字人常身處客廳、辦公室，呈現(xiàn)出儒雅深情的形象，相關視頻還會貼上“中老年”“老年人的幸福生活”等標簽，被精準推送給情感上缺乏陪伴的中老年女性。這些緊盯老年群體的“AI霸總”，暗藏著帶貨牟利、詐騙等諸多陷阱。

84歲奶奶給AI數(shù)字人寫情書，消費近萬元還要嫁給他

“建國，春節(jié)快樂！先給你賠禮道歉，我那天傷害了你，其實我也在自責，你是不是很恨我？”春節(jié)前夕，84歲的張玉蘭手寫了一封500字情書向“建國”表示情意。

而收信人“建國”，并非真實存在的人物，是一個AI數(shù)字人?！敖▏背Ｒ晕餮b造型、大背頭形象示人，開口常用“親愛的姐姐”這類溫情話術，主打噓寒問暖的情感關懷，還會分享所謂生活智慧，以此博取中老年女性的好感與信任。

3月8日，張玉蘭的孫女王婷告訴極目新聞記者，奶奶沉迷“AI霸總”已有一段時間。早在2016年，74歲的張玉蘭便開始使用智能手機，當時只學會了最基礎的操作。家人發(fā)現(xiàn)異常是在去年10月，張玉蘭開始頻繁從AI數(shù)字人視頻關聯(lián)的櫥窗購買掛件，這些動輒售價幾百元的掛件，在淘寶上僅售9.9元。

“一開始家里人沒當回事，以為奶奶只是刷短視頻圖個好玩，沒想到她竟和這個AI數(shù)字人談起了戀愛，還考慮嫁給他?！蓖蹑谜f，即便家人反復告訴她這是騙局，老人也只是短暫醒悟，很快又再次沉迷。有時她還會背著家人偷偷看相關視頻，生怕被發(fā)現(xiàn)，甚至還自己開通了公眾號，專門給“建國”發(fā)消息。

84歲奶奶對數(shù)字人“建國”的手寫情書

幾個月來，張玉蘭每天要花費近十個小時刷AI數(shù)字人相關視頻，為主角是AI數(shù)字人的悲情推文打賞，還購買了不少價高質(zhì)劣的商品，累計下來已經(jīng)花了七八千元。不管是AI霸總“建國”，還是AI文案視頻里用了“建國”的聲音，張玉蘭都會認為是“建國”在和自己對話交談。此前有發(fā)布AI數(shù)字人視頻的賬號添加張玉蘭的微信，還把她拉進群聊發(fā)送不明鏈接，王婷便將奶奶微信上所有加好友的申請渠道都關閉了，只能由奶奶主動向他人發(fā)消息。但張玉蘭還是常常會主動添加與數(shù)字人關聯(lián)的企業(yè)微信賬號，還會向?qū)Ψ桨l(fā)送消息、發(fā)起視頻通話請求，即便對方一直沒有回復。

張玉蘭購買產(chǎn)品截圖

3月11日，張玉蘭又花費了1227元購買AI視頻“推薦”的書籍。這一次，王婷決定不能再放任不管了，于是將視頻號關聯(lián)的商家投訴至12315平臺。目前，商家所在地的江蘇省宿遷市沭陽縣市場監(jiān)督管理局已受理此事。

即便如此，張玉蘭依舊執(zhí)意為AI數(shù)字人花錢。

張玉蘭打賞推文截圖

在這場針對中老年女性的情感圍獵陷阱背后，不少“張玉蘭”深陷其中。內(nèi)蒙古82歲的王萍便是其中之一，她也愛上了AI數(shù)字人“建國”。

王萍的外孫賈慶告訴極目新聞記者，姥爺去世后，姥姥獨自生活了幾年，平日里十分孤獨，“去年我媽媽退休后全職陪伴姥姥，情況也沒有任何改善，姥姥依舊從早到晚刷這些無營養(yǎng)的AI視頻，家人的心情也受到了影響?！?/p>

2024年初，家人為阻止王萍繼續(xù)刷這類短視頻，給她更換了手機并重新注冊了微信賬號。在查看她的舊微信賬號時，家人發(fā)現(xiàn)了她與相關賬號的聊天、轉賬記錄，這才得知王萍確實給對方轉過錢，其轉賬、打賞、購物的花費累計有幾千元，她還曾向騙子透露自己的電話號碼和家庭住址。

“姥姥會誤以為網(wǎng)上的人給她送錢，來娶她、接她去大城市過富豪生活?！辟Z慶說，家人曾咨詢過民警，得知被騙的錢財難以追回，且因短視頻和網(wǎng)絡的特殊性，相關部門最多只能封禁涉事騙子的賬號，可這類騙子依舊層出不窮，時至今日，姥姥還在刷數(shù)字人視頻。

從業(yè)者自曝內(nèi)幕：五分鐘生成一個視頻，一個號最多用5天

2025年2月，中央網(wǎng)信辦開展“清朗行動”，整治AI技術濫用亂象被列入八項重點任務之一。2月下旬起，各大短視頻平臺對“建國”相關賬號予以關停。然而，即便“建國”被封禁，各類風格相似的AI霸總數(shù)字人仍層出不窮，“建軍”“國華哥哥”等均打著溫情關懷的旗號，專門瞄準中老年女性展開情感圍獵。

AI霸總直播截圖

從形象來看，這類數(shù)字人已經(jīng)成了一種風格：梳著側背頭、身著正裝，一口一句姐姐叫著。一名被阿姨們親切稱作“海弟”的博主，擁有7.7萬粉絲，每天直播數(shù)小時，其直播間里僅展示著一張穿著紅色短袖襯衫、手持話筒的照片，照片上寫著“歡迎姐姐來聽弟弟唱歌，感謝姐姐對弟弟的喜歡”的文字，直播間里就會有不少人送禮物，甚至還留言：“我愛你，不知道你愛我嗎？”

該博主日常發(fā)布的視頻中，也常有“姐姐，之前有很多人買了弟弟店里的東西都覺得好用，姐姐點開左下角的小黃車，買些東西支持一下弟弟”之類的話語，不少中老年女性就會在評論區(qū)回復：“支持支持?！?/p>

“中老年這個群體真有意思，又能（用來）做數(shù)據(jù)，又聽話，看他們的私信，甚至覺得有點可愛?！边@是AI數(shù)字人行業(yè)“老手”阿明寫在朋友圈的一段話，他打造的AI數(shù)字人形象讓許多中老年人步入陷阱。

近日，極目新聞記者以學員的身份聯(lián)系到阿明，他向記者暢談了AI數(shù)字人帶貨的種種內(nèi)幕?！跋胍鯝I數(shù)字人就要做好違規(guī)的心理準備，它并不是一個特別長期的賽道?！睋?jù)阿明介紹，AI數(shù)字人帶貨最主要是“能接受違規(guī)”，只要照著流程操作，不可能帶不出去貨的。

阿明口中所謂的“流程”，實際上就是用軟件制作AI短視頻，然后在多個社交平臺發(fā)布，之后上架商品到櫥窗，自然會有下沉用戶下單。至于商品質(zhì)量、售后、平臺判定違規(guī)等問題，阿明則淡然地表示：“這些都不用擔心。你只管賣，今天賣，明天去結款。”而一般變現(xiàn)的形式，為打賞和帶貨兩種。

隨后，記者收到阿明發(fā)來的一個案例賬號。該賬號主頁顯示，在已經(jīng)發(fā)布的18條AI數(shù)字人短視頻中，主角都為“阿姨最愛的海?！保瑑?nèi)容大多為海海向阿姨們袒露心聲，言語中滿是對阿姨們的關心和稱贊，盡管視頻下方大多標注了虛擬內(nèi)容，請理性觀看，但仍有大量用戶留言，并對海海表示關心。

運營的賬號截圖

在陸續(xù)發(fā)布多個視頻吸引了一些粉絲后，賬號發(fā)布第9條視頻時開始嘗試帶貨。視頻中，海海向阿姨們介紹一款泡腳包，希望大家能購買。于是，許多阿姨抱著支持的心態(tài)紛紛下單。

據(jù)阿明所述，類似這樣的案例還有很多，這還只是最近一個新學員所做的。阿明的朋友圈還分享了很多“成功”的學員事跡?！白龅煤玫脑?，一天幾千塊不是問題?！卑⒚鞅硎?，商品銷售額的50%都是傭金，比如賣出60元的商品，30元都是學員的，只要流量足，大家也有動力做。

當然，要成為學員，也會有一定的門檻——交錢。當記者聊到如何才能學習AI數(shù)字人帶貨時，阿明表示“要加錢”，998元每人，包括如何制作視頻、運營賬號、和供貨商對接實現(xiàn)變現(xiàn)等。

據(jù)阿明介紹，這些供應商都是利潤幾千萬元的大廠，穩(wěn)定合作很多年了，學員們后續(xù)只需跟供應商對接，對方核對賬號的銷售額就會直接打款，沒有中間商賺差價。不過，阿明也提到這種賬號帶貨在多個平臺的確是違規(guī)的，經(jīng)常會被封號，所以學員需要在多個平臺帶貨，來回換號，也可以注銷重啟。

同樣入行數(shù)年的黃興也向記者坦言，他主要做中老年情感賽道的視頻帶貨，手下有幾百名學員，“建國”“小海”等數(shù)字人形象他都深度參與打造?！拔覀円话銜\營幾十個視頻號，這些賬號百分之百會違規(guī)，一個號最多用5天，核心就是靠視頻號帶貨賺傭金，一天至少能賺2000元?！秉S興說，生成一條數(shù)字人視頻只需要5分鐘，且每條視頻不能重復，幾十個賬號會持續(xù)更新。如今他已不再使用數(shù)字人形象，因為這類形式容易違規(guī)，而是直接用此前中老年女性熟悉的“建國”“小?！钡穆曇?，搭配AI生成的引導下單文案。

當記者直言“這不就是騙老年人嗎，利用情緒價值賺他們的錢”，對方表示“這么理解也行”。記者繼續(xù)追問“是不是賣的都是劣質(zhì)產(chǎn)品”，他則回復：“反正吃不死人?！?/p>

部分婚戀機構借AI數(shù)字人引流收費，有人被騙1000元

調(diào)查過程中，記者還發(fā)現(xiàn)，除了常規(guī)的直播、帶貨等形式外，不少婚戀機構紛紛用“AI霸總”數(shù)字人來迷惑用戶。在某社交平臺，記者關注幾位“AI霸總”賬號后，即刻收到對方私信發(fā)來的鏈接卡，提示“點擊卡片添加，可發(fā)送男士資料”。

隨后，記者以中老年女性的身份，按鏈接卡提示添加了四川某婚戀服務公司的企業(yè)微信，向?qū)Ψ教岢鱿胍@取視頻中“AI霸總”的聯(lián)系方式，對方則表示“需要電話溝通具體的收費標準”。重慶某婚戀服務公司的工作人員還聲稱，這些數(shù)字人都是“真實的”，如果想獲取聯(lián)系方式，需先支付4999元。

記者與婚介所的聊天截圖

3月10日，記者以相親者的身份在視頻平臺私信了一個名為“喜有家-派幸?！钡馁~號，對方立馬發(fā)送了一張企業(yè)微信名片。記者添加后詢問對方是否有“AI富婆”的聯(lián)系方式，對方則直接要視頻聊天，記者以不方便的理由婉拒后，對方再未回過消息。11日，記者在該平臺發(fā)現(xiàn)，“喜有家-派幸?！钡馁~號已顯示被封禁。

來自廣西的陳真告訴極目新聞記者，他的母親李小華曾被貴州某婚戀機構騙取1000元。陳真提供的社交賬號顯示，該婚戀機構常發(fā)布數(shù)字人照片，并附帶相關個人資料。李小華按要求添加對方微信后，對方稱可為其介紹對象，隨后引導其轉賬，李小華轉賬1000元后，對方卻一直以整理資料為由拖延。

李小華向婚介所轉賬截圖

“他們發(fā)那些視頻，只是把AI數(shù)字人做出來發(fā)布引流，還配上一些比較肉麻的話。”陳真說，轉賬后對方的回復基本都是“第二天會有工作人員回復”，始終沒有提供具體的相親服務?！澳赣H也不好意思報警，就當花錢買教訓了。”

隨后，記者添加了這家婚戀公司的工作人員，對方稱“這些是廣告，具體要問業(yè)務部門，照片中的人可能是請的模特。”當記者堅持要與照片中的人相親時，對方才坦言，照片中的是用于引流的AI數(shù)字人，無法介紹，只能介紹其他人。

3月11日，記者又以同行身份聯(lián)系上這家婚戀公司的老板。他表示，其公司僅將數(shù)字人用于引流，同時表示目前婚戀行業(yè)部分同行存在亂象，有機構借AI數(shù)字人或找模特冒充真人，向客戶謊稱是真實的相親對象，收取高達1萬元的會員費，后續(xù)僅安排人員與客戶短暫聊天，便以彼此不合適為由結束對接。

AI數(shù)字人圍獵觸多重法律紅線，情感關懷與制度約束缺一不可

AI數(shù)字人圍獵中老年群體的背后，實際上有著更深層次社會問題和法律問題。

廣東哲清律師事務所馬俊哲律師告訴極目新聞記者，從法律定性與監(jiān)管治理來看，利用AI數(shù)字人圍獵老年人的相關行為已觸碰多重法律紅線，且存在明確的監(jiān)管依據(jù)與改進方向。法律層面，此類行為若以非法占有為目的，通過虛構身份、情感誘導等方式騙取錢財，完全符合詐騙罪構成要件，同時因借助網(wǎng)絡通信工具面向不特定多數(shù)人實施，屬于典型的電信網(wǎng)絡詐騙。

“根據(jù)司法解釋，詐騙金額達到3000元至1萬元以上即達到刑事立案標準，即便金額略低，因針對老年人這一特殊群體，情節(jié)惡劣的仍可能被立案偵查。而批量制作運營AI數(shù)字人賬號，形成‘技術開發(fā)-引流獲客-實施詐騙-資金變現(xiàn)’的完整鏈條，已構成組織化、分工明確的黑灰產(chǎn)業(yè)鏈，是司法機關全鏈條打擊的重點?！瘪R俊哲律師認為，各相關方均需承擔對應法律責任：數(shù)字人技術提供方若明知他人用于詐騙仍提供支持，可能構成詐騙罪共犯或幫助信息網(wǎng)絡犯罪活動罪；運營者作為核心主體將被以詐騙罪追究刑責，組織者、慣犯會依法從嚴懲處；直播平臺未履行審核義務需承擔過錯責任；婚介機構若參與虛假宣傳、誘騙轉賬，將面臨刑事、民事及行政多重責任。

武漢大學老齡科研基地科研綜合辦公室主任陳昫認為，中老年群體被AI數(shù)字人蒙騙應當從多維度來看，首先是老年人自身存在的脆弱性問題，它既包括生理健康層面，同時也有心理認知層面，對于數(shù)字人缺乏辨別鑒偽能力；其次從需求層次來說，老年人會有對溫情、尊重、愛的需求，這些需求的存在，客觀上可能使一些違規(guī)不法行為鉆空子。最后是老年人們有社會經(jīng)驗的相對剛性，他們可能會認為照片、視頻都很難造假，類似這樣既有經(jīng)驗判斷，可能會影響他們對于數(shù)字人詐騙等新興形態(tài)詐騙的警惕性和自我防御意識。

華中科技大學社會學院教授石人炳補充道，一些居心不良者正是利用老年人的心理和情感“需求”行騙，以AI擬人化技術為工具行騙。當老年人對新科技認知有限，社會對相關行為的法律打擊沒有跟上時，這類騙術就會大行其道。

對于應對措施，陳昫表示，相關治理工作的核心應當是彌合數(shù)智發(fā)展和老年生活之間的溝壑。首先是可以借助社區(qū)的力量，在社區(qū)開辦興趣培訓班或者智能手機教學班等形式，告訴老人如何來辨別數(shù)字人，從而形成自主的防范意識；第二是作為子女、親友要告訴老人，涉及錢款不要輕易付出，同時也要信任他們能夠逐漸對AI數(shù)字人產(chǎn)生認知，而且切記不要批評老人，要鼓勵他們多接觸AI等新生的事物，并告知他們其中的風險所在，通過家庭信息流的方式來構筑老人防范意識的前線。此外，立法、平臺、政策等多方面都應當協(xié)同發(fā)力，打擊AI詐騙，平臺也要加強監(jiān)管，特別是對于像中老年用戶在看視頻的時候，可以適當增加一些風險提示，從而共同構筑一個綜合的防范體系。

（文中除馬俊哲、陳昫、石人炳外均為化名）