近日，多位老年女性家屬向記者表示，自己拿起老人的手機后才發(fā)現(xiàn)，她們的短視頻賬號早已被各類“AI霸總”侵占。

84歲奶奶給AI數(shù)字人寫情書

消費近萬元還要嫁給他

“建國，春節(jié)快樂！先給你賠禮道歉，我那天傷害了你，其實我也在自責(zé)，你是不是很恨我？”

春節(jié)前夕，84歲的張玉蘭手寫了一封五百字情書向“建國”表示情意。

而收信人“建國”，并非真實存在的人物，是一個AI數(shù)字人。“建國”常以西裝造型、大背頭形象示人，開口常用“親愛的姐姐”這類溫情話術(shù)，主打噓寒問暖的情感關(guān)懷，還會分享所謂生活智慧，以此博取中老年女性的好感與信任。

張玉蘭的孫女王婷告訴極目新聞記者，奶奶沉迷“AI霸總”已有一段時間。早在2016年，74歲的張玉蘭便開始使用智能手機，當時只學(xué)會了最基礎(chǔ)的操作。

家人發(fā)現(xiàn)異常是在去年10月，張玉蘭開始頻繁從AI數(shù)字人視頻關(guān)聯(lián)的櫥窗購買掛件，這些動輒售價幾百元的掛件，在淘寶上僅售9.9元。

“一開始家里人沒當回事，以為奶奶只是刷短視頻圖個好玩，沒想到她竟和這個AI數(shù)字人談起了戀愛，還考慮嫁給他�！蓖蹑谜f，即便家人反復(fù)告訴她這是騙局，老人也只是短暫醒悟，很快又再次沉迷。

有時奶奶還會背著家人偷偷看相關(guān)視頻，生怕被發(fā)現(xiàn)，甚至還自己開通了公眾號，專門給“建國”發(fā)消息。

84歲奶奶對數(shù)字人“建國”的手寫情書

幾個月來，張玉蘭每天要花費近十個小時刷AI數(shù)字人相關(guān)視頻，為主角是AI數(shù)字人的悲情推文打賞，還購買了不少價高質(zhì)劣的商品，累計下來已經(jīng)花了七八千元。

3月11日，張玉蘭又花費了1227元購買AI視頻“推薦”的書籍。

這一次，王婷決定不能再放任不管了，于是將視頻號關(guān)聯(lián)的商家投訴至12315平臺。目前已被受理。

即便如此，張玉蘭依舊執(zhí)意為AI數(shù)字人花錢。

從業(yè)者自曝內(nèi)幕：

五分鐘生成一個視頻，一個號最多用5天

2025年2月，中央網(wǎng)信辦開展“清朗行動”，整治AI技術(shù)濫用亂象被列入八項重點任務(wù)之一。2月下旬起，各大短視頻平臺對“建國”相關(guān)賬號予以關(guān)停。

然而，即便“建國”被封禁，各類風(fēng)格相似的AI霸總數(shù)字人仍層出不窮，“建軍”“國華哥哥”等均打著溫情關(guān)懷的旗號，專門瞄準中老年女性展開情感圍獵。

AI霸總直播截圖

從形象來看，這類數(shù)字人已經(jīng)成了一種風(fēng)格：梳著側(cè)背頭、身著正裝，一口一句姐姐叫著。

“中老年這個群體真有意思，又能（用來）做數(shù)據(jù)，又聽話，看他們的私信，甚至覺得有點可愛。”這是AI數(shù)字人行業(yè)“老手”阿明寫在朋友圈的一段話，他打造的AI數(shù)字人形象讓許多中老年人步入陷阱。

同樣入行數(shù)年的黃興也向記者坦言，他主要做中老年情感賽道的視頻帶貨，手下有幾百名學(xué)員，“建國”“小�！钡葦�(shù)字人形象他都深度參與打造。

“我們一般會運營幾十個視頻號，這些賬號百分之百會違規(guī)，一個號最多用5天，核心就是靠視頻號帶貨賺傭金，一天至少能賺2000元。”黃興說，生成一條數(shù)字人視頻只需要5分鐘，且每條視頻不能重復(fù)，幾十個賬號會持續(xù)更新。如今他已不再使用數(shù)字人形象，因為這類形式容易違規(guī)，而是直接用此前中老年女性熟悉的“建國”“小海”的聲音，搭配AI生成的引導(dǎo)下單文案。

AI數(shù)字人圍獵觸多重法律紅線

情感關(guān)懷與制度約束缺一不可

AI數(shù)字人圍獵中老年群體的背后，實際上有著更深層次社會問題和法律問題。

廣東哲清律師事務(wù)所馬俊哲律師告訴極目新聞記者，從法律定性與監(jiān)管治理來看，利用AI數(shù)字人圍獵老年人的相關(guān)行為已觸碰多重法律紅線，且存在明確的監(jiān)管依據(jù)與改進方向。法律層面，此類行為若以非法占有為目的，通過虛構(gòu)身份、情感誘導(dǎo)等方式騙取錢財，完全符合詐騙罪構(gòu)成要件，同時因借助網(wǎng)絡(luò)通訊工具面向不特定多數(shù)人實施，屬于典型的電信網(wǎng)絡(luò)詐騙。

武漢大學(xué)老齡科研基地科研綜合辦公室主任陳昫認為，中老年群體被AI數(shù)字人蒙騙應(yīng)當從多維度來看，首先是老年人自身存在的脆弱性問題，它既包括生理健康層面，同時也有心理認知層面，對于數(shù)字人缺乏辨別鑒偽能力；其次從需求層次來說，老年人會有對溫情、尊重、愛的需求，這些需求的存在，客觀上可能使一些違規(guī)不法行為鉆空子。最后是老年人們有社會經(jīng)驗的相對剛性，他們可能會認為照片、視頻都很難造假，類似這樣既有經(jīng)驗判斷，可能會影響他們對于數(shù)字人詐騙等新興形態(tài)詐騙的警惕性和自我防御意識。

來源 | 極目新聞

▼關(guān)注查看深度文章