“有個(gè)上市公司老總手捧鮮花，說這輩子沒啥遺憾，就等我，問我愿不愿意跟他走?！眿寢屌d奮地跟翁瑤說。

這種“霸道總裁愛上我”的橋段已困擾翁瑤數(shù)月。翁瑤的媽媽今年68歲，二十多年前離異，平日消遣愛刷短視頻。起初，翁瑤因短視頻能給媽媽的生活增添樂趣并未過多干預(yù)。去年11月起，翁瑤逐漸發(fā)現(xiàn)媽媽不對勁。翁瑤告訴《中國新聞周刊》，媽媽總是頻繁提及有富商想跟她在一起，接過手機(jī)才得知，媽媽的短視頻賬號已被“AI霸總”“攻陷”。

《中國新聞周刊》檢索多個(gè)短視頻平臺發(fā)現(xiàn)，這類“AI霸總”實(shí)質(zhì)上就是AI數(shù)字人。在視頻中，其通常身處富麗堂皇的會客廳、辦公室，展現(xiàn)出儒雅、深情款款的形象。這類視頻通過添加“帥氣大叔”“黃昏戀”等標(biāo)簽，被精準(zhǔn)推送給缺乏情感關(guān)照的中老年女性。這些“AI霸總”瞄準(zhǔn)老年群體，背后藏著帶貨、詐騙等多重陷阱。日前，全國人大代表李秋建議，為推動銀發(fā)經(jīng)濟(jì)高質(zhì)量發(fā)展，應(yīng)嚴(yán)打欺詐、誘導(dǎo)老年人下單等行為。

要去外地“奔現(xiàn)”

“姐姐，明天我就要走了，心里很舍不得你”“姐姐，你摸著良心說，我到底帥不帥”……類似的臺詞不斷從姜小星奶奶的手機(jī)中傳出，一度讓姜小星覺得“腦殼疼”。

但姜小星的奶奶卻樂此不疲?！皫?，你太帥了?！苯⌒悄棠虒χ謾C(jī)屏幕里的“AI霸總”，隔空比出“點(diǎn)贊”的手勢。姜小星說，奶奶關(guān)注了三四十位畫風(fēng)雷同的“AI霸總”。這樣的視頻，奶奶可以從早刷到晚。

老年人對于“AI霸總”的癡迷程度不止停留在“養(yǎng)眼”?！吨袊侣勚芸肥崂戆l(fā)現(xiàn)，在這類視頻中，“AI霸總”往往會釋放出求偶信號，“共度余生”“找個(gè)疼你的人”等都是常見的話術(shù)。

視頻的評論區(qū)則匯集了大量老年人的真誠回應(yīng)。有人會回復(fù)“好啊，等你來找我”，也有人實(shí)誠地表示“帥弟弟，我是普通人，年紀(jì)很大了，配不上你”?！拔覀冇X得‘一眼假’的東西，奶奶是真的分不清?！苯⌒钦f。

令姜小星苦惱的是，盡管已向奶奶多次解釋視頻的公共屬性，但每當(dāng)奶奶刷到“AI霸總”視頻，她總會認(rèn)為那些話術(shù)是“AI霸總”向自己釋放的專屬愛意。一個(gè)月前，奶奶還提到要去外地與一位“AI霸總”“奔現(xiàn)”，被家人及時(shí)勸止。

“用AI當(dāng)著她的面做了一個(gè)視頻，但還是勸阻無效。”羅珊珊告訴《中國新聞周刊》，兩個(gè)月前，她的奶奶刷到了一條“AI霸總”的視頻。““AI霸總”在視頻里說，禮物到門口了要去拿。老人大半夜的就去了。老人本身有基礎(chǔ)病，后來就得了重感冒。”

想要澆滅“AI霸總”與老年人之間的“火花”并不容易。羅珊珊給《中國新聞周刊》提供的截圖顯示，短視頻平臺首頁給奶奶推薦的4條視頻中，有3條都是“AI霸總”視頻。羅珊珊說，自己嘗試過取消關(guān)注、刷到視頻就點(diǎn)“不感興趣”等方法。當(dāng)她以為這類賬號不再“現(xiàn)身”，將手機(jī)拿給奶奶時(shí)，奶奶刷到的第一個(gè)視頻還是AI合成視頻。

北京紅颯律師事務(wù)所主任律師黃啟瑞今年年初也接觸過有關(guān)“AI霸總”的咨詢案例。咨詢?nèi)说哪赣H從去年10月起開始接觸“AI霸總”視頻，后來與一位“AI霸總”私信交談甚久，進(jìn)而被推銷保健品。

黃啟瑞對《中國新聞周刊》指出，這類視頻本質(zhì)是利用AI合成的霸總形象，給中老年女性提供情緒價(jià)值，然后激發(fā)這一群體非理性消費(fèi)或投資行為，進(jìn)而實(shí)現(xiàn)騙財(cái)、斂財(cái)。

50元生成一個(gè)視頻

《中國新聞周刊》在短視頻平臺檢索發(fā)現(xiàn)，為積累私域流量，部分“AI霸總”賬號會建立專屬粉絲群。記者進(jìn)入了4個(gè)百人以上的粉絲群，這些群聊消息更新頻率很快，“AI霸總”每天都會在粉絲群中分享直播鏈接，諸多中老年女性在其中踴躍互動。

“人生就要活得漂亮，用積極態(tài)度為生活添彩，讓每個(gè)平凡日子都閃耀夢想的光芒。此刻，師傅為你精心挑選了一些禮物，打開右下方小黃車就能看到……”記者點(diǎn)進(jìn)一個(gè)名為“建國情感”的“AI霸總”直播間后發(fā)現(xiàn)，該直播正打著““AI霸總”給你送禮物”的名義，推銷一款售價(jià)為59.9元的“武財(cái)神招財(cái)令掛件”，商品銷量已達(dá)3.9萬件。

還有“AI霸總”直接在商品銷售頁面的視頻中演起苦情戲?！敖憬隳憧爝^來，我們差點(diǎn)就陷入陰謀，萬劫不復(fù)……如果不是我開公司，想接你回家過好日子，我媽和小海也不會吃這些苦，受這些罪……”在一個(gè)售價(jià)99元的女士手鐲銷售頁面中，一位“AI霸總”動情地講述道。

這類以帶貨為目的的“AI霸總”視頻，通常由商家外包給專業(yè)視頻制作團(tuán)隊(duì)生產(chǎn)。在某電商平臺，某視頻制作團(tuán)隊(duì)的成員告訴記者，團(tuán)隊(duì)專業(yè)接商單，包括與跨境電商合作?！澳阒恍枰峁┮粋€(gè)想法，文案、圖片、聲音和技術(shù)都可以由我們代勞?！痹摮蓡T透露，團(tuán)隊(duì)對接的商家最少會要求做30—50個(gè)視頻，量大的會合作幾百個(gè)。報(bào)價(jià)方面，1分鐘以內(nèi)的視頻，代做1個(gè)50元；代做50個(gè)，每個(gè)視頻40元；代做100個(gè)視頻則單價(jià)降到30元。

記者調(diào)查還發(fā)現(xiàn)，不少“AI霸總”背后由婚戀機(jī)構(gòu)運(yùn)作。在某短視頻平臺，記者給幾位“AI霸總”點(diǎn)了關(guān)注后，私信即刻彈出對方發(fā)來的鏈接卡，聲稱“點(diǎn)擊即可獲得哥哥的聯(lián)系方式”。

記者以中老年女性身份，按照鏈接卡的提示添加了貴州某婚戀服務(wù)公司的企業(yè)微信。記者提出想獲得視頻中“AI霸總”的電話，對方回復(fù)：“姐姐，我們是大哥的紅娘，你要在我們這邊花980元辦會員，才能跟大哥聯(lián)系?！?/p>

為了進(jìn)一步了解這類“AI霸總”視頻的生成、發(fā)布流程，日前，記者用生成式AI創(chuàng)作平臺先后制作了3個(gè)10秒的“AI霸總”視頻。在某平臺，記者上傳“AI霸總”角色圖片后，系統(tǒng)自動識別匹配了“成熟總裁”的音色。設(shè)定完說話內(nèi)容、動作描述，6小時(shí)后，記者得到了一個(gè)像模像樣的“AI霸總”視頻。另一App生成的“AI霸總”視頻，耗時(shí)短至2—3小時(shí)。

記者生成的“AI霸總”視頻。圖/截圖

隨后，記者在某短視頻平臺注冊了一個(gè)全新賬號，用以測試制作好的3個(gè)“AI霸總”視頻。不到18小時(shí)，賬號收獲了500多位粉絲，3個(gè)視頻中，瀏覽量最高的達(dá)1.2萬，較低的也已超過5000。同時(shí)，記者收到了中老年女性的大量評論、私信，有的在私信中向記者透露了生日、年齡等信息。

實(shí)際上，記者發(fā)布的“AI霸總”視頻并不完美。在其中一個(gè)視頻的制作過程中，記者設(shè)置了“緩緩掏出鉆戒”的精細(xì)指令，而生成的“AI霸總”在完成這一動作時(shí)僅拿起鉆石，將戒托留在了戒指盒中。但視頻發(fā)布后，這一不合常理之處并未被指出。

應(yīng)建立負(fù)樣本庫

依據(jù)多位受訪家屬的講述，在老齡化社會，中老年人的情感需求普遍存在?！捌鋵?shí)沒能約束奶奶看短視頻的原因也較令人心酸，奶奶不識字，在農(nóng)村的娛樂活動非常有限。家里的年輕人也沒有經(jīng)常陪伴在身邊。看短視頻是她和爺爺為數(shù)不多的消遣方式。”羅珊珊說。

數(shù)據(jù)也佐證了這一點(diǎn)。2024年10月，由民政部等共同組織發(fā)布的《第五次中國城鄉(xiāng)老年人生活狀況抽樣調(diào)查基本數(shù)據(jù)公報(bào)》顯示，2021年，我國老年人生活在空巢家庭（包括獨(dú)居家庭、僅與配偶居住家庭）的比例為59.7%，較2010年上升10.4個(gè)百分點(diǎn)。

一些場合下，“AI霸總”的出現(xiàn)只是“主打一個(gè)陪伴”。日前，記者點(diǎn)進(jìn)某個(gè)“AI霸總”直播間，看到一位奶奶邊包餃子，邊與“AI霸總”連麥聊天。直播間的“AI霸總”開了語音，其音色是一個(gè)帶地方口音的中年真人男聲，與此前發(fā)布的AI視頻里的聲音完全不一樣，但此時(shí)，“AI霸總”是誰似乎已不重要。

為什么中老年人容易“中招”？快思慢想研究院院長田豐深耕AI領(lǐng)域多年。他分析稱，一方面，中老年人作為AI時(shí)代下的“弱勢群體”，更容易相信“眼見為實(shí)”；另一方面，2023年起，AI數(shù)字人在短視頻賽道被大量運(yùn)用，當(dāng)其被濫用于黑灰產(chǎn)，在評論區(qū)不斷有人造勢的情況下，老年人出于從眾心理更容易上當(dāng)受騙。

黃啟瑞指出，因相信“AI霸總”視頻遭遇財(cái)產(chǎn)損害，維權(quán)困難的原因在于當(dāng)前生成式AI的技術(shù)門檻較低。一旦被騙，受害者因缺乏取證技術(shù)及工具，難以獨(dú)立完成證據(jù)收集，證據(jù)鏈無法形成閉環(huán)。這種情況下，如果委托律師維權(quán)，又要承受高昂的維權(quán)成本。

《中國新聞周刊》檢索短視頻平臺發(fā)現(xiàn)，當(dāng)前大多數(shù)“AI霸總”視頻都標(biāo)有“內(nèi)容由AI生成”字樣，但仍有少量視頻缺乏標(biāo)識。值得注意的是，這類標(biāo)識往往通過一行小字的形式出現(xiàn)在視頻左下角，難以對用戶起到顯著提示作用。

依據(jù)國家網(wǎng)信辦2022年11月頒布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，深度合成服務(wù)提供者提供人臉生成、姿態(tài)操控等人物圖像、視頻生成編輯服務(wù)時(shí)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識。

田豐告訴《中國新聞周刊》，當(dāng)前，仍存在一些不法團(tuán)隊(duì)通過對國外的開源工具進(jìn)行修改，使生成的視頻產(chǎn)品缺乏AI標(biāo)識。黃啟瑞認(rèn)為，在這一問題上，短視頻平臺應(yīng)加強(qiáng)對視頻內(nèi)容的監(jiān)測過濾。

近日，記者向某短視頻平臺客服咨詢“AI霸總”視頻管理、屏蔽相關(guān)事宜?？头貞?yīng)稱，平臺會持續(xù)優(yōu)化推薦和標(biāo)注機(jī)制，若刷到不喜歡的視頻，用戶可通過長按視頻，點(diǎn)擊“不感興趣”按鈕，或通過“屏蔽設(shè)置”為不喜歡的內(nèi)容添加屏蔽詞，系統(tǒng)會根據(jù)用戶反饋減少相關(guān)內(nèi)容推薦。

田豐建議，AI視頻生成模型應(yīng)建立負(fù)樣本庫?！跋Ｍ@類模型去預(yù)訓(xùn)練一些負(fù)面樣本，使模型能第一時(shí)間識別詐騙、黑灰產(chǎn)等用途的不良素材和指令，直接從源頭上阻止不良視頻的生成?！?/p>

（文中翁瑤、姜小星、羅珊珊均為化名）

作者：胡可欣

編輯：杜瑋