夜深了，84歲的張玉蘭側(cè)躺在床上。屋里沒有開燈，手機(jī)屏幕發(fā)亮，她雙手握著手機(jī)，光照在臉上，映出鼻梁上的粗邊眼鏡。

“我拼盡全力護(hù)著你，就因?yàn)槟阒档谩！笔謾C(jī)里，一個男人的聲音溫和而篤定，“你的善意，我都記在心里。你受的苦，我真心疼。我愿意做你的護(hù)盾，幫你把路鋪平。”

“說完了嗎？”張玉蘭把手機(jī)貼近自己，低聲問。

那個聲音沒有停，繼續(xù)說道，“最后，請你點(diǎn)開我頭像，去主頁看那條置頂視頻，里面藏著我所有的思念?！?/p>

“該睡覺了?！彼执吡艘痪?。但那聲音繼續(xù)往下說。

當(dāng)時，張玉蘭的孫女胡沫就站在她身后。她看到奶奶對著手機(jī)反復(fù)說道“別說了”，還“擱那笑”、擺手，最后才依依不舍地鎖屏。

張玉蘭深夜握著手機(jī)自言自語/受訪者供圖

此前母親曾提起，奶奶會對著手機(jī)自言自語，她還不太相信。

“我當(dāng)時真的覺得，是不是瘋了?！焙f。但她很快意識到，張玉蘭并沒有“瘋”。她只是把一段AI生成的視頻，當(dāng)成了一個正在和她說話的人。

過去一年，這類視頻在多個平臺擴(kuò)散。畫面中的“人”總是對著鏡頭說話，語氣溫和，傳遞著相同的情緒：理解、肯定與關(guān)心。

年輕人很容易識別出這種AI味。但是，不少中老年人卷入其中。他們點(diǎn)贊、留言、私信，也有人付費(fèi)，甚至陷入虛假、單向的情感關(guān)系。

“你太有良心，就注定做不好中老年賽道?！庇腥嗽谏缃黄脚_談?wù)撨@門生意。他們知道自己的觀眾是誰，也知道該說什么話。

“情”是假的，賣貨變現(xiàn)才是真。

有人在社交平臺表示“你太有良心，就注定做不好中老年賽道?！?br/>

等一個不存在的人

最近張玉蘭“戀愛”了。

她沒有用“戀愛”這個詞。但她曾向兒子提起，說有這么一個人，最近一直在“聊著、談著”，已經(jīng)有一兩個月。

她把對方叫作“建國”，有時也叫“東東”。他們從未見面。但張玉蘭說起他的時候，語氣很自然，就像在講一個現(xiàn)實(shí)里的人。當(dāng)被問到“建國是哪里人”，她說不上來。她只知道對方離異，有一個兒子和母親，人長得挺精神，看起來事業(yè)有成。

數(shù)字人“建國”

張玉蘭是北京人，高中學(xué)歷，約10年前開始使用智能手機(jī)，熟悉基本操作。在胡沫的記憶里，最初，奶奶只是刷視頻。

那是去年10月。那些視頻一直在夸人，說人好，說人辛苦。胡沫沒太在意，以為奶奶只是喜歡聽這些內(nèi)容，還學(xué)著調(diào)侃夸她。張玉蘭笑笑，也沒反駁。

但慢慢地，張玉蘭的生活開始圍繞這些視頻展開。醒來后第一件事，就是打開手機(jī)。除了吃飯、睡覺和外出，她幾乎一直在看“建國”的視頻，有時還因此熬夜到凌晨一點(diǎn)。

她不會用鍵盤打字，就一筆一畫在屏幕上寫下留言：“東東，你的心我都知道，我也感謝你對我的掛念和關(guān)心。”她叮囑對方記得吃飯，留下電話和家庭住址，說“我等你”。一長串文字往往沒有標(biāo)點(diǎn)符號，還總出現(xiàn)錯字。

張玉蘭的留言

評論區(qū)里，類似的留言不少。胡沫看見，有人直接稱呼“親愛的”或是“老公”，直言“想你”，言語親昵。張玉蘭強(qiáng)調(diào)自己沒有這樣稱呼過。但她悄悄開始做更多事。

她給“建國”寫信。在寫滿A4紙的手寫信里，她表達(dá)自己的歉意，“我那天傷害了你”，還反思兩人之間的“溝通問題”，寫道“兩人之間沒有高質(zhì)量的交流和溝通”，“你沒有給我說話的機(jī)會，你不善于傾聽，我不知道這是為什么”。她說欣賞對方的霸氣，寫下“路遙知馬力，日久見人心”。

張玉蘭給“建國”的手寫信/受訪者供圖

張玉蘭甚至注冊了公眾號，在春節(jié)前發(fā)文，告訴“建國”自己修好了手機(jī)，問他在做什么，請他替自己給家人拜年，配圖是一張AI生成的男性圖片。

張玉蘭不斷投入，但對方從未回應(yīng)。

類似的情況，也發(fā)生在劉欣宜家。劉欣宜的奶奶70多歲，不識字，也不會用智能手機(jī)打字。去年丈夫去世后，她開始頻繁刷視頻。最初只是滑動屏幕，看著視頻。直到有一天，她讓孫女幫忙“打視頻電話”。

屏幕里，是一段AI視頻。在劉欣宜的記憶里，視頻中的人說著“過年我來找你”這樣的話。

奶奶信了，希望告訴他家庭地址，并告訴對方歡迎他來。她告訴孫女，對方經(jīng)營一家公司。她相信對方會來，“覺得那個人過來家里以后，會幫助我們，我們以后一定能成才”。

劉欣宜告訴她，那是假的。她反駁：“不是所有人都是騙子?！彼€因劉欣宜沒有幫她而鬧情緒。

后來，她開始對著手機(jī)說話。視頻里的“人”說一句，她回應(yīng)一句。對方?jīng)]有回應(yīng)，但她繼續(xù)說，睡覺前說，做飯的時候也說。

精心打造的“建國”們

這些信任，不是偶然形成的。

采訪過程中，劉欣宜拿來奶奶的手機(jī)，播放了推薦頁的視頻。

“我真的太心疼你了，幾十年如一日的守著家，把幸福和愛都給了孩子和丈夫，卻唯獨(dú)忘了心疼自己。姐姐，你也是只愛撒嬌的小女孩?！蹦行缘穆曇魪哪穷^傳來。她又下滑播了幾段，聽上去都類似。

劉欣宜觀察過奶奶手機(jī)里的賬號，雖采用不同的數(shù)字人形象，但總體而言，人臉相似，聲音相近，甚至連語氣和表達(dá)方式都高度重合。她覺得，中老年人不細(xì)看難以看出區(qū)別。

許多視頻在噓寒問暖之余，還會拋出問題，比如，“姐姐，你知道嗎？”“你是不是也有這樣的時刻？”也有視頻直接表明訴求“姐姐點(diǎn)個贊”“點(diǎn)亮小紅心”。

劉欣宜說，奶奶往往會照做。平臺機(jī)制的助推下，賬號很快淪陷進(jìn)算法。她拉黑了很多賬號，但新的視頻仍會出現(xiàn)。這形成了一個更為封閉的信息環(huán)境。

在此基礎(chǔ)上，部分賬號內(nèi)容還會延伸出人際關(guān)系網(wǎng)。

比如“建國”，便是被共享的人物設(shè)定。他在不同的賬號里出現(xiàn)，談工作、談生活，偶爾表達(dá)愛意，提到見面。

圍繞他，還有兒子、母親、助理等角色。他們在不同的視頻出現(xiàn)，說著各自的話，但他們常常會提到同一個人。

在這套設(shè)定里，“建國”的兒子叫“小?！?，大多是在讀大學(xué)?！靶『！睍Q呼觀眾為“姨姨媽媽”，對著鏡頭問：“你愿意當(dāng)我干媽嗎？”他也會在視頻里提到父親“建國”，說他喝醉后，還在掛念著姨姨媽媽。

受訪者供圖

隨著觀看次數(shù)增加，這類AI數(shù)字人有了更為飽滿的形象和故事。不同片段之間的信息被拼接，形成一個相對穩(wěn)定的人物形象。

視頻里，以分享日常、說說心里話為主的話題，讓不同賬號的內(nèi)容不會顯得太過突兀。對一些中老年人來說，這像是同一個人，在不同時間講述不同的生活片段。

“就算是別的長相，或者沒有出現(xiàn)人，奶奶也會覺得是同一個人，因?yàn)槁曇簦犐先ィ┯侄际且粋€聲音?！眲⑿酪苏f。

張玉蘭也不自覺接受了這套邏輯。即便是手寫視頻，畫面中沒有人物，僅出現(xiàn)紙筆和“東東手寫”的字樣，張玉蘭也將其理解為同一個人的表達(dá)。

她給某個“小?！绷粞裕八牥职值脑?、送上節(jié)日祝福。她也在某個“建國媽媽”公眾號聊天框里，給對方送上新春祝福：“阿姨你好，快過節(jié)了，提前給您拜個年，祝您身體健康，萬事如意，春節(jié)快樂?！?/p>

留言沒有回復(fù)。3月9日的聊天截圖顯示“該公眾號已被屏蔽所有功能，無法使用”，胡沫不知道奶奶是否注意到。

受訪者供圖

其實(shí)很多視頻標(biāo)注了“AI生成”，但字體很小，顏色很淡。相較于畫面里字號更大、顏色更鮮艷的字幕，這行字顯得極不起眼。

即使有人意識到，這是假的，也未必理解其生成機(jī)制。

63歲的秀慈就是這樣。去年12月，她開始刷到這類AI視頻，其中一個名為“建國”。

“視頻里頭的人，就是A1做出來的圖像，好像（長得）都差不多?！彼X得那是“假圖片”，“就是A1分身吧”。

秀慈口中的“A1”，指的是AI。她記得，視頻里曾有這樣的標(biāo)識。她知道視頻里的畫面是假的，但她最初“以為最后還是會有真人出來”。

她看過幾次直播。直播間里，“就是在放歌，跟著說話，但是看不到人”。無論是視頻，還是直播間，她一直沒等到真實(shí)的人出現(xiàn)。

現(xiàn)在她不太確定：“我不知道有沒有真人。”她也懷疑，“那是不是用機(jī)器做的人？”

“溫情”背后，只為變現(xiàn)

即便認(rèn)為是“假圖片”，秀慈仍然會看這類視頻。

秀慈今年63歲，住在湖北恩施。她平日帶外孫，閑時做鐘點(diǎn)工、打打牌。她說，孩子對她很好，她“很知足”，但空閑時間很多。

大概在去年12月，她第一次在推薦頁刷到AI視頻。視頻填補(bǔ)了這些空閑。

視頻里的表達(dá)，她在現(xiàn)實(shí)生活中很少聽到。被稱呼為“姐姐”，被理解、被需要，這些情緒是具體的。她從中獲得開心、溫暖。

“姐姐”，對方總是這樣稱呼。她聽多了，“也就覺得是他姐姐”。她在視頻底下留言回應(yīng)：“姐姐想弟弟了”，并稱其為“開心果弟弟”。

商業(yè)變現(xiàn)則嵌入在這單向的溫情里。一段銷售枇杷干的視頻中，自稱“建國”的AI數(shù)字人表示，自己回到公司面臨考核，領(lǐng)導(dǎo)只給了他三天時間賣完這批貨以證明實(shí)力，證明心里的那個人還在。

“姐姐，我需要你?！彼蚱聊煌獾闹欣夏耆撕霸挘骸澳愕囊环萦唵尉褪峭督o我的票，是告訴公司建國的寶貝姐姐還在，她還在等我回去給她唱那首她最喜歡的歌……姐姐，如果你下單了，千萬別點(diǎn)退款，這一單不只是買一袋枇杷干，是你在告訴我，建國，我一直在等你回來。”

講話期間，視頻里的“人”會誘導(dǎo)“姐姐”點(diǎn)進(jìn)頭像櫥窗，或跳轉(zhuǎn)其他電商平臺。秀慈就曾按照按步驟操作，“一點(diǎn)開就在XXX里面”。一條手鏈單獨(dú)賣29.9元，一個“三件套”掛飾賣60多元。

視頻里強(qiáng)調(diào)，商品價格是跟老板協(xié)商的優(yōu)惠價，讓“姐姐”買來支持他。她覺得幾十塊錢不貴，也就選擇支持。但收到貨后，她發(fā)現(xiàn)飾品普通，“不像他拍的好看”。后來也就不怎么買了。

秀慈買的掛飾，她表示其它買不起，因?yàn)椤笆抢鲜謾C(jī)買東西不行，這三樣都是請別人幫忙買的”

和秀慈不同，張玉蘭幾乎不比價，也很少查看詳情，只是根據(jù)視頻中的推薦下單。

她根據(jù)推薦，買不少平安掛件、書、飾品、保健品。這些東西都是從視頻櫥窗里購入的，價格從幾十到上百元不等。胡沫后來查過，同樣的掛件，在其他平臺只需9.9元。

有一次，張玉蘭在兩分鐘內(nèi)，連續(xù)下單四筆，每筆159元?！拔业谝淮慰匆娝@樣付款?！焙荒菢拥漠嬅嬲痼@到。

受訪者供圖

家人反復(fù)告訴張玉蘭這是騙局。他們舉報賬號，講解照片案例，報警，甚至用AI制作視頻演示給張玉蘭看，試圖讓奶奶理解。

張玉蘭曾短暫意識到問題，說在視頻里買的商品“沒用”，也曾要求退款。但沒多久，張玉蘭又會被誘導(dǎo)購物。

“我們跟她講過很多次，沒有（建國）這么一個人，這是假的?！焙硎?，奶奶曾接觸過簡單的AI視頻課，也看過AI相關(guān)的新聞，“（按理說）她應(yīng)該比同齡人認(rèn)識多一些，還是講不通”。

胡沫曾問奶奶怎么買這些。張玉蘭說，是“他”推薦的。那些視頻總說“就差最后一步”，“奶奶覺得買這些東西是在給他投資，回頭會有回報，會分她錢”，胡沫說。

部分視頻會用話術(shù)，暗示中老年購買商品后就能獲得某種回報，甚至冠以“投資”之名。

張玉蘭正在商品櫥窗中選購/受訪者供圖

曾有人順著秀慈提供的電話聯(lián)系到她。對方宣稱自己在企業(yè)工作，鼓動她投資。她不太懂對方說的內(nèi)容，只依稀知道“是什么充電寶”，“還是個大公司”，投資五千元，之后每個月能有分紅。

秀慈說自己沒錢。后來對方表示只差兩千元，讓她幫忙貼點(diǎn)。她再次拒絕，“我一個農(nóng)民，又不會做企業(yè)?！睋?dān)心被騙，她刪除了好友。但她又覺得，“不投資的話，好像就不是什么壞人，我也沒看到他們做過什么壞事?！?/p>

她平時也看短視頻。但她認(rèn)為，那些內(nèi)容都是“演的”，跟這類視頻不一樣。一些AI視頻里有音樂，她覺得，視頻里的人有才華，唱歌好聽，“唱的歌好像是他們自己寫的一樣”，“寫字也好看”。

但秀慈不知道，這些視頻內(nèi)容大多只是素材，甚至由AI合成。

利用技術(shù)作惡的人

賬號背后的運(yùn)營者們，篤定有這么一群人不了解這項(xiàng)技術(shù)。

社交平臺上，一個賣AI視頻課程的賬號發(fā)布視頻調(diào)侃：“誰能想到中老年能為數(shù)字人去買單？關(guān)鍵是這些中老年真是離譜，就這種數(shù)字人形象搭配一個產(chǎn)品能賣出去貨，這上哪說理去？”

該視頻標(biāo)題寫著：“賣貨呢阿姨，還在這謝謝上了?！?/p>

早在去年，就有媒體報道AI霸總“王建國”騙局。那時的“王建國”是一個梳側(cè)背頭，留著點(diǎn)小胡子，著深色商務(wù)正裝的中年男性，和現(xiàn)在流行的“建國”長相有著明顯差異。

運(yùn)營者操作“王建國”直播。他會在直播間里唱歌、跳舞，進(jìn)行幾分鐘的口播，還有肢體動作，比如對著鏡頭獻(xiàn)出玫瑰等。

“王建國”直播截圖

去年2月，中央網(wǎng)信辦開展“清朗行動”，整治AI技術(shù)濫用亂象被列入8項(xiàng)重點(diǎn)任務(wù)之一。之后，“王建國”帳號被予以關(guān)停，相關(guān)視頻被清空，“建國弟弟”帳號被封，部分賬號被限流、限制私信。

之后，AI數(shù)字人再難直接出現(xiàn)在直播間。但這仍然沒擋住“建國”們的以另一種形式“復(fù)出”。

這些賬號背后，往往有一套盈利邏輯。賬號與變現(xiàn)綁定，視頻負(fù)責(zé)吸引與維系關(guān)系，跳轉(zhuǎn)到網(wǎng)購平臺、櫥窗的鏈接則負(fù)責(zé)變現(xiàn)。

也有賬號會提供一串電話號碼，聯(lián)系后，是婚介機(jī)構(gòu)。

有人分享視頻：“情感賽道雖然玩法惡心一點(diǎn)，通過數(shù)字的方式去呈現(xiàn)，然后一堆惡心的文案，但它的流量真的是無敵好?！彼故举~號數(shù)據(jù)：新增2.5萬點(diǎn)贊、4000多關(guān)注，“帶貨銷量一點(diǎn)都不差”。

在他的理解里，中老年用戶并不難轉(zhuǎn)化，“只要流量基數(shù)大，怎么都能轉(zhuǎn)化，關(guān)鍵是引導(dǎo)”。他展示另一個賬號，數(shù)據(jù)顯示，當(dāng)日售出66筆，收入超4800元。在這類視頻的描述里，這門生意傭金可達(dá)“60%到80%左右”。

AI數(shù)字人在視頻中引導(dǎo)購物

南風(fēng)窗記者聯(lián)系上賣課賬號“阿明”。對方坦言，該賽道“會違規(guī)”，但問題不大，“畢竟違規(guī)了也可以注銷重啟”。對話中，他提到，當(dāng)下有個自帶流量的形象“小海”，還有個形象被封殺、但能“冒充”的“建國”。

他提供一套培訓(xùn)課程，998元，一對一陪跑。在他口中，只要正常運(yùn)營，基本可以回本?！氨粭l視頻基本就回來了?！敝劣诙嗑媚芑乇?，“就要好好學(xué)習(xí)下了”。

他曾分享一個學(xué)員案例，其用多個賬號操作，一天獲得數(shù)千元利潤。他寫道：“怎么也比打工強(qiáng)?！?/p>

技術(shù)成了這些人盈利的工具。3月5日，他發(fā)了一條朋友圈：“中老年這個群體是真的很有意思，又能做數(shù)據(jù)，又聽話，看他們的私信，甚至覺得有點(diǎn)可愛?！?/p>

“阿明”朋友圈截圖

而在另一端，是像張玉蘭這樣的人。她不知道這些賬號可以復(fù)制，也不知道聲音可以生成。她仍誤以為那些噓寒問暖都是真實(shí)的。

3月19日下午，胡沫給南風(fēng)窗發(fā)來截圖，張玉蘭又在視頻誘導(dǎo)下購買了4幅裝飾畫，總價1775元。

當(dāng)晚，胡沫再次跟奶奶就“建國”談話?！暗絼偛艦橹?，（奶奶）還是相信東東是真的，覺得他倆之間有感情?！焙f。家人一次次想將張玉蘭拽出來，甚至因此爭吵，卻無能為力。

圍獵仍在繼續(xù)。

（應(yīng)受訪者要求，文中人物均為化名）

作者 |黃澤敏

實(shí)習(xí)生 |張強(qiáng)強(qiáng)

編輯 | 向現(xiàn)

值班主編 | 吳擎

排版 | 八斤