2025年11月初的一個凌晨，

剛結(jié)束拍戲的演員溫崢嶸在手機(jī)上刷到了令人錯愕的畫面：

三個頂著與她完全相同面容的賬號正同時直播帶貨，

推銷著不同的護(hù)膚品與零食。

當(dāng)她嘗試在評論區(qū)質(zhì)問“你是溫崢嶸我是誰”時，

竟被瞬間拉黑踢出直播間。

這場荒誕的“真假美猴王”戲碼，

揭開了AI換臉技術(shù)被濫用于詐騙的冰山一角。

溫崢嶸這回的直播被換臉，不是頭一次有人遇到這種事。

早在2020年，靳東就被盯上過。

戲里形象正面，觀眾熟。

騙子拿著《偽裝者》里那些片段去拼接。

做成合成視頻加私信。

跟中老年女性套近乎。

先是聊天，再推高價貨。

轉(zhuǎn)賬一步步來。

一位六十多歲的阿姨越聊越信。

跟家人鬧翻，收拾行李去尋人見面。

靳東公開辟謠說了很多次。

也把建議帶進(jìn)兩會想推進(jìn)治理。

技術(shù)擴(kuò)散的速度沒停過。

人手里的工具越來越順手了。

門檻的變化很直觀。

2023年你要做一個明星的換臉模型。

還得準(zhǔn)備3.5萬元去訓(xùn)練和調(diào)參。

到了2025年，用幾樣簡易工具就能拼出一段以假亂真的直播畫面。

團(tuán)伙的打法是挑凌晨三四點(diǎn)開播。

流量小，審核松。

拿溫崢嶸這些演員的影視片段去做實(shí)時換臉。

一個主播切換好幾個明星形象。

屏幕里推不同的商品。

像在換臺一樣。

他們開播頁上也沒按自2025年9月起施行的《人工智能生成合成內(nèi)容標(biāo)識辦法》去做明顯標(biāo)注。

觀眾看見頭像和聲音就跟著走了。

維權(quán)這塊，像拉鋸戰(zhàn)。

溫崢嶸團(tuán)隊(duì)有過一天內(nèi)舉報五十多個仿冒賬號的記錄。

第二天同樣的名頭像又冒出來。

抖音的數(shù)據(jù)給到過一組。

2025年10月處置了1.1萬個侵權(quán)賬號。

下架了6700多個仿冒商品。

封到手軟，新號創(chuàng)建速度還在往前沖。

像打地鼠，你錘下去一個，旁邊又冒出來。

這一輪消耗的不光是明星團(tuán)隊(duì)的時間和精力。

觀眾看直播的時候開始猶豫。

鏡頭對面到底是真人還是數(shù)字替身分不清。

商業(yè)代言要靠信任站住。

公益宣傳也要靠信任傳達(dá)。

整條鏈路的可信度承壓。

事情沒只停在娛樂圈。

央視主持人李梓萌的臉被換去賣保健品。

奧運(yùn)冠軍全紅嬋被拿去兜售“土雞蛋”。

目標(biāo)群體基本在中老年。

獲取信息的習(xí)慣靠面容和聲音去確認(rèn)身份。

屏幕亮度一調(diào)，說話口型一對。

AI處理留下的細(xì)節(jié)破綻不容易被看見。

貨到手質(zhì)量不對，負(fù)面反饋繞回到被冒用的那位身上。

品牌方和個人兩頭受影響。

買賣沒談成，名譽(yù)也添麻煩。

平臺和監(jiān)管在跟進(jìn)。

央視《法治在線》把溫崢嶸這次的情況做了曝光。

平臺側(cè)開了專項(xiàng)治理。

算法去掃異常直播間。

識別頻繁切臉、異常話術(shù)和異常交易鏈路。

法律這邊，《民法典》對肖像權(quán)保護(hù)寫得明確。

2025年的新規(guī)把合成內(nèi)容的顯著標(biāo)識寫成了硬要求。

北京航空航天大學(xué)法學(xué)院的專家給過解讀。

商家不標(biāo)AI屬性已經(jīng)踩線。

最高處12萬元罰款外加公開道歉。

現(xiàn)實(shí)里對比詐騙的獲利量級，這點(diǎn)成本還壓不住。

一些賬號剛封就換個殼再來。

鏈條上的角色換個名繼續(xù)運(yùn)轉(zhuǎn)。

往后怎么走，幾年之前靳東的提醒現(xiàn)在變成了日常。

溫崢嶸在直播里說出“難以證明我是我”。

背后是技術(shù)往前跑，規(guī)范追著走。

靠一茬一茬地封號和罰款不夠用。

得把公眾側(cè)的防線立起來。

粉絲群里有人已經(jīng)總結(jié)出一套識別法。

黃V認(rèn)證要看，常用口頭禪要核對。

直播間內(nèi)外的聯(lián)動也要做起來。

平臺把前置審核、風(fēng)控規(guī)則和事后追責(zé)接起來。

告知、下架、追責(zé)一個不能少。

AI可以把形象復(fù)刻到很細(xì)致。

線下的真實(shí)價值更要被看見。

溫崢嶸的直播一直不開打賞。

內(nèi)容是內(nèi)容，互動是互動。

這樣的邊界感讓人心里有桿秤。

技術(shù)聲浪再大，真正可持續(xù)的東西還是創(chuàng)作本身和做事的責(zé)任感。