你刷直播的時候，有沒有碰到過長得跟知名公眾人物一模一樣的主播帶貨？最近就出了一樁引發(fā)熱議的事，鄭麗文根本沒碰過任何商業(yè)直播，結(jié)果她的AI數(shù)字人都已經(jīng)在直播間割流量賺快錢了。這事鬧到官方出手整治，人民日報也公開點明了真相，而演員靳東早之前就警示過這類問題，沒想到他擔(dān)心的事真的大面積發(fā)生了。

山西這名普通主播邢某，瞅著鄭麗文大陸訪問的熱度高，不想著好好做內(nèi)容漲粉，反而動起了歪心思?，F(xiàn)在隨便下個民用AI工具，幾分鐘就能捏出個以假亂真的數(shù)字人，整套操作從形象到文案，半點兒沒經(jīng)過鄭麗文本人同意。假鄭麗文一上線，靠著本身的公眾知名度很快攢了一大堆流量，鬧得不少網(wǎng)友摸不著頭腦，還打亂了正常的網(wǎng)絡(luò)傳播秩序。當(dāng)?shù)鼐W(wǎng)警巡查的時候很快鎖定了這個違規(guī)賬號，一查確認(rèn)邢某這是冒用他人身份牟利，屬于招搖撞騙違法行為，最后直接被處以行政拘留。

為啥名人肖像這么容易就被普通人盜用？說白了現(xiàn)在民用AI的門檻低到離譜。各類換臉、數(shù)字人生成軟件，操作簡單成本還低，普通人花不了多少時間就能做出仿真人像。加上早前監(jiān)管有漏洞，平臺審核也松懈，這幫投機者根本沒在怕的，直接把公眾人物當(dāng)成免費的流量工具用。邢某這次被抓，其實只是全網(wǎng)AI侵權(quán)亂象里，被官方查到的冰山一角，鄭麗文本人啥也沒干，就平白無故躺槍卷入了低俗流量騙局，這種惡意侵權(quán)還可能誤導(dǎo)兩岸民眾認(rèn)知，造成不必要的輿論隔閡。

現(xiàn)在網(wǎng)上灰色渠道里，各類名人的AI換臉模板、聲音數(shù)據(jù)包，百八十塊就能買到一整套完整素材。別說有基礎(chǔ)的，零基礎(chǔ)普通人拿回去，分分鐘就能做出能開播的假直播畫面，極低的違法成本，難怪造假行為抓完又冒出來，屢禁不止。早在鄭麗文這件事曝光之前，娛樂圈、體育圈、主持圈早就成了AI造假的重災(zāi)區(qū)，好多知名人物都接連中招。

央視主持人李梓萌就曾被不法分子克隆了人臉和聲線，假李梓萌直接坐鎮(zhèn)仿造的官方演播廳帶貨。假主播吹得神乎其神，說手上的深海多烯魚油能調(diào)理多種身體不適，說白了就是綁著央視的公信力坑人。專挑對官媒有信任感的中老年人下手，好多人都下了單，結(jié)果吃了半個月半點兒效果沒有，才發(fā)現(xiàn)這款所謂的保健品本質(zhì)就是普通糖果。市場監(jiān)管介入調(diào)查后，從畫面光影不對、口型錯位這些細(xì)節(jié)，敲定這是AI合成造假，當(dāng)時李梓萌忙著籌備節(jié)目，根本沒碰過直播帶貨，平白無故背負(fù)了虛假營銷的罵名。

演員溫崢嶸的遭遇更無奈，某平臺一下子冒出來四個高仿她的賬號，全天候換著不同場景直播。有的賬號分享護膚流程，有的拍日常閑聊，甚至凌晨時段還有賬號開播吃東西。溫崢嶸本人找到假冒賬號質(zhì)問，換來的只有一鍵拉黑，她的團隊單日最高就舉報了五十個違規(guī)賬號，都沒能清干凈。

連體育圈的運動員都沒能幸免，全紅嬋被人作了虛擬形象推銷土雞蛋，還虛假宣傳說吃了能提升體能。這款假產(chǎn)品銷量直接突破了四萬件，直到全紅嬋家屬公開出來辟謠，大眾才知道這是一起AI造假騙局。這幫騙子就是吃準(zhǔn)了大家對公眾人物的信任感，專挑辨別能力弱的群體下手。

其實靳東早之前就公開警示過這類亂象，不法分子用AI合成他的，專門盯著中老年女性粉絲騙。騙子模仿靳東的語氣說溫柔話，精準(zhǔn)拿捏了中老年群體的情感缺口，誘導(dǎo)粉絲消費轉(zhuǎn)賬。好多中老年人本來就對新技術(shù)不熟悉，辨別能力弱，默認(rèn)屏幕上的人臉就是本人，根本不會去核查賬號真?zhèn)?，稀里糊涂就掉進了陷阱。就算事后察覺被騙，維權(quán)流程繁瑣取證難，多數(shù)人最后只能不了了之，吃個啞巴虧。

除了這些頂流名人，很多小眾藝人、行業(yè)專家也頻繁遭遇AI盜用商用。不少商家直接截取人物的公開采訪片段，篡改字幕替換臺詞，強行給各類雜牌產(chǎn)品綁定背書，借著名人的公信力漲銷量。這種侵權(quán)行為隱蔽性更強，批量維權(quán)的成本又高，很多當(dāng)事人只能被動忍受，沒什么好辦法。這也正是靳東一直擔(dān)心的問題，AI技術(shù)濫用，最后最吃虧的還是沒什么防備能力的普通人和消費者。

泛濫的AI侵權(quán)亂象，也倒逼監(jiān)管部門和網(wǎng)絡(luò)平臺趕緊出臺整改措施。今年十月不少短平臺開啟了專項治理，一次性處置了一萬一千多個虛假達人賬號。平臺還下架了六千七百多款仿冒虛假產(chǎn)品，同時升級了智能識別系統(tǒng)，能自動篩查違規(guī)的AI合成內(nèi)容?，F(xiàn)在直播行業(yè)還新增了實名登記的硬性要求，從源頭管住匿名賬號造假牟利的可能。

法律法規(guī)層面也做了優(yōu)化，現(xiàn)行的深度合成管理辦法明確規(guī)定，AI生成內(nèi)容必須標(biāo)注特殊標(biāo)識。未主動標(biāo)注合成屬性、刻意隱瞞虛擬身份的直播，一律算作違規(guī)操作。之前就有企業(yè)盜用教授的演講音頻做產(chǎn)品推廣，靠AI合成做虛假宣傳，最后被判罰款十二萬元還得公開致歉。業(yè)內(nèi)法律學(xué)者也說，現(xiàn)在亂象蔓延的核心原因就是造假成本低、侵權(quán)獲利高，就算被侵權(quán)的名人勝訴，拿到的賠償也遠(yuǎn)比不上不法分子的非法收益，根本起不到震懾作用。

除了商業(yè)牟利，AI濫用還會衍生出更多隱患，虛假信息傳播、個人隱私泄露這些問題都很難管控。這次邢某冒用鄭麗文形象被拘留，就是給所有投機者敲了個警鐘，網(wǎng)絡(luò)空間從來就沒有法外之地。警方也多次公開提示，使用AI必須恪守法律底線，尊重社會公德，絕對不能借著技術(shù)實施違法活動。

普通網(wǎng)友碰到不對勁的違規(guī)AI內(nèi)容，也可以主動舉報，全民共治才能搭起干凈合規(guī)的網(wǎng)絡(luò)環(huán)境。平臺也要進一步完善人臉保護機制，給公眾人物增設(shè)專屬防護通道，提前攔截高仿虛假賬號。監(jiān)管層面也在持續(xù)細(xì)化處罰標(biāo)準(zhǔn)，不會再單一處以小額罰款，對反復(fù)造假、惡意牟利的賬號直接永久封禁，嚴(yán)重的還會追究民事乃至刑事責(zé)任。多重管控一起發(fā)力，才能從根源壓縮灰色產(chǎn)業(yè)的生存空間。

AI技術(shù)本身沒有對錯之分，便捷的創(chuàng)作工具本來就是用來服務(wù)大眾生活的，不該淪為壞人牟利作惡的工具。從公眾人物無端被侵權(quán)，到普通消費者受騙受損，AI造假其實傷害著每一個網(wǎng)絡(luò)參與者。要想遏制住亂象，平臺管控、法律約束、大眾甄別哪一樣都缺不了，只有守住技術(shù)底線，才能不讓亂象繼續(xù)蔓延。

參考資料：大河報 名人AI侵權(quán)亂象調(diào)查；紅星新聞 鄭麗文AI數(shù)字人帶貨事件調(diào)查；封面新聞 深度合成內(nèi)容治理新規(guī)解讀；環(huán)球網(wǎng) AI換臉帶貨違法案例梳理