從肆虐五年的“假靳東”騙局，到霍啟剛自曝每天處理上千條AI偽造內(nèi)容；

從AI藝人靠著“組裝臉”高調(diào)出道，到各路明星的肖像被隨意盜用牟利。

一個(gè)由AI換臉和聲音克隆形成的灰色圈子，正讓無(wú)數(shù)公眾人物淪為受害者。

而這一切，其實(shí)靳東早在多年前就已經(jīng)發(fā)出過(guò)提醒。

“假靳東”騙局蔓延五年

想必大部分人對(duì)“假靳東”騙局不陌生。

這個(gè)從2020年開(kāi)始蔓延的騙局，已經(jīng)讓無(wú)數(shù)中老年女性深陷其中。

2020年，江西的黃奶奶深信“靳東”在短視頻里向她“全網(wǎng)告白”。

為了這個(gè)素未謀面的“男友”，她剪掉長(zhǎng)發(fā)、與丈夫鬧翻。

甚至要一個(gè)人去長(zhǎng)春見(jiàn)“東弟弟”。

2022年，上海的張奶奶加入了一個(gè)“靳東”粉絲團(tuán)。

被誘導(dǎo)參與應(yīng)援，短短時(shí)間就被騙走了20萬(wàn)元。

慶幸的是2023年這個(gè)犯罪團(tuán)伙終于落網(wǎng)。

讓人意外的是，這些騙子全部是女性。

她們專(zhuān)門(mén)假冒“靳東”行騙，共騙取30余萬(wàn)元，主犯最終被判處有期徒刑三年。

來(lái)源中國(guó)新聞網(wǎng)

這些“假靳東”就是利用了AI換臉和聲音克隆技術(shù)，在短視頻平臺(tái)批量制造出以假亂真的視頻。

一口一個(gè)“姐姐”“寶貝”，用甜言蜜語(yǔ)編織情感陷阱。

目標(biāo)就是那些獨(dú)居、缺乏情感陪伴的中老年女性。

案件雖然判了，可AI詐騙并沒(méi)有停止。

2024年，一位60多歲的奶奶到銀行堅(jiān)持要貸款200萬(wàn)元。

聲稱(chēng)是為了幫“男朋友靳東”拍戲。

直到民警反復(fù)勸說(shuō)，她才意識(shí)到自己被騙了。

來(lái)源央視新聞

2024年，2025年，直到2026年兩會(huì)期間，靳東一直反復(fù)在提這件事。

他坦言，很多 AI 合成視頻盜用了他的聲音，講述的卻是他從未經(jīng)歷、也從未說(shuō)過(guò)的內(nèi)容。

更無(wú)奈的是，他根本沒(méi)辦法一條條去澄清，哪些事是真的、哪些事是假的。

一個(gè)當(dāng)紅演員，竟然要被迫去解釋“哪些事我沒(méi)做過(guò)”。

這荒誕的背后，是AI技術(shù)帶來(lái)的亂象。

其實(shí)靳東早在2020年騙局剛曝光時(shí)就提醒過(guò)大家要仔細(xì)分辨。

可五年過(guò)去，這個(gè)惡俗的小圈子不但沒(méi)有消失，反而變本加厲。

霍啟剛發(fā)聲

3月23日，霍啟剛公開(kāi)發(fā)文，控訴自己遭遇AI侵權(quán)。

而他遇到的情況，比之前靳東的遭遇還要更高級(jí)，也更難分辨。

就在不久前，霍啟剛再次發(fā)現(xiàn)大量盜用其個(gè)人形象的AI合成視頻。

這些視頻模仿了他的外貌與聲音，可所表達(dá)的立場(chǎng)與觀點(diǎn)卻與他本人完全無(wú)關(guān)。

即便身邊共事多年的同事，也需要反復(fù)辨認(rèn)才能確定并非本人出鏡。

更令人擔(dān)憂(yōu)的是，這類(lèi)虛假視頻還被別有用心之人利用，進(jìn)行各類(lèi)違規(guī)商業(yè)宣傳。

他對(duì)此高度警惕，十分害怕普通民眾會(huì)因此陷入騙局，造成不必要的財(cái)產(chǎn)損失。

過(guò)去半年，隨著AI技術(shù)的普及，這類(lèi)情況越來(lái)越夸張。

霍啟剛透露，他已經(jīng)處理過(guò)數(shù)千條相關(guān)偽造內(nèi)容，團(tuán)隊(duì)不得不指派專(zhuān)人全職負(fù)責(zé)此類(lèi)維權(quán)工作。

幾千條虛假信息，每天都要清理，還要專(zhuān)人時(shí)刻盯著。

這，就是一個(gè)公眾人物面對(duì)AI侵權(quán)的真實(shí)日常。

而被AI困擾的靳東與霍啟剛，其實(shí)也只是冰山一角。

明星集體遭殃

2月26日，演員王勁松憤怒發(fā)聲：

“太可怕了，視頻、聲音、口型完全看不出真假，就這么直接盜用，把我AI了?！?br/>

但真正讓他憂(yōu)心忡忡的，是未來(lái)可能愈演愈烈的安全隱患。

一句 “連家里人都認(rèn)不出來(lái)”，道盡了當(dāng)下AI侵權(quán)的無(wú)奈。

如果連最親近的家人都難以辨別真?zhèn)?，那普通網(wǎng)友又該如何防范？

可即便明星們不斷發(fā)聲，AI侵權(quán)的亂象依舊沒(méi)有停止。

3月20日，迪麗熱巴勝訴的消息沖上熱搜。

某影視公司在自制短劇中，擅自運(yùn)用AI換臉技術(shù)，將迪麗熱巴的容貌移植到劇中人物身上。

經(jīng)過(guò)ai合成的畫(huà)面高度逼真，普通人難以分辨。

法院經(jīng)審理后作出判決，該劇制作方已經(jīng)構(gòu)成肖像權(quán)侵權(quán)。

而負(fù)責(zé)播出的平臺(tái)方?jīng)]有盡到相應(yīng)的審核與管理義務(wù)，也需要承擔(dān)對(duì)應(yīng)的法律責(zé)任。

兩家被告均被要求公開(kāi)發(fā)布致歉聲明，并賠償相應(yīng)的經(jīng)濟(jì)損失。

而就在同一天，楊紫工作室也發(fā)布嚴(yán)正聲明：怒斥AI換臉亂象。

事實(shí)上，遭到AI侵權(quán)困擾的遠(yuǎn)不止娛樂(lè)圈的明星們。

就連不少知名運(yùn)動(dòng)員，也同樣沒(méi)能躲過(guò)這場(chǎng)亂象。

如果說(shuō)普通的換臉操作，是直接將明星的樣貌疊加在他人身上。

那么還有一種更為隱蔽的侵權(quán)形式，就是利用AI打造與真人高度相似的虛擬藝人。

AI藝人出道

3月18日，耀客傳媒正式推出兩名AI虛擬藝人林汐顏和秦凌岳。

不僅為兩人開(kāi)通多個(gè)社交賬號(hào)進(jìn)行全面運(yùn)營(yíng)，還宣布他們將拍戲。

可這兩位看似全新的虛擬藝人，一亮相就撞臉多位明星。

男虛擬人秦凌岳的外形與演員翟子路高度相似；

女虛擬人林汐顏則糅合了趙今麥、邢菲等多位女演員的面部特點(diǎn)。

隨后，央視也專(zhuān)門(mén)發(fā)文，點(diǎn)名批評(píng)了這種“融臉”行為。

專(zhuān)家表示，只要AI數(shù)字藝人的形象能讓公眾穩(wěn)定聯(lián)想到某個(gè)特定真人。

不管是不是刻意模仿，都有可能涉嫌侵權(quán)。

來(lái)源央視新聞

從靳東到霍啟剛，從迪麗熱巴到楊紫，這份被AI侵權(quán)的名單還在不斷變長(zhǎng)。

比起這些成年人面對(duì)的困擾，還有一個(gè)更脆弱的群體正暴露在更大的風(fēng)險(xiǎn)之下。

靳東呼吁

在今年的兩會(huì)發(fā)言中，靳東特別提到了一個(gè)更需要守護(hù)的群體“青少年”。

“如今科技發(fā)展太快了，別說(shuō)一年半載，有時(shí)候短短一兩個(gè)月就會(huì)發(fā)生翻天覆地的變化?！?br/>

正因如此，各類(lèi)安全防護(hù)手段應(yīng)當(dāng)提前布局與落實(shí)。

針對(duì)未成年人的保護(hù)工作，更需要推行更為嚴(yán)格與周全的方案。

靳東的擔(dān)憂(yōu)絕非多余。

連心智成熟的成年人都難以分辨AI真假，更何況是涉世未深的青少年？

他們正處在價(jià)值觀形成的關(guān)鍵階段，如果長(zhǎng)期被虛假信息包圍，辨別是非的能力會(huì)被慢慢削弱。

那些包裝精致的“AI藝人”、那些精心編造的“偶像告白”。

對(duì)青少年的影響，往往比成年人更深、更難逆轉(zhuǎn)。

更讓人警惕的是，這些技術(shù)很可能被用來(lái)專(zhuān)門(mén)針對(duì)青少年設(shè)局。

今天騙的是中老年粉絲，明天，被騙的就可能是追星的少男少女。

結(jié)語(yǔ)

科技是一把雙刃劍。

它帶來(lái)了便利，也帶來(lái)了傷害。

當(dāng)技術(shù)發(fā)展到“真的像假的，假的反倒猖獗”的程度。

我們能做的，不是因噎廢食，而是給技術(shù)加上護(hù)欄，給應(yīng)用劃出底線(xiàn)。