奧運冠軍、實力演員、央視主持、知名醫(yī)生……

AI合成技術(shù)越來越高的同時，受牽連的名人、遭欺騙的消費者也越來越多。

從最初的“機械化音頻”，到現(xiàn)在的真假難辨，曾以為不會被AI欺騙的年輕網(wǎng)友，都有些恍惚，只怕自己也上當受騙。

那么，AI合成詐騙的風氣是何時開始，又是怎么“壯大”的呢？這場波及全平臺的鬧劇，何時才能結(jié)束？

虛假帶貨

自從全紅嬋成為新星后，圍繞在她身邊的爭議太多了，就連她的至親都深受牽連，無一例外。

圍堵在家門口的、調(diào)查航班信息的、扒出過往經(jīng)歷的、現(xiàn)場伸出“咸豬手”的，數(shù)不勝數(shù)。

開心奪冠的時候，有人罵她像個“白癡”，到了狀態(tài)下滑的階段，又有人追著“唱衰”。

最可恨的，當屬利用她的形象搞詐騙的無良商家，通過AI手段欺騙善良的中老年消費者。

中老年消費者分不清AI和現(xiàn)實，誤以為她家里真的生活困難，不得不幫家里賣農(nóng)產(chǎn)品。

下單的時候，恐怕還覺得自己幫了她一把，沒想到辛苦賺來的錢，落入了無良商家的口袋。

不僅她成了“帶貨工具”，她的家人也沒有逃過被利用的命運，全家人齊上陣當“代言人”。

無良商家借此機會，賺得盆滿缽滿，所有的罵名，則是由她一人承擔，這對她很不公平。

要說最離譜的，還得是同時現(xiàn)身八個直播間的溫崢嶸，她雖然也打廣告，但是絕不會同時在八個直播間賣貨。

這些無良商家仗著平臺監(jiān)管不力，肆無忌憚地將她的形象，放在直播間里，讓她無償幫忙帶貨，并承擔責任。

等她發(fā)現(xiàn)的時候，已經(jīng)來不及了，很多消費者都已經(jīng)上當，可是損失不能由她來彌補，她也無可奈何。

除了全紅嬋和溫崢嶸之外，還有很多名人深受牽連，其實無良商家采取的套路是一樣的，并不算高明，只是中老年消費者弄不明白AI，才會相信虛假廣告，毫無戒備地掉入圈套。

平臺監(jiān)管一直不力，相關(guān)部門也遲遲沒有出手，波及的范圍只會越來越廣，就連央視在職主持人都成了無良商家的“目標”，再一次印證了“AI風波”有多可怕。

風波不斷

與諸多出走的央視女主持不同，李梓萌這些年兢兢業(yè)業(yè)，從來沒有掉過鏈子。

央視的要求本來就嚴格，她剛到央視工作的時候，經(jīng)常讀錯字，每次都被罰錢。

還有傳聞稱她“貸款上班”，這是調(diào)侃她讀錯了太多字，實際情況肯定沒這么夸張。

作為“女版康輝”，只要她想，一定能在短視頻平臺大展拳腳，可她并沒有這樣做。

只可惜短視頻平臺，也沒打算放過“安分守己”的她，無良商家竟然打起了她的算盤。

當她的臉出現(xiàn)在直播間時，不少消費者都被蒙騙了，誤以為“女版康輝”也開始帶貨了。

殊不知直播間里她的臉，是從《新聞聯(lián)播》的畫面中“摳”下來的，背景都一模一樣。

至于她的聲音，則是通過AI合成，漂亮的音色是她的，內(nèi)容則是商家寫的宣傳語。

網(wǎng)速快的年輕群體，很容易發(fā)現(xiàn)問題所在，雖說口型和聲音能對上，但是語氣很不自然。

再者說了，《新聞聯(lián)播》的背景出現(xiàn)在直播間，一眼就能看出是假的，只是老年網(wǎng)友分不清。

每天守在電視機前看《新聞聯(lián)播》的老年觀眾，都相信了她是“魚油代言人”，激情下單。

回過神來才知道，一切都是假的，臉是摳的、圖是P的、聲音是合成的，嘴型也是AI的。

由于一直沒有創(chuàng)建個人賬號，平時生活又低調(diào)，她一直沒辦法“有效辟謠”。

幫她澄清的，都是熱心的年輕網(wǎng)友，只是舉報到處理都需要時間，效率并不高。

再加上平臺監(jiān)管不力，仍由AI合成視頻肆無忌憚地搞虛假宣傳，顯然應該承擔責任。

只可惜“裝睡”的平臺，誰都叫不醒，AI帶來的巨大利益，平臺當然不愿意錯過。

官方出手

央視主持都成了騙子牟利的工具，官方若是再不出手，恐怕說不過去了。

在警方的全力追查下，制作相關(guān)虛假AI帶貨視頻的團隊，直接被“一鍋端”。

從策劃人員到技術(shù)人員，無一幸免，就連涉事的賬號，也被直接封禁。

官方出手的效果顯著，從那之后，類似的案例極為少見，風口浪尖上，誰都不敢放肆。

無良商家都接受了懲罰，平臺也不能不改變，按照官方要求，平臺必須仔細甄別內(nèi)容形式。

但凡發(fā)現(xiàn)一丁點AI的痕跡，都要在視頻下方，作出明顯的標注，算是給消費者提一個醒。

若是平臺已經(jīng)盡到了監(jiān)管責任，也標注得很明白了，還有人上當受騙，那就是自己的問題。

針對無辜受牽連的名人的網(wǎng)暴，也該停下來了，他們從頭到尾都沒有參與過詐騙，消費者被騙走的錢，也沒有掉入他們的口袋，他們憑什么遭受網(wǎng)暴呢？

那些要求他們賠償損失的言論，更是不必提了，就算名人的收入高，也不該為平臺的錯誤買單，與其找他們的麻煩，不如跟平臺談談，如何追回損失，或是稍加彌補。

如今經(jīng)濟大環(huán)境并不好，賺錢如此辛苦，更要看好自己的錢包，不能用自己的血汗錢，充實騙子的錢包，還是要仔細甄別，否則吃虧的就是自己。

官方也要繼續(xù)加大追查力度，平臺更要積極配合，提供有效的線索，有可能追回的損失，一定要努力追回來，不能讓信任平臺的消費者寒了心。

AI本身是對日常生活和工作有利的工具，如今演變成詐騙利器，實在不應該，一次又一次的風波，只會讓大眾對AI產(chǎn)生戒備，擾亂社會秩序。

參考資料：

IT之家：《北京協(xié)和醫(yī)院專家遭AI換臉帶貨，虛假科普視頻誤導消費者》

封面新聞：《“遏”止謠言：揭開背后三重假面｜2025·印跡》