4 月 28 日消息，網(wǎng)信部門(mén)剛依法查處了剪映 App、貓箱 App 還有即夢(mèng) AI 網(wǎng)站，原因是這些平臺(tái)沒(méi)落實(shí)好 AI 生成合成內(nèi)容的標(biāo)識(shí)規(guī)定，違反了好幾部相關(guān)法律。

圖源：公眾號(hào)

先說(shuō)說(shuō)這次被查的幾個(gè)主角。

剪映作為國(guó)民級(jí)剪輯工具，幾乎每個(gè)做短視頻的人都用過(guò)，沒(méi)想到這次栽在了 AI 內(nèi)容標(biāo)識(shí)上。

而即夢(mèng) AI 更不用說(shuō)了，之前就因?yàn)槟莻€(gè) Seedance 2.0 視頻模型鬧過(guò)隱私侵權(quán)的大風(fēng)波。雷科技AGI（ID：leikejiagi）記得當(dāng)時(shí)影視颶風(fēng)的 Tim 做評(píng)測(cè)，就上傳了一張自己的照片，結(jié)果 AI 直接生成了帶他本人聲音的視頻，甚至連辦公樓的布局都能精準(zhǔn)還原，這隱私泄露的程度想想都后怕。

后來(lái)即夢(mèng)緊急暫停了真人素材參考功能，但信任這東西一旦碎了，就很難再拼回去了。

圖源：微博

有網(wǎng)友指出，其實(shí)這次處罰不是孤立事件，正好和網(wǎng)信辦正在開(kāi)展的清朗?整治 AI 技術(shù)濫用專(zhuān)項(xiàng)行動(dòng)相呼應(yīng)。

這個(gè)行動(dòng)從去年 4 月就啟動(dòng)了，重點(diǎn)就是打擊 AI 換臉擬聲侵權(quán)、虛假信息傳播這些亂象。

為啥要這么嚴(yán)？看看最近的案例就知道了。

福建三明那個(gè)女司機(jī)被保安掌摑的事件，本來(lái)就夠讓人揪心了，結(jié)果一群網(wǎng)友用 AI 合成了各種離譜視頻。

有握手擁抱和解的，有嬉笑奔跑的，甚至還有低俗的親密畫(huà)面，更過(guò)分的是發(fā)布以及傳播的人還故意隱瞞是 AI 合成的，捏造和解聲明。

這哪是娛樂(lè)，分明是在當(dāng)事人的傷口上撒鹽，還誤導(dǎo)了不知道多少網(wǎng)友。

網(wǎng)友用AI合成的畫(huà)面 圖源：微博

還有明星形象被濫用的問(wèn)題，有網(wǎng)友刷到過(guò)周星馳代言游戲、王一博推薦理財(cái)產(chǎn)品的 AI 視頻，做得那叫一個(gè)逼真，不仔細(xì)看根本分辨不出來(lái)是假的。

這些明星的經(jīng)紀(jì)人也早就公開(kāi)質(zhì)疑平臺(tái)監(jiān)管缺位了，因?yàn)檫@些虛假內(nèi)容不僅損害了明星的形象和利益，還可能讓普通用戶上當(dāng)受騙。

雷科技AGI（ID：leikejiagi）作為一個(gè)經(jīng)常刷短視頻的人，我現(xiàn)在都有點(diǎn)怕看到 AI合成的視頻?？吹揭欢我曨l，首先會(huì)懷疑是不是 AI 合成的；刷到明星的采訪，也會(huì)下意識(shí)想這聲音是不是克隆的。

AI 技術(shù)現(xiàn)在真是越來(lái)越先進(jìn)，逼真到讓人毛骨悚然的地步，有時(shí)候連專(zhuān)業(yè)人士都很難分辨真假。

圖源：微博

有網(wǎng)友說(shuō)，這是技術(shù)創(chuàng)新的必經(jīng)之路，監(jiān)管太嚴(yán)會(huì)限制發(fā)展。

但雷科技AGI（ID：leikejiagi）覺(jué)得，技術(shù)創(chuàng)新和法律合規(guī)從來(lái)都不是對(duì)立互斥的。這些平臺(tái)不能只想著怎么讓 AI 功能更強(qiáng)大、更吸引人，卻忘了自己的社會(huì)責(zé)任。

我覺(jué)得，AI 生成內(nèi)容的標(biāo)識(shí)就該像香煙盒上的吸煙有害健康一樣，必須醒目且必須強(qiáng)制。

平臺(tái)不僅要在技術(shù)上做好標(biāo)識(shí)，更要建立嚴(yán)格的審核機(jī)制，一旦發(fā)現(xiàn)有人故意隱瞞 AI 生成屬性、傳播虛假信息，就該嚴(yán)懲不貸，封號(hào)、罰款都不能手軟。

圖源：小雷自制

同時(shí)，我們作為用戶也得提高警惕。看到那些過(guò)于離奇、過(guò)于完美的視頻，多留個(gè)心眼，別輕易相信，更別隨手轉(zhuǎn)發(fā)。

俗話說(shuō)謠言止于智者，這些虛假信息要是沒(méi)人傳，自然就失去了市場(chǎng)。技術(shù)是用來(lái)造福人類(lèi)的，不是用來(lái)制造混亂、傳播虛假信息的。

雷科技AGI（ID：leikejiagi）希望這次處罰能給所有平臺(tái)提高警惕，不管是 AI 平臺(tái)還是發(fā)布內(nèi)容的媒體平臺(tái)，都要對(duì)這些 AI 視頻加強(qiáng)監(jiān)管，而不是讓我們用戶每天活在真假難辨的焦慮中。

你最近刷到過(guò)哪些讓你真假難辨的 AI 合成內(nèi)容？歡迎在評(píng)論區(qū)聊聊你的看法。

2026第十九屆北京國(guó)際汽車(chē)展覽會(huì)將于4月24日至5月3日在北京?中國(guó)國(guó)際展覽中心（順義館）和首都國(guó)際會(huì)展中心（新國(guó)展二期）舉行，本屆車(chē)展以“領(lǐng)時(shí)代·智未來(lái)”為主題，集中展現(xiàn)汽車(chē)工業(yè)的更多黑科技。
比亞迪、小米、鴻蒙智行（問(wèn)界等）、小鵬、蔚來(lái)、嵐圖等頭部品牌集結(jié)，多款重磅新車(chē)首秀；地平線、Momenta、卓馭等供應(yīng)商集體秀肌肉，AI大模型深度賦能，高階智駕、動(dòng)力電池、超快充技術(shù)等前沿科技集中亮相，看點(diǎn)拉滿！
雷科技旗下「電車(chē)通」將派出報(bào)道團(tuán)直擊現(xiàn)場(chǎng)，以“關(guān)注電動(dòng)車(chē)，更懂智能化”的專(zhuān)業(yè)視角，帶來(lái)一線獨(dú)家報(bào)道，敬請(qǐng)關(guān)注！