近年來，以AI生成內(nèi)容（AIGC）為代表的技術(shù)浪潮以前所未有的速度席卷全球，極大地豐富了信息傳播和內(nèi)容創(chuàng)作的生態(tài)。

然而，技術(shù)如雙刃劍，在帶來效率和創(chuàng)新的同時，其被濫用的風(fēng)險也日益凸顯。

“小鵬汽車展臺”事件就是一個鮮明的例證：通過AI“無中生有”地制造虛假、低俗的視頻，不僅損害了企業(yè)的品牌聲譽，更暴露了在深度偽造（Deepfake）技術(shù)日益成熟的今天，虛假信息傳播所帶來的社會信任危機和法律倫理挑戰(zhàn)。

面對AIGC技術(shù)越來越先進的趨勢，我們必須正視核心問題——如何防止AI生成圖片和視頻技術(shù)被濫用，以及誰應(yīng)該承擔(dān)主體責(zé)任？

資深互聯(lián)網(wǎng)專家張棟偉表示，解決這一難題，需要從技術(shù)、法律、平臺和用戶等多個維度構(gòu)建多層次、全鏈條的防御與責(zé)任體系。

一、技術(shù)：對抗虛假的“數(shù)字盾牌”

防止AIGC濫用的第一道防線，永遠是技術(shù)對抗。道高一尺，魔高一丈，我們需要開發(fā)出能夠識別和溯源AI生成內(nèi)容的“數(shù)字盾牌”。

1. 強制性標(biāo)識和數(shù)字水印

國際共識正在形成，即對AI生成內(nèi)容實施強制性標(biāo)識（Mandatory Labeling）。

正如中國《生成式人工智能服務(wù)管理暫行辦法》和歐盟《人工智能法案》所強調(diào)的透明度義務(wù)，所有向公眾提供的生成式AI服務(wù)都應(yīng)在生成內(nèi)容上進行清晰、易識別的標(biāo)記，告知用戶該內(nèi)容為AI生成或深度偽造。

我國已率先建立起AIGC專項治理框架，《人工智能生成合成內(nèi)容標(biāo)識辦法》及配套強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》的發(fā)布，進一步明確要求服務(wù)提供者在生成內(nèi)容中添加不影響使用的隱式標(biāo)識，在易混淆場景添加顯式標(biāo)識，傳播平臺需主動核驗標(biāo)識信息。

更進一步，應(yīng)推廣數(shù)字水?。―igital Watermarking）和加密溯源技術(shù)。

數(shù)字水印可嵌入到AI生成內(nèi)容的底層數(shù)據(jù)中，不可見但難以篡改。它能記錄內(nèi)容的生成時間、所使用的模型、甚至是最初的生成者信息。一旦內(nèi)容被用于不法目的，監(jiān)管者和受害者可以通過這些水印進行準(zhǔn)確溯源，為法律追責(zé)提供關(guān)鍵證據(jù)。

例如，美國加州2024年通過的《人工智能透明度法案》，明確要求提供者配備檢測工具與顯隱式標(biāo)識功能，形成技術(shù)治理的合力。

2. “反深度偽造”檢測技術(shù)

需要持續(xù)投入研發(fā)“反深度偽造”（Anti-Deepfake）技術(shù)。

這類技術(shù)旨在通過檢測圖像或視頻中細微的、非人類模式的數(shù)字偽影、幀與幀之間的不一致性、或AI模型特有的指紋，來自動判斷內(nèi)容的真實性。當(dāng)前AIGC技術(shù)迭代速度極快，平均兩個月就會出現(xiàn)新的里程碑模型，這使得檢測技術(shù)與生成技術(shù)始終處于動態(tài)博弈狀態(tài)。

對此，政府和科研機構(gòu)必須加大對這一領(lǐng)域的支持力度，構(gòu)建“以大模型對抗大模型”的基座化鑒偽底座，確保檢測能力不落后于生成能力。

一方面，要通過“生成-標(biāo)識-檢測”的數(shù)據(jù)生態(tài)閉環(huán)積累訓(xùn)練樣本，提升鑒偽模型的泛化能力，應(yīng)對各類新型偽造方法；另一方面，需針對性研發(fā)對抗技術(shù)，防范造假者通過內(nèi)容壓縮、隱蔽投毒等方式規(guī)避檢測的行為。

同時，應(yīng)推動鑒偽工具全民化普及，開發(fā)易用的手機端APP、網(wǎng)頁插件等，讓普通用戶能便捷辨別AI生成內(nèi)容，筑牢全民監(jiān)督的技術(shù)基礎(chǔ)。

這一點，中國的網(wǎng)絡(luò)安全領(lǐng)導(dǎo)企業(yè)“國投智能”（美亞柏科）走在了世界前列，已經(jīng)推出了“美亞鑒真平臺”小程序，雖然還在初期階段，但已經(jīng)是在引領(lǐng)時代。

感興趣的同學(xué)，可以打開微信小程序試試。

二、法律與監(jiān)管：構(gòu)建“技術(shù)向善”的邊界

技術(shù)對抗是基礎(chǔ)，但要從根本上遏制濫用，必須依靠法律法規(guī)的約束與指引，為AIGC劃定清晰的“技術(shù)向善”邊界。

1. 明確的負面清單與內(nèi)容審核義務(wù)

各國監(jiān)管應(yīng)設(shè)立明確的AIGC負面清單，禁止生成和傳播危害國家安全、宣揚恐怖主義、煽動歧視、以及包括色情、低俗在內(nèi)的不良信息。

更重要的是，應(yīng)對生成式AI服務(wù)提供者施加前置的內(nèi)容審核和過濾義務(wù)。

在模型的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練階段，必須采取有效措施，篩除含有歧視性、違法或不良信息的語料；在用戶端，模型應(yīng)內(nèi)置針對敏感內(nèi)容的“安全過濾器”，對可能生成違法信息的提示詞（Prompt）進行攔截或拒絕。

2. 知識產(chǎn)權(quán)與肖像權(quán)保護

AIGC濫用往往伴隨著對個人肖像權(quán)、名譽權(quán)和知識產(chǎn)權(quán)的侵害。法律必須清晰界定：未經(jīng)授權(quán)利用他人肖像或作品生成的內(nèi)容，即使是AI創(chuàng)作，其法律責(zé)任依然由實際使用者和可能的技術(shù)提供者承擔(dān)。

我國《民法典》雖已明確網(wǎng)絡(luò)侵權(quán)責(zé)任，但在AI場景下，需要進一步細化，尤其是在侵權(quán)舉證困難的情況下，探索由平臺披露相關(guān)證據(jù)的機制。在“深度偽造”侵權(quán)案件中，應(yīng)引入更嚴(yán)厲的懲罰機制，以震懾不法行為。

三、主體責(zé)任：多方共治，層層遞進

在AIGC濫用事件中，主體責(zé)任的劃分是復(fù)雜且關(guān)鍵的問題。

鑒于AIGC的鏈條性特點，責(zé)任不應(yīng)只由單一主體承擔(dān)，而應(yīng)是“多方共治，層層遞進”的體系，涵蓋服務(wù)提供者、傳播平臺、內(nèi)容生成者三個核心環(huán)節(jié)。

1. 服務(wù)提供者（模型開發(fā)者）的主體責(zé)任

AIGC服務(wù)提供者（如大模型公司）是技術(shù)的“源頭活水”，其應(yīng)承擔(dān)信息內(nèi)容管理的主體責(zé)任，這是第一層、也是最關(guān)鍵的責(zé)任。

其一，開發(fā)者在設(shè)計和訓(xùn)練模型時，必須將合規(guī)和倫理要求嵌入其中，遵守訓(xùn)練數(shù)據(jù)合法來源、不侵犯知識產(chǎn)權(quán)等規(guī)定。

其二，開發(fā)者有義務(wù)建立健全風(fēng)險評估、安全技術(shù)措施和應(yīng)急處置制度，包括對模型進行“紅隊測試”，主動發(fā)現(xiàn)和修復(fù)可能被用于生成違法內(nèi)容的漏洞；提供便捷的投訴舉報入口；對生成內(nèi)容進行必要的監(jiān)測和過濾。

其三，當(dāng)監(jiān)管部門介入調(diào)查時，提供者應(yīng)依法配合，對訓(xùn)練數(shù)據(jù)來源、算法機制等進行說明，提供技術(shù)和數(shù)據(jù)支持。

2. 內(nèi)容傳播平臺（網(wǎng)絡(luò)服務(wù)提供者）的連帶責(zé)任

內(nèi)容傳播平臺（如社交媒體、視頻網(wǎng)站）是虛假信息擴散的“放大器”，其應(yīng)承擔(dān)“通知-刪除”義務(wù)和平臺管理責(zé)任，這是第二層責(zé)任。

盡管事前審核難度極大，但對于明確存在高風(fēng)險的AIGC內(nèi)容，平臺應(yīng)具備一定的事前識別能力。

依據(jù)《民法典》及相關(guān)法規(guī)，當(dāng)權(quán)利人通知平臺存在侵權(quán)內(nèi)容時，平臺必須及時采取刪除、屏蔽、斷開鏈接等必要措施。如果平臺“明知或應(yīng)知”侵權(quán)而未采取措施，則應(yīng)承擔(dān)連帶責(zé)任。

同時，平臺應(yīng)建立健全網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理機制，尤其是針對網(wǎng)絡(luò)謠言、低俗信息等，進行實時巡查和高效處置。

當(dāng)前部分平臺雖已探索AI內(nèi)容檢測技術(shù)，但仍存在檢測不精準(zhǔn)、響應(yīng)不及時等問題，未來需加大技術(shù)投入，建立“早發(fā)現(xiàn)、早攔截、早處置”的快速響應(yīng)機制。

例如“美亞鑒真平臺”只能支持抖音、快手、小紅書的視頻鑒真，說明還有更廣大的視頻平臺沒有與類似美亞柏科的網(wǎng)絡(luò)安全平臺合作，存在較大的安全隱患。

3. 內(nèi)容生成者（用戶）的直接責(zé)任

內(nèi)容生成者（即實際利用AIGC工具制造虛假內(nèi)容的用戶）是侵權(quán)行為的直接實施者，必須承擔(dān)最主要的直接法律責(zé)任，這是第三層責(zé)任。

無論是侵害他人的名譽權(quán)、肖像權(quán)還是知識產(chǎn)權(quán)，用戶都應(yīng)根據(jù)《民法典》承擔(dān)停止侵害、消除影響、賠禮道歉、賠償損失等民事責(zé)任。

重慶網(wǎng)民何某利用AI合成災(zāi)情視頻博取關(guān)注被行政處罰、山西網(wǎng)民編造懸空寺坍塌虛假視頻遭追責(zé)等案例，均彰顯了法律對AI造謠行為的零容忍。若AIGC內(nèi)容構(gòu)成散布謠言、擾亂公共秩序，甚至是以營利為目的的傳播淫穢物品，則可能觸犯《治安管理處罰法》甚至《刑法》。

值得注意的是，用戶若故意規(guī)避平臺規(guī)則，使用非法技術(shù)繞過內(nèi)容過濾，還可能面臨懲罰性賠償，這一規(guī)定將有效遏制惡意濫用行為。

四、全球協(xié)作：應(yīng)對跨國界的數(shù)字挑戰(zhàn)

AIGC技術(shù)和虛假信息傳播不分國界，任何單一國家或地區(qū)都無法獨立解決這一問題。國際社會應(yīng)推動在AIGC治理領(lǐng)域的國際交流與合作，在數(shù)字水印、內(nèi)容溯源、安全標(biāo)準(zhǔn)、倫理準(zhǔn)則等方面達成國際互操作性的共識。

聯(lián)合國、NIST（美國國家標(biāo)準(zhǔn)與技術(shù)研究院）等國際組織和機構(gòu)正在推動內(nèi)容認證和來源識別機制的建立，我國發(fā)布的《標(biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》也為國際標(biāo)準(zhǔn)編制提供了重要借鑒，展現(xiàn)了AIGC安全治理的“中國范式”。

通過制定一套全球通用的“數(shù)字內(nèi)容認證標(biāo)準(zhǔn)”，才能在信息跨境流動時，依然能夠?qū)μ摷賰?nèi)容進行有效識別和追溯，形成全球協(xié)同治理合力。

結(jié)語：在創(chuàng)新與安全之間尋求平衡

AI生成視頻、圖片所帶來的“無中生有”的風(fēng)險，是對社會信任、企業(yè)聲譽乃至個人權(quán)利的嚴(yán)峻挑戰(zhàn)。

我們必須認識到，這不是要“阻止”技術(shù)創(chuàng)新，而是在“促進發(fā)展”與“規(guī)范治理”之間尋求一個動態(tài)平衡。

防治AIGC濫用是一項系統(tǒng)工程，其核心在于：技術(shù)上，利用數(shù)字水印和反深度偽造技術(shù)，筑牢數(shù)字防御的基石；法律上，構(gòu)建清晰的負面清單和侵權(quán)追責(zé)機制，劃定行為的紅線；責(zé)任上，確立“提供者—平臺—用戶”三位一體的責(zé)任體系，讓每一個環(huán)節(jié)都承擔(dān)起相應(yīng)的合規(guī)和法律義務(wù)。

只有構(gòu)建“技術(shù)可防、法律可依、責(zé)任可溯”的綜合治理框架，我們才能最大程度地發(fā)揮AIGC的積極價值，將“數(shù)字迷霧”中的虛假之影驅(qū)散，確保技術(shù)真正服務(wù)于人類福祉。

作者：張棟偉（資深互聯(lián)網(wǎng)專家、市場營銷專家、大學(xué)生就業(yè)創(chuàng)業(yè)導(dǎo)師）