近年來，以AI生成內(nèi)容（AIGC）為代表的技術浪潮以前所未有的速度席卷全球，極大地豐富了信息傳播和內(nèi)容創(chuàng)作的生態(tài)。

然而，技術如雙刃劍，在帶來效率和創(chuàng)新的同時，其被濫用的風險也日益凸顯。

“小鵬汽車展臺”事件就是一個鮮明的例證：通過AI“無中生有”地制造虛假、低俗的視頻，不僅損害了企業(yè)的品牌聲譽，更暴露了在深度偽造（Deepfake）技術日益成熟的今天，虛假信息傳播所帶來的社會信任危機和法律倫理挑戰(zhàn)。

面對AIGC技術越來越先進的趨勢，我們必須正視核心問題——如何防止AI生成圖片和視頻技術被濫用，以及誰應該承擔主體責任？

資深互聯(lián)網(wǎng)專家張棟偉表示，解決這一難題，需要從技術、法律、平臺和用戶等多個維度構建多層次、全鏈條的防御與責任體系。

一、技術：對抗虛假的“數(shù)字盾牌”

防止AIGC濫用的第一道防線，永遠是技術對抗。道高一尺，魔高一丈，我們需要開發(fā)出能夠識別和溯源AI生成內(nèi)容的“數(shù)字盾牌”。

1. 強制性標識和數(shù)字水印

國際共識正在形成，即對AI生成內(nèi)容實施強制性標識（Mandatory Labeling）。

正如中國《生成式人工智能服務管理暫行辦法》和歐盟《人工智能法案》所強調的透明度義務，所有向公眾提供的生成式AI服務都應在生成內(nèi)容上進行清晰、易識別的標記，告知用戶該內(nèi)容為AI生成或深度偽造。

我國已率先建立起AIGC專項治理框架，《人工智能生成合成內(nèi)容標識辦法》及配套強制性國家標準《網(wǎng)絡安全技術 人工智能生成合成內(nèi)容標識方法》的發(fā)布，進一步明確要求服務提供者在生成內(nèi)容中添加不影響使用的隱式標識，在易混淆場景添加顯式標識，傳播平臺需主動核驗標識信息。

更進一步，應推廣數(shù)字水印（Digital Watermarking）和加密溯源技術。

數(shù)字水印可嵌入到AI生成內(nèi)容的底層數(shù)據(jù)中，不可見但難以篡改。它能記錄內(nèi)容的生成時間、所使用的模型、甚至是最初的生成者信息。一旦內(nèi)容被用于不法目的，監(jiān)管者和受害者可以通過這些水印進行準確溯源，為法律追責提供關鍵證據(jù)。

例如，美國加州2024年通過的《人工智能透明度法案》，明確要求提供者配備檢測工具與顯隱式標識功能，形成技術治理的合力。

2. “反深度偽造”檢測技術

需要持續(xù)投入研發(fā)“反深度偽造”（Anti-Deepfake）技術。

這類技術旨在通過檢測圖像或視頻中細微的、非人類模式的數(shù)字偽影、幀與幀之間的不一致性、或AI模型特有的指紋，來自動判斷內(nèi)容的真實性。當前AIGC技術迭代速度極快，平均兩個月就會出現(xiàn)新的里程碑模型，這使得檢測技術與生成技術始終處于動態(tài)博弈狀態(tài)。

對此，政府和科研機構必須加大對這一領域的支持力度，構建“以大模型對抗大模型”的基座化鑒偽底座，確保檢測能力不落后于生成能力。

一方面，要通過“生成-標識-檢測”的數(shù)據(jù)生態(tài)閉環(huán)積累訓練樣本，提升鑒偽模型的泛化能力，應對各類新型偽造方法；另一方面，需針對性研發(fā)對抗技術，防范造假者通過內(nèi)容壓縮、隱蔽投毒等方式規(guī)避檢測的行為。

同時，應推動鑒偽工具全民化普及，開發(fā)易用的手機端APP、網(wǎng)頁插件等，讓普通用戶能便捷辨別AI生成內(nèi)容，筑牢全民監(jiān)督的技術基礎。

這一點，中國的網(wǎng)絡安全領導企業(yè)“國投智能”（美亞柏科）走在了世界前列，已經(jīng)推出了“美亞鑒真平臺”小程序，雖然還在初期階段，但已經(jīng)是在引領時代。

感興趣的同學，可以打開微信小程序試試。

二、法律與監(jiān)管：構建“技術向善”的邊界

技術對抗是基礎，但要從根本上遏制濫用，必須依靠法律法規(guī)的約束與指引，為AIGC劃定清晰的“技術向善”邊界。

1. 明確的負面清單與內(nèi)容審核義務

各國監(jiān)管應設立明確的AIGC負面清單，禁止生成和傳播危害國家安全、宣揚恐怖主義、煽動歧視、以及包括色情、低俗在內(nèi)的不良信息。

更重要的是，應對生成式AI服務提供者施加前置的內(nèi)容審核和過濾義務。

在模型的預訓練、優(yōu)化訓練階段，必須采取有效措施，篩除含有歧視性、違法或不良信息的語料；在用戶端，模型應內(nèi)置針對敏感內(nèi)容的“安全過濾器”，對可能生成違法信息的提示詞（Prompt）進行攔截或拒絕。

2. 知識產(chǎn)權與肖像權保護

AIGC濫用往往伴隨著對個人肖像權、名譽權和知識產(chǎn)權的侵害。法律必須清晰界定：未經(jīng)授權利用他人肖像或作品生成的內(nèi)容，即使是AI創(chuàng)作，其法律責任依然由實際使用者和可能的技術提供者承擔。

我國《民法典》雖已明確網(wǎng)絡侵權責任，但在AI場景下，需要進一步細化，尤其是在侵權舉證困難的情況下，探索由平臺披露相關證據(jù)的機制。在“深度偽造”侵權案件中，應引入更嚴厲的懲罰機制，以震懾不法行為。

三、主體責任：多方共治，層層遞進

在AIGC濫用事件中，主體責任的劃分是復雜且關鍵的問題。

鑒于AIGC的鏈條性特點，責任不應只由單一主體承擔，而應是“多方共治，層層遞進”的體系，涵蓋服務提供者、傳播平臺、內(nèi)容生成者三個核心環(huán)節(jié)。

1. 服務提供者（模型開發(fā)者）的主體責任

AIGC服務提供者（如大模型公司）是技術的“源頭活水”，其應承擔信息內(nèi)容管理的主體責任，這是第一層、也是最關鍵的責任。

其一，開發(fā)者在設計和訓練模型時，必須將合規(guī)和倫理要求嵌入其中，遵守訓練數(shù)據(jù)合法來源、不侵犯知識產(chǎn)權等規(guī)定。

其二，開發(fā)者有義務建立健全風險評估、安全技術措施和應急處置制度，包括對模型進行“紅隊測試”，主動發(fā)現(xiàn)和修復可能被用于生成違法內(nèi)容的漏洞；提供便捷的投訴舉報入口；對生成內(nèi)容進行必要的監(jiān)測和過濾。

其三，當監(jiān)管部門介入調查時，提供者應依法配合，對訓練數(shù)據(jù)來源、算法機制等進行說明，提供技術和數(shù)據(jù)支持。

2. 內(nèi)容傳播平臺（網(wǎng)絡服務提供者）的連帶責任

內(nèi)容傳播平臺（如社交媒體、視頻網(wǎng)站）是虛假信息擴散的“放大器”，其應承擔“通知-刪除”義務和平臺管理責任，這是第二層責任。

盡管事前審核難度極大，但對于明確存在高風險的AIGC內(nèi)容，平臺應具備一定的事前識別能力。

依據(jù)《民法典》及相關法規(guī)，當權利人通知平臺存在侵權內(nèi)容時，平臺必須及時采取刪除、屏蔽、斷開鏈接等必要措施。如果平臺“明知或應知”侵權而未采取措施，則應承擔連帶責任。

同時，平臺應建立健全網(wǎng)絡信息內(nèi)容生態(tài)治理機制，尤其是針對網(wǎng)絡謠言、低俗信息等，進行實時巡查和高效處置。

當前部分平臺雖已探索AI內(nèi)容檢測技術，但仍存在檢測不精準、響應不及時等問題，未來需加大技術投入，建立“早發(fā)現(xiàn)、早攔截、早處置”的快速響應機制。

例如“美亞鑒真平臺”只能支持抖音、快手、小紅書的視頻鑒真，說明還有更廣大的視頻平臺沒有與類似美亞柏科的網(wǎng)絡安全平臺合作，存在較大的安全隱患。

3. 內(nèi)容生成者（用戶）的直接責任

內(nèi)容生成者（即實際利用AIGC工具制造虛假內(nèi)容的用戶）是侵權行為的直接實施者，必須承擔最主要的直接法律責任，這是第三層責任。

無論是侵害他人的名譽權、肖像權還是知識產(chǎn)權，用戶都應根據(jù)《民法典》承擔停止侵害、消除影響、賠禮道歉、賠償損失等民事責任。

重慶網(wǎng)民何某利用AI合成災情視頻博取關注被行政處罰、山西網(wǎng)民編造懸空寺坍塌虛假視頻遭追責等案例，均彰顯了法律對AI造謠行為的零容忍。若AIGC內(nèi)容構成散布謠言、擾亂公共秩序，甚至是以營利為目的的傳播淫穢物品，則可能觸犯《治安管理處罰法》甚至《刑法》。

值得注意的是，用戶若故意規(guī)避平臺規(guī)則，使用非法技術繞過內(nèi)容過濾，還可能面臨懲罰性賠償，這一規(guī)定將有效遏制惡意濫用行為。

四、全球協(xié)作：應對跨國界的數(shù)字挑戰(zhàn)

AIGC技術和虛假信息傳播不分國界，任何單一國家或地區(qū)都無法獨立解決這一問題。國際社會應推動在AIGC治理領域的國際交流與合作，在數(shù)字水印、內(nèi)容溯源、安全標準、倫理準則等方面達成國際互操作性的共識。

聯(lián)合國、NIST（美國國家標準與技術研究院）等國際組織和機構正在推動內(nèi)容認證和來源識別機制的建立，我國發(fā)布的《標識辦法》和《標識標準》也為國際標準編制提供了重要借鑒，展現(xiàn)了AIGC安全治理的“中國范式”。

通過制定一套全球通用的“數(shù)字內(nèi)容認證標準”，才能在信息跨境流動時，依然能夠對虛假內(nèi)容進行有效識別和追溯，形成全球協(xié)同治理合力。

結語：在創(chuàng)新與安全之間尋求平衡

AI生成視頻、圖片所帶來的“無中生有”的風險，是對社會信任、企業(yè)聲譽乃至個人權利的嚴峻挑戰(zhàn)。

我們必須認識到，這不是要“阻止”技術創(chuàng)新，而是在“促進發(fā)展”與“規(guī)范治理”之間尋求一個動態(tài)平衡。

防治AIGC濫用是一項系統(tǒng)工程，其核心在于：技術上，利用數(shù)字水印和反深度偽造技術，筑牢數(shù)字防御的基石；法律上，構建清晰的負面清單和侵權追責機制，劃定行為的紅線；責任上，確立“提供者—平臺—用戶”三位一體的責任體系，讓每一個環(huán)節(jié)都承擔起相應的合規(guī)和法律義務。

只有構建“技術可防、法律可依、責任可溯”的綜合治理框架，我們才能最大程度地發(fā)揮AIGC的積極價值，將“數(shù)字迷霧”中的虛假之影驅散，確保技術真正服務于人類福祉。

作者：張棟偉（資深互聯(lián)網(wǎng)專家、市場營銷專家、大學生就業(yè)創(chuàng)業(yè)導師）