（記者　陳錦鋒）隨著多模態(tài)AI、大模型與AIGC技術(shù)的深度融合，數(shù)字人產(chǎn)業(yè)正從“展示型”向“功能執(zhí)行型”跨越。然而，技術(shù)狂飆的另一面，是數(shù)字人被濫用為傳播虛假信息的工具。據(jù)中新社報道，近日，市場監(jiān)管總局與國家網(wǎng)信辦聯(lián)合印發(fā)《直播電商監(jiān)督管理辦法》，首次將數(shù)字人主播納入政策監(jiān)管，明確要求AI生成內(nèi)容需標(biāo)識并持續(xù)提示消費(fèi)者。這一舉措標(biāo)志著我國以“AI治AI”構(gòu)建溯源防線的監(jiān)管邏輯正式落地。

技術(shù)狂飆：數(shù)字人產(chǎn)業(yè)，從概念到規(guī)?；涞?/strong>

（圖片來源：攝圖網(wǎng)）

數(shù)字人產(chǎn)業(yè)的爆發(fā)式增長，源于技術(shù)融合帶來的質(zhì)變。多模態(tài)AI技術(shù)讓數(shù)字人具備實(shí)時交互能力，大模型賦予其邏輯推理與情感識別能力，AIGC則大幅降低內(nèi)容生成成本。這些突破推動數(shù)字人從“靜態(tài)展示”向“動態(tài)服務(wù)”轉(zhuǎn)型——它們不僅能24小時直播帶貨，還能化身政務(wù)助手解答政策、化身醫(yī)療顧問輔助診斷。年輕群體成為核心消費(fèi)主力，某美妝品牌通過定制數(shù)字人主播實(shí)現(xiàn)日均銷售額突破50萬元，轉(zhuǎn)化率較真人主播提升18%。技術(shù)普及也帶動產(chǎn)業(yè)鏈完善，從建模、驅(qū)動到運(yùn)營，形成千億級產(chǎn)業(yè)生態(tài)。

風(fēng)險暗涌：虛假信息，成為行業(yè)頑疾

數(shù)字人技術(shù)的低門檻特性，使其成為不法分子傳播虛假信息的“完美工具”。2025年，上海某公司利用AI生成“老專家”形象，通過短視頻虛假宣傳保健食品功效，涉案金額超2000萬元；更有犯罪團(tuán)伙通過換臉技術(shù)偽造“明星帶貨”場景，誘導(dǎo)消費(fèi)者購買三無產(chǎn)品，單案涉案金額破億元。這些案例暴露出數(shù)字人應(yīng)用的兩大風(fēng)險：一是身份偽造，AI可輕易生成以假亂真的虛擬形象；二是大模型可能被惡意提示詞誘導(dǎo)，生成違背倫理或法律的內(nèi)容。

技術(shù)漏洞進(jìn)一步加劇風(fēng)險。2025年曝光的AI數(shù)字人主播被指令攻擊事件中，攻擊者僅通過輸入特定關(guān)鍵詞，即可控制AI主播上架0元商品，導(dǎo)致商家損失慘重。此類事件不僅損害消費(fèi)者權(quán)益，更引發(fā)系統(tǒng)性信任危機(jī)——當(dāng)數(shù)字人可以偽造任何身份時，真實(shí)與虛擬的邊界被徹底模糊，社會對技術(shù)的信任遭到動搖。

監(jiān)管升級：以AI治AI，構(gòu)建溯源防線

面對技術(shù)濫用亂象，監(jiān)管部門提出“以AI治AI”的解決方案，從法律、技術(shù)、平臺三方面構(gòu)建溯源防線。

法律層面，新規(guī)明確數(shù)字人商業(yè)應(yīng)用的合規(guī)邊界。要求平臺對直播間運(yùn)營者、主播服務(wù)機(jī)構(gòu)進(jìn)行資質(zhì)核驗，建立動態(tài)管控機(jī)制；規(guī)定AI生成內(nèi)容必須進(jìn)行顯著標(biāo)識，并持續(xù)提示消費(fèi)者。這一制度設(shè)計既保障了技術(shù)創(chuàng)新空間，又劃定了不可逾越的紅線。

技術(shù)層面，監(jiān)管部門推動平臺應(yīng)用AI檢測工具識別虛假內(nèi)容，通過區(qū)塊鏈技術(shù)實(shí)現(xiàn)商品溯源。例如，騰訊云推出的“數(shù)字人溯源系統(tǒng)”可提取虛擬形象的3D建模參數(shù)與語音合成特征，構(gòu)建唯一數(shù)字指紋，使違規(guī)內(nèi)容溯源時間從72小時縮短至2小時。這種“技術(shù)對技術(shù)”的監(jiān)管模式，有效破解了“技術(shù)黑箱”難題。

平臺層面，頭部企業(yè)已建立數(shù)字人入駐審核機(jī)制?？焓蛛娚掏ㄟ^“信用評價體系”對違規(guī)主體采取限流、暫停直播等措施，并要求其繳納保證金；抖音平臺自2024年下半年處置17萬個錄播直播間，封禁3萬個賬號，清退11家違規(guī)機(jī)構(gòu)。這些實(shí)踐表明，平臺自律是監(jiān)管落地的重要支撐。