編者按

探查消費(fèi)領(lǐng)域的真問題，揭示假象背后的真相！

作為市場(chǎng)監(jiān)管總局“跑口記者”，我們直通部委，第一時(shí)間傳遞監(jiān)管新政。作為深耕消費(fèi)領(lǐng)域的媒體人，我們聚焦公眾反映強(qiáng)烈的問題，維護(hù)消費(fèi)者合法權(quán)益。

本期“市場(chǎng)真探”，聚焦AI數(shù)字人直播亂象，究竟誰要為此擔(dān)責(zé)？

近期，多位全國(guó)人大代表與法律專家將目光聚焦于AI數(shù)字人直播亂象——從演員王勁松、溫崢嶸等，到奧運(yùn)冠軍全紅嬋，再到北京協(xié)和醫(yī)院多名專家，他們的形象被AI技術(shù)“復(fù)制”后活躍在各類帶貨直播間，不僅侵害當(dāng)事人合法權(quán)益，更在誤導(dǎo)消費(fèi)者的同時(shí)觸犯多部法律紅線。

AI數(shù)字人

仿冒誰？

全紅嬋、孫穎莎都是受害者

“太可怕了，聲音、口型完全看不出來真假！”2026年2月，演員王勁松在微博發(fā)布的一則辟謠聲明，揭開了AI數(shù)字人仿冒公眾人物直播的冰山一角：其形象被不法分子利用AI技術(shù)合成，出現(xiàn)在理財(cái)廣告中進(jìn)行虛假宣傳。

△今年2月，演員王勁松發(fā)文稱自己被AI盜取形象宣傳理財(cái)產(chǎn)品。微博截圖

記者調(diào)查發(fā)現(xiàn)，王勁松的遭遇并非個(gè)例。

此前，網(wǎng)友發(fā)現(xiàn)演員溫崢嶸同時(shí)現(xiàn)身多個(gè)直播間帶貨不同產(chǎn)品，實(shí)則均為AI合成仿冒，溫崢嶸親自質(zhì)問卻被秒拉黑，她直言“很難證明我是我”。

此外，奧運(yùn)冠軍全紅嬋、孫穎莎、王楚欽也曾被AI合成相應(yīng)形象、聲音，配上畫面用于帶貨土雞蛋、蜂蜜等產(chǎn)品。

除了娛樂明星和體育健兒，“權(quán)威專家”也成為AI仿冒的重災(zāi)區(qū)。北京協(xié)和醫(yī)院透露，不少知名專家被AI換臉，用于“養(yǎng)生”“瘦身”等虛假宣傳，甚至還有不法商家利用AI生成假醫(yī)生，打著北京協(xié)和醫(yī)院的旗號(hào)，銷售各類商品，誤導(dǎo)消費(fèi)者，醫(yī)院、醫(yī)生深受其害。

△北京協(xié)和醫(yī)院的知名專家被AI換臉用于宣傳帶貨。圖片來源：央視新聞

全國(guó)人大代表、中國(guó)工程院院士張伯禮向媒體透露，自己也曾遭遇AI技術(shù)濫用的侵害：網(wǎng)絡(luò)上出現(xiàn)大量利用其形象和聲音合成的虛假帶貨視頻，誤導(dǎo)消費(fèi)者。

近期各大社交平臺(tái)的專項(xiàng)治理行動(dòng)中，披露的相關(guān)數(shù)據(jù)更觸目驚心：微信平臺(tái)累計(jì)處置AI仿冒名人違規(guī)內(nèi)容1.3萬余條，封禁賬號(hào)1200余個(gè)；抖音電商在打擊“侵權(quán)仿冒”專項(xiàng)行動(dòng)中，處置仿冒李亞鵬等名人的侵權(quán)內(nèi)容16.5萬條，處置侵權(quán)仿冒達(dá)人賬號(hào)1.1萬個(gè)。

誰在制作

AI數(shù)字人？

電商平臺(tái)存在“制作商”

記者在某電商平臺(tái)搜索“AI數(shù)字人視頻”，多家店鋪均表示可制作演員換口型視頻，一分鐘視頻報(bào)價(jià)在200—600元之間，還有商家直接發(fā)來明星換口型的祝福視頻案例。

△淘寶上有商家表示可制作演員換口型的帶貨視頻。網(wǎng)絡(luò)截圖

當(dāng)問及使用何種技術(shù)時(shí)，有商家表示使用的是AI數(shù)字人生成技術(shù)，結(jié)合自然語言處理和三維建模，讓角色更自然。

調(diào)查中，記者注意到也有商家明確表示，不做代言類視頻，因?yàn)椤帮L(fēng)險(xiǎn)大”、涉及肖像權(quán)問題。

除電商平臺(tái)購(gòu)買的渠道外，記者發(fā)現(xiàn)，市面上有多款軟件均可自行生成AI數(shù)字人，如剪映、即夢(mèng)AI、可靈AI等。

AI數(shù)字人

直播亂象

為何頻發(fā)？

中國(guó)法學(xué)會(huì)消費(fèi)者權(quán)益保護(hù)法研究會(huì)副秘書長(zhǎng)陳音江在接受記者采訪時(shí)表示，AI技術(shù)發(fā)展迅猛，各種應(yīng)用場(chǎng)景井噴增加。商家支付極低費(fèi)用就能一鍵生成AI數(shù)字人主播，使得技術(shù)的使用門檻急劇降低。

他分析，對(duì)商家而言，AI數(shù)字人主播不但成本極低，而且能同時(shí)覆蓋多個(gè)直播間實(shí)現(xiàn)24小時(shí)直播，從而帶來流量和訂單的增加。部分不良商家更利用AI數(shù)字人的“匿名性”，或利用AI換臉仿冒名人銷售劣假冒偽劣產(chǎn)品，然后注銷賬號(hào)金蟬脫殼。

同時(shí)，相關(guān)法規(guī)與監(jiān)管相對(duì)滯后。雖然我國(guó)已先后出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》和《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，但目前還處于實(shí)施探索階段，相關(guān)責(zé)任劃分與追責(zé)機(jī)制仍然不夠明確具體。再加上AI技術(shù)運(yùn)用具有隱蔽性和迷惑性等特點(diǎn)，往往面臨發(fā)現(xiàn)難、取證難、查處難的困境，客觀上增加了監(jiān)管難度。

此外，部分平臺(tái)未能建立健全AI內(nèi)容審核機(jī)制，未嚴(yán)格落實(shí)AI內(nèi)容標(biāo)識(shí)制度，對(duì)平臺(tái)內(nèi)的中小型商家管理不嚴(yán)等，也導(dǎo)致AI技術(shù)濫用現(xiàn)象未被及時(shí)遏制。處于信息鏈末端的消費(fèi)者，對(duì)AI技術(shù)的認(rèn)知有限，鑒別手段不足，風(fēng)險(xiǎn)防范意識(shí)較低。即便權(quán)益受損，往往因維權(quán)過程復(fù)雜、維權(quán)成本高而選擇放棄，客觀上縱容了商家的不法行為。

AI數(shù)字人

直播亂象

帶來哪些危害？

“隨著AI數(shù)字人制作和運(yùn)營(yíng)門檻降低，其在直播領(lǐng)域的濫用和違規(guī)現(xiàn)象日益增多，暴露出身份虛假、內(nèi)容失范、權(quán)益糾紛、監(jiān)管滯后等突出問題�！比珖�(guó)人大代表鐘錚在接受記者采訪時(shí)表示，這些問題若不及時(shí)治理，將擾亂市場(chǎng)秩序，損害用戶權(quán)益，影響人工智能技術(shù)的社會(huì)信任與應(yīng)用前景。

記者注意到，2025年10月，北京市場(chǎng)監(jiān)管部門查處了首例利用AI技術(shù)進(jìn)行虛假?gòu)V告宣傳的案件。該案中，某公司利用AI技術(shù)冒用央視知名主持人李梓萌的形象，在直播帶貨一款魚油產(chǎn)品，宣稱“可以解決頭暈頭痛、手麻腳麻、四肢乏力”等醫(yī)療功效，最終因虛假宣傳受到行政處罰。

2025年12月，北京市消協(xié)3000余份有效調(diào)查問卷顯示，近三成消費(fèi)者擔(dān)憂AI數(shù)字人直播“可能誤導(dǎo)消費(fèi)決策”。而不少中老年消費(fèi)者因?qū)W(wǎng)絡(luò)技術(shù)不熟悉，成為AI仿冒直播的主要受害群體，輕則遭遇商品貨不對(duì)板，重則陷入理財(cái)、保健品詐騙陷阱，蒙受重大經(jīng)濟(jì)損失。

AI數(shù)字人

直播亂象

觸碰哪些法律紅線？

面對(duì)AI數(shù)字人直播的各類違規(guī)行為，陳音江明確表示，已觸碰多部法律紅線。

在民事法律層面，未經(jīng)本人同意利用AI技術(shù)合成并使用他人肖像、聲音進(jìn)行直播的行為，直接違反《民法典》相關(guān)規(guī)定，侵犯了被仿冒者的肖像權(quán)、聲音權(quán)等人格權(quán)。

對(duì)消費(fèi)者而言，直播間使用AI數(shù)字人卻未作標(biāo)注，本質(zhì)上是隱瞞真實(shí)情況，侵犯了消費(fèi)者的知情權(quán)。若借助AI數(shù)字人仿冒名人專家進(jìn)行商品推薦，營(yíng)造虛假信任感，則構(gòu)成虛假宣傳，違反《消費(fèi)者權(quán)益保護(hù)法》《反不正當(dāng)競(jìng)爭(zhēng)法》。

記者調(diào)查發(fā)現(xiàn)，美團(tuán)、淘寶等電商平臺(tái)的多家直播間疑似使用AI數(shù)字人主播形象——語速始終保持不變、動(dòng)作較為僵硬，但均未進(jìn)行任何標(biāo)識(shí)。當(dāng)記者在評(píng)論區(qū)詢問是否為AI主播，有商家還回復(fù)“我可是一個(gè)熱愛與大家互動(dòng)的真實(shí)主播”。

△記者調(diào)查發(fā)現(xiàn)，美團(tuán)、淘寶等電商平臺(tái)的多個(gè)直播間疑似使用AI數(shù)字人主播。網(wǎng)絡(luò)截圖

“若主觀上具有欺騙故意，客觀上用虛假信息誤導(dǎo)消費(fèi)者，該行為已構(gòu)成欺詐�！标愐艚瓘�(qiáng)調(diào)，相較于普通的未標(biāo)注行為，故意仿冒名人專家的直播欺詐行為，消費(fèi)者可依據(jù)《消費(fèi)者權(quán)益保護(hù)法》主張“退一賠三”的懲罰性賠償。而對(duì)于夸大商品功效、宣傳醫(yī)療作用的行為，若符合虛假?gòu)V告特征，還可適用《廣告法》進(jìn)行規(guī)制，市場(chǎng)監(jiān)管部門可對(duì)相關(guān)商家作出行政處罰。

AI數(shù)字人

直播亂象

誰該擔(dān)責(zé)？

AI數(shù)字人直播亂象，誰該擔(dān)責(zé)？記者注意到，在責(zé)任主體劃分上，今年2月1日正式施行的《直播電商監(jiān)督管理辦法》給出了明確依據(jù)。陳音江指出，直播間運(yùn)營(yíng)者是AI數(shù)字人違規(guī)直播的首要責(zé)任主體。

上述辦法第37條明確指出，在直播電商活動(dòng)中使用人工智能等技術(shù)生成的人物圖像、視頻，存在違反法律、法規(guī)、規(guī)章規(guī)定情形的，由管理或者使用該人物圖像、視頻的直播間運(yùn)營(yíng)者依法承擔(dān)責(zé)任。

陳音江指出，平臺(tái)也負(fù)有不可推卸的監(jiān)管責(zé)任，需加大對(duì)直播行為的監(jiān)測(cè)力度，對(duì)未標(biāo)注AI數(shù)字人、仿冒公眾人物的行為及時(shí)采取限流、下架等措施。若放任違規(guī)行為發(fā)生，平臺(tái)需承擔(dān)相應(yīng)的連帶責(zé)任。AI技術(shù)提供方若明知運(yùn)營(yíng)者存在違法意圖仍提供技術(shù)支持，也需承擔(dān)共同責(zé)任。

AI數(shù)字人

直播亂象

如何治理？

AI數(shù)字人直播的亂象治理，既是技術(shù)問題，也是法律問題和監(jiān)管問題。

在立法層面，全國(guó)人大代表鐘錚建議加快推進(jìn)人工智能法等相關(guān)立法進(jìn)程，設(shè)立AI數(shù)字人直播專項(xiàng)管理?xiàng)l款，推行數(shù)字人注冊(cè)備案制度，做到“數(shù)字形象可標(biāo)識(shí)、責(zé)任主體可追溯”。同時(shí)修訂《消費(fèi)者權(quán)益保護(hù)法》《廣告法》等法律法規(guī)，明確將數(shù)字人直播納入監(jiān)管范疇，完善知識(shí)產(chǎn)權(quán)與人格權(quán)相關(guān)規(guī)定，明確AI數(shù)字人制作中真人肖像、聲音的授權(quán)使用邊界，加大對(duì)無授權(quán)使用行為的處罰力度。

陳音江提出，應(yīng)在立法層面應(yīng)完善相關(guān)監(jiān)管制度，針對(duì)AI數(shù)字人直播的特殊性設(shè)立“舉證責(zé)任倒置”規(guī)則，由商家舉證證明直播形象并非AI數(shù)字人生成，而非由消費(fèi)者承擔(dān)舉證責(zé)任。

技術(shù)賦能是規(guī)范AI數(shù)字人直播的關(guān)鍵抓手。鐘錚呼吁加大AI內(nèi)容安全技術(shù)研發(fā)投入，重點(diǎn)突破實(shí)時(shí)多模態(tài)內(nèi)容識(shí)別與風(fēng)險(xiǎn)預(yù)警能力，建立“實(shí)時(shí)AI監(jiān)測(cè)+人工即時(shí)復(fù)核+輿情應(yīng)急響應(yīng)”一體化審核機(jī)制，對(duì)重點(diǎn)領(lǐng)域、高峰時(shí)段直播加強(qiáng)巡查。

記者注意到，這一建議已得到部分實(shí)踐落地。去年12月，北京市消協(xié)聯(lián)合京東、抖音、微信直播等8家電商平臺(tái)簽訂《促進(jìn)AI技術(shù)規(guī)范應(yīng)用承諾書》，要求平臺(tái)建立技術(shù)監(jiān)測(cè)體系，對(duì)未標(biāo)注的AI數(shù)字人直播及時(shí)添加提示標(biāo)識(shí)，對(duì)違規(guī)行為采取屏蔽鏈接等措施。

在監(jiān)管方面，陳音江建議建立信用監(jiān)管體系和黑名單制度，實(shí)現(xiàn)全網(wǎng)信息共享，對(duì)違規(guī)主體采取限流、封禁等聯(lián)合懲戒措施，提高其違法成本。此外，行業(yè)協(xié)會(huì)及消協(xié)組織應(yīng)加強(qiáng)行業(yè)自律，開展經(jīng)營(yíng)者合規(guī)培訓(xùn)，引導(dǎo)行業(yè)規(guī)范發(fā)展。

張伯禮建議強(qiáng)化全流程追溯與追責(zé)能力，全面推行人工智能生成內(nèi)容標(biāo)識(shí)制度，標(biāo)注生成來源、時(shí)間及版權(quán)歸屬，確保生成可識(shí)別、侵權(quán)可追蹤。盡快出臺(tái)人工智能侵權(quán)的認(rèn)定標(biāo)準(zhǔn)和賠償細(xì)則。建立侵權(quán)快速響應(yīng)機(jī)制，形成社會(huì)共治合力。

封面新聞?dòng)浾?戴云