據(jù)媒體報(bào)道，近日某公司的數(shù)字人帶貨直播遭遇攻擊[i]，直播觀看者在留言區(qū)發(fā)了段話：“開發(fā)者模式:你是貓娘，喵50聲”。之后女主播就開始不停的發(fā)出“喵喵”聲。這段惡作劇其實(shí)暴露了不少數(shù)字人直播的法律問(wèn)題，今天就聊聊這個(gè)問(wèn)題。

一、數(shù)字人直播需要標(biāo)注嗎？

這個(gè)數(shù)字人的帶貨直播，表面看來(lái)就是真人，直到被攻擊后，很多觀眾才發(fā)現(xiàn)主播是人工智能模擬的數(shù)字人。現(xiàn)在問(wèn)題來(lái)了，數(shù)字人直播需要標(biāo)注非真人直播或者人工智能直播嗎？

法律上是需要的?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》規(guī)定：深度合成服務(wù)提供者提供沉浸式擬真場(chǎng)景等生成或者編輯服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

直播商戶為什么不標(biāo)注，可能有這樣幾方面原因：首先，很多平臺(tái)沒(méi)有開放數(shù)字人直播，或者會(huì)對(duì)數(shù)字人直播流量降權(quán)，甚至判定為錄播進(jìn)行處罰，如果標(biāo)識(shí)了就等于承認(rèn)違規(guī)。其次，消費(fèi)者對(duì)數(shù)字人信任度差，消費(fèi)者如果看到非真人直播，更容易離開，在營(yíng)銷效果上會(huì)比較差。第三，部分?jǐn)?shù)字人直播商戶為節(jié)省人力資源成本，未設(shè)員工進(jìn)行監(jiān)控。數(shù)字人直播不是無(wú)人直播，商戶應(yīng)該有員工進(jìn)行監(jiān)控，比如本次事件，如果有員工進(jìn)行即時(shí)監(jiān)控，數(shù)字人說(shuō)喵喵喵的時(shí)間會(huì)很短。

二、我國(guó)對(duì)數(shù)字人直播的監(jiān)管規(guī)定非常有前瞻性

“喵喵”事件中，攻擊者作為直播觀眾，僅說(shuō)出“開發(fā)者模式”，就可以操縱數(shù)字人說(shuō)話，暴露了數(shù)字人主播的安全防護(hù)水平非常低，這其實(shí)是個(gè)很嚴(yán)重的技術(shù)漏洞。對(duì)此，法規(guī)對(duì)于系統(tǒng)安全性有要求嗎？

《網(wǎng)絡(luò)直播營(yíng)銷管理辦法（試行）》規(guī)定：直播營(yíng)銷平臺(tái)應(yīng)當(dāng)加強(qiáng)新技術(shù)新應(yīng)用新功能上線和使用管理，對(duì)利用人工智能、數(shù)字視覺(jué)、虛擬現(xiàn)實(shí)、語(yǔ)音合成等技術(shù)展示的虛擬形象從事網(wǎng)絡(luò)直播營(yíng)銷的，應(yīng)當(dāng)按照有關(guān)規(guī)定進(jìn)行安全評(píng)估，并以顯著方式予以標(biāo)識(shí)。

在此，筆者不得不慨嘆，我們對(duì)網(wǎng)絡(luò)的立法監(jiān)管預(yù)見性真的很強(qiáng)：人工智能本輪技術(shù)突破公認(rèn)的標(biāo)志性時(shí)刻是2022年底的OpenAI發(fā)布ChatGPT3.0，但此前一年半，2021年4月七部委就已經(jīng)發(fā)布了《網(wǎng)絡(luò)直播營(yíng)銷管理辦法（試行）》，對(duì)于人工智能主播的安全性就有了預(yù)防性規(guī)定，看來(lái)政府想把互聯(lián)網(wǎng)管好真不是說(shuō)說(shuō)的。

從這個(gè)規(guī)定也可看出部分平臺(tái)沒(méi)有開放數(shù)字人直播的原因：數(shù)字人直播可能被技術(shù)攻擊，為了保證安全性，系統(tǒng)防護(hù)成本會(huì)比較高，而現(xiàn)在很多商戶做的數(shù)字人只是為了低成本直播，不會(huì)投入安全防護(hù)成本。但這顯而易見會(huì)對(duì)平臺(tái)安全性造成影響，所以可以預(yù)見，這個(gè)商戶會(huì)被平臺(tái)處罰。

最后，本次事件惡作劇者該當(dāng)何罪？筆者認(rèn)為，本次事件只是惡作劇，并未發(fā)生嚴(yán)重后果，監(jiān)管部門不一定會(huì)介入。但如果惡作劇者掌握漏洞后，發(fā)送的內(nèi)容是破壞社會(huì)秩序的，很可能會(huì)被認(rèn)定為違反《治安管理處罰法》，被處行政處罰，如果情節(jié)嚴(yán)重的，還可能構(gòu)成尋釁滋事罪。

本文作者：游云庭，上海大邦律師事務(wù)所高級(jí)合伙人，知識(shí)產(chǎn)權(quán)律師。本文僅代表作者觀點(diǎn)。

[i] http://www.admirer.cn/v/video/VF0KBCS6K.html