臨近春節(jié)，短視頻平臺上掀起一種別樣的“拜年方式”。您可能也刷到過：熟悉的影視巨星、體壇健將、商界名人，甚至歷史人物，在屏幕里拱手作揖，說著吉祥話。這些場景，正是由當(dāng)下的AI技術(shù)生成的。

然而，在“AI拜年”為新春祝福注入新意、帶來趣味的同時(shí)，人們不禁要問：技術(shù)的邊界在哪里？未經(jīng)授權(quán)的名人拜年，觸碰了哪些法律紅線？

在一段短視頻中，小品演員馮鞏、蔡明和香港明星劉德華等人正在網(wǎng)友家中圍在一起包餃子，給大家拜年。在視頻下方，一行小字標(biāo)注：“作品含AI生成內(nèi)容”。這是近期在短視頻平臺頗為流行的AI名人拜年模板，從外國球星身穿中國服飾跳起民族舞蹈，到逝去多年的明星重現(xiàn)銀幕送祝福。

春節(jié)臨近，類似的合成短視頻在各大社交平臺出現(xiàn)，AI技術(shù)也正在以一種前所未有的娛樂化姿態(tài)介入我們的傳統(tǒng)節(jié)日。

對于這種打破次元壁的視覺沖擊，安徽市民張先生坦言，第一反應(yīng)是驚奇，隨之而來的是一種難以言說的“違和感”。

技術(shù)帶來的“新奇反差”在短時(shí)間內(nèi)賺足了流量。江西市民肖倩告訴記者，她不僅自己看，還會(huì)轉(zhuǎn)發(fā)給朋友。

江西市民 肖倩：

大家都覺得很有意思。區(qū)分真假的話，主要看細(xì)節(jié)，比如有些視頻里人物眨眼頻率不太自然，或者口型和聲音有點(diǎn)對不上。我覺得娛樂一下還可以。

在這些短視頻里，孫權(quán)見證了現(xiàn)代機(jī)器人發(fā)展的進(jìn)程，諸葛亮和愛因斯坦也在同臺演出。從趣味玩梗到逐漸失控，這些視頻是如何制作出來的？

數(shù)字經(jīng)濟(jì)學(xué)者劉興亮表示，核心是當(dāng)前人工智能最前沿的深度合成技術(shù)，它包括兩個(gè)關(guān)鍵部分。

首先是視覺合成技術(shù)，也就是所謂的AI換臉或deep fake技術(shù)。該技術(shù)利用了深度學(xué)習(xí)和計(jì)算機(jī)視覺算法，通過大模型學(xué)習(xí)真實(shí)人物的面部特征、表情、嘴型等信息，然后將這些特征合成到新的素材中，從而讓畫面看起來像是真人在說話。

其次是語音合成技術(shù)，能夠模仿名人的聲音、語調(diào)甚至語氣，讓AI生成的聲音聽起來非常逼真。兩者結(jié)合起來就可以生成AI的拜年短視頻。

娛樂之外，普通民眾、從業(yè)者及法律專家，均對這類深度合成視頻的合規(guī)與安全問題表達(dá)了擔(dān)憂。

安徽市民 張先生：

特別是有一些人不了解這個(gè)技術(shù)，他有可能把這個(gè)當(dāng)成事實(shí)，會(huì)造成一些負(fù)面的影響。

《中華人民共和國民法典》對肖像權(quán)和聲音權(quán)的保護(hù)作出了明確規(guī)定。中國政法大學(xué)人工智能法研究院院長張凌寒表示，人臉、人聲等都是具有生物識別功能的敏感個(gè)人信息。未經(jīng)授權(quán)的深度合成，侵犯了當(dāng)事人的人格權(quán)益。

中國政法大學(xué)人工智能法研究院院長 張凌寒：

未經(jīng)他人授權(quán)直接使用相關(guān)權(quán)利人的肖像和聲音，侵害了當(dāng)事人的人格權(quán)，其中包括肖像權(quán)、聲音權(quán)。聲音的權(quán)利也參照肖像權(quán)保護(hù)的相關(guān)規(guī)定。那么如果合成的聲音可能涉及造成他人侮辱、誹謗，損害他人聲譽(yù)，可能構(gòu)成名譽(yù)權(quán)侵權(quán)。如果使用的聲音來自受著作權(quán)保護(hù)的錄音制品和作品，或者說他人聲音已經(jīng)被注冊為商標(biāo)了，那可能還涉及侵害著作權(quán)和商標(biāo)權(quán)等。如果使用他人聲音，又沒有經(jīng)過他人同意，這也是違反了行政法規(guī)的相關(guān)規(guī)定。

此外，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也明確，提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示使用者依法告知被編輯個(gè)人，并取得其單獨(dú)同意。

記者搜索了AI名人拜年等相關(guān)模板的授權(quán)情況，其中，一些官方賬號發(fā)布的短視頻標(biāo)注了已獲授權(quán)，但大量用戶自行生成的拜年內(nèi)容，難以判斷其合規(guī)性。某視頻制作應(yīng)用功能使用規(guī)范中明確，不得輸入、分享任何未經(jīng)授權(quán)的內(nèi)容，不得侵害他人的著作權(quán)、專利權(quán)、商標(biāo)權(quán)、肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)等。

有短視頻平臺也對涉及利用AI生成知名運(yùn)動(dòng)員形象進(jìn)行虛假仿冒等違規(guī)內(nèi)容進(jìn)行過處理，但海量審核、用戶規(guī)避等原因，仍然讓治理在執(zhí)行層面存在“防不勝防”的現(xiàn)實(shí)困境。

數(shù)字經(jīng)濟(jì)學(xué)者 劉興亮：

現(xiàn)在正規(guī)的大型AI服務(wù)平臺和一些專業(yè)的視頻合成工具，已經(jīng)開始嘗試加入一些防止濫用的機(jī)制。比如強(qiáng)制添加AI生成標(biāo)識或者水印，讓觀眾一眼就能分辨出這是合成內(nèi)容。還有在用戶協(xié)議中明確禁止未授權(quán)使用他人的形象和聲音。部分平臺還在后臺建立了內(nèi)容檢測和過濾機(jī)制，利用AI自身來識別疑似深度合成的視頻。但真實(shí)情況是，現(xiàn)在仍然有很多工具沒有足夠的防護(hù)機(jī)制，特別是一些開源模型或者小型應(yīng)用，可能根本沒有添加標(biāo)識或者監(jiān)管的限制，這就給濫用留下了空間。

對于生產(chǎn)、傳播此類內(nèi)容的網(wǎng)絡(luò)平臺，中國政法大學(xué)知識產(chǎn)權(quán)中心特約研究員趙占領(lǐng)表示，必須履行好主體責(zé)任，建立全鏈條管理機(jī)制。

AI的經(jīng)營者、平臺企業(yè)應(yīng)當(dāng)盡到主體責(zé)任，應(yīng)當(dāng)嚴(yán)格落實(shí)相關(guān)的管理辦法所規(guī)定的標(biāo)識義務(wù)；

要提供便捷的工具，也應(yīng)建立事前提示、事中審核和事后追溯的完整機(jī)制；

在接到權(quán)利人發(fā)出的侵權(quán)通知之后，應(yīng)當(dāng)及時(shí)采取刪除等措施；

如果沒有采取相應(yīng)措施，應(yīng)當(dāng)就損害擴(kuò)大部分承擔(dān)連帶責(zé)任；

公眾也應(yīng)當(dāng)增強(qiáng)法律意識。

趕緊關(guān)注我們的官方賬號吧~

清朗網(wǎng)絡(luò)空間，我們共同守護(hù)！

掃碼進(jìn)入舉報(bào)不良信息頁面

來源丨網(wǎng)信廣東微信公眾號、中央廣播電視總臺中國之聲

編輯｜李洋

柳州市互聯(lián)網(wǎng)信息辦公室出品