圖片來(lái)源：《新聞女王2》

出品｜搜狐科技

作者｜張瑩 常博碩

編輯｜楊 錦

最近熱播的《新聞女王2》中有這樣一個(gè)情節(jié)：SNK電視臺(tái)未經(jīng)允許，使用離職的文慧心和已故主播梁景仁的形象，制作AI虛擬主播進(jìn)行新聞播報(bào)。

而幾乎與劇集同步，現(xiàn)實(shí)中也上演了相似一幕。演員溫崢嶸發(fā)現(xiàn)自己的形象被AI換臉后出現(xiàn)在多個(gè)帶貨直播間中。她本人進(jìn)入直播間質(zhì)問(wèn)“你是溫崢嶸我是誰(shuí)？”，反被對(duì)方直接拉黑。

AI仿冒行為肆虐，你在直播間看到的董宇輝等名人，很可能不是本人，而是通過(guò)AI技術(shù)仿冒的冒牌貨。早在三個(gè)月前，就有媒體報(bào)道揭露，有人利用AI模仿奧運(yùn)冠軍全紅嬋的聲音，帶貨銷(xiāo)售土雞蛋。

面對(duì)這一亂象，抖音集團(tuán)副總裁李亮回應(yīng)稱(chēng)，“AI內(nèi)容侵權(quán)識(shí)別是行業(yè)性技術(shù)難題，惡意仿冒賬號(hào)也在不斷與平臺(tái)進(jìn)行技術(shù)對(duì)抗，抖音會(huì)持續(xù)加大投入應(yīng)對(duì)挑戰(zhàn)。”

抖音一直以算法精湛著稱(chēng)，為什么也會(huì)對(duì)識(shí)別AI換臉感到為難呢？

有資深算法從業(yè)者對(duì)搜狐科技解釋了AI換臉的檢測(cè)原理：即便圖像在人眼看來(lái)毫無(wú)破綻，一旦通過(guò)頻率變換等技術(shù)手段進(jìn)行分析，被篡改的區(qū)域在特定維度上會(huì)呈現(xiàn)異常的數(shù)值尖刺，與真實(shí)圖像特征存在明顯差異。

他也強(qiáng)調(diào)，對(duì)于抖音直播這類(lèi)大規(guī)模應(yīng)用，如果不惜成本，也可以有效防范AI換臉，比如為每個(gè)直播間配置頂級(jí)硬件檢測(cè)或最先進(jìn)的防護(hù)模型，但成本會(huì)是天文數(shù)字。

清華大學(xué)人工智能?chē)?guó)際治理研究院副院長(zhǎng)梁正教授對(duì)搜狐科技指出，目前治理的難點(diǎn)在于查處的“及時(shí)性”。“平臺(tái)需要有一些投入，能夠去及時(shí)識(shí)別（AI盜用形象直播）。我們頒布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，平臺(tái)也有義務(wù)去監(jiān)管?！?/p>

梁正進(jìn)一步強(qiáng)調(diào)，比“仿冒形象”更嚴(yán)峻的挑戰(zhàn)是完全虛擬的“數(shù)字人”?！八赡軕{空捏造一個(gè)‘科學(xué)家’或‘醫(yī)生’等根本不存在的身份，直接構(gòu)成對(duì)公眾的欺騙。在這種情況下，強(qiáng)制性的‘人工智能生成內(nèi)容標(biāo)識(shí)’就成為最重要的底線(xiàn)，必須明確告知公眾‘這不是真人’。”

AI盜播，攔不住還是不想攔？

明明正在刷著手機(jī)，卻看到和自己長(zhǎng)得一模一樣的人正在屏幕對(duì)面直播帶貨。演員溫崢嶸經(jīng)歷這一幕后，在直播間敲下一行質(zhì)問(wèn)：“你是溫崢嶸我是誰(shuí)？”隨后被拉黑。

溫崢嶸在直播間講述這場(chǎng)荒誕對(duì)峙后，AI盜播引發(fā)廣泛關(guān)注。

溫崢嶸的遭遇并非個(gè)例。以抖音為例，數(shù)據(jù)顯示，抖音電商10月啟動(dòng)“仿冒名人宣傳”專(zhuān)項(xiàng)治理行動(dòng)以來(lái)，處置涉及侵權(quán)仿冒違規(guī)的達(dá)人賬號(hào)多達(dá)1.1萬(wàn)個(gè)，其中典型的違規(guī)案例就包括AI仿冒侵權(quán)。

抖音集團(tuán)副總裁李亮表示，AI內(nèi)容侵權(quán)識(shí)別是行業(yè)性技術(shù)難題，惡意仿冒賬號(hào)也在不斷與平臺(tái)進(jìn)行技術(shù)對(duì)抗，抖音會(huì)持續(xù)加大投入應(yīng)對(duì)挑戰(zhàn)，維護(hù)創(chuàng)作者、商家和消費(fèi)者的合法權(quán)益。

對(duì)于AI換臉的技術(shù)原理，新加坡科技研究局科學(xué)家李韶華對(duì)搜狐科技介紹，“簡(jiǎn)單來(lái)說(shuō)就是人臉或者任何物體都對(duì)應(yīng)了特征空間里的一個(gè)向量，比如我用我的臉?shù)浟艘欢我曨l，然后我把視頻映射到特征空間，我的臉的向量是a，黃渤的向量是b，那在特征空間里找到a，替換成b 然后再?gòu)奶匦钥臻g映射回視頻，就生成了黃渤臉的視頻?！?/p>

隨著AI技術(shù)的發(fā)展，AI換臉變得觸手可及，李韶華稱(chēng)，“開(kāi)源模型+小型GPU就可以做到了”。

有頭部企業(yè)算法資深從業(yè)人士向搜狐科技介紹，檢測(cè)AI換臉或者P圖的原理在于，即便圖像在人眼看來(lái)毫無(wú)破綻，但一旦通過(guò)技術(shù)手段，比如頻率變換對(duì)其進(jìn)行分析，被篡改的區(qū)域在特定維度上會(huì)呈現(xiàn)出異常的數(shù)值尖刺，與真實(shí)圖像的特征截然不同。

而數(shù)字安全的難點(diǎn)，本質(zhì)上是一場(chǎng)成本博弈。該人士介紹，理論上，只要將防御成本提得足夠高，安全護(hù)欄就很難被攻破。

“例如，我們手機(jī)的身份認(rèn)證系統(tǒng)會(huì)使用多種光線(xiàn)，如紅光、紫光進(jìn)行閃爍檢測(cè)。因?yàn)闊o(wú)論假人皮膚的仿真度多高，在復(fù)雜光線(xiàn)下的反應(yīng)與真實(shí)人臉還是不一樣的?！?/p>

該人士表示，對(duì)于抖音直播這類(lèi)大規(guī)模應(yīng)用，如果不惜成本，也可以有效防范AI換臉，比如為每個(gè)直播間配置頂級(jí)硬件檢測(cè)或最先進(jìn)的防護(hù)模型。但現(xiàn)實(shí)在于，平臺(tái)用戶(hù)體量過(guò)于龐大，要實(shí)現(xiàn)這種級(jí)別的、無(wú)死角的安全覆蓋，成本太高了。因此，平臺(tái)必須在安全投入與風(fēng)險(xiǎn)控制之間做出權(quán)衡，這就留下了被攻破的風(fēng)險(xiǎn)。

“不存在”的“專(zhuān)家”，比盜臉更危險(xiǎn)

針對(duì)近日引發(fā)關(guān)注的“AI換臉”盜播事件，專(zhuān)家學(xué)者指出，該行為在法律上定性明確。

清華大學(xué)人工智能?chē)?guó)際治理研究院副院長(zhǎng)梁正教授明確指出：“盜用公眾人物形象進(jìn)行‘AI換臉’直播，主要侵犯了肖像權(quán)，甚至名譽(yù)權(quán)，這里不存在所謂的法律模糊地帶?！?/p>

北京安晴佳翔律師事務(wù)所執(zhí)行主任宋佳律師進(jìn)一步分析，此類(lèi)行為中，內(nèi)容制作者與商家是直接侵權(quán)方，如果其行為不僅限于侵權(quán)，還虛構(gòu)事實(shí)、隱瞞真相，以非法占有為目的，騙取消費(fèi)者數(shù)額較大的財(cái)物，則可能構(gòu)成詐騙罪。

宋佳還指出，平臺(tái)在收到侵權(quán)通知后，有義務(wù)立即采取必要措施。當(dāng)侵權(quán)事實(shí)已像本次事件一樣成為公眾話(huà)題，或仿冒賬號(hào)形成相當(dāng)規(guī)模時(shí)，平臺(tái)可能被認(rèn)定為“應(yīng)當(dāng)知道”侵權(quán)存在。若此時(shí)仍未主動(dòng)排查處理，則可能需要承擔(dān)連帶責(zé)任。

盡管有法可依，但治理的難點(diǎn)在于查處的“及時(shí)性”。

梁正教授表示，“平臺(tái)需要有一些投入，去及時(shí)識(shí)別（AI盜用形象直播）。我們頒布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，平臺(tái)也有義務(wù)去監(jiān)管?！卑凑諛?biāo)識(shí)辦法，面向公眾和消費(fèi)者提供相關(guān)商品信息和服務(wù)時(shí)，AI生成的文字、圖片、視頻等內(nèi)容，都要添加標(biāo)識(shí)以明確其來(lái)源。

而對(duì)于短時(shí)間內(nèi)，平臺(tái)還沒(méi)有注意到，侵權(quán)行為就已經(jīng)發(fā)生的，則需要進(jìn)行事后追責(zé)。梁正教授強(qiáng)調(diào)，需要對(duì)可追溯的侵權(quán)主體施以經(jīng)濟(jì)罰款和賬號(hào)封禁等嚴(yán)厲懲罰，提高其違法成本。

“如果這類(lèi)問(wèn)題屢禁不止，我們需要判斷，這究竟是平臺(tái)未盡到應(yīng)有的‘注意義務(wù)’，還是其在技術(shù)識(shí)別上的投入不足？”

梁正教授特別指出，比“仿冒形象”更嚴(yán)峻的挑戰(zhàn)是完全虛擬的“數(shù)字人”?！八赡軕{空捏造一個(gè)‘科學(xué)家’或‘醫(yī)生’等根本不存在的身份，直接構(gòu)成對(duì)公眾的欺騙?！?/p>

他表示，“在這種情況下，強(qiáng)制性的‘人工智能生成內(nèi)容標(biāo)識(shí)’就成為最重要的底線(xiàn)。必須明確告知公眾‘這不是真人’。”

梁正分析道，一方面，真人主播需要對(duì)直播內(nèi)容的真實(shí)性負(fù)責(zé)，而數(shù)字人無(wú)法負(fù)責(zé)。但另一方面，數(shù)字人可以24小時(shí)直播，相比真人主播成本更低。他表示，面對(duì)虛擬主播帶來(lái)的監(jiān)管盲區(qū)，不能對(duì)技術(shù)簡(jiǎn)單否定，但核心原則是：“只要內(nèi)容不是真實(shí)的，就必須進(jìn)行顯著標(biāo)識(shí)。這既是對(duì)公眾負(fù)責(zé)，也是平臺(tái)必須履行的監(jiān)管責(zé)任。”

運(yùn)營(yíng)編輯 |曹倩審核｜孟莎莎