本文系作者參加九派新聞「九派圓桌」直播《AI 生成內(nèi)容必須亮身份，如何阻斷虛假信息傳播？》議題討論上的發(fā)言整理而成。

來(lái)源：九派新聞

文 | 劉興亮

微信編輯：魏國(guó)峻

審核：林夕合

【1】《辦法》要解決的三個(gè)問(wèn)題：哪些是AI生成的？是誰(shuí)生成的？從哪里生成的？

從今年9月1日起，我們每次與AI的互動(dòng)都將多出一個(gè)清晰的數(shù)字印記——由國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》已正式實(shí)施，這標(biāo)志著我國(guó)對(duì)AI生成內(nèi)容的治理進(jìn)入了「強(qiáng)標(biāo)識(shí)」時(shí)代。

現(xiàn)在AI生成的內(nèi)容，早已不局限于文本，還能生成圖片、音樂(lè)、聲音、視頻，很多時(shí)候足以以假亂真。這次出臺(tái)的辦法，正是源于現(xiàn)實(shí)中的諸多問(wèn)題。

就拿我自己來(lái)說(shuō)，我有一個(gè)用了快四年的數(shù)字人。曾經(jīng)，有一家機(jī)構(gòu)為了推廣自家數(shù)字人業(yè)務(wù)，在未經(jīng)我授權(quán)的情況下，從網(wǎng)上找了我的聲音、視頻素材，生成了一個(gè)「我」的數(shù)字人用于推廣。我找過(guò)去交涉，對(duì)方還很詫異，說(shuō)網(wǎng)上公開(kāi)的素材，他們也沒(méi)惡意，怎么就不能用？可即便沒(méi)有惡意，也得經(jīng)過(guò)本人授權(quán)吧？最后反倒顯得我「事多」，其實(shí)對(duì)方確實(shí)沒(méi)多大惡意，只是想推廣技術(shù)，但未經(jīng)授權(quán)的使用本身就不合規(guī)。

還有兩個(gè)真實(shí)案例更值得關(guān)注。一次我參加某電視臺(tái)節(jié)目時(shí)，他們給我看了個(gè)案例：一對(duì)大學(xué)生情侶吵架分手后，男生生氣之下用女生的圖像和聲音生成了很多視頻，在同學(xué)群里用女生的口吻說(shuō)她壞話，這已經(jīng)涉及民事侵權(quán)了。另外，某著名高校的一位教授，還被AI合成的「朋友」視頻騙走了400萬(wàn)，對(duì)方的聲音、視頻都是假的，卻騙走了真金白銀。

我自己的數(shù)字人已經(jīng)迭代到4.0版本，每一次迭代都更逼真。一開(kāi)始我還會(huì)主動(dòng)標(biāo)注「本視頻由數(shù)字人出鏡」，可后來(lái)沒(méi)再過(guò)多標(biāo)注，結(jié)果粉絲經(jīng)常留言困惑：「這是真人錄的還是數(shù)字人生成的？」有時(shí)我發(fā)真人錄制的視頻，他們反而會(huì)問(wèn)「表情怎么這么假，是不是數(shù)字人？」其實(shí)用戶有權(quán)知道內(nèi)容是AI生成、真人出鏡，還是手工打造的，也有權(quán)知道生成者是誰(shuí)、來(lái)源在哪。這次《辦法》的核心，就是推動(dòng)AI生成內(nèi)容從生成到傳播各環(huán)節(jié)的全流程安全管理，讓這些問(wèn)題有明確答案。

就如我剛剛提到的例子，如今AI的「深度偽造」功能已經(jīng)給我們的生活帶來(lái)了麻煩。AIGC發(fā)展太快，在文本、圖像、音視頻乃至各類虛擬場(chǎng)景中全面滲透，普通老百姓很容易被誤導(dǎo)。這次《辦法》的出臺(tái)，核心就是為了提升內(nèi)容可信度，遏制深度偽造和AI邀約的擴(kuò)散，明確各類主體的責(zé)任，說(shuō)到底就是該標(biāo)就標(biāo)，把關(guān)鍵信息說(shuō)清楚。

之前我們也有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》，但很多細(xì)則沒(méi)做到位。這次的《辦法》，其實(shí)是對(duì)過(guò)去兩項(xiàng)規(guī)定的細(xì)化和補(bǔ)充，進(jìn)一步明確了標(biāo)識(shí)實(shí)施的具體規(guī)范，重點(diǎn)是要解決三個(gè)核心問(wèn)題：哪些是AI生成的？是誰(shuí)生成的？從哪里生成的？

【2】文本領(lǐng)域檢測(cè)的兩個(gè)核心指標(biāo)：「困惑度」和「突發(fā)性」

我想《辦法》實(shí)施后，企業(yè)的負(fù)擔(dān)肯定會(huì)加重。企業(yè)要承擔(dān)主體責(zé)任，比如給生成的文本、音頻、圖片、視頻、虛擬場(chǎng)景添加顯性標(biāo)識(shí)，還得開(kāi)發(fā)相應(yīng)系統(tǒng)和技術(shù)，同時(shí)做好安全防范——既要主動(dòng)添加標(biāo)識(shí)，又要防止標(biāo)識(shí)被刪減、修改、攻擊。技術(shù)本身有兩面性，要是沒(méi)有安全防范，A公司制作的內(nèi)容被B公司輕易替換，用戶隨便就能修改標(biāo)識(shí)，那這項(xiàng)技術(shù)就失去了初衷。

這對(duì)中小企業(yè)來(lái)說(shuō)壓力更大。大企業(yè)有足夠的資金、技術(shù)應(yīng)對(duì)，可中小企業(yè)不一樣。我老家在山西，以前小煤礦安全難治理，就是因?yàn)橘?gòu)置安全設(shè)備成本高，小企業(yè)舍不得投入，總存僥幸心理「說(shuō)不定不會(huì)被查」?，F(xiàn)在AI標(biāo)識(shí)也是同理，中小企業(yè)要在技術(shù)上真金白銀投入，一旦投入成為負(fù)擔(dān)，就可能產(chǎn)生僥幸心理，不愿主動(dòng)合規(guī)。

所以我一直呼吁，任何技術(shù)都該有普惠性。能不能給中小企業(yè)提供打包的系統(tǒng)或技術(shù)解決方案？幫他們減少合規(guī)負(fù)擔(dān)？要知道，市面上除了大平臺(tái)，還有大量中小平臺(tái)，它們沒(méi)那么多錢、技術(shù)和人才。要是這些中小平臺(tái)因能力有限無(wú)法落實(shí)《辦法》要求，很可能會(huì)成為監(jiān)管漏洞——AI違規(guī)內(nèi)容都跑到中小平臺(tái)傳播，這絕非不可能。

事實(shí)上，這種情況大概率會(huì)出現(xiàn)。要是小企業(yè)不愿履行責(zé)任、心存僥幸，想靠AI傳播不合規(guī)內(nèi)容，大平臺(tái)管得嚴(yán)，就會(huì)轉(zhuǎn)向和中小平臺(tái)合作，利用中小平臺(tái)制作、傳播違規(guī)內(nèi)容，這顯然是我們不愿看到的結(jié)果。

還有個(gè)大家關(guān)心的問(wèn)題：現(xiàn)在對(duì)AI生成內(nèi)容的監(jiān)測(cè)用什么手段，文本領(lǐng)域的檢測(cè)是不是更難、更復(fù)雜？

確實(shí)如此，現(xiàn)在很多高校老師對(duì)論文是否由AI撰寫(xiě)很困惑，主要是因?yàn)樗麄兪褂肁I的頻次低。像我天天用主流AI工具，現(xiàn)在看一篇論文，大概能判斷出是人類寫(xiě)的還是AI寫(xiě)的，甚至能初步判斷用的是哪家AI，這靠的是長(zhǎng)期使用積累的經(jīng)驗(yàn)。所以我呼吁高校老師多使用AI工具，不然連學(xué)生有沒(méi)有用、怎么用AI都判斷不出來(lái)。

技術(shù)角度看，文本領(lǐng)域的檢測(cè)主要看兩個(gè)核心指標(biāo)：一是「困惑度」，可以理解為對(duì)文本的「驚訝程度」。人類寫(xiě)的內(nèi)容有更多不確定性和創(chuàng)造性，困惑度更高，而AI生成文本是靠算概率，比如描述天氣大概率會(huì)接「太陽(yáng)」，描述物體大概率會(huì)接「大」或「小」，都是選最可能的下一個(gè)詞，所以AI文本更順滑，困惑度更低。二是「突發(fā)性」，人類寫(xiě)作的句子長(zhǎng)度、風(fēng)格變化更大，突發(fā)性高，AI生成的文本長(zhǎng)度更均勻，突發(fā)性低。此外還有條件概率曲率等指標(biāo)，但核心還是困惑度和突發(fā)性。

不過(guò)目前這些檢測(cè)工具還不夠成熟，誤判率不低。上學(xué)期畢業(yè)季，我就和某媒體做過(guò)相關(guān)節(jié)目，很多老教授因?yàn)椴欢瓵I，直接用檢測(cè)工具的AI率作為論文通過(guò)與否的依據(jù)，結(jié)果造成不少誤傷。比如有人自己寫(xiě)的文章，只是情緒穩(wěn)定、行文平實(shí)，就被判定為AI生成。要是遇到這種誤判，建議大家提供原始證據(jù)申訴，比如寫(xiě)論文時(shí)保存的十幾個(gè)版本草稿，畢竟AI生成內(nèi)容不需要反復(fù)修改，這些版本記錄就是人類創(chuàng)作的最好證明。同時(shí)我也想再次呼吁，老師們用AI檢測(cè)工具時(shí)一定要謹(jǐn)慎，它不能作為唯一依據(jù)。

如果把AI生成的文本手動(dòng)輸入一遍再上傳，或者給AI生成的圖片手描一遍再發(fā)布，能不能蒙混過(guò)關(guān)，讓平臺(tái)判定為原創(chuàng)？

我的回應(yīng)是，人類做的這些操作，對(duì)AI檢測(cè)沒(méi)有任何干擾。AI檢測(cè)工具判斷的是內(nèi)容本身，即文本的困惑度、突發(fā)性、情感變化，關(guān)注的是圖片的結(jié)構(gòu)、元素拼接邏輯，而不是看是否來(lái)自手工錄入。就算把AI文本抄一遍，內(nèi)容本質(zhì)沒(méi)變，檢測(cè)結(jié)果也不會(huì)變。就算給AI圖片描邊，圖片核心結(jié)構(gòu)和元素沒(méi)改，同樣騙不過(guò)檢測(cè)工具。畢竟現(xiàn)在《辦法》剛實(shí)施，顯性標(biāo)識(shí)還沒(méi)完全跟上，當(dāng)前AI檢測(cè)主要靠?jī)?nèi)容本身判斷。

【3】跨境傳播的AI內(nèi)容出了問(wèn)題，責(zé)任該怎么劃分？

大家還關(guān)心跨境傳播的問(wèn)題，比如國(guó)內(nèi)生成的AI作品傳到國(guó)外，國(guó)外的AI作品傳到國(guó)內(nèi)，不同國(guó)家標(biāo)識(shí)要求不一樣，能互相認(rèn)可嗎？有沒(méi)有統(tǒng)一監(jiān)管辦法？

目前在AI生成內(nèi)容標(biāo)識(shí)這塊，中國(guó)是走在全球前面的，全世界對(duì)這一領(lǐng)域的治理還比較模糊。未來(lái)的趨勢(shì)是，我們要和國(guó)際透明度規(guī)則對(duì)齊。比如美國(guó)在這方面進(jìn)展較慢，歐洲則較快，歐盟《AI法案》對(duì)深度偽造就有強(qiáng)制標(biāo)識(shí)要求。

要實(shí)現(xiàn)互認(rèn)，技術(shù)層面有不少要解決的問(wèn)題。顯性標(biāo)識(shí)還好說(shuō)，隱性標(biāo)識(shí)則涉及數(shù)據(jù)層面，各國(guó)能否使用統(tǒng)一的通用語(yǔ)言，這需要各國(guó)共同認(rèn)可，通過(guò)統(tǒng)一的元數(shù)據(jù)和來(lái)源憑證，提升境外平臺(tái)、監(jiān)管機(jī)構(gòu)的接受度。當(dāng)然，我們也要保留國(guó)內(nèi)執(zhí)法所需的傳播、制作要素，所以實(shí)際操作會(huì)更復(fù)雜，有時(shí)可能需要同時(shí)保留雙方的標(biāo)識(shí)，但這無(wú)疑會(huì)進(jìn)一步增加企業(yè)負(fù)擔(dān)。

不過(guò)總體來(lái)看，我們現(xiàn)在不僅是AI治理的參與者，更是規(guī)則制定者之一，不少國(guó)家已經(jīng)在參考我們的做法了。

那要是跨境傳播的AI內(nèi)容出了問(wèn)題，責(zé)任該怎么劃分？比如國(guó)外生成的有風(fēng)險(xiǎn)的AI作品，傳到國(guó)內(nèi)出了問(wèn)題，這算國(guó)外的責(zé)任還是國(guó)內(nèi)平臺(tái)的責(zé)任？

其實(shí)責(zé)任分兩塊，生產(chǎn)環(huán)節(jié)和傳播環(huán)節(jié)。AI內(nèi)容在哪個(gè)國(guó)家生產(chǎn)，就要符合當(dāng)?shù)胤煞ㄒ?guī)；傳到哪個(gè)國(guó)家傳播，也要符合那個(gè)國(guó)家的法律法規(guī)。比如一個(gè)AI作品在A國(guó)生產(chǎn)，要在A國(guó)和B國(guó)同時(shí)傳播，就必須同時(shí)符合A、B兩國(guó)的規(guī)定，否則在任一國(guó)家都可能面臨官司或處罰。

這也是中國(guó)企業(yè)出海難的原因之一，不僅要符合國(guó)內(nèi)法規(guī)，還要符合目的地國(guó)家的法規(guī)，有時(shí)甚至要考慮當(dāng)?shù)氐娘L(fēng)土人情、民族感情，稍有不慎就可能出問(wèn)題，所以我們也該對(duì)出海企業(yè)多一點(diǎn)寬容。

【4】清晰標(biāo)注有時(shí)能提升信任度和合規(guī)可見(jiàn)性

大眾會(huì)有一種慣性思維，覺(jué)得AI做的作品就是不如人原創(chuàng)的有價(jià)值，就好像手工做的東西，就是要比流水線上的東西更有價(jià)值。那么AI強(qiáng)制標(biāo)識(shí)，對(duì)AI產(chǎn)品使用者、AI內(nèi)容創(chuàng)作者來(lái)說(shuō)，又是怎樣的感受？

作為AI產(chǎn)品使用者，我想分享下自己用AI做視頻的經(jīng)歷，或許能給大家一些參考。

我用AI數(shù)字人做視頻快四年了，說(shuō)實(shí)話，有了AI工具后，人真的會(huì)變懶。一開(kāi)始我給自己定了規(guī)矩，數(shù)字人出鏡的視頻比例絕不超過(guò)50%，還是要自己多錄、多說(shuō)。可AI工具太好用了，比例慢慢從50%漲到60%、70%、80%，現(xiàn)在已經(jīng)到90%了。我現(xiàn)在的視頻節(jié)目里，九成是AI數(shù)字人生成的。

關(guān)于標(biāo)注，我也有過(guò)反復(fù)。剛開(kāi)始用數(shù)字人時(shí)，我會(huì)明確標(biāo)注「本條視頻由數(shù)字人出鏡」，一方面是合規(guī)，另一方面也有點(diǎn)嘚瑟，畢竟作為第一批用AI數(shù)字人的博主，我也想跟大家分享這種新技術(shù)。大概標(biāo)注了四五個(gè)月后，一方面覺(jué)得粉絲應(yīng)該適應(yīng)了，另一方面有的時(shí)候也會(huì)忘記標(biāo)注，慢慢就不標(biāo)了。

那時(shí)的數(shù)字人沒(méi)有現(xiàn)在的絲滑逼真，評(píng)論區(qū)總有人問(wèn)「這是真人還是數(shù)字人？」問(wèn)得多了，過(guò)了幾個(gè)月我又開(kāi)始標(biāo)。現(xiàn)在我又不標(biāo)了，一是數(shù)字人技術(shù)成熟了，大家接受度高了，二是我的節(jié)目以輸出觀點(diǎn)為主，觀眾對(duì)是否為真人出鏡沒(méi)那么在意。而且不同平臺(tái)對(duì)數(shù)字人生成內(nèi)容的容忍度也不一樣，像我這種知識(shí)分享類的露臉視頻，平臺(tái)普遍表示「標(biāo)不標(biāo)都行」。

在我看來(lái)，清晰標(biāo)注有時(shí)能提升信任度和合規(guī)可見(jiàn)性。比如新聞?lì)悺⒅R(shí)類、商業(yè)傳播類這些高敏感度領(lǐng)域，標(biāo)注就很重要。觀眾會(huì)因?yàn)槟愕奶拐\(chéng)標(biāo)注，覺(jué)得你靠譜、真誠(chéng)，反而增加信任。所以我建議創(chuàng)作者，在這些高敏感度領(lǐng)域一定要能標(biāo)盡標(biāo)，既合規(guī)，也能收獲更多信任，具體還要結(jié)合平臺(tái)規(guī)則來(lái)調(diào)整。

關(guān)于AI生成內(nèi)容標(biāo)識(shí)技術(shù)的未來(lái)趨勢(shì)。我認(rèn)為在可見(jiàn)的未來(lái)，有四個(gè)方向會(huì)是重點(diǎn)攻克的領(lǐng)域：

第一個(gè)是標(biāo)準(zhǔn)統(tǒng)一。統(tǒng)一的標(biāo)準(zhǔn)能減少企業(yè)的技術(shù)投入成本，也能讓跨國(guó)互認(rèn)更方便、更具操作性。要是標(biāo)準(zhǔn)不統(tǒng)一，未來(lái)會(huì)出現(xiàn)很多銜接問(wèn)題，這也是我一直呼吁的方向。

第二個(gè)是模型簽名化。AI生成內(nèi)容的源頭是大模型，要是能在生成端就讓模型自動(dòng)寫(xiě)入可驗(yàn)證的來(lái)源證明，就能從根源上解決「是誰(shuí)生成、從哪來(lái)」的問(wèn)題。目前一些大模型在圖像生成領(lǐng)域已經(jīng)有了先行嘗試，比如ChatGPT的圖像生成功能就包含了一些憑證，未來(lái)這一定會(huì)成為主流趨勢(shì)。

第三個(gè)是流市場(chǎng)景的技術(shù)整合?，F(xiàn)在AI違規(guī)內(nèi)容的重災(zāi)區(qū)是直播、視頻這類「流式場(chǎng)景」，內(nèi)容是流動(dòng)的，不像圖片是固定的，監(jiān)管難度更大。未來(lái)針對(duì)這類場(chǎng)景，大概率會(huì)采用「疊層水印+界面寫(xiě)標(biāo)+回放檢驗(yàn)」的組合手段，這也是標(biāo)識(shí)技術(shù)中集成度要求最高的方向。

第四個(gè)是平臺(tái)協(xié)同閉環(huán)。把AI內(nèi)容的生成、讀寫(xiě)、申訴、追蹤等環(huán)節(jié)打通，形成完整的治理閉環(huán)，讓每個(gè)環(huán)節(jié)都有跡可循、有責(zé)可追，這也是未來(lái)平臺(tái)治理要重點(diǎn)推進(jìn)的方向。

這四個(gè)趨勢(shì)，就是我認(rèn)為AI生成內(nèi)容標(biāo)識(shí)技術(shù)接下來(lái)會(huì)重點(diǎn)突破的領(lǐng)域，也希望能通過(guò)這些技術(shù)進(jìn)步，讓AI生成內(nèi)容在合規(guī)的前提下，更好地服務(wù)大家的生活。