生活中，當(dāng)你在刷視頻的時候，是不是經(jīng)常遇到這種情況：視頻中的奧運冠軍竟然在推銷農(nóng)產(chǎn)品，鏈接商品已售出4.7萬件；而某知名演員的“聲音”在直播間24 小時不間斷與粉絲互動……但其實這是不法商家利用AI技術(shù)在進行虛假宣傳。

江蘇省消保委消費指導(dǎo)部工作人員龔永壯告訴記者：

“除了奧運冠軍被仿冒，張文宏、劉德華、雷軍等人的聲音也都曾被AI仿冒用于直播帶貨、推廣產(chǎn)品或制造虛假互動以外，在眾多社交平臺上，AI生成的假‘神醫(yī)’‘非遺傳承人’宣傳電商產(chǎn)品的視頻也大行其道。”

江蘇省消保委認為，AI 仿冒名人聲音、虛構(gòu)名人形象帶貨等行為已嚴(yán)重侵犯到被仿冒名人的肖像權(quán)、聲音權(quán)等人格權(quán)益，擾亂了公平競爭的市場秩序，阻礙了市場健康發(fā)展，透支著大批互聯(lián)網(wǎng)用戶的信任，也損害了消費者的知情權(quán)、公平交易權(quán)等合法權(quán)益。

好消息來了！

從今天開始，

AI合成亂象有望徹底解決。

《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《辦法》）于今天開始施行。

劃重點，接下來所有AI合成的內(nèi)容都必須依法打“電子水印”。

AI合成的內(nèi)容，也就是利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息?！半娮铀　?，即人工智能生成合成內(nèi)容標(biāo)識，包括顯式標(biāo)識和隱式標(biāo)識。

對生成合成內(nèi)容添加顯式標(biāo)識

顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識。

服務(wù)提供者提供文本、圖片、音頻、視頻、虛擬場景等生成合成內(nèi)容的下載、復(fù)制、導(dǎo)出等功能時，應(yīng)當(dāng)在適當(dāng)位置添加提示標(biāo)識。

在生成合成內(nèi)容的文件元數(shù)據(jù)中
添加隱式標(biāo)識

隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識，包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息。

鼓勵服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識。

文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內(nèi)容。

“電子水印” 幫助“打假”AI克隆

當(dāng)前，互聯(lián)網(wǎng)平臺出現(xiàn)不少AI移花接木的視頻，AI換臉、AI盜聲的不當(dāng)濫用，易引發(fā)侵犯肖像權(quán)、聲音權(quán)，侵犯公民個人信息及詐騙等犯罪行為。例如，有的商家偽造奧運冠軍的聲音賣土雞蛋，從而達成誤導(dǎo)消費者、推銷商品甚至實施詐騙的目的。

把AI合成的內(nèi)容打上“電子水印”后，能夠幫助大家更好地分辨。《辦法》實施后，沒有標(biāo)識的，大家可以舉報。如果刷到疑似內(nèi)容，也可錄屏舉報，或者@平臺官方客服。

溫馨提醒

提醒公眾要保持警惕，勿輕信AI生成的音視頻或直播，避免財產(chǎn)損失。

素材來源：新華社、荔枝新聞中心