近日，抖音與微信分別發(fā)布治理公告和安全提醒，涉及AI技術(shù)濫用和新型電信詐騙，提醒廣大網(wǎng)民留意關(guān)注。

01

4月23日，@抖音黑板報(bào) 發(fā)布關(guān)于AI生成不當(dāng)內(nèi)容及侵犯他人權(quán)益的治理公告：

為維護(hù)清朗網(wǎng)絡(luò)環(huán)境，保障廣大用戶及創(chuàng)作者的合法權(quán)益，抖音始終對(duì)各類侵權(quán)行為保持零容忍態(tài)度，持續(xù)加強(qiáng)技術(shù)識(shí)別能力與治理力度。近期，針對(duì)利用AI技術(shù)實(shí)行換臉、盜用名人肖像形象，利用AI生成、發(fā)布、傳播侵犯他人知識(shí)產(chǎn)權(quán)，肖像惡搞內(nèi)容、仿冒蹭熱他人等典型違規(guī)行為，平臺(tái)開展了專項(xiàng)治理行動(dòng)?，F(xiàn)將相關(guān)情況公告如下：

1

治理成效

2026年，抖音持續(xù)加強(qiáng)對(duì)AI內(nèi)容的識(shí)別能力，強(qiáng)化AI侵權(quán)治理。截至目前，針對(duì)AI肖像惡搞、AI著作權(quán)侵權(quán)、AI仿冒蹭熱、AI侵權(quán)帶貨等典型違規(guī)行為，平臺(tái)通過(guò)開展多輪專項(xiàng)治理行動(dòng)、暢通用戶舉報(bào)反饋渠道，已累計(jì)下架AI侵權(quán)視頻超53.8萬(wàn)條，處罰違規(guī)賬號(hào)4000多個(gè)。同時(shí)，平臺(tái)已處置利用“AI霸總”形象誤導(dǎo)、誘導(dǎo)中老年人互動(dòng)的不當(dāng)內(nèi)容3萬(wàn)多條，賬號(hào)1300多個(gè)。

其中，針對(duì)利用AI技術(shù)換臉、盜用肖像或聲音，生成丑化、惡搞或仿冒蹭熱內(nèi)容，并制作傳播誤導(dǎo)性內(nèi)容的侵權(quán)行為，平臺(tái)予以重點(diǎn)打擊。目前已累計(jì)下架AI仿冒蹭熱視頻超36萬(wàn)條，處置AI肖像、AI聲音類侵權(quán)內(nèi)容8.5萬(wàn)條，并對(duì)部分嚴(yán)重違規(guī)的賬號(hào)予以禁止投稿、封禁賬號(hào)權(quán)限等梯度處罰，維護(hù)清朗抖音社區(qū)生態(tài)。

2

重點(diǎn)關(guān)注的AI侵權(quán)場(chǎng)景

當(dāng)前，平臺(tái)重點(diǎn)處置以下幾類AI生成不當(dāng)內(nèi)容及侵權(quán)場(chǎng)景：

1. 利用AI技術(shù)換臉、盜聲等違規(guī)行為

AI惡搞肖像 ：侵權(quán)者利用AI換臉、人臉合成等技術(shù)，將目標(biāo)人物的肖像（包括明星、公眾人物及普通用戶）與不雅、惡搞、丑化甚至虛假信息相結(jié)合，制作和傳播誤導(dǎo)性或侮辱性內(nèi)容，涉嫌侵害個(gè)人肖像權(quán)和名譽(yù)權(quán)。

AI聲音侵權(quán)：未經(jīng)授權(quán)的情況下，利用AI克隆、合成與他人聲音高度相似的音頻，公開傳播該聲音內(nèi)容；或冒用他人聲音生成語(yǔ)音，用于直播帶貨、短視頻配音等，對(duì)公眾造成惡意誤導(dǎo)。

AI仿冒蹭熱 ：未經(jīng)授權(quán)的情況下，利用AI技術(shù)制作并發(fā)布冒用他人身份的內(nèi)容，以此蹭熱博取流量、誤導(dǎo)公眾或?qū)嵤┰p騙引流。

AI侵權(quán)帶貨 ：未經(jīng)授權(quán)的情況下，利用AI生成含有他人肖像、聲音的宣傳內(nèi)容，如偽造的明星推薦視頻、AI生成的商品宣傳圖等，進(jìn)行推廣和銷售商品。

目前，為防范AI盜用名人肖像等侵權(quán)行為，平臺(tái)正持續(xù)建立完善典型案例樣本庫(kù)，結(jié)合大模型識(shí)別、技術(shù)巡檢與舉報(bào)信息，對(duì)樣本庫(kù)內(nèi)權(quán)利人相關(guān)的AI侵權(quán)內(nèi)容進(jìn)行及時(shí)干預(yù)和處置。

2. 通過(guò)AI技術(shù)“魔改”經(jīng)典，進(jìn)而傳播不良內(nèi)容

今年以來(lái)，平臺(tái)已開展治理“AI魔改”視頻專項(xiàng)工作。平臺(tái)對(duì)通過(guò)“魔改”傳統(tǒng)文藝作品，傳播血腥暴力、色情低俗等違規(guī)內(nèi)容從嚴(yán)處置，并對(duì)違規(guī)賬號(hào)采取梯度處罰措施。對(duì)涉嫌違法的行為，平臺(tái)也將及時(shí)上報(bào)有關(guān)部門，配合開展執(zhí)法工作。

3

舉報(bào)渠道與方式

為暢通用戶反饋路徑，平臺(tái)提供多種舉報(bào)渠道：

1. 抖音App內(nèi)舉報(bào)

通過(guò)視頻提示語(yǔ)/警示語(yǔ)舉報(bào) ：針對(duì)已自主聲明“內(nèi)容由AI生成”的視頻，用戶可點(diǎn)擊提示語(yǔ)發(fā)起舉報(bào)；對(duì)未聲明但平臺(tái)檢測(cè)出的疑似AI內(nèi)容，用戶可點(diǎn)擊“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”的警示語(yǔ)發(fā)起舉報(bào)。

長(zhǎng)按視頻舉報(bào) ：用戶可直接長(zhǎng)按視頻，選擇“舉報(bào)”-“侵犯權(quán)益”，按照相應(yīng)的侵權(quán)類型進(jìn)行舉報(bào)；或者選擇“AI生成內(nèi)容問(wèn)題”的舉報(bào)入口進(jìn)行反饋。

賬號(hào)舉報(bào) ：用戶可進(jìn)入涉嫌侵權(quán)的賬號(hào)主頁(yè)，通過(guò)右上角“...”菜單發(fā)起舉報(bào)。

圖丨賬號(hào)舉報(bào)操作示例（請(qǐng)點(diǎn)擊圖片查看）

客服舉報(bào) ：用戶可通過(guò)“我”-“≡”-“我的客服”- 右下角“發(fā)起新服務(wù)”進(jìn)入在線客服頁(yè)面，選擇“視頻創(chuàng)作與社交”-“我要舉報(bào)”-“舉報(bào)視頻”，選擇瀏覽記錄中想要舉報(bào)的內(nèi)容進(jìn)行反饋。

2. PC端批量舉報(bào)

用戶可通過(guò)抖音批量侵權(quán)舉報(bào)網(wǎng)站（www.douyin.com/qinquan/report）發(fā)起舉報(bào)，支持批量粘貼鏈接、上傳文件（單次最高可提交2000條內(nèi)容），覆蓋肖像權(quán)、隱私權(quán)、著作權(quán)等八大常見(jiàn)侵權(quán)場(chǎng)景。

3. 郵件反饋

如遇需要提交復(fù)雜證據(jù)或詳細(xì)文字說(shuō)明的場(chǎng)景，用戶可將AI侵權(quán)內(nèi)容反饋至平臺(tái)郵箱（qinquan@bytedance.com）。

為構(gòu)建“人人可監(jiān)督”的社區(qū)共治環(huán)境，AI侵權(quán)場(chǎng)景下，平臺(tái)后續(xù)將針對(duì)非權(quán)利人提供網(wǎng)友監(jiān)督舉報(bào)入口，及時(shí)收集監(jiān)督舉報(bào)信號(hào)并研判處置。當(dāng)前行業(yè)仍普遍面臨AI生成內(nèi)容判斷難、AI聲音識(shí)別能力不足等難題。平臺(tái)將持續(xù)投入資源，盡力提升識(shí)別與精準(zhǔn)處置能力，應(yīng)對(duì)AI侵權(quán)內(nèi)容制作成本低、量級(jí)大等新挑戰(zhàn)。

當(dāng)前，部分違規(guī)內(nèi)容將真實(shí)素材與AI生成內(nèi)容進(jìn)行二次創(chuàng)作，真假難辨，技術(shù)識(shí)別存在局限性；針對(duì)AI生成的特定人物、IP形象，平臺(tái)很難第一時(shí)間掌握到相關(guān)授權(quán)信息，這給平臺(tái)研判、精準(zhǔn)處置也帶來(lái)了難題。

抖音呼吁廣大用戶理性創(chuàng)作、文明上網(wǎng)，共同抵制AI生成不當(dāng)內(nèi)容。如發(fā)現(xiàn)違規(guī)內(nèi)容，請(qǐng)積極通過(guò)上述舉報(bào)渠道進(jìn)行反饋。平臺(tái)將依法依規(guī)、從嚴(yán)處置各類違規(guī)行為，與用戶攜手共建清朗、誠(chéng)信的網(wǎng)絡(luò)空間。

02

4月22日，微信安全中心微信公眾號(hào)發(fā)布一則提醒，全文如下：

近期，有海外用戶反饋接到自稱“騰訊客服”或“微信安全中心客服”的境外來(lái)電。不法分子謊稱用戶名下的微信賬號(hào)關(guān)聯(lián)注冊(cè)了違規(guī)公眾號(hào)，涉嫌非法募捐等，要求用戶立刻報(bào)警，否則將封禁其微信賬號(hào)；并以“海外報(bào)警不便”為由，主動(dòng)提出“內(nèi)部轉(zhuǎn)接公安局”，進(jìn)而實(shí)施下一步詐騙。

1

詐騙套路解析

偽裝身份，套號(hào)來(lái)電

不法分子通過(guò)改號(hào)軟件偽裝成騰訊官方客服號(hào)碼，實(shí)際并非微信官方來(lái)電。

精準(zhǔn)施壓，制造恐慌

不法分子精準(zhǔn)報(bào)出用戶姓名、海外手機(jī)號(hào)等隱私信息以獲取初步信任，隨后謊稱其名下關(guān)聯(lián)微信賬號(hào)存在嚴(yán)重違規(guī)，威脅將限制或封禁其賬號(hào)，利用用戶對(duì)社交賬號(hào)的依賴制造恐慌情緒。

利用痛點(diǎn)，誘導(dǎo)操作

不法分子強(qiáng)調(diào)“海外報(bào)警流程復(fù)雜”，主動(dòng)提出“內(nèi)部轉(zhuǎn)接公安局”“協(xié)助辦理線上筆錄”；后續(xù)以各種理由逐步索要用戶個(gè)人身份信息、銀行賬戶信息及驗(yàn)證碼，直至要求轉(zhuǎn)賬。

2

微信官方聲明

官方客服不會(huì)主動(dòng)外呼國(guó)際電話

微信官方400客服熱線僅為全國(guó)統(tǒng)一服務(wù)熱線，從未開放主動(dòng)外呼國(guó)際業(yè)務(wù)；因此，任何主動(dòng)致電海外用戶并聲稱賬號(hào)違規(guī)、涉嫌違法的來(lái)電，均非微信官方來(lái)電。

處置違規(guī)賬號(hào)無(wú)電話預(yù)警

微信賬號(hào)若存在違規(guī)行為，僅通過(guò)微信客戶端內(nèi)的系統(tǒng)通知或處罰彈窗告知，不會(huì)通過(guò)電話提前預(yù)警或通知。

絕不索要敏感信息

微信官方客服絕不會(huì)通過(guò)電話索要密碼、驗(yàn)證碼、銀行卡號(hào)、支付密碼，更不會(huì)要求轉(zhuǎn)賬、匯款，或進(jìn)行所謂的“資金核查”“線上筆錄、錄音錄像”。

不會(huì)轉(zhuǎn)接公安、辦案

微信團(tuán)隊(duì)無(wú)權(quán)限也不會(huì)協(xié)助轉(zhuǎn)接任何公檢法機(jī)關(guān)電話。凡聲稱可“協(xié)助轉(zhuǎn)接公安機(jī)關(guān)”的來(lái)電，均為詐騙。

3

微信安全中心提醒

接到此類電話，請(qǐng)立即掛斷，不要回答任何問(wèn)題，不要提供任何個(gè)人信息，也不要按對(duì)方指令進(jìn)行任何操作。

來(lái)源：“抖音黑板報(bào)”微信公眾號(hào)、微信安全中心