在剛剛舉行的今日頭條平臺(tái)治理開放日上，披露了這樣一組數(shù)據(jù)：2025年全年，平臺(tái)累計(jì)處置低質(zhì)AI內(nèi)容超過260萬條。

“AI創(chuàng)作的門檻大幅降低，既讓更多用戶擁有內(nèi)容表達(dá)的機(jī)會(huì)，也帶來了低質(zhì)AI內(nèi)容類型持續(xù)翻新、識(shí)別難度進(jìn)一步加大的問題。”今日頭條內(nèi)容生態(tài)治理負(fù)責(zé)人鄭子龍這樣說道。

據(jù)了解，目前治理主要通過內(nèi)容識(shí)別與賬號(hào)治理兩條路徑進(jìn)行，包括通過監(jiān)測(cè)聚類分析識(shí)別AI生成內(nèi)容特征，并對(duì)持續(xù)發(fā)布相關(guān)內(nèi)容的賬號(hào)采取限流或禁言等措施。

鄭子龍?zhí)岬剑珹I顯著降低了內(nèi)容生成成本，使部分謠言更容易被批量生產(chǎn)和傳播。平臺(tái)數(shù)據(jù)顯示，2025年共清理虛假內(nèi)容700余萬條，并對(duì)3.3萬個(gè)違規(guī)賬號(hào)實(shí)施禁言或封禁。

從安全治理角度看，AI帶來的變化同樣體現(xiàn)在詐騙等風(fēng)險(xiǎn)場(chǎng)景中。今日頭條安全運(yùn)營(yíng)負(fù)責(zé)人閆夢(mèng)茹表示：“詐騙手段已經(jīng)從傳統(tǒng)套路演變成由AI偽造、AI生成誘導(dǎo)性發(fā)文去引流的新型騙局，隱蔽性更強(qiáng)，迷惑性也更大?！?/p>

“我們要學(xué)會(huì)AI治理AI，因?yàn)椴豢赡苤豢總鹘y(tǒng)手段去攔截這些快速變化的AI形式。”在問答環(huán)節(jié)，閆夢(mèng)茹這樣說道。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春在現(xiàn)場(chǎng)表示，AI生成內(nèi)容并不只是簡(jiǎn)單的質(zhì)量問題，其中可能包含虛假信息、侵權(quán)、低俗或誤導(dǎo)性內(nèi)容等多種風(fēng)險(xiǎn)。她指出，大量低質(zhì)AI內(nèi)容如果持續(xù)傳播，“可能擠壓優(yōu)質(zhì)內(nèi)容的空間，也會(huì)提高用戶獲取有效信息的成本”。

中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長(zhǎng)李懷勝則從治理結(jié)構(gòu)角度分析，網(wǎng)絡(luò)詐騙和虛假信息的傳播已經(jīng)形成完整鏈條，需要法律、平臺(tái)與社會(huì)多方協(xié)同治理。他認(rèn)為，平臺(tái)在其中承擔(dān)的是“第一道防線”的角色。

同時(shí)，更重要的是公眾應(yīng)該提高防范意識(shí)。在網(wǎng)絡(luò)詐騙治理中，公眾既是保護(hù)的客體，更應(yīng)是參與的主體。報(bào)告中有兩組數(shù)據(jù)值得深思：一是平臺(tái)對(duì)高危私信進(jìn)行了300余萬條風(fēng)險(xiǎn)提醒，二是部分用戶對(duì)反詐提示存在抵觸情緒。這兩組數(shù)據(jù)表明，沒有公眾的主動(dòng)參與，再嚴(yán)密的技術(shù)防線、再完善的法律制度都可能被突破。

隨著AI生成能力不斷提升，內(nèi)容生產(chǎn)和傳播方式正在發(fā)生變化。對(duì)平臺(tái)而言，如何在鼓勵(lì)創(chuàng)作的同時(shí)識(shí)別和處理低質(zhì)或誤導(dǎo)信息，正在成為新的治理課題。

會(huì)上還發(fā)布了《今日頭條2025年度平臺(tái)治理白皮書》。

數(shù)據(jù)顯示，2025年全年，今日頭條共向用戶推送300余萬條涉詐風(fēng)險(xiǎn)提醒、處置網(wǎng)暴相關(guān)違規(guī)評(píng)論3.6億條，為70萬賬號(hào)啟用了一鍵防網(wǎng)暴功能。（撰文/ 李炤鋒）
#今日頭條 #AI生成內(nèi)容監(jiān)管