2025年，生成式AI技術(shù)重塑廣告產(chǎn)業(yè)格局，在提升效率的同時(shí)也帶來違背公序良俗、侵權(quán)抄襲、虛假宣傳、身份偽造等新型風(fēng)險(xiǎn)。近日，抖音集團(tuán)旗下綜合數(shù)字化營銷服務(wù)平臺(tái)——巨量引擎發(fā)布《2025商業(yè)信任與安全治理報(bào)告》，介紹平臺(tái)以“AI治理AI”為核心策略，通過規(guī)則升級(jí)、技術(shù)攻堅(jiān)與生態(tài)協(xié)同，構(gòu)建全鏈路安全防護(hù)體系，構(gòu)建讓用戶放心點(diǎn)擊、安心消費(fèi)的“可信環(huán)境”的舉措及成效。

平臺(tái)治理

“AI治AI”理念落地

在數(shù)字化浪潮中，廣告領(lǐng)域人工智能的應(yīng)用覆蓋廣泛、成效顯著，推動(dòng)行業(yè)進(jìn)入更為精準(zhǔn)和技術(shù)化的“智能營銷”新時(shí)代。

一些黑灰產(chǎn)甚至也實(shí)現(xiàn)了“AI工業(yè)化”升級(jí)，其攻擊范式從機(jī)械的腳本執(zhí)行，進(jìn)化為具備規(guī)劃與推理能力的“AI 智能體”，利用多模態(tài)大模型批量炮制高擬真的商品效果圖，通過深度偽造等技術(shù)克隆權(quán)威人士的形象與聲音進(jìn)行背書，甚至能夠模擬人類交互行為，繞過傳統(tǒng)的安全驗(yàn)證。

據(jù)巨量引擎商業(yè)安全治理策略負(fù)責(zé)人介紹，平臺(tái)以“ AI 治理AI”為核心策略，把自研的多模態(tài)大模型打造為應(yīng)對(duì)新型風(fēng)險(xiǎn)的有效武器。大模型能夠穿透復(fù)雜的內(nèi)容偽裝，理解視頻、音頻、文本間的隱含關(guān)聯(lián)，精準(zhǔn)識(shí)別用傳統(tǒng)方法難以發(fā)現(xiàn)的合成與作弊痕跡。同時(shí)，平臺(tái)打造智能風(fēng)控體系構(gòu)筑高壓防線，依托大模型的深度推理能力，將特定風(fēng)險(xiǎn)識(shí)別能力的建設(shè)周期從傳統(tǒng)的數(shù)周縮短至小時(shí)級(jí)，實(shí)現(xiàn)對(duì)黑灰產(chǎn)的“降維打擊”。

2025年，平臺(tái)單日處置黑產(chǎn)賬戶數(shù)量最高突破20萬個(gè)，實(shí)現(xiàn)了對(duì)規(guī)?；舻挠行Ф糁疲恢悄茱L(fēng)控體系前置攔截違規(guī)素材累計(jì)百億條，關(guān)停違規(guī)賬戶超400萬個(gè)，牢牢守住了平臺(tái)的內(nèi)容安全與履約安全底線。

在隱私保護(hù)層面，平臺(tái)將“隱私號(hào)”服務(wù)從核心場(chǎng)景拓展至醫(yī)療、法律、教育等行業(yè)，并覆蓋私信等新場(chǎng)景，實(shí)現(xiàn)“隱私保護(hù)+商家轉(zhuǎn)化+用戶體驗(yàn)”三方共贏，填補(bǔ)后鏈路治理空白。

隱私號(hào)是一項(xiàng)核心的隱私保護(hù)技術(shù)。其原理是在用戶與商家銷售之間設(shè)立一個(gè)臨時(shí)的虛擬號(hào)碼作為通信中介，商家銷售僅能聯(lián)系此虛擬號(hào)，從而確保用戶的真實(shí)手機(jī)號(hào)全程不泄露。

據(jù)內(nèi)部專項(xiàng)調(diào)研數(shù)據(jù)顯示，經(jīng)過一年的隱私號(hào)專項(xiàng)治理，平臺(tái)用戶隱私保護(hù)相關(guān)指標(biāo)同比顯著提升，尤其是廣告場(chǎng)景下個(gè)人信息違規(guī)收集問題得到有效遏制進(jìn)一步強(qiáng)化了用戶對(duì)平臺(tái)服務(wù)的信任度。

用戶服務(wù)

首創(chuàng)消費(fèi)者抱怨指數(shù)

在平臺(tái)用戶體驗(yàn)管理中，顯性的投訴僅是冰山一角，更大量的用戶不滿隱藏在評(píng)論、廣告評(píng)價(jià)等行為數(shù)據(jù)中。為了系統(tǒng)性地捕捉這些“靜默的抱怨”，巨量引擎在廣告領(lǐng)域首創(chuàng)并持續(xù)迭代消費(fèi)者抱怨指數(shù)（CCR，Customer Complaint Rate）體系。

“CCR指標(biāo)的設(shè)計(jì)初衷，就是把用戶的每一條評(píng)論、每一次舉報(bào)都轉(zhuǎn)化為可落地的治理依據(jù)。”據(jù)巨量引擎商業(yè)安全治理策略負(fù)責(zé)人介紹，CCR 如同一個(gè)精密的“聲納系統(tǒng)”，它深度聚合用戶評(píng)論、舉報(bào)、投訴、廣告評(píng)價(jià)等多維信號(hào)，并將其量化為可分析、可歸因、可行動(dòng)的數(shù)據(jù)指標(biāo)。

據(jù)統(tǒng)計(jì)，2025年，平臺(tái)內(nèi)容 CCR同比下降56.2%；履約 CCR同比下降67.1%。這一成績的背后，是基于 CCR 洞察構(gòu)建的“分級(jí)精準(zhǔn)治理”模型：

• 對(duì)危害極大的金融“債務(wù)優(yōu)化”、非法“特供酒”等，堅(jiān)決執(zhí)行禁投，從源頭掐斷風(fēng)險(xiǎn)；

• 對(duì)短劇夸大收益、招聘虛假高薪等“變種”違規(guī)，利用 AI 模型的快速迭代能力，實(shí)現(xiàn)“場(chǎng)景化精準(zhǔn)打擊”；

• 對(duì)于非故意違規(guī)且有改善意愿的客戶，則提供教育指導(dǎo)，結(jié)合具體違規(guī)情況幫助、引導(dǎo)商家調(diào)優(yōu)廣告投放，平衡商業(yè)體驗(yàn)。

值得關(guān)注的是，廣告后鏈路履約環(huán)節(jié)雖已脫離平臺(tái)管控，但其服務(wù)質(zhì)量直接影響用戶對(duì)廣告生態(tài)的信任，尤其是老年人、未成年人等群體，在維權(quán)操作、風(fēng)險(xiǎn)識(shí)別上更易遇到障礙。

為解決這一痛點(diǎn)，2025年7月底，平臺(tái)全面升級(jí)服務(wù)系統(tǒng)，重磅推出 “一老一少”廣告服務(wù)保障升級(jí)計(jì)劃：

對(duì)于老年用戶，平臺(tái)不僅針對(duì)部分情況提供簡化至“零門檻”的舉證流程、7×13小時(shí)的超長人工服務(wù)時(shí)段，更提供“手把手”的視頻或圖文指引，極大降低了數(shù)字鴻溝帶來的維權(quán)障礙；

對(duì)于未成年人相關(guān)的消費(fèi)問題，平臺(tái)則為家長提供標(biāo)準(zhǔn)化的舉證模板，并建立快速響應(yīng)通道，部分案例可實(shí)現(xiàn)當(dāng)天解決。

專項(xiàng)上線4個(gè)月，即為超過5800名老年與未成年用戶解決了實(shí)際困難，問題解決率達(dá)91% 。

商家扶持

從“管控”到“賦能”

過去，廣告素材被平臺(tái)拒審，就像收到一份打了紅叉卻沒有任何解析和參考答案的考卷，令廣告主困惑且無助。如今，當(dāng)一條素材被攔截，廣告主收到的將是一份詳盡的“診斷報(bào)告”：系統(tǒng)不僅高亮標(biāo)出違規(guī)的具體畫面幀和文本，更能由AI推理出“為何違規(guī)”，并給出“如何修改”的明確建議，甚至提供合規(guī)范例參考。

這是巨量引擎通過深度應(yīng)用自研大模型，將審核拒接的交互體驗(yàn)進(jìn)行了顛覆性變革的效果：廣告主關(guān)于拒審理由不清的負(fù)向反饋在平臺(tái)各產(chǎn)品線均有下降，最高降幅達(dá)18%。

“最好的治理不是讓違規(guī)不易發(fā)生，而是讓優(yōu)質(zhì)內(nèi)容的創(chuàng)作更加容易。”據(jù)巨量引擎商業(yè)安全治理策略負(fù)責(zé)人介紹，平臺(tái)致力于將最前沿的 AI 技術(shù)，轉(zhuǎn)化為廣告主工具箱中觸手可及的生產(chǎn)力組件。如，對(duì)存在敏感或違規(guī)內(nèi)容的視頻，AI識(shí)別后可自動(dòng)分析具體違規(guī)情形，根據(jù)商家已有文案、平臺(tái)規(guī)則、合規(guī)數(shù)據(jù)庫提供修復(fù)后的合規(guī)建議供商家選用，將商家從數(shù)天反復(fù)修改的困境中解放出來。此外，通過流量激勵(lì)，旗幟鮮明地獎(jiǎng)勵(lì)那些兼具創(chuàng)意、審美與正向社會(huì)價(jià)值的優(yōu)質(zhì)廣告，引導(dǎo)生態(tài)向高質(zhì)量內(nèi)容進(jìn)化。

治理角色從“裁判”向“教練”轉(zhuǎn)變，從“管控封禁”轉(zhuǎn)向“幫助商家成長”，實(shí)現(xiàn)商業(yè)效率和合規(guī)性的平衡，巨量引擎構(gòu)建了一套立體化的廣告主成長賦能體系，為行業(yè)提供了“治理+賦能”雙軌運(yùn)營模式的實(shí)踐范例。

2025年，平臺(tái)運(yùn)營的“規(guī)則中心”已成為廣告主的合規(guī)百科，全年頁面瀏覽量（PV）環(huán)比增長194%；定期舉辦直播課程、發(fā)布行業(yè)風(fēng)險(xiǎn)白皮書，將高頻違規(guī)點(diǎn)和新型風(fēng)險(xiǎn)案例主動(dòng)推送給相關(guān)行業(yè)廣告主，全年累計(jì)覆蓋人次超300萬。此外，平臺(tái)還試點(diǎn)“以考代罰”機(jī)制：對(duì)于部分輕微違規(guī)行為，不是直接進(jìn)行處罰，而是為廣告主推送相關(guān)的規(guī)則學(xué)習(xí)資料與在線考試，通過考試即可解除提醒。這一人性化舉措獲得了廣告主的廣泛歡迎，參與考試的廣告主點(diǎn)擊率高達(dá)54%。

共建共治

從平臺(tái)實(shí)踐到行業(yè)共識(shí)

不久前，在中國廣告協(xié)會(huì)與IAB中國（國際互聯(lián)網(wǎng)廣告行業(yè)組織“互動(dòng)廣告局”中國分支機(jī)構(gòu)）聯(lián)合主辦的 “創(chuàng)享匯年度大賞” 上，巨量引擎 “基于CCR指標(biāo)驅(qū)動(dòng)的廣告全鏈路生態(tài)治理”項(xiàng)目經(jīng)行業(yè)專家團(tuán)隊(duì)嚴(yán)格評(píng)審，成功獲評(píng)2025年度優(yōu)秀案例。此前，該項(xiàng)目還曾入選北京市市場(chǎng)監(jiān)管局、中國廣告協(xié)會(huì)、北京廣告協(xié)會(huì)聯(lián)合評(píng)定的 “數(shù)字廣告業(yè)高質(zhì)量發(fā)展創(chuàng)新案例”。這標(biāo)志著巨量引擎的平臺(tái)治理思路正從平臺(tái)實(shí)踐走向行業(yè)共識(shí)，為破解廣告體驗(yàn)的“黑箱”評(píng)價(jià)難題提供了可復(fù)制的路徑。

“平臺(tái)的安全治理能力不應(yīng)只服務(wù)于商業(yè)生態(tài)，更應(yīng)轉(zhuǎn)化為服務(wù)社會(huì)的正能量?！睋?jù)巨量引擎商業(yè)安全治理策略負(fù)責(zé)人介紹，2025年，平臺(tái)開展了一系列社會(huì)共治項(xiàng)目：

在文化倡行方面，聯(lián)合北京市公安局反詐中心、國家大劇院，策劃制作了北京首部校園反詐主題微電影《心防—重生之我在大學(xué)干反詐》，助力“無詐校園”建設(shè)；

在公益踐行方面，聯(lián)合字節(jié)跳動(dòng)員工公益團(tuán)隊(duì)走進(jìn)養(yǎng)老院與鄉(xiāng)村小學(xué)，至今已開展6期“AI+ 反詐”公益課；

在法治同行方面，利用數(shù)據(jù)和技術(shù)能力，積極配合公安機(jī)關(guān)打擊利用廣告引流進(jìn)行的違法犯罪活動(dòng)。

中國政法大學(xué)傳播法研究中心副主任朱巍分析認(rèn)為，鑒于AI技術(shù)的復(fù)雜性和應(yīng)用的廣泛性，電商平臺(tái)AI治理需要實(shí)現(xiàn)跨領(lǐng)域的協(xié)同，包括需要監(jiān)管持續(xù)加碼，需要平臺(tái)強(qiáng)化責(zé)任，更需要網(wǎng)民切身參與?！懊鎸?duì)AI換臉宣傳、深度合成侵權(quán)等新型風(fēng)險(xiǎn)，巨量引擎的實(shí)踐為行業(yè)提供了‘技術(shù)治違’范本?！敝煳≌f。

???版權(quán)提示：文中圖片未經(jīng)授權(quán)不可轉(zhuǎn)載。

中國消費(fèi)者報(bào)新媒體編輯部出品

來源/中國消費(fèi)者報(bào)·中國消費(fèi)網(wǎng)

記者/裴瑩

編輯/李曉雨

監(jiān)制/何永鵬 任震宇

互聯(lián)網(wǎng)新聞信息服務(wù)許可證：10120170022
違法和不良信息舉報(bào)電話：010 - 88315476