一場持續(xù)約兩小時(shí)的黑客攻擊，揭開了直播行業(yè)內(nèi)容安全防線的脆弱性。當(dāng)違規(guī)內(nèi)容如潮水般涌來，平臺的人工審核系統(tǒng)在自動化攻擊面前顯得力不從心。12月22日晚間，快手平臺突發(fā)大規(guī)模內(nèi)容安全事件，多個(gè)直播間短時(shí)間內(nèi)涌入大量露骨色情內(nèi)容，違規(guī)內(nèi)容傳播狀態(tài)持續(xù)超1小時(shí)，引發(fā)廣泛關(guān)注。

出品｜網(wǎng)經(jīng)社

作者｜弄影

一審｜無痕

審稿｜云馬

配圖 | 網(wǎng)經(jīng)社圖庫

一、“黑灰產(chǎn)”發(fā)動協(xié)同攻擊 快手平臺深夜“淪陷”

12月22日晚22時(shí)左右，快手平臺的直播功能開始出現(xiàn)異常。大量用戶在社交平臺反映，快手直播間突然涌現(xiàn)大量色情內(nèi)容。

（圖片來源于網(wǎng)絡(luò)）

這些違規(guī)直播間并非零星出現(xiàn)，而是呈現(xiàn)出明顯的“自動化”與“協(xié)同化”特征。大量新注冊的“小白號”或僵尸賬號在同一時(shí)段集體開播，播放預(yù)制的非法視頻。攻擊者可能利用了直播推流接口的底層漏洞，繞過了平臺的實(shí)名認(rèn)證與內(nèi)容審核鏈路。正常瀏覽快手直播頻道的用戶頻繁刷到涉黃內(nèi)容直播間，有用戶描述，部分主播存在隱私部位暴露行為，另有大量直播間循環(huán)播放淫穢“小視頻”。

快手的響應(yīng)經(jīng)歷了逐步升級但略顯遲緩的過程。當(dāng)晚22時(shí)30分許，平臺監(jiān)測到異常后啟動緊急處理機(jī)制，開始封禁違規(guī)直播間。然而，封禁速度遠(yuǎn)不及新違規(guī)直播間的出現(xiàn)速度。面對這種局面，快手在23日0時(shí)前后才采取了 “無差別關(guān)?！?/strong> 的終極止損措施，完全關(guān)閉了直播功能。經(jīng)約一小時(shí)處置，平臺于23時(shí)30分左右基本清除違規(guī)內(nèi)容，涉案1.7萬個(gè)賬號全部凍結(jié)。到0點(diǎn)30分左右，用戶點(diǎn)擊快手直播頻道，界面已顯示“沒有找到內(nèi)容”或“服務(wù)器繁忙”。

23日凌晨，快手官方回應(yīng)稱，平臺在22日22時(shí)左右遭到黑灰產(chǎn)攻擊，目前已緊急處理修復(fù)中，相關(guān)情況已上報(bào)主管部門并向公安機(jī)關(guān)報(bào)警。北京市公安局海淀分局接線工作人員透露，已接到多個(gè)群眾報(bào)案，目前正開展調(diào)查工作。到23日上午8時(shí)，快手直播功能已逐步恢復(fù)正常。同日，快手科技在其官網(wǎng)發(fā)布聲明，強(qiáng)烈譴責(zé)黑灰產(chǎn)的違法犯罪行為，并表示將視情況采取其他適當(dāng)?shù)姆裳a(bǔ)救措施。12月23日早盤，快手股價(jià)一度跌超5%，市值蒸發(fā)近百億元。

從歷史案例看，平臺因內(nèi)容監(jiān)管不力被處罰已有先例。這并非異第一次出現(xiàn)類似問題，快手此前也有過多次涉黃、低俗違規(guī)的公開記錄。2018年4月，國家網(wǎng)信辦通報(bào)快手傳播涉未成年人低俗不良信息，并責(zé)令暫停相關(guān)算法推薦功能，將“王樂樂”“楊青檸”等違規(guī)主播納入跨平臺禁播黑名單。2024年4月，鄂爾多斯市東勝區(qū)警方查處快手某用戶，因?yàn)槠渲辈ラg傳播淫穢低俗內(nèi)容點(diǎn)擊量超1.3萬次，當(dāng)事人被警方予以行政拘留15日的處罰。2025年12月5日，4400萬粉絲主播“劉二狗”舉辦戶外溫泉泳池直播，鏡頭刻意聚焦敏感部位，快手平臺于16日對其采取禁言、禁止發(fā)布新作品措施。

快手事件并非孤例，而是直播行業(yè)面臨的共性問題的一個(gè)極端體現(xiàn)。隨著直播行業(yè)的繁榮，內(nèi)容安全已成為全行業(yè)的共同挑戰(zhàn)。從小紅書、B站到抖音，幾乎所有主流平臺都曾陷入類似爭議。據(jù)網(wǎng)經(jīng)社不完全統(tǒng)計(jì)，近幾年來涉黃的平臺還包括美柚、寶寶樹、東郊到家、蜻蜓FM、餓了么、美術(shù)寶、新氧醫(yī)美、閑魚、小猿搜題、百度作業(yè)、百度地圖、花椒直播、貼吧、嘿秀、斗魚、大眾點(diǎn)評、新浪、貓撲開心網(wǎng)、百度搜圖、盛大、搜狐、土豆、移動、泡泡網(wǎng)、360、時(shí)光網(wǎng)、籬笆網(wǎng)、谷歌等。

二、 警報(bào)失靈、響應(yīng)遲緩：安全機(jī)制的“三重門”失守

中國商業(yè)聯(lián)合會直播電商委副會長、網(wǎng)經(jīng)社電子商務(wù)研究中心主任曹磊分析認(rèn)為，這場持續(xù)一小時(shí)的風(fēng)波，暴露出平臺安全防線至少在三處關(guān)鍵環(huán)節(jié)“失守”。

首先，實(shí)時(shí)監(jiān)測系統(tǒng)“看不見”。面對異常內(nèi)容短時(shí)間內(nèi)大規(guī)模涌現(xiàn)的明顯信號，平臺的自動化監(jiān)測未能及時(shí)捕捉與預(yù)警，防線第一關(guān)形同虛設(shè)。其次，審核體系“扛不住”。既有的“AI+人工”審核模式，在面對黑灰產(chǎn)有組織、規(guī)?；娘柡凸魰r(shí)不堪重負(fù)，瞬間被“沖垮”。最后，決策流程“跑不動”。冗長的內(nèi)部決策鏈條，導(dǎo)致在危急情況下無法快速啟動應(yīng)急處置，錯(cuò)過了遏制事態(tài)擴(kuò)大的黃金窗口。

（天使投資人、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員郭濤）

天使投資人、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員郭濤進(jìn)一步分析了應(yīng)急響應(yīng)暴露的核心問題：一是預(yù)警機(jī)制存在盲區(qū)，AI模型對“業(yè)務(wù)合法掩護(hù)下的批量違規(guī)”缺乏精準(zhǔn)識別能力，未能及時(shí)捕捉短時(shí)間內(nèi)多直播間集中涌現(xiàn)的違規(guī)特征，過度依賴用戶舉報(bào)導(dǎo)致預(yù)警嚴(yán)重滯后；二是應(yīng)急流程銜接低效，未建立針對規(guī)模化攻擊的自動“熔斷機(jī)制”，人工審核、賬號封禁、內(nèi)容下架等環(huán)節(jié)協(xié)同不暢，陷入“封禁不及新增”的被動局面；三是資源調(diào)度缺乏彈性，后臺系統(tǒng)未能在遭受飽和式攻擊時(shí)自動觸發(fā)擴(kuò)容或限流預(yù)案，導(dǎo)致審核資源無法匹配峰值需求。

二、 平臺恐難逃其咎 網(wǎng)絡(luò)安全切記“亡羊補(bǔ)牢”

此次事件中，即便攻擊源自外部黑灰產(chǎn)，快手也難言完全無責(zé)。北京市京師(深圳)律師事務(wù)所律師王曉彤指出，即便本次事件系黑灰產(chǎn)組織實(shí)施的惡意攻擊行為，平臺亦不當(dāng)然免責(zé)。根據(jù)《網(wǎng)絡(luò)安全法》《民法典》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》等法律法規(guī)，平臺對其運(yùn)營空間內(nèi)的信息內(nèi)容依法負(fù)有內(nèi)容管理主體責(zé)任和安全保障義務(wù)。

（北京市京師(深圳)律師事務(wù)所律師王曉彤）

從責(zé)任限制規(guī)則看，我國法律雖未直接使用“避風(fēng)港原則”這一表述，但其制度內(nèi)涵已明確體現(xiàn)在《民法典》第1195條、第1197條之中。依據(jù)該兩條規(guī)定，網(wǎng)絡(luò)服務(wù)提供者僅在不存在“知道或應(yīng)當(dāng)知道”情形，且在發(fā)現(xiàn)或被通知后已及時(shí)采取必要措施的前提下，方可不就損害后果承擔(dān)相應(yīng)責(zé)任。反之，如存在應(yīng)知未知、知而不處置或處置明顯遲延的情形，則不適用責(zé)任豁免規(guī)則。 同時(shí)，《網(wǎng)絡(luò)安全法》第47條明確要求，網(wǎng)絡(luò)運(yùn)營者發(fā)現(xiàn)法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⒌?，?yīng)當(dāng)立即停止傳輸、采取處置措施、防止信息擴(kuò)散，并保存記錄、向主管部門報(bào)告。因此，是否承擔(dān)法律責(zé)任，關(guān)鍵并不在于違法內(nèi)容是否源于“外部攻擊”，而在于平臺是否已依法建立并有效運(yùn)行與其業(yè)務(wù)規(guī)模相匹配的內(nèi)容治理和應(yīng)急處置機(jī)制。

（浙江墾?。ū本┞蓭熓聞?wù)所律師程念）

網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、浙江墾丁（北京）律師事務(wù)所律師程念也指出，第一，快手事件中，一些公開報(bào)道中提到根據(jù)技術(shù)專家分析，攻擊者很可能利用了直播推流接口的底層漏洞，從而繞過了平臺正常的實(shí)名認(rèn)證和內(nèi)容審核鏈路。這使得預(yù)設(shè)的違規(guī)內(nèi)容能夠直接突破安全防線。快手面對新型的、組合方式出現(xiàn)的攻擊，顯然沒有很好地應(yīng)對和處置，大量新注冊的“小白號”或僵尸賬號自動化播放預(yù)制視頻的涌入也很可能超出了快手平常審核方面的算力支持。

第二，《國家網(wǎng)絡(luò)安全事件報(bào)告管理辦法》附件“網(wǎng)絡(luò)安全事件分級指南”中對于“重大網(wǎng)絡(luò)安全事件”的界定中包含“...大型以上網(wǎng)絡(luò)平臺等被攻擊篡改，導(dǎo)致違法有害信息大范圍傳播。 以下情況之一，可認(rèn)定為“大范圍”：（3）瀏覽或點(diǎn)擊次數(shù)10萬以上”；對于“較大網(wǎng)絡(luò)安全事件”的界定中包含“...網(wǎng)絡(luò)平臺等被攻擊篡改，導(dǎo)致違法有害信息較大范圍傳播。以下情況之一，可認(rèn)定為“較大范圍”：（3）瀏覽或點(diǎn)擊次數(shù)1萬以上”?？焓质录壳暗那闆r已經(jīng)構(gòu)成較大網(wǎng)絡(luò)安全事件，公開渠道看到的情況是違法信息傳播持續(xù)了一個(gè)小時(shí)，部分直播間單場觀看人數(shù)甚至逼近10萬人。如果經(jīng)調(diào)查發(fā)現(xiàn)達(dá)到10萬人則很可能被認(rèn)定為重大網(wǎng)絡(luò)安全事件，而根據(jù)《國家網(wǎng)絡(luò)安全事件報(bào)告管理辦法》第四條，快手應(yīng)當(dāng)及時(shí)向?qū)俚厥〖壘W(wǎng)信部門報(bào)告，最遲不得超過4小時(shí)。如果因?yàn)槲茨芗皶r(shí)報(bào)告導(dǎo)致危害擴(kuò)大的，該行為也屬于違反《網(wǎng)絡(luò)安全法》第二十五條的情形。

因此，本身存在漏洞加上沒有提供和平臺體量相當(dāng)?shù)膽?yīng)急措施和方案，以及未能即使向主管部門報(bào)告的，快手很可能因未能處置系統(tǒng)漏洞、網(wǎng)絡(luò)攻擊等風(fēng)險(xiǎn)以及未能及時(shí)按照規(guī)定報(bào)告從而因違反《網(wǎng)絡(luò)安全法》第二十五條的規(guī)定，從而導(dǎo)致《網(wǎng)絡(luò)安全法》第五十九條規(guī)定的責(zé)令整改、警告等處罰措施。

行業(yè)在快速擴(kuò)張中，普遍存在 “安全防護(hù)”與“規(guī)模擴(kuò)張”失衡 的問題。郭濤認(rèn)為，此次事件折射出，隨著黑灰產(chǎn)攻擊技術(shù)迭代，傳統(tǒng)“AI+人工”的滯后模式已難以應(yīng)對新型風(fēng)險(xiǎn)，必須向“智能預(yù)判+主動防御”升級。

三、專家開出“救火”藥方 抵御黑灰產(chǎn)何解

面對日益專業(yè)化、規(guī)?；暮诨耶a(chǎn)攻擊，被動封禁的“救火”模式已顯乏力。行業(yè)專家普遍認(rèn)為，平臺必須進(jìn)行系統(tǒng)性升級，從“事后處置”轉(zhuǎn)向“事前預(yù)防”，構(gòu)建全方位的防御體系。

針對平臺抵御黑灰產(chǎn)攻擊，郭濤給出以下建議：

第一，技術(shù)層面，需構(gòu)建“事前防御-事中攔截-事后溯源”全鏈條體系，升級AI審核模型并專項(xiàng)訓(xùn)練批量違規(guī)、接口漏洞攻擊等場景識別能力，同時(shí)強(qiáng)化直播推流接口的權(quán)限校驗(yàn)與異常監(jiān)測，封堵業(yè)務(wù)邏輯漏洞。

第二，機(jī)制層面，應(yīng)建立跨部門應(yīng)急專班，明確違規(guī)閾值觸發(fā)后的自動熔斷流程，如暫停高風(fēng)險(xiǎn)賬號段開播、限制異常推流行為，實(shí)現(xiàn)“秒級響應(yīng)、分鐘級處置”。

第三，協(xié)同層面，聯(lián)合產(chǎn)業(yè)鏈共建黑灰產(chǎn)數(shù)據(jù)庫，共享違規(guī)賬號、設(shè)備指紋等特征信息，推動跨平臺聯(lián)防聯(lián)控。第四，合規(guī)層面細(xì)化內(nèi)容分級標(biāo)準(zhǔn)與審核權(quán)責(zé)，定期開展攻防演練，模擬新型攻擊場景優(yōu)化防御策略，擺脫過度依賴人工復(fù)核的效率短板。

平臺抵御黑灰產(chǎn)的法律與治理方面，王曉彤律師給出以下建議：

第一，平臺應(yīng)嚴(yán)格落實(shí)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第6條、第8條、第21條的要求，切實(shí)履行信息內(nèi)容管理主體責(zé)任，完善內(nèi)容審核、賬號管理和應(yīng)急處置制度。

第二，依據(jù)《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》第11條、第20條，建立針對涉黃涉暴內(nèi)容的秒級下線、自動封禁和功能熔斷機(jī)制。

第三，按照《網(wǎng)絡(luò)安全法》第47條要求，加強(qiáng)證據(jù)留存和內(nèi)部處置記錄管理，為接受監(jiān)管檢查和主張已履責(zé)提供依據(jù)。

第四，結(jié)合《未成年人保護(hù)法》第74條、第80條，強(qiáng)化對涉黃內(nèi)容的特別防控措施，避免平臺注意義務(wù)標(biāo)準(zhǔn)被進(jìn)一步抬高。

第五，在行政責(zé)任層面，可結(jié)合《行政處罰法》第32條、第33條，通過及時(shí)整改、主動消除危害后果，爭取從輕、減輕或不予處罰的裁量空間。

王曉彤總結(jié)道，總體而言，避風(fēng)港原則并非平臺的免責(zé)“安全墊”，而是對其是否依法、及時(shí)、有效履行法定義務(wù)的綜合評價(jià)結(jié)果。本次事件對抖音、淘寶、京東、小紅書等直播與內(nèi)容平臺均具有明確而現(xiàn)實(shí)的合規(guī)警示意義。

國內(nèi)網(wǎng)絡(luò)安全領(lǐng)域?qū)＜?/strong>、杭州漠坦尼科技有限公司副總經(jīng)理、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員徐均波認(rèn)為，事前，應(yīng)該增加網(wǎng)絡(luò)安全邊界防護(hù)和預(yù)警機(jī)制，可以利用AI能力自動化預(yù)警處置提高運(yùn)營效率；事中，依托多模態(tài)AI技術(shù)實(shí)現(xiàn)7×24小時(shí)檢測違規(guī)內(nèi)容自動處理；事后，互聯(lián)網(wǎng)平臺運(yùn)營者應(yīng)該提高網(wǎng)絡(luò)安全建設(shè)，從單一邊界防護(hù)轉(zhuǎn)向覆蓋身份、行為、業(yè)務(wù)上下文的縱深防御，實(shí)現(xiàn)“外防”與“內(nèi)治”融合。

（國內(nèi)網(wǎng)絡(luò)安全領(lǐng)域?qū)＜倚炀ǎ?/p>

曹磊總結(jié)道，互聯(lián)網(wǎng)平臺必須從根本上轉(zhuǎn)變觀念：內(nèi)容安全是生存之本，而非成本負(fù)擔(dān)。對安全的投入應(yīng)視為必要的戰(zhàn)略性投資。只有將防御策略前置，真正構(gòu)建起技術(shù)、機(jī)制、合規(guī)、生態(tài)協(xié)同的全鏈條防御體系，才能從根源上提升抵御風(fēng)險(xiǎn)的能力，守護(hù)清朗的網(wǎng)絡(luò)空間。此次快手事件，無疑為整個(gè)行業(yè)敲響了必須全力“筑高墻、補(bǔ)漏洞”的警鐘。