2025年，互聯(lián)網(wǎng)一次又一次證明了，早已成為基礎(chǔ)設(shè)施的巨型平臺(tái)比我們想象的更脆弱。

10月，控制著全球1/3公共云計(jì)算市場(chǎng)的亞馬遜AWS服務(wù)器宕機(jī)，當(dāng)天不僅亞馬遜網(wǎng)站癱瘓了9個(gè)小時(shí)，Zoom、星巴克等網(wǎng)站也出現(xiàn)中斷，“數(shù)百萬美國(guó)人斷網(wǎng)的一天”。12月4日，“支付寶崩了”再次登上熱搜，同時(shí)淘寶和閑魚也出現(xiàn)頁面異常。這是10月來支付寶的第三次故障，平均每月一次。

距離新年只剩一周之際，互聯(lián)網(wǎng)的內(nèi)容世界也崩塌了一角。

12月22日晚，快手直播的首頁突然涌現(xiàn)出大量播放著色情、血腥、暴力內(nèi)容的直播間。

約10點(diǎn)左右，大量快手用戶目睹了這些直播。直到23日凌晨00:30左右，快手才緊急關(guān)停了直播功能。在直播被關(guān)停時(shí)，已經(jīng)有單場(chǎng)直播觀看人數(shù)超過了5萬人。

快手在公開聲明里，將這次事故歸因于“平臺(tái)遭到黑灰產(chǎn)攻擊”。攻擊者如何繞過安保機(jī)制，又為什么要以違規(guī)內(nèi)容直播的形式攻擊，網(wǎng)絡(luò)上有諸多揣測(cè)，但目前快手官方還沒有給出更詳盡的解釋。

“唯一能確定的是，快手不只是受害者?！?/strong>

晚上10點(diǎn)，正是許多人點(diǎn)開短視頻App，休息娛樂的高峰期。

有用戶描述，22日晚上，她正在快手上刷著美食直播，下一秒劃出來的卻是露骨的色情畫面。在她的首頁上，平常看的帶貨、吃播都不見了，色情內(nèi)容占領(lǐng)了多個(gè)直播間，“一劃全是”。她感到不適，趕緊退出了直播間。

“還好退得早，聽說之后還有人看到血腥、解剖的內(nèi)容?！?/p>

集中上線后，這些直播間的觀看人數(shù)飛漲。有的直播間觀看人數(shù)超5萬，這也助推了這些內(nèi)容被推向更多的人。色情、暴力內(nèi)容的直播不斷涌現(xiàn)，有人說自己的首頁“一度刷不出其他內(nèi)容”“往下劃10次都是涉黃內(nèi)容”。

直到第二天凌晨00:30，快手才下架了全部直播頻道——“無差別關(guān)?！北徽J(rèn)為是互聯(lián)網(wǎng)平臺(tái)最高級(jí)別的應(yīng)急處理措施。

大量用戶見證了這場(chǎng)長(zhǎng)達(dá)2個(gè)半小時(shí)的混亂。直播的發(fā)布者既有剛注冊(cè)的新賬號(hào)，也有曾經(jīng)發(fā)過視頻的老賬號(hào)——這些賬號(hào)被認(rèn)為是長(zhǎng)久沒被使用的“僵尸號(hào)”。有人甚至看到了一個(gè)賬號(hào)顯示距離自己只有500米。

有人嘗試舉報(bào)這些直播間，但無果。當(dāng)天凌晨，北京公安局海淀分局對(duì)《紅星新聞》表示，他們已經(jīng)接到了多個(gè)快手直播相關(guān)的群眾報(bào)案。

23日00:45左右，快手的直播功能基本恢復(fù)正常。

隨后一早，快手官方回應(yīng)這次事件稱“平臺(tái)遭到灰黑產(chǎn)攻擊，已緊急處理修復(fù)”。并表示快手“強(qiáng)烈譴責(zé)黑灰產(chǎn)的違法犯罪行為”，已就上述事宜向公安機(jī)關(guān)報(bào)警并向相關(guān)部門報(bào)告。

在互聯(lián)網(wǎng)上，網(wǎng)友們的第一反應(yīng)是將事故歸因于快手的“審核失靈”，“當(dāng)晚審核員都集體睡著了嗎”的質(zhì)疑層出不窮。這也是在看到違規(guī)內(nèi)容時(shí)，多數(shù)人的直接印象——審核機(jī)制，無論是算法、AI還是人工，沒能在海量的信息流里“捉住”那些“本不應(yīng)該出現(xiàn)”的內(nèi)容。

可為什么捉不住？

“快手驚魂夜”發(fā)生后，迅速成為輿論焦點(diǎn)，多名信息安全專家在網(wǎng)絡(luò)上公開發(fā)表了自己對(duì)這次事件經(jīng)過的看法。

第一步是繞過審核。一個(gè)共同的觀點(diǎn)是，黑灰產(chǎn)在制造這場(chǎng)混亂時(shí)使用了自動(dòng)化攻擊，利用海量賬號(hào)集中開播，導(dǎo)致平臺(tái)“執(zhí)行封禁”的能力被摧毀了，直播賬號(hào)的數(shù)量太大，以至于“突破了審核防守的極限”。

其次是實(shí)名認(rèn)證問題。直播需要實(shí)名認(rèn)證，而攻擊者被認(rèn)為是通過盜號(hào)獲得已實(shí)名的用戶賬戶、或大批注冊(cè)虛擬手機(jī)號(hào)等方式，“繞開了實(shí)名認(rèn)證系統(tǒng)獲得實(shí)名權(quán)限”。

最后，這些直播間不僅開播，還出現(xiàn)了在無數(shù)人的“首頁”，這意味著推薦機(jī)制也參與其中。這些直播間隨后被推薦給了大量用戶，這可能是由于攻擊者“拿到推流做加密流量”，也或許是“用戶訪問量激增”，激發(fā)了算法的推薦機(jī)制。

“攻擊”選擇的時(shí)間點(diǎn)，也被認(rèn)為是這場(chǎng)混亂影響廣泛的原因之一：晚10點(diǎn)是用戶大量登入的“平臺(tái)負(fù)載水位高點(diǎn)”，也是人工審核換班期，人力最薄弱、應(yīng)急響應(yīng)速度下降。

這場(chǎng)危機(jī)之所以讓快手“猝不及防”，可能的技術(shù)背景是，AI的快速發(fā)展讓發(fā)起類似攻擊的門檻降到了極低，大規(guī)模、高頻次的攻擊實(shí)現(xiàn)了“全面自動(dòng)化”。11月，由全球領(lǐng)先的AI實(shí)驗(yàn)室Anthropic發(fā)布的報(bào)告證實(shí)，今年9月，一場(chǎng)“高度復(fù)雜”的攻擊活動(dòng)已由 AI 徹底主導(dǎo)，每場(chǎng)攻擊中人類僅需參與4-6次關(guān)鍵決策。

但無論是哪種可能性，都表明快手從直播實(shí)名認(rèn)證，到內(nèi)容審核，再到推流機(jī)制，都存在潛在的漏洞。

漏洞分布在各個(gè)環(huán)節(jié)，意味著快手也本該有多次機(jī)會(huì)發(fā)現(xiàn)問題和阻止攻擊。“比如業(yè)務(wù)側(cè)方面，以前的僵尸用戶突然活躍起來了卻沒有預(yù)警，這就是問題?！币晃痪W(wǎng)絡(luò)安全資深從業(yè)者對(duì)《虎嗅》分析道。

無論攻擊的手段再怎么高明，無可否認(rèn)的是的，任何內(nèi)容所造成的影響大小都和“被看到”和“被傳播”的時(shí)間長(zhǎng)短直接相關(guān)。在這場(chǎng)持續(xù)了超過2個(gè)小時(shí)的混亂中，一些內(nèi)容被截圖、錄屏，在社交媒體上再次被分享。

作為國(guó)內(nèi)的頭部互聯(lián)網(wǎng)大廠，快手的解決速度超出了很多人的預(yù)料，因此也被業(yè)內(nèi)質(zhì)疑“決策鏈路冗長(zhǎng)，缺乏緊急情況下快速響應(yīng)的機(jī)制”。

但是，比起“遭到攻擊”背后復(fù)雜的技術(shù)博弈，快手事故中引起更廣泛憂慮的，或許是攻擊者所使用的內(nèi)容——色情、暴力、血腥。當(dāng)大量未經(jīng)過濾的極端內(nèi)容出現(xiàn)在一個(gè)日活躍用戶超過4億的短視頻平臺(tái)的直播頁面，遭受沖擊的往往是最毫無防備的用戶，其中就包括未成年用戶。

有人在自己的社交媒體上分享，當(dāng)天晚上自己的未成年表弟在快手上刷直播，意外看到了極其血腥的直播間內(nèi)容，哭著給自己打電話，因?yàn)椤安桓腋嬖V父母”。

2023年《第5次全國(guó)未成年人互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告》顯示，經(jīng)?？炊桃曨l的未成年網(wǎng)民比例已經(jīng)從2018年的40.5%增長(zhǎng)至2022年的54.1%，“短視頻成為未成年人獲取信息的重要渠道?！?/p>

圖源：《網(wǎng)絡(luò)謎蹤》

在這次“攻擊”因快手短暫下架直播功能而終止之后，更普遍的擔(dān)憂則源于這樣的事實(shí)：短視頻平臺(tái)里的色情、極端、傷害性內(nèi)容并不只是出現(xiàn)在了這一次大規(guī)模的“黑灰產(chǎn)攻擊”中。

作為國(guó)內(nèi)最大的短視頻平臺(tái)之一，快手的不良內(nèi)容低齡化趨勢(shì)在近兩年成為爭(zhēng)議的焦點(diǎn)。

諸如“05年孕婦三胎日常”“幼辣風(fēng)”“廁所文化”一度在快手上層出不窮，一些視頻達(dá)到了千萬級(jí)播放量。由此延伸出“慢腳文化”（慢腳對(duì)應(yīng)快手）——以未成年人為演繹主角的一系列擦邊、暴力、獵奇的短視頻，曾在快手上盛行。

快手也因?yàn)檫`規(guī)內(nèi)容多次受到處罰。去年4月，“低齡媽媽”視頻在快手走紅引發(fā)批評(píng)，快手被廣電總局約談。11月底，國(guó)家網(wǎng)絡(luò)安全通報(bào)中心發(fā)布通告稱，快手存在對(duì)法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⑽醇皶r(shí)處置，以及落實(shí)青少年模式不到位等情況，導(dǎo)致違法信息擴(kuò)散，危害未成年人身心健康，對(duì)快手公司采取警告處罰。

問題當(dāng)然不只是快手的。2021年的掃黃打非行動(dòng)中，抖音因存在傳播淫穢色情低俗信息行為，被處以頂格罰款的行政處罰。而在b站平臺(tái)上，“深夜里能看到的擦邊直播更多”，長(zhǎng)期以來被用戶們當(dāng)成一種心照不宣的“默認(rèn)規(guī)則”。

這種內(nèi)容生態(tài)的龐大和持續(xù)，可以從各個(gè)平臺(tái)的“治理報(bào)告”中部分窺見。

快手發(fā)布的《2024快手社區(qū)治理報(bào)告》顯示，去年一年，快手清理謠言視頻51萬余條，封禁謠言賬號(hào)3萬余個(gè)。網(wǎng)絡(luò)暴力更是“違規(guī)內(nèi)容”的重災(zāi)區(qū)，去年快手?jǐn)r截網(wǎng)暴信息388萬余條，清理網(wǎng)暴信息24.3萬余條。

“黑灰產(chǎn)”也并不是第一次出現(xiàn)在快手的治理中?？焓秩ツ耆站R(shí)別封禁網(wǎng)絡(luò)水軍、黑產(chǎn)機(jī)器人等賬號(hào)22.5萬個(gè)，攔截作弊請(qǐng)求超1億次。

在剛剛過去的一個(gè)月，抖音宣布平臺(tái)清除了涉及未成年人違規(guī)內(nèi)容20.2萬條，其中包括“利用未成年人形象不當(dāng)牟利”“涉未成年人色情低俗”等。

圖源：《混沌少年時(shí)》

而這些僅僅是被發(fā)現(xiàn)、被攔截的部分。

抖音、快手等主流短視頻平臺(tái)都采取雙重審核的機(jī)制。抖音在今年4月公開解釋了他們的審核機(jī)制：平臺(tái)會(huì)先使用機(jī)器對(duì)用戶上傳的內(nèi)容進(jìn)行識(shí)別、過濾，被判斷有高危特征的內(nèi)容會(huì)被直接攔截。如果內(nèi)容“未命中高危特征但模型判斷有問題”，會(huì)再采取一輪人工審核。但如果機(jī)器判定內(nèi)容出問題概率較低，內(nèi)容就會(huì)獲得基礎(chǔ)流量，進(jìn)入下一環(huán)節(jié)。

值得注意的是，直播的內(nèi)容審核比短視頻難得多。“短視頻是先審后發(fā)，直播是邊播邊審，在實(shí)時(shí)性方面更難保證”，一位參與了抖音團(tuán)隊(duì)內(nèi)容審核大模型研發(fā)的員工向《氫商業(yè)》透露。

AI早已成為視頻平臺(tái)內(nèi)容審核的重要參與者，AI會(huì)根據(jù)歷史違規(guī)數(shù)據(jù)訓(xùn)練好的模型，對(duì)色情暴力、敏感詞違禁詞等常見違規(guī)現(xiàn)象進(jìn)行判定。早在2018年，抖音就開始運(yùn)用人工智能輔助內(nèi)容審核?，F(xiàn)在很多場(chǎng)景里已經(jīng)在用更細(xì)分、專業(yè)的小模型進(jìn)行審核，直播大模型則“正在訓(xùn)練中”。

總體而言，目前用于直播審核的大模型，還遠(yuǎn)不如短視頻審核的大模型成熟，上述員工表示。

審核和流量的天平，在直播間和短視頻中并不相同：直播審核、封禁的難度更大，但直播業(yè)態(tài)對(duì)快手的流量卻至關(guān)重要。2020年時(shí)，快手兩億多的日活中有一半是直播用戶。當(dāng)時(shí)，快手科技副總裁余敬中直言，直播是快手的最大優(yōu)勢(shì)。

如果一個(gè)視頻或直播在發(fā)布之后被用戶舉報(bào)，則會(huì)通過人工復(fù)審等方式進(jìn)行下架。在互聯(lián)網(wǎng)上，構(gòu)建內(nèi)容秩序的最后一道關(guān)卡的，依舊是人。

審核員的崗位在大廠中長(zhǎng)期處于“缺人”的狀態(tài)。在4月份被約談后，快手的一則招聘信息顯示，他們計(jì)劃擴(kuò)招3000名審核人員，將原本2000人的審核團(tuán)隊(duì)擴(kuò)充到5000人，“黨員團(tuán)員優(yōu)先”。

各大平臺(tái)的內(nèi)容審核員中，很大一部分是外包崗位。據(jù)南都大數(shù)據(jù)研究院2022年的調(diào)查，快手超過一半的審核相關(guān)崗位分布在成都、武漢、天津、哈爾濱等地。“二三線城市為主”的地域分布對(duì)應(yīng)著更低的用工成本，內(nèi)容審核員的工資區(qū)間大多分布在4000到8000之間，“從業(yè)者以畢業(yè)生、一到三年工作經(jīng)驗(yàn)的人群、大?；蛞陨蠈W(xué)歷為主，沒有專業(yè)限制”。

很多審核員需要承受頻繁的夜班，近12小時(shí)的工作時(shí)長(zhǎng)。長(zhǎng)期面對(duì)色情、暴力、兇殺等極端內(nèi)容，也讓很多人長(zhǎng)期承受心理壓力，一些人因此患上PTSD（創(chuàng)傷后精神緊張性障礙）。

而高度依賴于“人”的內(nèi)容審核機(jī)制，一定程度上意味著，互聯(lián)網(wǎng)上每一秒都在更新、變化的內(nèi)容秩序很難做到真正的“穩(wěn)定安全”，甚至相當(dāng)脆弱。

內(nèi)容治理的難度，除了“黑灰產(chǎn)”們愈發(fā)先進(jìn)的網(wǎng)絡(luò)技術(shù)，還有人性驅(qū)動(dòng)的“算法慣性”存在。諷刺的是，在遭遇攻擊的當(dāng)晚，快手App的下載次數(shù)大漲。23日，快手在蘋果應(yīng)用商店免費(fèi)榜單的排名升至第二名。事故結(jié)束的第二天，依然有人在社交媒體上發(fā)帖，“遺憾沒趕上前一天晚上快手上的色情直播”。平臺(tái)在流量和內(nèi)容安全之間總是存在“兩難”，但潛在的利益同時(shí)也表明平臺(tái)在其中承擔(dān)的不可推卸的責(zé)任。

這種“算法慣性”還意味著，“如果你給互聯(lián)網(wǎng)開一個(gè)口子，它就會(huì)被垃圾填滿”。

“互聯(lián)網(wǎng)公司制定的具體規(guī)則幾乎都是不被人所知的，不透明的規(guī)則使科技公司成為最終仲裁者，這意味著他們可以隨時(shí)更改規(guī)則，且無需對(duì)任何人負(fù)責(zé)，這種關(guān)系非常不平衡”，長(zhǎng)期關(guān)注社交媒體審核機(jī)制的美國(guó)加州大學(xué)洛杉磯分校助理教授莎拉·羅伯茨在和《界面文化》的訪談中總結(jié)道。

AI逐漸取代了部分人類審核員的工作，但這并不意味著內(nèi)容審核離“人”越來越遠(yuǎn)，反而審核越來越需要人類把關(guān)。

類似ChatGPT這樣新工具的開發(fā)，都需要龐大的工人隊(duì)伍輔助、有人必須收集AI訓(xùn)練數(shù)據(jù)，有人必須審核算法，有人必須處理誤判的問題，“我們只是在改變?nèi)祟悓徍说臅r(shí)間點(diǎn)”，莎拉·羅伯茨說。

于是問題最終還是回到了，互聯(lián)網(wǎng)公司和人選擇了什么。一家頭部互聯(lián)網(wǎng)公司的前金融業(yè)務(wù)算法總監(jiān)曾將平臺(tái)算法長(zhǎng)期存在的問題總結(jié)為商業(yè)目標(biāo)導(dǎo)致的“系統(tǒng)冷漠”。這種冷漠包含平臺(tái)獲取流量的人之間的博弈，以及算法設(shè)定者——同時(shí)也是大廠員工，面臨的收益導(dǎo)向的KPI壓力，“員工們的優(yōu)化目標(biāo)是點(diǎn)擊，存留，而不是一則信息是否健康、屬實(shí)?！?/p>

這種選擇性，還體現(xiàn)在公司如何決定成本分配?！熬W(wǎng)絡(luò)安全作為不產(chǎn)生直接效益的部門，一旦公司開始收縮則很可能被優(yōu)先裁掉”，《虎嗅》的報(bào)道指出。

有網(wǎng)絡(luò)安全從業(yè)者在快手直播事故后感嘆，“辛苦工作一年沒出事，領(lǐng)導(dǎo)覺得你什么都沒做；年底一出事，領(lǐng)導(dǎo)覺得你該擔(dān)責(zé)。

在這次“快手驚魂夜”中，外界很難在短時(shí)間內(nèi)知曉最終的處置和責(zé)任歸因。明確的是，遭到這次事故直接影響的除了快手用戶，還有大批快手的普通員工，以及剛剛拿到快手offer的畢業(yè)生——“本來很開心，現(xiàn)在不知道還該不該入職了”。

“牛馬當(dāng)久了，看到這件事的第一反應(yīng)是同情：不知道多少人辛辛苦苦干一年，年終獎(jiǎng)沒了，工作也不保了?！?/strong>

參考資料：

1.界面文化，《互聯(lián)網(wǎng)審核行業(yè)將繼續(xù)不可見，并以最糟糕的方式全球化 | 專訪》，2023.07

2.財(cái)聯(lián)社，《算法逐利 ：商業(yè)自驅(qū)下的“系統(tǒng)冷漠”》，2024.12

3.虎嗅App，《快手不止是“受害者”，快手還沒有做到的》，2025.12

4.第一財(cái)經(jīng)，《打破“信息繭房”，抖音披露算法邏輯與審核機(jī)制》，2025.04

5.每日經(jīng)濟(jì)新聞，《快手大整改，急招3000人審核團(tuán)隊(duì)，黨員團(tuán)員優(yōu)先》，2025.04

6.中國(guó)日?qǐng)?bào)，《快手副總裁余敬中：直播是快手的最大優(yōu)勢(shì)，兩億多日活一半是直播用戶》，2020.01

7.第一財(cái)經(jīng)，《自動(dòng)化工具還是業(yè)務(wù)層對(duì)抗？安全專家這樣分析快手被攻擊》，2025.12

編輯｜盧力麟

作者｜賈小樂

設(shè)計(jì)｜胖兔

封面圖源｜Netflix 紀(jì)錄片《監(jiān)視資本主義：智能陷阱》