12月22日深夜，快手平臺(tái)上演了一場(chǎng)讓全網(wǎng)震驚的“內(nèi)容失守”鬧劇——大量露骨色情內(nèi)容突襲多個(gè)直播間，違規(guī)內(nèi)容在平臺(tái)橫行超1小時(shí)，直到次日凌晨才逐步恢復(fù)正常。

事件發(fā)酵后，快手迅速給出回應(yīng)，表示受到了“黑灰產(chǎn)攻擊”，宣稱已緊急修復(fù)、報(bào)警并上報(bào)相關(guān)部門。

乍一聽，快手像是個(gè)無辜的受害者，但細(xì)究整個(gè)事件的來龍去脈，這場(chǎng)“失守”絕非偶然的外部攻擊所能完全解釋。

01 失控的60分鐘，安全審核成真空

根據(jù)事后的總結(jié)，這場(chǎng)事件從發(fā)生到控制，中間經(jīng)歷了五個(gè)階段：

試探階段：21時(shí)30分起，已有零散用戶反映登錄驗(yàn)證碼加載異常、視頻播放卡頓，少量主播稱直播推流不穩(wěn)。
開始階段：12月22日22：00開始，黑灰產(chǎn)組織已經(jīng)開始對(duì)快手直播平臺(tái)發(fā)動(dòng)大規(guī)模協(xié)同攻擊。
爆發(fā)階段：22:30-23:30，快手直播頻道內(nèi)短時(shí)間內(nèi)涌現(xiàn)出海量涉及淫穢色情、血腥暴力的違規(guī)直播內(nèi)容。這些直播間多數(shù)由新注冊(cè)的“小白號(hào)”或僵尸賬號(hào)開設(shè)，播放視頻，部分直播間單場(chǎng)觀看人數(shù)甚至逼近10萬人。
平臺(tái)處置：約23:30-00:30，面對(duì)如潮水般涌現(xiàn)的違規(guī)內(nèi)容，平臺(tái)開始限制開播并封禁賬號(hào)。
平臺(tái)恢復(fù)：00:30之后，經(jīng)過緊急技術(shù)修復(fù)，快手直播頻道在凌晨基本恢復(fù)正常。

從上述幾個(gè)階段可以看到，快手對(duì)于最初的試探階段沒有重視，在爆發(fā)階段反應(yīng)遲鈍，束手無策，中間有大約60分鐘快手是完全失控的狀態(tài)。

有用戶反饋，可能是發(fā)后短時(shí)間內(nèi)用戶舉報(bào)量激增，快手的舉報(bào)功能都一度癱瘓，用戶連最基本的反饋通道都被堵塞。

有業(yè)內(nèi)人士分析，在事件爆發(fā)階段，平臺(tái)的內(nèi)容審核與封禁系統(tǒng)疑似處于失靈狀態(tài)，實(shí)時(shí)風(fēng)控與內(nèi)容審核體系被“擊穿”，快手不得不采取了最高級(jí)別的“無差別關(guān)?！本o急措施，全面關(guān)閉了直播頻道，才讓鬧劇得以終止。

但是也連帶讓短視頻瀏覽、提現(xiàn)等基礎(chǔ)功能都出現(xiàn)短暫波動(dòng)，正常用戶的體驗(yàn)也受到嚴(yán)重影響。

不得不說，作為一個(gè)日活躍用戶超4億的頭部平臺(tái)，快手理論上應(yīng)具備行業(yè)頂尖的技術(shù)防御能力。但事實(shí)是，面對(duì)規(guī)模化、自動(dòng)化的攻擊，其安全體系瞬間陷入癱瘓，短短60到90分鐘內(nèi)就被全面攻破，實(shí)在讓人大跌眼鏡。

02 “AI安全大模型”紙上談兵？

在快手事件發(fā)生之后，一篇幾個(gè)月之前的文章又被人翻了出來。

這篇文章的內(nèi)容是快手安全算法中心負(fù)責(zé)人劉夢(mèng)怡在AICon 全球人工智能開發(fā)與應(yīng)用大會(huì)·深圳站上的演講。

演講的主要內(nèi)容是快手自研安全大模型技術(shù)破解海量?jī)?nèi)容審核難題。

“以短視頻平臺(tái)的生產(chǎn)數(shù)據(jù)為例，真正的色情暴恐底線風(fēng)險(xiǎn)往往只占千分之幾的流量；因此對(duì)于我們收集數(shù)據(jù)來進(jìn)行模型訓(xùn)練，會(huì)有非常高的成本。”劉夢(mèng)怡提到了快手在內(nèi)容審核方面是通過審核智能體輔助甚至部分替代人工審核，提升審核效率和深度。

不過這次事件的發(fā)生，讓許多人對(duì)快手所謂的“自研安全大模型”瞬間祛魅。

更值得注意的是，就在事發(fā)前幾天，快手剛發(fā)布內(nèi)容治理成績(jī)單，宣稱通過AI技術(shù)實(shí)現(xiàn)違規(guī)內(nèi)容“秒級(jí)識(shí)別”，這種鮮明反差更讓平臺(tái)的風(fēng)控能力備受質(zhì)疑。

這件事情也證明了，所謂的安全大模型也不過是紙上談兵而已，最終發(fā)揮作用的還是靠著人力拉閘。

網(wǎng)絡(luò)流傳聊天記錄顯示，這次攻擊甚至讓快手的封禁接口都無法使用。

03 是內(nèi)鬼配合，還是長(zhǎng)期懈??？

快手號(hào)稱每天處理10億日志、擁有上千條檢測(cè)策略的入侵檢測(cè)體系，但此次事件卻并沒有起到作用，有人懷疑是有內(nèi)鬼配合。

“色情直播持續(xù)10分鐘以上沒有觸發(fā)安全警告，這一點(diǎn)只有內(nèi)部人員能夠做到，無論任何技術(shù)手段從外部都絕對(duì)不可能這么久繞開監(jiān)控，只能是內(nèi)部人員屏蔽了上報(bào)途徑?！痹谏缃幻襟w上有人猜測(cè)。

也有人認(rèn)為，可能是快手風(fēng)控系統(tǒng)更新或是維護(hù)造成的自動(dòng)審核級(jí)別降低或是直接關(guān)閉低俗風(fēng)控。

“快手基礎(chǔ)建設(shè)因?yàn)闆]戰(zhàn)功大家干的熱情都不高…所以快手的大部分工具都呈現(xiàn)出一種“又不是不能用”的氣質(zhì)?！庇袚?jù)稱快手前員工表示，安全條線在快手的地位不高，不太受重視。

12月23日，有媒體報(bào)道，“快手急招安全崗位”，包括應(yīng)用安全專家、基礎(chǔ)安全攻防技術(shù)專家、信息安全BP專家等。

但實(shí)際上從并非如此，從“快手安全應(yīng)急響應(yīng)中心”公眾號(hào)來看，早在一個(gè)月之前快手就一直在招聘相關(guān)崗位，并非臨時(shí)抱佛腳。

長(zhǎng)期招聘要么意味著人員流動(dòng)大，要么意味著長(zhǎng)期沒有招到人。

一個(gè)不爭(zhēng)的事實(shí)是，快手的安全部門確實(shí)長(zhǎng)期處于不穩(wěn)定的狀態(tài)。

9月1日，快手科技發(fā)布組織架構(gòu)調(diào)整公告，公司高級(jí)副總裁余海波不再擔(dān)任安全合規(guī)線負(fù)責(zé)人，轉(zhuǎn)任公司榮譽(yù)顧問，與此同時(shí)公司高級(jí)副總裁馬宏彬擔(dān)任安全合規(guī)線負(fù)責(zé)人。

然而從履歷來看，馬宏彬并非安全業(yè)務(wù)出身，其工作經(jīng)歷主要集中在運(yùn)營(yíng)、商業(yè)化、國(guó)際化這些領(lǐng)域，在擔(dān)任安全合規(guī)線負(fù)責(zé)人之前主要分管快手國(guó)際化業(yè)務(wù)。

相比之下其前任余海波是多年老媒體人出身，對(duì)于安全方面有著更敏銳的感知。

此外，有信息顯示，自2023年底以來，快手經(jīng)歷了包括安全合規(guī)線負(fù)責(zé)人、研發(fā)線負(fù)責(zé)人在內(nèi)的超過十位副總裁級(jí)以上技術(shù)高管的離職或卸任。核心安全技術(shù)團(tuán)隊(duì)的不穩(wěn)定，可能對(duì)防御體系的長(zhǎng)期規(guī)劃、迭代響應(yīng)速度和應(yīng)急能力產(chǎn)生了潛在影響。

11月22日，快手剛因?qū)`法信息未及時(shí)處置、落實(shí)青少年模式不到位等問題，被公安機(jī)關(guān)依法給予警告處罰。

也有評(píng)論指出，快手的審核機(jī)制長(zhǎng)期存在放水，對(duì)于頭部網(wǎng)紅的違規(guī)行為，平臺(tái)往往“高舉輕放”。

如擁有四千萬粉絲的網(wǎng)紅“祁天道”曾在直播中做出騷擾女性的低俗行為，最初僅被處以15天封禁的處罰，難以形成有效威懾。而旨在保護(hù)未成年人的“青少年模式”更是形同虛設(shè)，用戶通過微信分享的鏈接，無需登錄就能直接觀看完整視頻，輕易繞過防護(hù)機(jī)制。

“或許這種“只喊口號(hào)不落實(shí)”的治理態(tài)度，為平臺(tái)的安全問題埋下伏筆。”有觀點(diǎn)認(rèn)為，此次黑灰產(chǎn)之所以能輕易得手，很大程度上也是利用了平臺(tái)日常治理中的這些“結(jié)構(gòu)性漏洞”。