網(wǎng)絡(luò)暴力是當(dāng)前網(wǎng)絡(luò)治理中的難點(diǎn)和熱點(diǎn)之一。之所以“難”和“熱”，很大程度因其“新”。因此，治理網(wǎng)絡(luò)暴力也取決于能否把握它“新”在何處。

　　從定義上看，《網(wǎng)絡(luò)暴力信息治理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）第32條規(guī)定：“本規(guī)定所稱網(wǎng)絡(luò)暴力信息，是指通過網(wǎng)絡(luò)以文本、圖像、音頻、視頻等形式對(duì)個(gè)人集中發(fā)布的，含有侮辱謾罵、造謠誹謗、煽動(dòng)仇恨、威逼脅迫、侵犯隱私，以及影響身心健康的指責(zé)嘲諷、貶低歧視等內(nèi)容的違法和不良信息。”這一定義主要列舉了六大類違法和不良信息，是我國法律法規(guī)目前對(duì)網(wǎng)絡(luò)暴力相對(duì)最正式的定義。但無論是這六類信息還是“文本、圖像、音頻、視頻”等形式均早已存在，它們并不是網(wǎng)絡(luò)暴力“新”之所在。

　　網(wǎng)絡(luò)暴力的“新”，其實(shí)隱藏在《規(guī)定》定義中一個(gè)不太被人關(guān)注的地方——“集中”。換言之，網(wǎng)絡(luò)暴力的“新”就在于短時(shí)間內(nèi)大量違法、不良或其他信息“對(duì)個(gè)人集中發(fā)布”?！蛾P(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》（以下簡(jiǎn)稱《意見》）特別強(qiáng)調(diào)，網(wǎng)絡(luò)暴力“有的造成了他人‘社會(huì)性死亡’甚至精神失常、自殺等嚴(yán)重后果”。網(wǎng)絡(luò)暴力之所以會(huì)造成個(gè)人“社死”甚至精神失常或自殺，原因就在于“集中”——某些信息會(huì)在短時(shí)間內(nèi)“對(duì)個(gè)人集中發(fā)布”。因此，“集中”不僅是網(wǎng)絡(luò)暴力“新”的原因，也是其“暴力”所在。

　　典型網(wǎng)絡(luò)暴力案例一般有觸發(fā)和傳播兩個(gè)階段，觸發(fā)階段通常會(huì)有一個(gè)觸發(fā)事件，從而吸引大量關(guān)注和流量。在傳播階段，大量信息迅速到達(dá)當(dāng)事人的社交媒體評(píng)論或私信，短時(shí)間內(nèi)對(duì)當(dāng)事人造成巨大沖擊。從這一傳播規(guī)律入手，治理網(wǎng)絡(luò)暴力的一個(gè)關(guān)鍵是區(qū)分“作惡少數(shù)”和“多數(shù)”。不管是在觸發(fā)還是傳播階段，會(huì)存在一些在關(guān)鍵節(jié)點(diǎn)的“作惡少數(shù)”，比如在杭州女子取快遞被造謠案中，那位在快遞驛站內(nèi)偷拍當(dāng)事人、編造聊天記錄并發(fā)布在群組中的郎某，如果沒有他的偷拍、造謠和發(fā)布（特別是造謠），后續(xù)針對(duì)當(dāng)事人的網(wǎng)暴大概率不會(huì)發(fā)生。這種對(duì)網(wǎng)暴發(fā)生起到必不可少或關(guān)鍵推動(dòng)作用的人，就是網(wǎng)暴中的“作惡少數(shù)”。在造謠誹謗、威逼脅迫、侵犯隱私或“開盒”等類型的網(wǎng)絡(luò)暴力事件中，“作惡少數(shù)”的作用尤其突出。

　　與“作惡少數(shù)”相對(duì)的，是參與到其中的“多數(shù)”。這些“多數(shù)”參與到網(wǎng)絡(luò)暴力中的方式，主要是評(píng)論、發(fā)私信和轉(zhuǎn)發(fā)相關(guān)內(nèi)容等。一方面，“多數(shù)”在絕對(duì)意義上不一定是“無辜”的，因?yàn)樗麄冎辽賲⑴c或涉及了網(wǎng)絡(luò)暴力中的“集中”部分。但另一方面，也不能因此就推定他們是“有罪”的。原因有二：第一，如果沒有“作惡少數(shù)”的行為，“多數(shù)”顯然不會(huì)參與評(píng)論、私信和轉(zhuǎn)發(fā)等行為。第二，“多數(shù)”的單條信息傷害性相對(duì)不大，可怕的是“集中”起來的“多數(shù)”信息。這也是網(wǎng)絡(luò)暴力不同于傳統(tǒng)暴力的一大特點(diǎn)。打個(gè)可能不太恰當(dāng)?shù)谋确?，現(xiàn)實(shí)中的傳統(tǒng)暴力是打人一拳，這種暴力行為是否應(yīng)被追責(zé)主要取決于這一拳的傷害性。如果把網(wǎng)絡(luò)暴力中“多數(shù)”的行為拆成單次分析，可能接近于拍一下或者瞪一眼?，F(xiàn)實(shí)中拍人一下或瞪人一眼不一定算友善，但因?yàn)橹皇菃稳藛未伟l(fā)生，傷害性也相對(duì)較小。網(wǎng)絡(luò)暴力則表現(xiàn)為突然有無數(shù)人過來拍你或者瞪著你，這顯然已經(jīng)產(chǎn)生從量變到質(zhì)變的轉(zhuǎn)化。

　　人們常說“法不責(zé)眾”，網(wǎng)絡(luò)暴力的“新”和“難”其實(shí)也與法不責(zé)眾有關(guān)。網(wǎng)絡(luò)暴力背后往往是公共事件，公共事件之所以被稱為“公共”，正是因?yàn)樯婕肮婈P(guān)心的話題。從這一角度來看，“參與”網(wǎng)絡(luò)暴力的“多數(shù)”很多時(shí)候也是在就他們所關(guān)心的話題表達(dá)觀點(diǎn)。因此，區(qū)分“作惡少數(shù)”和“多數(shù)”也是為了避免誤傷多數(shù)普通網(wǎng)民的表達(dá)自由?！兑庖姟肪吞貏e強(qiáng)調(diào)要“準(zhǔn)確把握違法犯罪行為的認(rèn)定標(biāo)準(zhǔn)”：“針對(duì)他人言行發(fā)表評(píng)論、提出批評(píng)，即使觀點(diǎn)有所偏頗、言論有些偏激，只要不是肆意謾罵、惡意詆毀的，不應(yīng)當(dāng)認(rèn)定為侮辱違法犯罪。”值得肯定的是，《規(guī)定》和《意見》目前都體現(xiàn)出區(qū)分“作惡少數(shù)”和“多數(shù)”的治理思路。比如，《規(guī)定》強(qiáng)調(diào)網(wǎng)絡(luò)暴力信息治理應(yīng)堅(jiān)持“源頭防范”，所謂“源頭”當(dāng)然是“作惡少數(shù)”的觸發(fā)事件或類似“開盒”等關(guān)鍵節(jié)點(diǎn)。再比如，在處置網(wǎng)暴相關(guān)賬號(hào)時(shí)，重點(diǎn)針對(duì)“首發(fā)、多發(fā)、煽動(dòng)發(fā)布網(wǎng)暴信息的賬號(hào)”同樣屬于規(guī)制“作惡少數(shù)”。在緊盯“作惡少數(shù)”之外，《規(guī)定》和《意見》把治理重心的另一端向平臺(tái)主體責(zé)任和保護(hù)當(dāng)事人傾斜，這種思路同樣體現(xiàn)了“少數(shù)”和“多數(shù)”的區(qū)分。

　　新現(xiàn)象需要新思路和手段。在這方面，《規(guī)定》第20條明確要求平臺(tái)“采用人工智能、大數(shù)據(jù)等技術(shù)手段和人工審核相結(jié)合的方式加強(qiáng)對(duì)網(wǎng)絡(luò)暴力信息的識(shí)別監(jiān)測(cè)”。此外，《規(guī)定》第23條要求為當(dāng)事人提供“一鍵防護(hù)”功能也屬于此類。萊斯格“代碼就是法律”的論斷已經(jīng)是老生常談。但面對(duì)網(wǎng)絡(luò)暴力等新問題，法律規(guī)制與基于技術(shù)、架構(gòu)和代碼的治理相結(jié)合不僅沒有過時(shí)，其重要性和作用反而日益凸顯。

　　“集中”并非網(wǎng)絡(luò)暴力所獨(dú)有，它其實(shí)是新技術(shù)背景下互聯(lián)網(wǎng)內(nèi)容治理面臨的普遍挑戰(zhàn)之一。內(nèi)容管理的經(jīng)典法律制度基本誕生于19世紀(jì)印刷時(shí)代，受限于當(dāng)時(shí)的技術(shù)條件，這些制度和原則基本是“一事一案”和分散的。因?yàn)楫?dāng)時(shí)表達(dá)和傳播的成本較高，信息和內(nèi)容是比較稀缺的，與內(nèi)容有關(guān)的爭(zhēng)議總體上也不算多。一旦有爭(zhēng)議發(fā)生，法院或其他內(nèi)容管理機(jī)構(gòu)也有相對(duì)充足的時(shí)間去應(yīng)對(duì)。但今天的互聯(lián)網(wǎng)每時(shí)每刻都在產(chǎn)生海量內(nèi)容，生成式人工智能等新技術(shù)更是會(huì)進(jìn)一步加劇這一趨勢(shì)。內(nèi)容數(shù)量的暴增自然會(huì)對(duì)內(nèi)容管理產(chǎn)生顛覆性影響。據(jù)稱“臉書”平均每天要針對(duì)內(nèi)容進(jìn)行110萬次左右的審查，這種數(shù)量級(jí)的內(nèi)容管理顯然不可能依靠傳統(tǒng)“一事一案”式的人工完成，而必須借助人工智能和算法等新技術(shù)和手段。在過去“一事一案”的“老派規(guī)制”下，人們可以要求內(nèi)容管理相對(duì)精確和精細(xì)；但在依靠算法和機(jī)器的“新派規(guī)制”面前，似乎不得不接受基于蓋然性和比例性的內(nèi)容管理。蓋然性意味著在擁抱高效率的同時(shí)，必須接受一些不確定性和“誤傷”的可能；比例性則是指，對(duì)某些權(quán)利和價(jià)值可能需要“去絕對(duì)化”，將其放入與其他權(quán)利和價(jià)值的權(quán)衡中來考量。

　　以假新聞、仇恨言論、美國國會(huì)封禁TikTok法案和平臺(tái)責(zé)任等議題和事件為代表，世界范圍內(nèi)正在經(jīng)歷一場(chǎng)關(guān)于網(wǎng)絡(luò)治理的震蕩和變革。其中既涉及規(guī)范層面，也包括技術(shù)和方法。對(duì)中國而言，除了在技術(shù)和商業(yè)模式創(chuàng)新上從跟隨者成為引領(lǐng)者，能否探索出互聯(lián)網(wǎng)治理的中國道路，也是從網(wǎng)絡(luò)大國走向網(wǎng)絡(luò)強(qiáng)國的關(guān)鍵一步。在此意義上，網(wǎng)絡(luò)暴力等新問題既是挑戰(zhàn)，也是探索的田野。

作者：左亦魯，北京大學(xué)法學(xué)院長聘副教授。內(nèi)容來自中國社會(huì)科學(xué)網(wǎng)-中國社會(huì)科學(xué)報(bào)，本文章僅限學(xué)習(xí)交流使用，版權(quán)歸原作者所有。

—— EDN ——

Serving national strategies, focusing on university research and the transformation of scientific and technological achievements