4月28日晚，美國國會眾議院以409:2壓倒性通過了《刪除法案》（TAKE IT DOWN Act），并提交川普簽署。川普和第一夫人梅拉尼婭早就明確支持通過該法。今天白宮舉行的川普就職百日發(fā)布會上，發(fā)言人萊維特開場就宣布：“這項(xiàng)重要立法由第一夫人親自倡導(dǎo)并引導(dǎo)通過，總統(tǒng)期待立即簽署它”。所以，該法案成法生效已是板上釘釘。

《刪除法案》的核心內(nèi)容，如果總結(jié)成一句話就是：把發(fā)布未經(jīng)同意的私密露骨影像（Non-consensual Intimate Imagery, NCII，俗稱“報(bào)復(fù)性色情”）的行為定為犯罪，并要求科技平臺限時48小時刪除相關(guān)內(nèi)容，否則將被聯(lián)邦貿(mào)易委員會（FTC）處罰。

這是美國多年來第一部直接監(jiān)管網(wǎng)絡(luò)內(nèi)容的法案，也是第一部聯(lián)邦層面的人工智能監(jiān)管法案。它表面上是在處理隱私和色情剝削問題，本質(zhì)上則是在聯(lián)邦層級首次針對生成式人工智能（特別是深度偽造技術(shù)）濫用行為專門立法，并設(shè)定了具體的責(zé)任、處罰和執(zhí)法機(jī)制，是美國首個生效的AI治理法案。當(dāng)然，需要明確的是，該法案只管特定領(lǐng)域的AI濫用（深偽色情），不是歐盟AI法案那樣的綜合性監(jiān)管框架，比起我國的《生成式人工智能服務(wù)管理暫行辦法》切口也要更窄。換言之，法案管的是“用AI做了壞事的結(jié)果”，而不是對AI技術(shù)開發(fā)過程、模型訓(xùn)練過程等進(jìn)行直接規(guī)范。但這一小步，卻是美國AI監(jiān)管頗具突破意義的一步。

整個法案的內(nèi)容可以拆解為“刑事定罪“+“通知-刪除”兩個版塊：

一、刑事定罪

1、故意發(fā)布未經(jīng)同意的私密影像構(gòu)成犯罪

《刪除法案》修改了《1934年通信法》，明確禁止故意發(fā)布未經(jīng)他人同意的私密影像。這里所說的“私密影像”，不僅包括真實(shí)拍攝的照片或視頻，還包括用人工智能或其他技術(shù)制作的、看起來和真人無異的合成影像。無論是直接拍攝還是數(shù)字偽造，只要影像中能識別出受害者的面容或特征，且未經(jīng)其同意被發(fā)布，就屬于違法行為。

如果發(fā)布的是成年人的私密影像，需要滿足幾個條件才構(gòu)成犯罪，比如影像是在當(dāng)事人有合理隱私期待的情況下拍攝的，不是公開場合展示的內(nèi)容，也不是公眾關(guān)心的事務(wù)，同時發(fā)布該影像的行為要么是出于傷害意圖，要么實(shí)際造成了心理、經(jīng)濟(jì)或名譽(yù)上的傷害。而針對未成年人的私密影像規(guī)定更加嚴(yán)格，只要發(fā)布者是為了羞辱、騷擾、貶低，或滿足性欲，即構(gòu)成犯罪。

不過，法律也列出了一些例外情況。比如，執(zhí)法或情報(bào)機(jī)關(guān)依法進(jìn)行的調(diào)查使用影像時，或出于善意向警方舉報(bào)、在法律程序中使用、醫(yī)學(xué)教育等正當(dāng)目的下披露影像，不算違法。此外，如果受害者本人自愿發(fā)布自己的私密影像，或影像屬于兒童色情等更嚴(yán)重犯罪范疇，則適用其他專門法律。

2、發(fā)布AI合成的數(shù)字偽造影像同樣違法

除了真實(shí)拍攝的內(nèi)容，使用AI或其他技術(shù)偽造出的假冒私密影像，同樣受到法律禁止。如果未經(jīng)當(dāng)事人同意發(fā)布了這些高度逼真的合成影像，同樣需要滿足一定條件，比如不是本人在公開場合展示的，不是公眾關(guān)注事項(xiàng)，并且發(fā)布行為帶有傷害意圖或?qū)嶋H造成傷害，才會構(gòu)成犯罪。但涉及未成年人的合成色情影像，無論目的為何，只要有辱罵、騷擾、滿足性欲的意圖，就直接違法。

這些規(guī)定也有例外，和上面已經(jīng)提到的一樣，但如果影像涉及兒童色情或兒童性虐待表現(xiàn)，無論是否存在同意，都會受到更嚴(yán)厲的處罰。

3、違法發(fā)布私密影像的處罰

如果違法發(fā)布成年人的私密影像或合成影像，最高可被判罰款和兩年監(jiān)禁；如果發(fā)布的是未成年人的，則最高可判三年監(jiān)禁。法院在判決時，還可以命令沒收用于發(fā)布違法影像的材料、非法獲利和相關(guān)工具。

此外，發(fā)布影像之外，單純威脅他人說要發(fā)布也屬于犯罪。威脅發(fā)布真實(shí)影像的，適用正常處罰；威脅發(fā)布數(shù)字偽造影像的，如果對象是成年人，最高判18個月監(jiān)禁，如果是未成年人，則最高30個月監(jiān)禁。

法院也可以責(zé)令違法者向受害者支付賠償。同時，法案特別強(qiáng)調(diào)，就算當(dāng)事人曾同意拍攝影像，或者曾把影像發(fā)給別人，也不等于同意被公開發(fā)布。

二、數(shù)字平臺的“通知-刪除”義務(wù)

1、在法律生效后一年內(nèi)，所有受監(jiān)管的網(wǎng)站、社交平臺或應(yīng)用，必須建立一套流程，讓受害者可以舉報(bào)自己的私密影像未經(jīng)本人同意被上傳的情況，并要求平臺刪除這段影像。一旦接到舉報(bào)，平臺要在48小時內(nèi)刪除相關(guān)內(nèi)容，并盡力清除所有副本。

2、受害者提交請求時，需要提供：1）個人的手寫或電子簽名（確認(rèn)是本人或授權(quán)人）；2）明確說明是哪段內(nèi)容被濫用了，提供能幫助平臺快速找到內(nèi)容的線索；3）簡要說明為什么相信這段影像是未經(jīng)自己同意發(fā)布的，并提供相關(guān)背景信息；4）聯(lián)系方式，方便平臺核實(shí)或反饋。

3、平臺必須在網(wǎng)站或APP上明顯位置展示清晰說明，比如通過一個簡單易懂的網(wǎng)頁鏈接，告訴用戶：1）平臺對于處理私密影像的責(zé)任是什么；2）用戶如何提交舉報(bào)和刪除請求。這些說明要用簡潔、易懂的語言，不能復(fù)雜晦澀，讓用戶難以理解。

4、善意免責(zé)：即如果平臺是基于善意判斷，相信某段影像是未經(jīng)同意發(fā)布的，因此選擇刪除或者限制訪問，即使最終發(fā)現(xiàn)那段內(nèi)容是合法的，平臺也不會因此被追責(zé)或被索賠。

聯(lián)邦貿(mào)易委員會負(fù)責(zé)執(zhí)法，監(jiān)督各大平臺認(rèn)真執(zhí)行“刪除違規(guī)私密影像”的義務(wù)。平臺如果拖拖拉拉，或者直接拒絕受害者的刪除請求，就會被認(rèn)定為搞欺詐，違反了《聯(lián)邦貿(mào)易委員會法》。一旦被抓住，不僅可能被調(diào)查、罰款，還可能被強(qiáng)制整改。委員會可以動用它手里的一整套執(zhí)法武器來處理這些違規(guī)平臺，無論是一般企業(yè)還是非營利機(jī)構(gòu)，只要觸犯規(guī)定，都逃不過。

過去，美國在科技監(jiān)管方面一直是雷聲大、雨點(diǎn)小。無論是管人工智能、平臺責(zé)任，還是搞反壟斷改革，國會總是談得熱鬧，真到了立法的時候就老是卡殼。即使是對深偽色情這種，國會也是多次嘗試卻無功而返。比如，紐約民主黨眾議員、現(xiàn)在民主黨的少壯派AOZ和南卡共和黨眾議員Nancy Mace就曾聯(lián)合推出的《反抗法案》（DEFIANCE Act），賦予受害者起訴權(quán)；還有Dick Durbin、Josh Hawley等議員提的配套法案，最后都因行業(yè)反對而夭折。

直到2024年6月，才由參議員Ted Cruz推出了《刪除法案》的第一個版本，7月眾議院也跟進(jìn)了配套文本。雖然法案在參議院修訂后，于12月初通過，但因?yàn)檎[，眾議院來不及審議。原本想趁年末打包進(jìn)預(yù)算案，但預(yù)算案又被否決，法案被擋了下來，只能等到第119屆國會重新來過。2025年1月，Ted Cruz以參議院商務(wù)委員會新任主席的身份，再次提交了《刪除法案》，參議員Amy Klobuchar也參與了共提。

這次《刪除法案》的再啟動其實(shí)是典型的逆風(fēng)而上：川普政府正強(qiáng)調(diào)去監(jiān)管，科技行業(yè)對白宮的影響力前所未有地增強(qiáng)，萬斯在巴黎AI峰會和慕安會等各種場合剛強(qiáng)調(diào)了言論自由、反對AI監(jiān)管。但盡管如此，法案還是以驚人的速度迅速推進(jìn)。

在參議院提出《刪除法案》幾天后，眾議員Maria Salazar和Madeleine Dean也在眾議院提出了配套版本。這次，參眾兩院都有大批兩黨議員聯(lián)署支持——眾議院有41位，參議院也有20多位。因?yàn)樯蠈脟鴷褜徸h過一次，這回推進(jìn)得異常順利。法案提交后不久，參院直接跳過了常規(guī)的委員會審查流程，2月13日以全票一致通過。眾議院的進(jìn)展也十分順利。在眾議院能源和商務(wù)委員會的審議中，法案以49票贊成、1票反對的結(jié)果通過。隨后，眾議院在不進(jìn)行辯論的情況下，通過“暫停規(guī)則”程序迅速表決通過了該法案。

前臉書、推特、谷歌政策顧問Nu Wexler曾經(jīng)形容，在美國要推動一項(xiàng)科技監(jiān)管法案成功，需要“天時地利人和”，而《刪除法案》可能正好踩準(zhǔn)了所有條件。

首先，近年來生成式人工智能廣泛應(yīng)用，大幅降低了制作高度逼真深度偽造色情內(nèi)容的門檻，導(dǎo)致此類侵害隱私的影像激增，對受害者造成了嚴(yán)重的心理、名譽(yù)和經(jīng)濟(jì)傷害，社會反應(yīng)很大。盡管美國幾乎所有州都立法禁止“深偽色情”，但各州法律標(biāo)準(zhǔn)不一，執(zhí)法不均，受害者往往難以及時要求平臺移除影像。因此，支持出臺聯(lián)邦統(tǒng)一法案的呼聲很高，科技界、政界、公益組織幾乎是一邊倒支持。

一直對AI監(jiān)管和平臺規(guī)制比較抵觸的主要互聯(lián)網(wǎng)科技公司和社交媒體平臺，這次也都公開支持法案。一些平臺的負(fù)責(zé)人甚至直接參與法案的推廣。應(yīng)當(dāng)說，平臺企業(yè)也有自己的算盤：有個統(tǒng)一的聯(lián)邦標(biāo)準(zhǔn)，總比各州對深度偽造和“報(bào)復(fù)色情”搞“碎片化”立法要好得多，如果一定要立法，那平臺們肯定更想要一個聯(lián)邦法，這樣合起規(guī)來也容易地多。此外，反對這樣一項(xiàng)旨在保護(hù)女性和未成年人免遭色情剝削的法案，公眾輿論和道德形象顯然是很差的。

其次，或許是最重要的一個因素，是這項(xiàng)法案獲得了第一夫人梅拉尼婭·川普的力挺。《刪除法案》和梅拉尼婭長期關(guān)注的兒童和青少年網(wǎng)絡(luò)安全議題高度契合，成為獲得她支持的關(guān)鍵。川普第一任期，梅拉尼婭發(fā)起了名為 “Be Best” 的倡議，主打的三大主題之一就是“兒童網(wǎng)絡(luò)安全”，特別是青少年在社交媒體上遭遇網(wǎng)絡(luò)欺凌、騷擾、虐待，以及因隱私被侵犯、被傳播不當(dāng)內(nèi)容而造成的心理傷害。而《刪除法案》的核心，就是要打擊未經(jīng)同意的私密影像（包括青少年受害人）的網(wǎng)絡(luò)傳播，防止深偽色情內(nèi)容擴(kuò)散，對梅拉尼婭來說無疑很容易形成價(jià)值認(rèn)同。

自Ted Cruz重提法案以來，第一夫人辦公室就深度參與了整個立法進(jìn)程。參院通過《刪除法案》后，梅拉尼婭親自出席了Ted Cruz和Maria Salazar組織的一場跨黨派圓桌會，和“報(bào)復(fù)色情”、深偽受害者一起發(fā)聲，呼吁國會加速通過法案。她不僅發(fā)表了演講，還邀請一位15歲的受害人女孩作為貴賓出席并分享自己的經(jīng)歷，跟其他幾位受害者也進(jìn)行了私下交流。據(jù)媒體報(bào)道，梅拉尼婭在私下聽取受害者經(jīng)歷時多次動容，眼眶泛紅。她向工作人員表示：“每一個受害者的故事，都讓我更加堅(jiān)信我們必須立法。”她還直接建議川普在國情咨文演講中特別提一下《刪除法案》，明確總統(tǒng)對法案的支持。后來川普確實(shí)照辦了，還半開玩笑地說：如果可以的話，我自己也會用這項(xiàng)法律保護(hù)自己，因?yàn)槲沂鞘苌顐蝹ψ疃嗟娜酥弧?/p>

不過，對《刪除法案》也有一些批評和質(zhì)疑。像電子前沿基金會（EFF）就擔(dān)心這個法案可能會傷害到言論自由，甚至給川普這種政治人物一把新武器，讓他們有機(jī)會去打壓批評者。民主與技術(shù)中心（CDT）也提了警告：法案搞了個“通知-刪除”的機(jī)制，可能不只是刪除那些真正未經(jīng)同意的私密影像，還會順帶把一些本來合法、正常的內(nèi)容也刪掉。這樣一來，很可能會踩到憲法紅線，變成對大家自由發(fā)言的打壓。

還有人特別擔(dān)心加密通訊。比如WhatsApp這種聊天工具，消息是端到端加密的，平臺自己都看不到內(nèi)容。要是有人在加密群組里發(fā)了違規(guī)影像，即使受害者舉報(bào)，平臺也沒辦法不破壞加密就刪掉。這樣一來，平臺要么違規(guī)挨罰，要么就得動手破壞加密，最后倒霉的可能是所有用戶的隱私。技術(shù)專家們指出，目前《刪除法案》沒有明確豁免加密平臺，也沒想好在加密環(huán)境下怎么操作，是個明顯的漏洞，以后很可能還得靠補(bǔ)充立法或者新技術(shù)手段來把這個問題補(bǔ)上。

在《通信規(guī)范法》230條之后，美國已經(jīng)很多年沒有通過限制平臺內(nèi)容的國會立法?！秳h除法案》大幅強(qiáng)化了平臺對未經(jīng)同意的私密影像的刪除義務(wù)，有點(diǎn)像是走歐盟《數(shù)字服務(wù)法》的路徑，和230條的平臺豁免形成了一定張力。而且法案也沒有像版權(quán)領(lǐng)域那樣設(shè)立反通知機(jī)制，平臺為避免風(fēng)險(xiǎn)可能傾向于“先刪后問”，擴(kuò)大刪除范圍，損害網(wǎng)絡(luò)言論自由。合規(guī)層面，大型平臺可能是有準(zhǔn)備，但中小平臺和加密通訊應(yīng)用面臨很大壓力，有可能導(dǎo)致誤刪合法內(nèi)容或?yàn)榱撕弦?guī)犧牲用戶的通信隱私。

不過，法案畢竟沒有開放對平臺的民事索賠渠道，也保留了善意刪除的免責(zé)機(jī)制，終歸堅(jiān)持了230條的基本框架，是有限調(diào)整而非根本背離。此外，平臺托管托管兒童色情、未經(jīng)同意的私密影像，本來就因?qū)儆?30條的例外而不享有豁免，這樣就基本避免了《刪除法案》和第230條的沖突。

特定網(wǎng)絡(luò)內(nèi)容入罪和“通知-刪除”機(jī)制，無疑還直接觸及了憲法第一修正案。這也是為什么一些反對法案的人的一個論點(diǎn)，覺得法案的實(shí)施過程中平臺為了規(guī)避風(fēng)險(xiǎn)可能存在“過度刪除”，限制合法表達(dá)，并且因?yàn)槿狈Ψ粗茷E用的機(jī)制久而久之可能產(chǎn)生壓制言論的效果。還有人警惕未來政府可能以類似法律擴(kuò)大對網(wǎng)絡(luò)言論的審查范圍。

從第一修正案的先例看，合法的成人色情內(nèi)容（即成年人自愿參與、制作、傳播的色情作品）也受憲法保護(hù)，例外非常狹窄：只有兒童色情（Child Pornography）和真正的猥褻內(nèi)容（Obscenity），其中似乎不包括“報(bào)復(fù)色情”。但美國最高法院的先例一貫認(rèn)為，極端有害的內(nèi)容，比如兒童色情、淫穢猥褻言論，以及直接與犯罪有關(guān)的表達(dá)，不受第一修正案保護(hù)。大部分深偽色情或“報(bào)復(fù)色情”（特別是涉及未成年人或性勒索）實(shí)際上屬于犯罪的一部分，即使不完全構(gòu)成言論自由的例外，也因社會價(jià)值極低，可以依法禁止。換言之，《刪除法案》針對的是幾乎沒有表達(dá)價(jià)值的內(nèi)容，不影響新聞報(bào)道或合法的成人內(nèi)容，立法目標(biāo)是防止人格權(quán)侵害而非打擊觀點(diǎn)，符合”內(nèi)容中立“原則，應(yīng)該可以通過嚴(yán)格審查。

法案原文：https://www.congress.gov/119/bills/s146/BILLS-119s146es.pdf

法案中文版：

文章僅做學(xué)術(shù)探討和研究交流使用，相關(guān)判斷不代表任何公司或機(jī)構(gòu)立場，也不構(gòu)成任何商業(yè)建議。轉(zhuǎn)載請注明出處。