走出去智庫(kù)（CGGT）觀察

4月28日，美國(guó)國(guó)會(huì)眾議院通過(guò)《刪除法案》（TAKE IT DOWN Act），旨在打擊未經(jīng)同意在網(wǎng)絡(luò)上發(fā)布色情圖片和視頻的行為，其中包括人工智能生成的“深度偽造”材料。該法案預(yù)計(jì)由美國(guó)總統(tǒng)特朗普簽署成法律，將是其第二任期內(nèi)首部重要的互聯(lián)網(wǎng)及AI監(jiān)管法律。

走出去智庫(kù)（CGGT）觀察到，雖然該法案旨在打擊“色情報(bào)復(fù)”以及遏制“深度偽造”技術(shù)帶來(lái)的種種危害，但它所承載的意義遠(yuǎn)不止于此。該法案被廣泛看作是美國(guó)在規(guī)范互聯(lián)網(wǎng)公司發(fā)展道路上邁出的關(guān)鍵且重要的一步，長(zhǎng)期以來(lái)，美國(guó)眾多互聯(lián)網(wǎng)公司憑借著技術(shù)和市場(chǎng)優(yōu)勢(shì)，巧妙地逃避監(jiān)管，在數(shù)據(jù)隱私保護(hù)、內(nèi)容審核等諸多關(guān)鍵方面存在諸多漏洞與問(wèn)題，該法案有望改變這一現(xiàn)狀，促使互聯(lián)網(wǎng)公司承擔(dān)起應(yīng)有的社會(huì)責(zé)任。但部分人擔(dān)憂其條款可能限制言論自由，過(guò)度干預(yù)網(wǎng)絡(luò)生態(tài)，因而對(duì)此表示反對(duì)。

《刪除法案》將帶來(lái)哪些影響？今天，走出去智庫(kù)（CGGT）刊發(fā)一篇分析文章，供關(guān)注互聯(lián)網(wǎng)和AI監(jiān)管的讀者參考。

要點(diǎn)

1、這是美國(guó)多年來(lái)第一部直接監(jiān)管網(wǎng)絡(luò)內(nèi)容的法案，也是第一部聯(lián)邦層面的人工智能監(jiān)管法案。它表面上是在處理隱私和色情剝削問(wèn)題，本質(zhì)上則是在聯(lián)邦層級(jí)首次針對(duì)生成式人工智能（特別是深度偽造技術(shù)）濫用行為專門立法，并設(shè)定了具體的責(zé)任、處罰和執(zhí)法機(jī)制，是美國(guó)首個(gè)生效的AI治理法案。

2、這次《刪除法案》的再啟動(dòng)其實(shí)是典型的逆風(fēng)而上：特朗普政府正強(qiáng)調(diào)去監(jiān)管，科技行業(yè)對(duì)白宮的影響力前所未有地增強(qiáng)，美國(guó)副總統(tǒng)萬(wàn)斯在巴黎AI峰會(huì)和慕安會(huì)等各種場(chǎng)合剛強(qiáng)調(diào)了言論自由、反對(duì)AI監(jiān)管。但盡管如此，法案還是以驚人的速度迅速推進(jìn)。

3、特定網(wǎng)絡(luò)內(nèi)容入罪和“通知-刪除”機(jī)制，無(wú)疑還直接觸及了憲法第一修正案，引發(fā)了對(duì)法案合憲性的合理疑問(wèn)。

正文

4月28日晚，美國(guó)國(guó)會(huì)眾議院以409:2壓倒性通過(guò)了《刪除法案》（TAKE IT DOWN Act），并提交特朗普簽署。特朗普和第一夫人梅拉尼婭早就明確支持通過(guò)該法。在白宮舉行的特朗普就職百日發(fā)布會(huì)上，發(fā)言人萊維特開場(chǎng)就宣布：“這項(xiàng)重要立法由第一夫人親自倡導(dǎo)并引導(dǎo)通過(guò)，總統(tǒng)期待立即簽署它”。所以，該法案成法生效已是板上釘釘。

《刪除法案》的核心內(nèi)容，如果總結(jié)成一句話就是：把發(fā)布未經(jīng)同意的私密露骨影像（Non-consensual Intimate Imagery, NCII，俗稱“報(bào)復(fù)性色情”）的行為定為犯罪，并要求科技平臺(tái)限時(shí)48小時(shí)刪除相關(guān)內(nèi)容，否則將被聯(lián)邦貿(mào)易委員會(huì)（FTC）處罰。

這是美國(guó)多年來(lái)第一部直接監(jiān)管網(wǎng)絡(luò)內(nèi)容的法案，也是第一部聯(lián)邦層面的人工智能監(jiān)管法案。它表面上是在處理隱私和色情剝削問(wèn)題，本質(zhì)上則是在聯(lián)邦層級(jí)首次針對(duì)生成式人工智能（特別是深度偽造技術(shù)）濫用行為專門立法，并設(shè)定了具體的責(zé)任、處罰和執(zhí)法機(jī)制，是美國(guó)首個(gè)生效的AI治理法案。當(dāng)然，需要明確的是，該法案只管特定領(lǐng)域的AI濫用（深偽色情），不是歐盟AI法案那樣的綜合性監(jiān)管框架，比起我國(guó)的《生成式人工智能服務(wù)管理暫行辦法》切口也要更窄。換言之，法案管的是“用AI做了壞事的結(jié)果”，而不是對(duì)AI技術(shù)開發(fā)過(guò)程、模型訓(xùn)練過(guò)程等進(jìn)行直接規(guī)范。但這一小步，卻是美國(guó)AI監(jiān)管頗具突破意義的一步。

整個(gè)法案的內(nèi)容可以拆解為“刑事定罪“+“通知-刪除”兩個(gè)版塊：

一、刑事定罪

1、故意發(fā)布未經(jīng)同意的私密影像構(gòu)成犯罪

《刪除法案》修改了《1934年通信法》，明確禁止故意發(fā)布未經(jīng)他人同意的私密影像。這里所說(shuō)的“私密影像”，不僅包括真實(shí)拍攝的照片或視頻，還包括用人工智能或其他技術(shù)制作的、看起來(lái)和真人無(wú)異的合成影像。無(wú)論是直接拍攝還是數(shù)字偽造，只要影像中能識(shí)別出受害者的面容或特征，且未經(jīng)其同意被發(fā)布，就屬于違法行為。

如果發(fā)布的是成年人的私密影像，需要滿足幾個(gè)條件才構(gòu)成犯罪，比如影像是在當(dāng)事人有合理隱私期待的情況下拍攝的，不是公開場(chǎng)合展示的內(nèi)容，也不是公眾關(guān)心的事務(wù)，同時(shí)發(fā)布該影像的行為要么是出于傷害意圖，要么實(shí)際造成了心理、經(jīng)濟(jì)或名譽(yù)上的傷害。而針對(duì)未成年人的私密影像規(guī)定更加嚴(yán)格，只要發(fā)布者是為了羞辱、騷擾、貶低，或滿足性欲，即構(gòu)成犯罪。

不過(guò)，法律也列出了一些例外情況。比如，執(zhí)法或情報(bào)機(jī)關(guān)依法進(jìn)行的調(diào)查使用影像時(shí)，或出于善意向警方舉報(bào)、在法律程序中使用、醫(yī)學(xué)教育等正當(dāng)目的下披露影像，不算違法。此外，如果受害者本人自愿發(fā)布自己的私密影像，或影像屬于兒童色情等更嚴(yán)重犯罪范疇，則適用其他專門法律。

2、發(fā)布AI合成的數(shù)字偽造影像同樣違法

除了真實(shí)拍攝的內(nèi)容，使用AI或其他技術(shù)偽造出的假冒私密影像，同樣受到法律禁止。如果未經(jīng)當(dāng)事人同意發(fā)布了這些高度逼真的合成影像，同樣需要滿足一定條件，比如不是本人在公開場(chǎng)合展示的，不是公眾關(guān)注事項(xiàng)，并且發(fā)布行為帶有傷害意圖或?qū)嶋H造成傷害，才會(huì)構(gòu)成犯罪。但涉及未成年人的合成色情影像，無(wú)論目的為何，只要有辱罵、騷擾、滿足性欲的意圖，就直接違法。

這些規(guī)定也有例外，和上面已經(jīng)提到的一樣，但如果影像涉及兒童色情或兒童性虐待表現(xiàn)，無(wú)論是否存在同意，都會(huì)受到更嚴(yán)厲的處罰。

3、違法發(fā)布私密影像的處罰

如果違法發(fā)布成年人的私密影像或合成影像，最高可被判罰款和兩年監(jiān)禁；如果發(fā)布的是未成年人的，則最高可判三年監(jiān)禁。法院在判決時(shí)，還可以命令沒收用于發(fā)布違法影像的材料、非法獲利和相關(guān)工具。

此外，發(fā)布影像之外，單純威脅他人說(shuō)要發(fā)布也屬于犯罪。威脅發(fā)布真實(shí)影像的，適用正常處罰；威脅發(fā)布數(shù)字偽造影像的，如果對(duì)象是成年人，最高判18個(gè)月監(jiān)禁，如果是未成年人，則最高30個(gè)月監(jiān)禁。

法院也可以責(zé)令違法者向受害者支付賠償。同時(shí)，法案特別強(qiáng)調(diào)，就算當(dāng)事人曾同意拍攝影像，或者曾把影像發(fā)給別人，也不等于同意被公開發(fā)布。

二、數(shù)字平臺(tái)的“通知-刪除”義務(wù)

1、在法律生效后一年內(nèi)，所有受監(jiān)管的網(wǎng)站、社交平臺(tái)或應(yīng)用，必須建立一套流程，讓受害者可以舉報(bào)自己的私密影像未經(jīng)本人同意被上傳的情況，并要求平臺(tái)刪除這段影像。一旦接到舉報(bào)，平臺(tái)要在48小時(shí)內(nèi)刪除相關(guān)內(nèi)容，并盡力清除所有副本。

2、受害者提交請(qǐng)求時(shí)，需要提供：1）個(gè)人的手寫或電子簽名（確認(rèn)是本人或授權(quán)人）；2）明確說(shuō)明是哪段內(nèi)容被濫用了，提供能幫助平臺(tái)快速找到內(nèi)容的線索；3）簡(jiǎn)要說(shuō)明為什么相信這段影像是未經(jīng)自己同意發(fā)布的，并提供相關(guān)背景信息；4）聯(lián)系方式，方便平臺(tái)核實(shí)或反饋。

3、平臺(tái)必須在網(wǎng)站或APP上明顯位置展示清晰說(shuō)明，比如通過(guò)一個(gè)簡(jiǎn)單易懂的網(wǎng)頁(yè)鏈接，告訴用戶：1）平臺(tái)對(duì)于處理私密影像的責(zé)任是什么；2）用戶如何提交舉報(bào)和刪除請(qǐng)求。這些說(shuō)明要用簡(jiǎn)潔、易懂的語(yǔ)言，不能復(fù)雜晦澀，讓用戶難以理解。

4、善意免責(zé)：即如果平臺(tái)是基于善意判斷，相信某段影像是未經(jīng)同意發(fā)布的，因此選擇刪除或者限制訪問(wèn)，即使最終發(fā)現(xiàn)那段內(nèi)容是合法的，平臺(tái)也不會(huì)因此被追責(zé)或被索賠。

聯(lián)邦貿(mào)易委員會(huì)負(fù)責(zé)執(zhí)法，監(jiān)督各大平臺(tái)認(rèn)真執(zhí)行“刪除違規(guī)私密影像”的義務(wù)。平臺(tái)如果拖拖拉拉，或者直接拒絕受害者的刪除請(qǐng)求，就會(huì)被認(rèn)定為搞欺詐，違反了《聯(lián)邦貿(mào)易委員會(huì)法》。一旦被抓住，不僅可能被調(diào)查、罰款，還可能被強(qiáng)制整改。委員會(huì)可以動(dòng)用它手里的一整套執(zhí)法武器來(lái)處理這些違規(guī)平臺(tái)，無(wú)論是一般企業(yè)還是非營(yíng)利機(jī)構(gòu)，只要觸犯規(guī)定，都逃不過(guò)。

過(guò)去，美國(guó)在科技監(jiān)管方面一直是雷聲大、雨點(diǎn)小。無(wú)論是管人工智能、平臺(tái)責(zé)任，還是搞反壟斷改革，國(guó)會(huì)總是談得熱鬧，真到了立法的時(shí)候就老是卡殼。即使是對(duì)深偽色情這種深度偽造技術(shù)應(yīng)用，國(guó)會(huì)也是多次嘗試予以規(guī)制卻無(wú)功而返。比如，紐約民主黨眾議員、現(xiàn)在民主黨的少壯派AOZ和南卡共和黨眾議員Nancy Mace就曾聯(lián)合推出的《反抗法案》（DEFIANCE Act），賦予受害者起訴權(quán)；還有Dick Durbin、Josh Hawley等議員提的配套法案，最后都因行業(yè)反對(duì)而夭折。

直到2024年6月，才由參議員Ted Cruz推出了《刪除法案》的第一個(gè)版本，7月眾議院也跟進(jìn)了配套文本。雖然法案在參議院修訂后，于12月初通過(guò)，但因?yàn)檎[，眾議院來(lái)不及審議。原本想趁年末打包進(jìn)預(yù)算案，但預(yù)算案又被否決，法案被擋了下來(lái)，只能等到第119屆國(guó)會(huì)重新來(lái)過(guò)。2025年1月，Ted Cruz以參議院商務(wù)委員會(huì)新任主席的身份，再次提交了《刪除法案》，參議員Amy Klobuchar也參與了共同提案。

這次《刪除法案》的再啟動(dòng)其實(shí)是典型的逆風(fēng)而上：特朗普政府正強(qiáng)調(diào)去監(jiān)管，科技行業(yè)對(duì)白宮的影響力前所未有地增強(qiáng)，美國(guó)副總統(tǒng)萬(wàn)斯在巴黎AI峰會(huì)和慕安會(huì)等各種場(chǎng)合剛強(qiáng)調(diào)了言論自由、反對(duì)AI監(jiān)管。但盡管如此，法案還是以驚人的速度迅速推進(jìn)。

在參議院提出《刪除法案》幾天后，眾議員Maria Salazar和Madeleine Dean也在眾議院提出了配套版本。這次，參眾兩院都有大批兩黨議員聯(lián)署支持——眾議院有41位，參議院也有20多位。因?yàn)樯蠈脟?guó)會(huì)已審議過(guò)一次，這回推進(jìn)得異常順利。法案提交后不久，參院直接跳過(guò)了常規(guī)的委員會(huì)審查流程，2月13日以全票一致通過(guò)。眾議院的進(jìn)展也十分順利。在眾議院能源和商務(wù)委員會(huì)的審議中，法案以49票贊成、1票反對(duì)的結(jié)果通過(guò)。隨后，眾議院在不進(jìn)行辯論的情況下，通過(guò)“暫停規(guī)則”程序迅速表決通過(guò)了該法案。

前臉書、推特、谷歌政策顧問(wèn)Nu Wexler曾經(jīng)形容，在美國(guó)要推動(dòng)一項(xiàng)科技監(jiān)管法案成功，需要“天時(shí)地利人和”，而《刪除法案》可能正好踩準(zhǔn)了所有條件。

首先，近年來(lái)生成式人工智能廣泛應(yīng)用，大幅降低了制作高度逼真深度偽造色情內(nèi)容的門檻，導(dǎo)致此類侵害隱私的影像激增，對(duì)受害者造成了嚴(yán)重的心理、名譽(yù)和經(jīng)濟(jì)傷害，社會(huì)反應(yīng)很大。盡管美國(guó)幾乎所有州都立法禁止“深偽色情”，但各州法律標(biāo)準(zhǔn)不一，執(zhí)法不均，受害者往往難以及時(shí)要求平臺(tái)移除影像。因此，支持出臺(tái)聯(lián)邦統(tǒng)一法案的呼聲很高，科技界、政界、公益組織幾乎是一邊倒支持。

一直對(duì)AI監(jiān)管和平臺(tái)規(guī)制比較抵觸的主要互聯(lián)網(wǎng)科技公司和社交媒體平臺(tái)，這次也都公開支持法案。一些平臺(tái)的負(fù)責(zé)人甚至直接參與法案的推廣。應(yīng)當(dāng)說(shuō)，平臺(tái)企業(yè)也有自己的算盤：有個(gè)統(tǒng)一的聯(lián)邦標(biāo)準(zhǔn)，總比各州對(duì)深度偽造和“報(bào)復(fù)色情”搞“碎片化”立法要好得多，如果一定要立法，那平臺(tái)們肯定更想要一個(gè)聯(lián)邦法，這樣合起規(guī)來(lái)也容易地多。此外，反對(duì)這樣一項(xiàng)旨在保護(hù)女性和未成年人免遭色情剝削的法案，公眾輿論和道德形象顯然是很差的。

其次，或許是最重要的一個(gè)因素，是這項(xiàng)法案獲得了第一夫人梅拉尼婭·特朗普的力挺。《刪除法案》和梅拉尼婭長(zhǎng)期關(guān)注的兒童和青少年網(wǎng)絡(luò)安全議題高度契合，成為獲得她支持的關(guān)鍵。特朗普第一任期，梅拉尼婭發(fā)起了名為 “Be Best” 的倡議，主打的三大主題之一就是“兒童網(wǎng)絡(luò)安全”，特別是青少年在社交媒體上遭遇網(wǎng)絡(luò)欺凌、騷擾、虐待，以及因隱私被侵犯、被傳播不當(dāng)內(nèi)容而造成的心理傷害。而《刪除法案》的核心，就是要打擊未經(jīng)同意的私密影像（包括青少年受害人）的網(wǎng)絡(luò)傳播，防止深偽色情內(nèi)容擴(kuò)散，對(duì)梅拉尼婭來(lái)說(shuō)無(wú)疑很容易形成價(jià)值認(rèn)同。

自Ted Cruz重提法案以來(lái)，第一夫人辦公室就深度參與了整個(gè)立法進(jìn)程。參院通過(guò)《刪除法案》后，梅拉尼婭親自出席了Ted Cruz和Maria Salazar組織的一場(chǎng)跨黨派圓桌會(huì)，和“報(bào)復(fù)色情”、深偽色情受害者一起發(fā)聲，呼吁國(guó)會(huì)加速通過(guò)法案。她不僅發(fā)表了演講，還邀請(qǐng)一位15歲的受害女孩作為貴賓出席并分享自己的經(jīng)歷，跟其他幾位受害者也進(jìn)行了私下交流。據(jù)媒體報(bào)道，梅拉尼婭在私下聽取受害者經(jīng)歷時(shí)多次動(dòng)容，眼眶泛紅。她向工作人員表示：“每一個(gè)受害者的故事，都讓我更加堅(jiān)信我們必須立法?！彼€直接建議特朗普在國(guó)情咨文演講中特別提一下《刪除法案》，明確總統(tǒng)對(duì)法案的支持。后來(lái)特朗普確實(shí)照辦了，還半開玩笑地說(shuō)：如果可以的話，我自己也會(huì)用這項(xiàng)法律保護(hù)自己，因?yàn)槲沂鞘苌顐蝹ψ疃嗟娜酥弧?/p>

不過(guò)，對(duì)《刪除法案》也有一些批評(píng)和質(zhì)疑。像電子前沿基金會(huì)（EFF）就擔(dān)心這個(gè)法案可能會(huì)傷害到言論自由，甚至給特朗普這種政治人物一把新武器，讓他們有機(jī)會(huì)去打壓批評(píng)者。民主與技術(shù)中心（CDT）也提了警告：法案搞了個(gè)“通知-刪除”的機(jī)制，可能不只是刪除那些真正未經(jīng)同意的私密影像，還會(huì)順帶把一些本來(lái)合法、正常的內(nèi)容也刪掉。這樣一來(lái)，很可能會(huì)踩到憲法紅線，變成對(duì)大家自由發(fā)言的打壓。

還有人特別擔(dān)心加密通訊。比如WhatsApp這種聊天工具，消息是端到端加密的，平臺(tái)自己都看不到內(nèi)容。要是有人在加密群組里發(fā)了違規(guī)影像，即使受害者舉報(bào)，平臺(tái)也沒辦法不破壞加密就刪掉。這樣一來(lái)，平臺(tái)要么違規(guī)挨罰，要么就得動(dòng)手破壞加密，最后倒霉的可能是所有用戶的隱私。技術(shù)專家們指出，目前《刪除法案》沒有明確豁免加密平臺(tái)，也沒想好在加密環(huán)境下怎么操作，是個(gè)明顯的漏洞，以后很可能還得靠補(bǔ)充立法或者新技術(shù)手段來(lái)把這個(gè)問(wèn)題補(bǔ)上。

在《通信規(guī)范法》230條之后，美國(guó)已經(jīng)很多年沒有通過(guò)限制平臺(tái)內(nèi)容的國(guó)會(huì)立法?！秳h除法案》大幅強(qiáng)化了平臺(tái)對(duì)未經(jīng)同意的私密影像的刪除義務(wù)，有點(diǎn)像是走歐盟《數(shù)字服務(wù)法》的路徑，和230條的避風(fēng)港規(guī)則形成了一定張力。而且法案也沒有像版權(quán)領(lǐng)域那樣設(shè)立反通知機(jī)制，平臺(tái)為避免風(fēng)險(xiǎn)可能傾向于“先刪后問(wèn)”，擴(kuò)大刪除范圍，損害網(wǎng)絡(luò)言論自由。合規(guī)層面，大型平臺(tái)可能是有準(zhǔn)備，但中小平臺(tái)和加密通訊應(yīng)用面臨很大壓力，有可能導(dǎo)致誤刪合法內(nèi)容或?yàn)榱撕弦?guī)犧牲用戶的通信隱私。

不過(guò)，法案畢竟沒有開放就深偽色情內(nèi)容對(duì)平臺(tái)的民事索賠渠道，也保留了善意刪除的免責(zé)機(jī)制，終歸堅(jiān)持了230條的基本價(jià)值，只能說(shuō)是極其有限的調(diào)整而非根本背離。此外，平臺(tái)托管兒童色情、未經(jīng)同意的私密影像，本來(lái)就因?qū)儆?30條的例外而不享有民事責(zé)任的豁免，實(shí)際上又和230條的旨趣、要保護(hù)的利益是對(duì)齊的。

特定網(wǎng)絡(luò)內(nèi)容入罪和“通知-刪除”機(jī)制，無(wú)疑還直接觸及了憲法第一修正案，引發(fā)了對(duì)法案合憲性的合理疑問(wèn)。這也是一些反對(duì)法案的人的論點(diǎn)之一，覺得法案可能迫使平臺(tái)為規(guī)避風(fēng)險(xiǎn)而“過(guò)度刪除”，限制合法表達(dá)，并且因?yàn)槿狈Ψ粗茷E用的機(jī)制產(chǎn)生壓制言論的效果。還有人警惕未來(lái)政府可能以類似法律擴(kuò)大對(duì)網(wǎng)絡(luò)言論的審查范圍。

從第一修正案的先例看，合法的成人色情內(nèi)容（即成年人自愿參與、制作、傳播的色情作品）也受憲法保護(hù)，例外非常狹窄：只有兒童色情（Child Pornography）和真正的猥褻內(nèi)容（Obscenity），其中似乎不包括“報(bào)復(fù)色情”。但美國(guó)最高法院的先例一貫認(rèn)為，極端有害的內(nèi)容，比如兒童色情、淫穢猥褻言論，以及直接與犯罪有關(guān)的表達(dá)，不受第一修正案保護(hù)。大部分深偽色情或“報(bào)復(fù)色情”（特別是涉及未成年人或性勒索）實(shí)際上屬于犯罪的一部分，即使不完全構(gòu)成言論自由的例外，也因社會(huì)價(jià)值極低，可以依法禁止。換言之，《刪除法案》針對(duì)的是幾乎沒有表達(dá)價(jià)值的內(nèi)容，不影響新聞報(bào)道或合法的成人內(nèi)容，立法目標(biāo)是防止人格權(quán)侵害而非打擊觀點(diǎn)，符合”內(nèi)容中立“原則，應(yīng)該可以通過(guò)嚴(yán)格審查。

來(lái)源：東不壓橋研究院

法案原文：https://www.congress.gov/119/bills/s146/BILLS-119s146es.pdf

免責(zé)聲明

本文僅代表原作者觀點(diǎn)，不代表走出去智庫(kù)立場(chǎng)。

延展閱讀

▌地緣政治風(fēng)險(xiǎn):

▌出口管制與制裁:

▌跨境數(shù)據(jù)監(jiān)管:

▌全球科技競(jìng)爭(zhēng):

▌品牌聲譽(yù)管理: