杭州中院｜來(lái)源

當(dāng)“一張照片即可解鎖人臉識(shí)別”成為黑灰產(chǎn)的牟利工具，我們?cè)撊绾卧诩夹g(shù)浪潮中守護(hù)“數(shù)字面容”？近日，浙江省杭州市中級(jí)人民法院審結(jié)全省首個(gè)涉AI技術(shù)偽造人臉通過(guò)活體認(rèn)證的公益訴訟案，明確技術(shù)濫用必須承擔(dān)法律責(zé)任，為“AI換臉”行為劃出司法紅線。

一、AI換臉視頻攻破人臉識(shí)別 技術(shù)濫用誰(shuí)之責(zé)？

只需一張他人照片，即可通過(guò)“AI換臉”技術(shù)生成動(dòng)態(tài)活體認(rèn)證視頻，輕松繞過(guò)平臺(tái)人臉識(shí)別系統(tǒng)——這并非科幻情節(jié)，而是黑灰產(chǎn)的真實(shí)作案手段。案涉“AI換臉”技術(shù)通過(guò)深度學(xué)習(xí)的算法，去識(shí)別目標(biāo)人物照片中的人臉要素信息，不斷提取該些人臉要素信息進(jìn)行訓(xùn)練建模，實(shí)現(xiàn)換臉的效果。

胡某甲、胡某乙為牟利，通過(guò)境外渠道獲取他人手機(jī)號(hào)、頭像、身份證等信息，利用上述AI換臉技術(shù)制作虛假活體認(rèn)證視頻，再通過(guò)植入虛擬相機(jī)程序，在平臺(tái)人臉識(shí)別時(shí)自動(dòng)播放預(yù)制的換臉視頻，從而非法登錄他人賬號(hào)，獲取收貨地址、購(gòu)物車(chē)信息等數(shù)據(jù)并出售獲利。此外，二人還提供有償虛假實(shí)名認(rèn)證服務(wù)。浙江省杭州市人民檢察院就此提起民事公益訴訟，要求二人在國(guó)家級(jí)媒體上公開(kāi)賠禮道歉，并支付侵害社會(huì)公共利益的損害賠償款。

二、法院判決：技術(shù)中立不是“擋箭牌”

法院經(jīng)審理認(rèn)定，人臉信息屬于敏感個(gè)人信息，受法律嚴(yán)格保護(hù)，處理人臉類(lèi)的生物識(shí)別信息除必須獲得個(gè)人的單獨(dú)同意外，還需遵守相關(guān)法律法規(guī)的特別規(guī)定。胡某甲、胡某乙未經(jīng)同意，利用“AI換臉”技術(shù)偽造活體認(rèn)證視頻，非法處理多人個(gè)人信息，不僅侵害不特定主體的個(gè)人信息權(quán)益，威脅公民人身財(cái)產(chǎn)安全，更破壞了社會(huì)信任秩序，損害社會(huì)公共利益，構(gòu)成侵權(quán)。二被告雖稱活體認(rèn)證視頻系由AI技術(shù)自動(dòng)生成，但法院明確指出：技術(shù)的工具屬性不改變行為的違法本質(zhì)。技術(shù)是中立的，但技術(shù)的應(yīng)用須受到法律規(guī)制，技術(shù)的使用者也必須對(duì)其濫用技術(shù)造成的后果負(fù)責(zé)。

雙重責(zé)任：技術(shù)使用必須恪守法律與倫理

該判決明確了AI技術(shù)應(yīng)用中的雙重責(zé)任邊界：

一是合法處理義務(wù)。在數(shù)字化時(shí)代，人臉、指紋、聲紋等個(gè)人生物識(shí)別信息屬于高度敏感的個(gè)人信息，一旦泄露或者非法使用，可能導(dǎo)致個(gè)人的人格尊嚴(yán)受到侵害或者人身、財(cái)產(chǎn)安全受到嚴(yán)重危害。處理人臉等生物識(shí)別信息，必須依法取得個(gè)人單獨(dú)同意，并遵守法律法規(guī)的相關(guān)規(guī)定。任何組織或個(gè)人未經(jīng)同意，不得私自收集此類(lèi)信息，侵害他人個(gè)人信息權(quán)益。此案中，二被告未經(jīng)授權(quán)收集、使用他人人臉信息制作虛假認(rèn)證視頻，違反了《中華人民共和國(guó)個(gè)人信息保護(hù)法》等相關(guān)法律法規(guī)。

二是技術(shù)向善義務(wù)。技術(shù)的研發(fā)與應(yīng)用必須恪守法律與倫理底線。“技術(shù)向善”并非一句空洞的口號(hào)。技術(shù)發(fā)展應(yīng)當(dāng)服務(wù)社會(huì)，而非淪為侵權(quán)工具。法律的界限即是技術(shù)的邊界，道德的準(zhǔn)繩即是創(chuàng)新的韁繩。擁抱技術(shù)進(jìn)步的同時(shí)，必須堅(jiān)決抵制侵害公民權(quán)利、侵蝕社會(huì)信任的行為，每一位公民都應(yīng)自覺(jué)成為科技倫理的守護(hù)者和良好數(shù)字生態(tài)的共建者，審慎使用技術(shù)，尊重他人權(quán)利?！癆I換臉”等技術(shù)在娛樂(lè)、創(chuàng)新等領(lǐng)域具有價(jià)值，但一旦用于非法突破安全驗(yàn)證、盜用身份，即背離科技倫理，必須受到法律制裁。

最終，法院判決胡某甲、胡某乙在《法治日?qǐng)?bào)》公開(kāi)賠禮道歉，并支付公益損害賠償款，專(zhuān)門(mén)用于個(gè)人信息保護(hù)與AI技術(shù)濫用治理。

三、法官心語(yǔ)

技術(shù)有邊界，法律有紅線。杭州市中級(jí)人民法院副院長(zhǎng) 一級(jí)高級(jí)法官 池海江認(rèn)為，AI可以輕易“換”掉一張臉，但永遠(yuǎn)無(wú)法“換”掉法律責(zé)任與倫理底線。人臉信息不僅是個(gè)人身份的關(guān)鍵標(biāo)識(shí)，更是社會(huì)信任體系的數(shù)字基石。本案中，法院并未否定“AI換臉”技術(shù)的本身價(jià)值，但當(dāng)它被用于偽造他人身份、突破安全驗(yàn)證，將他人面部信息變成可交易、可偽造的數(shù)據(jù)商品時(shí)，技術(shù)的性質(zhì)就發(fā)生了根本改變，不僅侵犯公民人格權(quán)與財(cái)產(chǎn)權(quán)，更動(dòng)搖了數(shù)字社會(huì)賴以運(yùn)行的基本秩序。

技術(shù)的每一次飛躍，都不能脫離法律的軌道。每一位技術(shù)參與者都應(yīng)當(dāng)清醒地意識(shí)到：技術(shù)不是法外之地，技術(shù)中立更不是“擋箭牌”。技術(shù)本身雖無(wú)善惡，但其設(shè)計(jì)目的、應(yīng)用場(chǎng)景與最終后果，卻由人的意志與社會(huì)的規(guī)則所決定。真正的科技進(jìn)步，其內(nèi)核應(yīng)始終指向?qū)θ酥饑?yán)的維護(hù)、社會(huì)公共福祉的增進(jìn)，以及對(duì)未來(lái)可持續(xù)發(fā)展的推動(dòng)。如果一項(xiàng)技術(shù)的發(fā)展，要以犧牲個(gè)人基本權(quán)利與社會(huì)信任基石為代價(jià)，那這種發(fā)展注定行之不遠(yuǎn)。

法院對(duì)“AI換臉”技術(shù)濫用的規(guī)制，正是對(duì)“技術(shù)向善”底線的司法重申。我們希望通過(guò)此案?jìng)鬟f一個(gè)清晰的信號(hào)：推動(dòng)創(chuàng)新與劃定邊界必須同步進(jìn)行。唯有將“向善”的倫理要求，轉(zhuǎn)化為具有約束力的法律義務(wù)與行業(yè)準(zhǔn)則，方能引導(dǎo)人工智能等前沿技術(shù)行穩(wěn)致遠(yuǎn)，真正服務(wù)于以人為本的數(shù)字文明建設(shè)。

╱ 往期精選 ╱

1.團(tuán)隊(duì)典型案例

2.原創(chuàng)合集

3.蘋(píng)果稅中國(guó)反壟斷第一案