在科技飛速發(fā)展的當(dāng)下，AI（人工智能）給咱們的生活帶來了諸多便利，但一系列利用AI的新型犯罪，也給社會安全與穩(wěn)定帶來了嚴(yán)峻挑戰(zhàn)。

本人在浙江省辦理的一起涉嫌詐騙案中，犯罪嫌疑人就是通過各種途徑收集大量個(gè)人信息，運(yùn)用 AI 算法進(jìn)行深度分析，把受害人的興趣愛好到消費(fèi)習(xí)慣，及社交關(guān)系到財(cái)務(wù)狀況，都摸得一清二楚；再通過采集受害人多角度照片或短視頻之后，利用AI 變臉技術(shù)已從靜態(tài)圖像偽造發(fā)展為實(shí)時(shí)動態(tài)視頻合成實(shí)施詐騙。更嚴(yán)重的是，犯罪團(tuán)伙甚至能實(shí)時(shí)替換視頻通話中的人臉，在對話過程中動態(tài)調(diào)整表情和動作，而現(xiàn)有技術(shù)對動態(tài)偽造視頻的識別率不足 80%，部分檢測工具在低分辨率或復(fù)雜光線環(huán)境下準(zhǔn)確率驟降至 50% 以下，普通用戶難以察覺異常。

據(jù)公安部數(shù)據(jù)顯示，2025 年一季度全國 AI 換臉詐騙案環(huán)比再增 45%，老年群體受騙占比達(dá) 38%，成為主要目標(biāo)，單筆最高損失達(dá) 620 萬元（上海某企業(yè)高管被騙案例）。香港荃灣 2025 年 4 月破獲的詐騙中心，通過 AI 換臉假扮 "美女" 誘導(dǎo)受害人開設(shè)虛假電商平臺，每周騙款高達(dá)百萬元，涉及跨境犯罪網(wǎng)絡(luò)。當(dāng)前，犯罪團(tuán)伙通過爬取社交媒體、外賣地址等信息構(gòu)建 "受害人畫像"，使詐騙成功率提升 2.3 倍，而盡管《人臉識別技術(shù)應(yīng)用安全管理辦法》于 2025 年 6 月 1 日施行，但對 AI 生成內(nèi)容的 "顯著標(biāo)識" 標(biāo)準(zhǔn)尚未明確，平臺審核責(zé)任缺乏操作指引，技術(shù)提供者追責(zé)機(jī)制也不完善，防范形勢嚴(yán)峻。

為有效遏制 AI 變臉電信詐騙的蔓延，切實(shí)保障人民群眾財(cái)產(chǎn)安全，提出以下建議：

一、完善法律體系，壓實(shí)主體責(zé)任。參照歐盟《人工智能法》，在《反電信網(wǎng)絡(luò)詐騙法》中增設(shè)專門條款，明確 "為詐騙提供 AI 換臉工具者，除依法追究刑事責(zé)任外，可處違法所得 5-10 倍罰款，最高不超過 5000 萬元"；規(guī)定技術(shù)平臺未履行 AI 生成內(nèi)容審核義務(wù)的，由網(wǎng)信部門責(zé)令暫停相關(guān)業(yè)務(wù)直至整改達(dá)標(biāo)。2025 年底前，由國家網(wǎng)信辦牽頭出臺《AI 生成內(nèi)容標(biāo)識管理細(xì)則》，強(qiáng)制要求對深度偽造的音視頻添加不可去除的水印標(biāo)識，如在視頻角落標(biāo)注 "合成內(nèi)容" 電子標(biāo)簽，從法律層面明確內(nèi)容生產(chǎn)者的標(biāo)識義務(wù)。

二、強(qiáng)化技術(shù)反制，筑牢安全防線。推動金融、政務(wù)、支付等重點(diǎn)領(lǐng)域強(qiáng)制部署高精度檢測技術(shù)，2025 年 12月底前實(shí)現(xiàn) 100% 覆蓋。推廣成熟檢測系統(tǒng)（準(zhǔn)確率超 96%），支持其與國家反詐中心數(shù)據(jù)互通，實(shí)時(shí)共享新型偽造特征庫。在數(shù)據(jù)安全管理方面，由國家發(fā)改委、工信部牽頭，2025 年底前在金融、醫(yī)療行業(yè)試點(diǎn)人臉數(shù)據(jù) "區(qū)塊鏈存證 + 國密算法加密" 技術(shù)，確保數(shù)據(jù)采集、存儲、使用全流程可追溯、不可篡改。企業(yè)采集人臉信息時(shí)，須采用隱私計(jì)算技術(shù)，通過多方安全計(jì)算實(shí)現(xiàn) "數(shù)據(jù)可用不可見"，違規(guī)泄露人臉數(shù)據(jù)的企業(yè)，除承擔(dān)民事賠償外，相關(guān)責(zé)任人依法追究刑事責(zé)任。

三、構(gòu)建多維反詐宣傳體系，提升反詐能力。要通過宣傳提升群眾防范意識，提醒群眾保護(hù)個(gè)人生物信息，謹(jǐn)慎對待不明鏈接、郵件。針對老年人，在社區(qū)、老年大學(xué)開展“AI 反詐工作坊”；針對企業(yè)財(cái)務(wù)人員，聯(lián)合行業(yè)協(xié)會開展 “反詐模擬演練”，識別偽造高管指令的常見話術(shù)。利用短視頻平臺制作 “AI 詐騙拆解” 系列動畫，還原詐騙分子如何通過外賣信息、社交動態(tài)定制劇本，提示公眾避免在網(wǎng)絡(luò)暴露人臉、聲紋等敏感信息。推廣“國家反詐中心 APP”的“AI 預(yù)警”功能，實(shí)時(shí)攔截可疑視頻通話。構(gòu)建起“全民參與、全域覆蓋”的防御網(wǎng)絡(luò)，讓AI犯罪無處遁形。

四、深化源頭治理，強(qiáng)化跨境打擊。外交部會同公安部與“一帶一路”國家建立 AI 犯罪情報(bào)共享平臺，建立 "48 小時(shí)跨境協(xié)查機(jī)制"，共享犯罪團(tuán)伙的技術(shù)特征、資金流向和人員信息，聯(lián)合開展系列專項(xiàng)行動，實(shí)現(xiàn)對跨境詐騙團(tuán)伙 "資金鏈 + 技術(shù)鏈 + 人員鏈" 的同步打擊，2025 年內(nèi)力爭聯(lián)合偵破至少 20 起重大跨境 AI 詐騙案件。（文/湖南君杰律師事務(wù)所許小軍）