來 源 | 據(jù)新華財(cái)經(jīng)

當(dāng)前，隨著人工智能技術(shù)的爆發(fā)式發(fā)展，金融行業(yè)正經(jīng)歷數(shù)字化轉(zhuǎn)型浪潮。AI技術(shù)賦能了智能風(fēng)控、精準(zhǔn)營(yíng)銷、自動(dòng)化服務(wù)等創(chuàng)新場(chǎng)景，但同時(shí)也存在一些黑灰產(chǎn)組織利用AI技術(shù)，催生出深度偽造、智能釣魚、自動(dòng)化欺詐等新型犯罪手段，技術(shù)博弈與對(duì)抗的復(fù)雜性仍在升級(jí)。

6月18日，《中國(guó)金融行業(yè)AI欺詐與技術(shù)對(duì)抗研究報(bào)告》發(fā)布暨圓桌論壇活動(dòng)在清華大學(xué)經(jīng)濟(jì)管理學(xué)院成功舉行。本次活動(dòng)由清華大學(xué)經(jīng)濟(jì)管理學(xué)院中國(guó)金融研究中心、四川省反詐中心、新網(wǎng)銀行、新華財(cái)經(jīng)聯(lián)合主辦，主題為“AI反詐：從博弈到共治”。清華大學(xué)經(jīng)濟(jì)管理學(xué)院教授、清華經(jīng)管中國(guó)金融研究中心主任、國(guó)家級(jí)高層次人才計(jì)劃入選者陸瑤發(fā)布并解讀《中國(guó)金融行業(yè)AI欺詐與技術(shù)對(duì)抗研究報(bào)告》。

報(bào)告系統(tǒng)梳理了AI欺詐的技術(shù)演進(jìn)、攻防態(tài)勢(shì)及應(yīng)對(duì)策略，旨在為行業(yè)提供科學(xué)指引，助力構(gòu)建安全可信的金融數(shù)字生態(tài)，為金融行業(yè)應(yīng)對(duì)AI時(shí)代的安全挑戰(zhàn)提供了參考解決方案。

AI欺詐新圖景：風(fēng)險(xiǎn)升級(jí)與技術(shù)“雙刃劍”

1

技術(shù)發(fā)展與風(fēng)險(xiǎn)演變

此次報(bào)告圍繞 AI 欺詐的定義與特點(diǎn)、技術(shù)周期中的攻防演變史、人工智能時(shí)代金融安全攻防新態(tài)勢(shì)、智能防控典型案例分析以及應(yīng)對(duì)當(dāng)前挑戰(zhàn)的策略和建議展開深入探討。

清華大學(xué)經(jīng)濟(jì)管理學(xué)院教授、清華經(jīng)管中國(guó)金融研究中心主任、國(guó)家級(jí)高層次人才計(jì)劃入選者陸瑤指出，隨著AI技術(shù)發(fā)展，金融欺詐呈現(xiàn)智能化、自動(dòng)化特征。黑灰產(chǎn)利用AI生成虛假人臉、聲紋及偽造材料，并借助自動(dòng)化工具實(shí)施精準(zhǔn)詐騙。

新網(wǎng)銀行反欺詐專家王萍表示，人工智能技術(shù)在金融領(lǐng)域的廣泛滲透，正在重塑欺詐風(fēng)險(xiǎn)的本質(zhì)和邊界。AI驅(qū)動(dòng)的欺詐威脅呈現(xiàn)出前所未有的動(dòng)態(tài)性和復(fù)雜性，需要采取更具前瞻性、技術(shù)導(dǎo)向性的創(chuàng)新策略，構(gòu)建與數(shù)字金融時(shí)代相匹配的安全屏障。

課題組明確定義了“AI欺詐”的概念，指出其核心是不法分子利用機(jī)器學(xué)習(xí)、自然語言處理、多媒體技術(shù)及生成式人工智能等AI技術(shù)，通過生成虛假信息、模仿真實(shí)用戶行為、繞過安全驗(yàn)證機(jī)制或自動(dòng)執(zhí)行詐騙腳本等手段，突破過往欺詐手段的局限，從而實(shí)現(xiàn)更高程度的自動(dòng)化、智能化和精準(zhǔn)化欺詐操作，并以非法牟取利益為目的，精心策劃實(shí)施的欺詐行為。

課題組圍繞“監(jiān)管引領(lǐng)、機(jī)構(gòu)主責(zé)、社會(huì)協(xié)同”的立體防御框架展開，深入探討了建立AI威脅情報(bào)共享機(jī)制、儲(chǔ)備算力資源、構(gòu)建認(rèn)知對(duì)抗體系、培養(yǎng)復(fù)合型安全人才、提升全民數(shù)字素養(yǎng)、常態(tài)化攻防演練以及建設(shè)開源情報(bào)社區(qū)等具體路徑。

此外，課題組依據(jù)技術(shù)成熟度曲線、麥肯錫數(shù)字化轉(zhuǎn)型方法論以及IDC關(guān)于金融科技安全趨勢(shì)的研究成果，并結(jié)合中國(guó)金融實(shí)踐，將技術(shù)周期中的攻防演變劃分為手工化時(shí)代、信息化時(shí)代、互聯(lián)網(wǎng)時(shí)代、移動(dòng)互聯(lián)時(shí)代以及人工智能時(shí)代五個(gè)階段，并從技術(shù)特點(diǎn)、攻擊方式與防御機(jī)制等維度進(jìn)行深入剖析，揭示其在金融安全演進(jìn)中的歷史地位與現(xiàn)實(shí)意義。

2

以“技術(shù)向善”理念構(gòu)建防御體系

古語有云“安而不忘危，存而不忘亡，治而不忘亂”，陸瑤呼吁行業(yè)保持警惕：AI技術(shù)的善用與濫用僅在一念之間。唯有以“智”治“智”，推動(dòng)防御體系從被動(dòng)響應(yīng)轉(zhuǎn)向主動(dòng)進(jìn)化，才能讓技術(shù)真正成為守護(hù)金融安全的“無形長(zhǎng)城”。課題組認(rèn)為，未來金融安全的核心在于平衡創(chuàng)新與風(fēng)險(xiǎn)，通過技術(shù)迭代、制度優(yōu)化與社會(huì)協(xié)作的三維聯(lián)動(dòng)，實(shí)現(xiàn)AI技術(shù)與金融生態(tài)的良性共生。

此次發(fā)布的《中國(guó)金融行業(yè)AI欺詐與技術(shù)對(duì)抗研究報(bào)告》通過實(shí)證分析、案例研究及社會(huì)科學(xué)的交叉視角，為行業(yè)應(yīng)對(duì)AI時(shí)代的安全挑戰(zhàn)提供理論框架與實(shí)踐指南。

報(bào)告提出金融機(jī)構(gòu)需構(gòu)建“技術(shù)-策略-機(jī)制”三位一體防御體系：技術(shù)上采用深度學(xué)習(xí)、多模態(tài)生物特征檢測(cè)及生成痕跡識(shí)別技術(shù)攔截偽造攻擊；策略上通過全生命周期風(fēng)控閉環(huán)降低風(fēng)險(xiǎn)；機(jī)制上推動(dòng)跨機(jī)構(gòu)數(shù)據(jù)共享與監(jiān)管協(xié)同，強(qiáng)化行業(yè)聯(lián)防聯(lián)控。課題組特別強(qiáng)調(diào)，唯有技術(shù)革新與制度完善并重，方能實(shí)現(xiàn)金融安全與AI創(chuàng)新的平衡發(fā)展。

陸瑤強(qiáng)調(diào)，技術(shù)對(duì)抗的核心是建立動(dòng)態(tài)防御能力，通過攻防演練、對(duì)抗樣本庫更新，形成動(dòng)態(tài)化、智能化、生態(tài)化的防御能力，同時(shí)構(gòu)建多層次、多維度的機(jī)制對(duì)抗體系，整合內(nèi)部資源與外部力量，打通信息壁壘，構(gòu)筑起堅(jiān)實(shí)的技術(shù)防線與制度保障。實(shí)現(xiàn)“以AI進(jìn)化對(duì)抗AI進(jìn)化”。技術(shù)革新不應(yīng)成為欺詐工具，而應(yīng)服務(wù)于社會(huì)福祉。金融機(jī)構(gòu)需以“技術(shù)向善”理念構(gòu)建防御體系，守住風(fēng)險(xiǎn)防控底線。

圓桌暢談：AI欺詐攻防與治理縱深

在圓桌沙龍環(huán)節(jié)，清華大學(xué)經(jīng)濟(jì)管理學(xué)院中國(guó)金融研究中心副主任黃張凱、清華大學(xué)經(jīng)濟(jì)管理學(xué)院中國(guó)金融研究中心副主任龐家任、四川省反詐中心綜合防范支隊(duì)支隊(duì)長(zhǎng)羅彥加、新華財(cái)經(jīng)副總編輯陳冉圍繞著AI欺詐手段、AI技術(shù)攻防、典型AI詐騙案例等話題深入探討。

1

欺詐手段演變與受害者分析

黃張凱指出，AI技術(shù)使得傳統(tǒng)冒充身份詐騙的欺騙性發(fā)生質(zhì)變。犯罪分子利用AI可以生成動(dòng)態(tài)逼真、聲音一致、邏輯流暢的“虛擬人”分身，冒充親友或領(lǐng)導(dǎo)進(jìn)行詐騙，其逼真程度已達(dá)到肉眼難辨的地步，且技術(shù)門檻的降低使其具備大規(guī)模、精準(zhǔn)化的攻擊能力，犯罪成本驟降而危害范圍劇增。

羅彥加的回答印證了這一趨勢(shì)，他表示雖然目前涉及AI的新型詐騙案件數(shù)量尚不及刷單、冒充公檢法、征信詐騙等傳統(tǒng)形式，但上升苗頭已十分明顯，需要引起警惕。他特別揭示了一個(gè)現(xiàn)象：根據(jù)統(tǒng)計(jì)數(shù)據(jù)，20-50歲的中青年人群成為了AI詐騙最主要的受害者群體，占比高達(dá)九成以上，原因在于他們是“高觸網(wǎng)人群”，日常大量線上活動(dòng)增加了個(gè)人信息暴露和接觸詐騙信息的機(jī)會(huì)。因此，這類人群更需提高警惕防范這類新興的AI詐騙手段。

2

技術(shù)攻防前沿與民眾防護(hù)

面對(duì)技術(shù)驅(qū)動(dòng)的欺詐升級(jí)，如何在技術(shù)上有效應(yīng)對(duì)成為核心議題。龐家任分享了高校在AI反詐基礎(chǔ)研究上的代表性進(jìn)展。他介紹，在深度偽造檢測(cè)領(lǐng)域，研究正從早期識(shí)別生成模型的特定瑕疵轉(zhuǎn)向探索基于物理規(guī)律的更普適識(shí)別方法；針對(duì)大語言模型生成的詐騙文本，研究則通過分析文本的流暢度、詞匯分布和邏輯連貫性等特征進(jìn)行檢測(cè)和溯源；同時(shí)，對(duì)抗性攻防研究通過主動(dòng)模擬攻擊來暴露技術(shù)漏洞，從而逆向提升反詐模型的魯棒性，為實(shí)戰(zhàn)提供重要支撐。

對(duì)于普通民眾的防范，羅彥加給出了切實(shí)可行的建議。盡管技術(shù)發(fā)展迅速，當(dāng)前AI換臉視頻通話仍常暴露一些破綻，如通話時(shí)長(zhǎng)極短、人物眼神空洞或身體與背景銜接不自然。要求對(duì)方配合做表情等動(dòng)作進(jìn)行動(dòng)態(tài)驗(yàn)證，是突破當(dāng)前AI換臉局限的有效方法，往往能迫使偽造圖像現(xiàn)出原形。此外，與親友事先設(shè)定專屬的轉(zhuǎn)賬“暗語”也是可靠的核對(duì)手段。

針對(duì)AI技術(shù)的發(fā)展對(duì)社會(huì)的沖擊，黃張凱談到，在金融行業(yè)可能產(chǎn)生比移動(dòng)互聯(lián)網(wǎng)更深遠(yuǎn)的影響。當(dāng)下各機(jī)構(gòu)就面臨一些現(xiàn)實(shí)困難：一方面金融機(jī)構(gòu)難以與大廠競(jìng)爭(zhēng)頂尖人才，另一方面各地警力、金融機(jī)構(gòu)的資源和資金有限。雖然AI變革的具體路徑和沖擊范圍難以精準(zhǔn)預(yù)測(cè)，但可確定的是其力度巨大。金融行業(yè)應(yīng)提前做好準(zhǔn)備，保持業(yè)務(wù)模式的靈活性，AI反詐只是這場(chǎng)深刻變革中的一部分挑戰(zhàn)與機(jī)遇。

3

深水區(qū)攻堅(jiān)：法律困境與多元共治

在打擊AI欺詐的實(shí)際工作中，羅彥加警官坦誠(chéng)當(dāng)前面臨多重困境。他指出，跨境執(zhí)法難度大，主要嫌疑人和“金主”往往藏匿境外；現(xiàn)有法律對(duì)使用開源技術(shù)、涉詐軟件作者責(zé)任界定、技術(shù)提供者與使用者責(zé)任邊界等存在模糊地帶，面臨法律滯后與真空問題；加之利用虛擬貨幣等加密手段轉(zhuǎn)移資金和數(shù)據(jù)層層覆蓋的去中心化特點(diǎn)，導(dǎo)致取證鏈條復(fù)雜冗長(zhǎng)，證據(jù)難以達(dá)到嚴(yán)格的司法要求，案件常因此受阻。

他透露，針對(duì)這些挑戰(zhàn)，公安部已聯(lián)合相關(guān)機(jī)構(gòu)積極推動(dòng)專項(xiàng)立法工作，旨在制定更專業(yè)、更具指導(dǎo)性和規(guī)范性的法規(guī)以填補(bǔ)法律空白。

AI立法本身就是一個(gè)高度復(fù)雜的跨專業(yè)系統(tǒng)工程，絕非單純的法律延伸，而是需要法律、技術(shù)、倫理、經(jīng)濟(jì)學(xué)和社會(huì)學(xué)的深度交叉融合。龐家任指出，制定有效的法律規(guī)范不僅要求立法者對(duì)AI技術(shù)有深度理解，還需精準(zhǔn)考量隱私保護(hù)與社會(huì)安全的平衡、算法歧視風(fēng)險(xiǎn)等倫理悖論。

黃張凱分析了相關(guān)的國(guó)際經(jīng)驗(yàn)，“歐盟在AI監(jiān)管方面較為領(lǐng)先，推出了人工智能管理辦法框架，但在創(chuàng)新保護(hù)與風(fēng)險(xiǎn)控制之間的平衡引發(fā)爭(zhēng)議，技術(shù)本身的快速迭代使立法實(shí)際落地困難重重，凸顯了法律適配技術(shù)發(fā)展的普遍挑戰(zhàn)”。

龐家任認(rèn)為，政府應(yīng)加速AI相關(guān)立法進(jìn)程，明確責(zé)任邊界、制定數(shù)據(jù)安全與算法透明度標(biāo)準(zhǔn)，并組建專業(yè)化執(zhí)法隊(duì)伍。高校與科研機(jī)構(gòu)需要持續(xù)攻堅(jiān)核心反詐技術(shù)，重點(diǎn)培養(yǎng)橫跨技術(shù)、法律、倫理的復(fù)合型人才。企業(yè)作為主力軍，要加大投入部署先進(jìn)反詐模型進(jìn)行實(shí)時(shí)風(fēng)險(xiǎn)監(jiān)控，并在產(chǎn)品中設(shè)計(jì)嵌入預(yù)警和攔截功能。社會(huì)組織應(yīng)聚焦于公眾教育、推動(dòng)行業(yè)自律。公眾則需要持續(xù)學(xué)習(xí)提升自身防范意識(shí)，形成風(fēng)險(xiǎn)識(shí)別閉環(huán)。

總結(jié)展望：強(qiáng)化防御韌性，多方協(xié)同響應(yīng)

圓桌論壇的最后，黃張凱在展望金融機(jī)構(gòu)應(yīng)對(duì)時(shí)強(qiáng)調(diào)，AI對(duì)金融行業(yè)的沖擊可能才剛剛開始，其深度與廣度或?qū)⒊揭苿?dòng)互聯(lián)網(wǎng)時(shí)代。金融機(jī)構(gòu)需認(rèn)清挑戰(zhàn)的嚴(yán)峻性，即使面臨人才與資源的限制，也應(yīng)未雨綢繆，加強(qiáng)AI反詐能力建設(shè)，保持業(yè)務(wù)模式的靈活性與韌性。

對(duì)于構(gòu)建防御體系的愿景目標(biāo)，新網(wǎng)銀行反欺詐專家王萍認(rèn)為，AI金融欺詐的防御還需要全社會(huì)的共同參與和協(xié)同響應(yīng)。構(gòu)建一個(gè)涵蓋公眾教育、產(chǎn)學(xué)研協(xié)作和開放情報(bào)共享的社會(huì)化防御體系，是增強(qiáng)整個(gè)社會(huì)面對(duì)AI金融欺詐韌性的關(guān)鍵路徑。