賽格特約作者 丁 慧

本月初，一款限量版AI助手手機(jī)發(fā)布，旋即引發(fā)科技行業(yè)大討論。有人認(rèn)為這是大勢所趨，也有人認(rèn)為這是創(chuàng)新歧路，但不管什么看法，AI在加速融入現(xiàn)實(shí)世界的進(jìn)程中，必將造成的數(shù)據(jù)泄露和隱私災(zāi)難，后果比互聯(lián)網(wǎng)時代將有過之而無不及。

過去三十年里，在進(jìn)步主義思潮與摩爾定律的牽引下，信息技術(shù)發(fā)展主要呈現(xiàn)出光鮮亮麗的一面，但在閃亮背后，也一直貯藏著黑灰產(chǎn)泛濫的“暗面”。

尤其近二十年里，全球經(jīng)歷了大量因數(shù)據(jù)、隱私泄露而引發(fā)的嚴(yán)重后果，黑灰產(chǎn)也在這些事件中不斷壯大，形成了成熟的跨國鏈條；人們在一次次事件中形成對信息泄露風(fēng)險的認(rèn)知框架，任何與數(shù)據(jù)權(quán)限相關(guān)技術(shù)突破，都可能成為黑客利用的入口。

這種公眾感知，使得AI助手不被當(dāng)成一個單一的產(chǎn)品，而應(yīng)被放置在一條足夠長的技術(shù)演化時間線中被檢視和評估。

風(fēng)險如何層層累積

如果說移動互聯(lián)網(wǎng)的本質(zhì)是“服務(wù)觸達(dá)用戶”，那么AI時代，手機(jī)與則正在變成“代理替代用戶”。從讀取用戶信息，到代用戶操作手機(jī)，再到模仿用戶的身份，技術(shù)的每一次進(jìn)步都擴(kuò)大了智能應(yīng)用的能力半徑。

要理解今天的爭議，必須回到過去三十年全球數(shù)據(jù)泄露史的起點(diǎn)。因為AI手機(jī)助手的出現(xiàn)并不是創(chuàng)造了一個新矛盾，而是舊邏輯在新技術(shù)環(huán)境下的再次出現(xiàn)。

回到上世紀(jì)九十年代末，那是互聯(lián)網(wǎng)野蠻生長的時代。人們對數(shù)據(jù)的認(rèn)識非常粗淺，信息的存儲、加密、防護(hù)幾乎都還處在探索期。

黑客行為也主要源自個人興趣，其后果更多停留在局部數(shù)據(jù)庫損壞、郵件泄露或賬號盜取這樣的范圍內(nèi)。

1998年雅虎（Yahoo）首度被攻破，當(dāng)時僅數(shù)百萬用戶受影響，事件并未引起公共層面的大規(guī)模討論，但是這次事件第一次引發(fā)了世界范圍層面的思考：互聯(lián)網(wǎng)世界并不是只是一個抽象的空間，它也可以被用來攻擊現(xiàn)實(shí)世界。

當(dāng)時的大多數(shù)人還沒有意識到這意味著什么，但黑灰產(chǎn)開始通過這類事件中出現(xiàn)。用戶信息第一次以商品的形式被出售；密碼庫開始在地下傳播；“社工庫”的概念也正式成形。

同一時期，在中國則出現(xiàn)了大量QQ號被盜號、游戲裝備被盜、木馬程序被批量植入個人電腦等現(xiàn)象。這些行為通常是為了錢。

彼時互聯(lián)網(wǎng)用戶數(shù)量迅速上升，但安全體系尚未建立，用戶也缺乏防范意識，政府層面的監(jiān)管尚也尚未形成，黑灰產(chǎn)也由此積累了“原始資本”：大量可被反復(fù)使用的個人數(shù)據(jù)，以及一批具備黑客技術(shù)與分發(fā)渠道的早期黑產(chǎn)操作者?？梢哉f，這一時期奠定了日后黑灰產(chǎn)的生態(tài)基礎(chǔ)。

真正的轉(zhuǎn)折發(fā)生在2010年前后。智能手機(jī)的普及改變了互聯(lián)網(wǎng)的結(jié)構(gòu)和生態(tài)，數(shù)據(jù)量前所未有，對用戶信息的收集程度也前所未有，用戶的每一次輸入、每一次登錄、每一次位置變化，都成為了平臺能夠記錄的數(shù)據(jù)點(diǎn)。

在這一時期，數(shù)據(jù)泄露事件進(jìn)入了指數(shù)級增長階段，也產(chǎn)生了真正意義上的全球性影響。Adobe在2013年被曝出1.5億用戶密碼泄露，這讓世界第一次意識到：企業(yè)規(guī)模越大，泄露的風(fēng)險也越大。因為數(shù)據(jù)的集中意味著信息泄漏后也會產(chǎn)生巨大影響。

全球規(guī)模最大的十起數(shù)據(jù)泄露事件

隨后爆發(fā)雅虎30億賬戶泄露事件更是改變了整個行業(yè)的認(rèn)知體系。2013年，雅虎30億賬戶被黑，這是迄今為止規(guī)模最大的數(shù)據(jù)泄露事件。當(dāng)時，這家互聯(lián)網(wǎng)巨頭市場估值直接縮水，引發(fā)全美國范圍的公開訴訟。由此，也讓整個資本市場第一次把“數(shù)據(jù)風(fēng)險”納入企業(yè)估值的核心指標(biāo)。

如果說這些事件主要威脅的是個人賬號安全，那么2015年約會激情公司（Ashley Madison）事件則把數(shù)據(jù)泄露的風(fēng)險推到了更危險的層面。

該網(wǎng)站因婚外情主題而有極高的敏感性。2015年8月18日，黑客在線公布了近10億遭竊取的數(shù)據(jù)，3200萬注冊用戶的真實(shí)信息被公開，引發(fā)大規(guī)模家庭破裂和數(shù)起自殺案件。這也使人們第一次認(rèn)識到，數(shù)字隱私并非只是一堆虛擬的代碼，而擁有能夠直接摧毀現(xiàn)實(shí)生活的力量。它迫使世界重新定義“隱私”的含義——不是信息的私密性，人之為人的尊嚴(yán)與安全。

再往后，2017年，美國征信機(jī)構(gòu)Equifax信用體系泄露讓全球金融體系受到震蕩。1.43億人的信用信息被泄露，包括名稱、社會保障號、出生日期、地址、以及一些駕駛執(zhí)照號碼等，這也讓美國一半人口暴露于信息泄漏的危險之下。Equifax為此支付了6.5億美元與美國聯(lián)邦貿(mào)易委員會（FTC）等監(jiān)管機(jī)構(gòu)和解。

這次事件的影響很大，它意味著，黑客第一次掌握了足以讓一個國家的公民長期遭受風(fēng)險的數(shù)據(jù)量。從那之后，“數(shù)據(jù)主權(quán)”“身份安全”“算法風(fēng)險”成為全球監(jiān)管詞典中的關(guān)鍵詞。

中國也在十年后經(jīng)歷了信息泄露的全面爆發(fā)期。快遞面單泄露使精準(zhǔn)詐騙迅速蔓延，比如，不少人都接到過“你有一個快遞被退回”的詐騙電話；教育培訓(xùn)機(jī)構(gòu)、房產(chǎn)中介、醫(yī)院等行業(yè)內(nèi)部倒賣用戶數(shù)據(jù)，使黑灰產(chǎn)的發(fā)展獲得了前所未有的“入口資源”；社交、電商、支付等平臺之間缺乏有效隔離，使同一套數(shù)據(jù)也可以被重復(fù)利用。

2018年浙江紹興越城區(qū)警方偵破了堪稱國內(nèi)“史上最大規(guī)模數(shù)據(jù)竊取案”。警方查明，一伙犯罪分子利用非法竊取的30億條用戶數(shù)據(jù)，操控用戶賬號進(jìn)行微博、微信、QQ、抖音等社交平臺的加粉、刷量、加群、違規(guī)推廣，非法獲利，旗下一家公司一年營收就超過3000萬元。其數(shù)據(jù)來源是，非法從運(yùn)營商流量池中獲取用戶數(shù)據(jù)，百度、騰訊、阿里、今日頭條等全國96家互聯(lián)網(wǎng)公司用戶數(shù)據(jù)被竊取。

黑產(chǎn)公司先后與全國多家運(yùn)營商簽訂正式的服務(wù)合同，為其提供精準(zhǔn)廣告投放系統(tǒng)的開發(fā)、維護(hù)。

可以看到，2018年后，AI迅速突破能力邊界時，深度偽造（Deepfake）、語音克隆、自動化執(zhí)行等技術(shù)開始成為黑灰產(chǎn)業(yè)利用的新武器。之前的詐騙者需要積累經(jīng)驗、訓(xùn)練員工、編寫腳本，而現(xiàn)在，一個能克隆用戶聲音的模型、一個能模擬用戶輸入的自動化程序，就能完成過去整個團(tuán)隊才能完成的流程。

換句話說，當(dāng)AI技術(shù)成熟到一定程度，它不再只是幫助黑灰產(chǎn)提高效率，而是讓黑灰產(chǎn)完成了從“偷信息”向“偷身份”質(zhì)的轉(zhuǎn)變。無論是美國克隆CEO語音，還是國內(nèi)頻出的AI換臉貸款事件，都指向一個現(xiàn)實(shí)，AI時代，信息風(fēng)險的本質(zhì)已經(jīng)改變，攻擊者不再需要你，他們只需要“像你”。

這正是為什么AI助手會成為時代爭議的焦點(diǎn)，它并非止于黑灰產(chǎn)，甚至帶著善意降臨，但它讓社會第一次直視這一問題：當(dāng)AI具備跨應(yīng)用執(zhí)行能力時，它是否觸碰到了與“身份執(zhí)行權(quán)”相關(guān)的邊界？

從偷信息到偷身份

過去系統(tǒng)權(quán)限的設(shè)計邏輯，是為應(yīng)用設(shè)置隔離，為用戶提供可控性；但AI的代理模式正在打破傳統(tǒng)應(yīng)用間的壁壘，使得權(quán)限成為可流動、可調(diào)度的資源。這種能力一旦缺乏透明的機(jī)制或清晰的制度約束，就必定會成為黑灰產(chǎn)的幫兇。

實(shí)際上，公眾的擔(dān)憂并不在于AI助手這一次會出問題，而在于所有能力突破后的監(jiān)管的空白。

俗話說，“道高一尺，魔高一丈”，技術(shù)每前進(jìn)一步，黑客技術(shù)也會隨之升級，黑灰產(chǎn)也會進(jìn)一步發(fā)展，而治理往往滯后半步。

黑客盜取數(shù)十億用戶的面部照片

當(dāng)執(zhí)行權(quán)、行為權(quán)、身份權(quán)正在被AI重塑時，我們必須重新討論智能體的權(quán)限邊界：哪些操作可以自動執(zhí)行、哪些必須人工確認(rèn)、哪些必須要求應(yīng)用或系統(tǒng)雙向授權(quán)、哪些必須被強(qiáng)制記錄、哪些必須無法被記錄。

從這個意義上說，此次，AI助手手機(jī)風(fēng)波讓我們看見，從互聯(lián)網(wǎng)誕生之日起不斷累積的信息風(fēng)險，在AI到來之后發(fā)生了質(zhì)變：信息技術(shù)不再只是處理信息的工具，而正在成為一種能夠影響現(xiàn)實(shí)社會中人的行為，甚至擁有重構(gòu)現(xiàn)實(shí)身份的力量。

而任何能夠進(jìn)入手機(jī)系統(tǒng)底層的智能應(yīng)用，不論來自哪家公司、采用何種技術(shù)路線，都需要被納入新的安全框架之中。我們所需要的不僅是避免泄露，而是確保任何AI的行動都可被理解、可被追蹤、可被阻止。這將是未來十年的AI發(fā)展的關(guān)鍵競爭力，也將決定數(shù)字社會的穩(wěn)定與信任基礎(chǔ)。

AI助手事件之后，AI作為手機(jī)的智能助手仍會繼續(xù)發(fā)展，技術(shù)進(jìn)步也不會停止。真正的問題從來不是“要不要AI”，而是“如何讓AI在能力不斷增強(qiáng)的同時，保持清晰的邊界、保持可控的執(zhí)行、保持?jǐn)?shù)據(jù)的獨(dú)立”。

當(dāng)AI已經(jīng)開始“代替我們行動”，人類需要思考的不是如何限制技術(shù)，而是如何重新定義“身份”的含義：什么是我們自己的決定，什么是智能手機(jī)可替代的行為，什么必須嚴(yán)格由我們掌控。這將是數(shù)字時代最重要的公共議題之一，而AI手機(jī)助手事件只是這一議題的開端。

正如柯林伍德所說，歷史的價值不在告訴我們?nèi)俗鲞^什么，而在于告訴我們“人是什么”。以這句話來審視過去數(shù)十年數(shù)據(jù)泄露的歷史，我們會發(fā)現(xiàn)那些看似遙遠(yuǎn)的事件，其實(shí)都在揭示同一件事：

當(dāng)技術(shù)擴(kuò)展了人的能力，它也同步擴(kuò)展了人的愚昧、盲目、自大、貪婪與僥幸。如果忽視這些沉重的歷史，社會將一次又一次在新的場景中重復(fù)過去的錯誤，甚至以更高的代價重蹈覆轍。