當(dāng)前，各種人工智能軟件、辦公自動化工具密集涌現(xiàn)，人工智能正從“能回答問題”走向“能執(zhí)行任務(wù)”。然而，有用戶反映在使用某些App和人工智能工具時，被提示存在信息泄露和高權(quán)限運行風(fēng)險。當(dāng)智能化應(yīng)用進(jìn)入日常生活，用戶隱私該如何保護(hù)，發(fā)展和安全如何統(tǒng)籌？

過去說隱私泄露，人們往往想到平臺漏洞或信息販賣。而在人工智能時代，看似普通的單次數(shù)據(jù)調(diào)用、單個操作，經(jīng)由信息整合、歸納、推斷后，就可能還原出遠(yuǎn)超用戶預(yù)期的個人畫像。隱私風(fēng)險不單來自惡意盜取，也可能出現(xiàn)在系統(tǒng)“正常運行”的過程中。

更值得警惕的是，一些產(chǎn)品為制造爆點不斷放大自動化能力，弱化了風(fēng)險提示、邊界說明和操作約束。用戶看到的是“更聰明”“更省事”，卻未必知道背后意味著怎樣的數(shù)據(jù)調(diào)取。尤其普通用戶與技術(shù)提供方之間本就存在明顯的信息差，如果平臺把復(fù)雜風(fēng)險包裹在便捷體驗之中，把本該由產(chǎn)品承擔(dān)的安全責(zé)任轉(zhuǎn)化為用戶自行承擔(dān)的使用風(fēng)險，那么“智能化紅利”就可能演變?yōu)樾碌慕箲]源。

處理好發(fā)展和安全的關(guān)系，要把安全前置到產(chǎn)品設(shè)計階段，落實“最小必要原則”。哪些權(quán)限是完成任務(wù)所必需的，哪些關(guān)鍵操作必須經(jīng)過再次確認(rèn)，都應(yīng)當(dāng)在設(shè)計之初就講清楚。涉及文件刪除、數(shù)據(jù)導(dǎo)出、賬戶調(diào)用、支付驗證等高風(fēng)險操作，不能靠一次籠統(tǒng)授權(quán)就一路放行，而應(yīng)建立清晰的分級授權(quán)、即時提醒和可撤回機(jī)制。

隱私保護(hù)不能只寄希望于用戶“自己多留個心眼”。人工智能高度專業(yè)化、快速迭代，讓普通人逐項看懂接口權(quán)限、數(shù)據(jù)流向和模型邏輯并不現(xiàn)實。對于高風(fēng)險應(yīng)用，應(yīng)建立更有針對性的分類分級治理機(jī)制，對數(shù)據(jù)收集、插件接入、自動決策等環(huán)節(jié)設(shè)置更細(xì)致的規(guī)范要求。企業(yè)應(yīng)增強(qiáng)測試驗證能力，完善兼容性評估和安全審查，少一些“先上線再優(yōu)化”的僥幸。

監(jiān)管部門應(yīng)盡快細(xì)化相關(guān)規(guī)則規(guī)定，圍繞數(shù)據(jù)收集、權(quán)限調(diào)用、插件接入、自動決策等關(guān)鍵環(huán)節(jié)，明確權(quán)限與責(zé)任；強(qiáng)化安全測評、風(fēng)險備案，督促企業(yè)把分級授權(quán)、操作確認(rèn)等要求落到產(chǎn)品設(shè)計中。此外，還應(yīng)加強(qiáng)風(fēng)險提示和日常巡查，對誘導(dǎo)過度授權(quán)、模糊權(quán)限邊界、侵害用戶權(quán)益等行為及時糾偏、依法查處。

安全不是發(fā)展的對立面，隱私也不是創(chuàng)新的包袱。只有把用戶權(quán)益放在更突出的位置，把風(fēng)險治理嵌入創(chuàng)新過程，人工智能才能在釋放紅利的同時減少不安、贏得信任，走上健康的發(fā)展軌道。（作者：劉沛愷）

往期薦讀

● ● ●
● ● ●重要指示精神

責(zé) 編 | 吉 潔 編 輯 | 郭 靖

來 源：根據(jù)網(wǎng)信陜西綜合整理