輕點鼠標(biāo)就能生成方案、上傳文件即可快速處理,便捷高效的開源AI工具,早已成為不少人工作和生活中的“得力助手”?？赡闶欠褚庾R到,在你將內(nèi)部資料、隱私信息“投喂”給AI的那一刻,一場隱蔽的泄密風(fēng)險可能已經(jīng)悄然降臨。

開源AI藏“暗箭”,

新型泄密風(fēng)險凸顯

近日,國家安全部披露了一起典型案例:個別單位直接使用開源框架建立聯(lián)網(wǎng)大模型,導(dǎo)致攻擊者未經(jīng)授權(quán)即可自由訪問內(nèi)部網(wǎng)絡(luò),從而引發(fā)數(shù)據(jù)泄露和安全風(fēng)險。案例顯示,某單位工作人員違規(guī)使用開源AI工具處理內(nèi)部文件,因電腦系統(tǒng)默認(rèn)開啟公網(wǎng)訪問且未設(shè)置密碼,導(dǎo)致敏感資料被境外IP非法訪問、下載。

央視新聞相關(guān)報道

這一案例,撕開了開源AI工具潛藏的泄密 “暗門”,直觀揭示了此類風(fēng)險的嚴(yán)重性與危害性。

那么,什么是開源AI工具呢?

隨著人工智能技術(shù)的普及,開源AI工具以免費、高效、功能多樣等優(yōu)勢,成為許多單位和個人使用人工智能時的首選。這類工具的核心是開源大模型,即架構(gòu)、參數(shù)及訓(xùn)練數(shù)據(jù)完全公開,并允許用戶免費使用的人工智能模型。這類模型不僅能精準(zhǔn)完成推理、代碼編寫、文本及影像處理等任務(wù),甚至可以基于體檢報告給出專業(yè)健康建議,實用性“拉滿”。

然而,在帶來便捷的同時,開源AI工具與生俱來的開放性也催生了新型泄密風(fēng)險,且隱蔽性更強、傳播范圍更廣。這種潛藏在工具背后的泄密陷阱,打破了傳統(tǒng)泄密的場景限制,讓敏感信息在網(wǎng)絡(luò)空間中面臨無差別暴露風(fēng)險。

你的數(shù)據(jù)去哪了?

揭秘開源AI泄密“后門”

開源AI工具的數(shù)據(jù)安全隱患,主要源于其工作原理中的數(shù)據(jù)存儲功能?！巴段埂苯oAI的任何文件、圖片、文字等數(shù)據(jù),都會被模型存儲下來,以此為基礎(chǔ)完成分析處理。這一特性是AI高效工作的前提,卻也在無形中為數(shù)據(jù)泄露埋下伏筆。

一旦數(shù)據(jù)被存進(jìn)模型,就至少面臨兩種泄密風(fēng)險:一方面,開源AI工具開發(fā)者擁有最高權(quán)限,可直接訪問和查看所有存儲數(shù)據(jù),若開發(fā)者缺乏保密意識或存在利益驅(qū)動,用戶上傳的敏感信息可能被非法利用或泄露。另一方面,開源屬性讓黑客有機可乘,他們可以利用此類工具本身的漏洞攻擊入侵后臺,批量竊取存儲數(shù)據(jù),無需接觸用戶終端即可實現(xiàn)遠(yuǎn)程竊密。

因此,對于機關(guān)單位或企業(yè)來說,若將工作秘密上傳至開源AI工具,無異于將核心信息暴露在透明環(huán)境中;對于個人而言,身份證號、手機號、隱私照片等敏感信息的上傳,也可能引發(fā)電信詐騙、信息倒賣等問題。尤其需要警惕的是,若涉及國家秘密的信息被“投喂”給此類工具,將直接威脅國家安全,造成不可挽回的損失。

“保密觀”有話說

在AI技術(shù)快速發(fā)展的今天,防范開源AI工具帶來的安全風(fēng)險至關(guān)重要,需要多方發(fā)力、層層設(shè)防。尤其要嚴(yán)守保密紅線,堅決杜絕因AI使用不當(dāng)造成的泄密事件。

對普通用戶而言,需提升數(shù)據(jù)安全意識,在使用過程中做到“數(shù)據(jù)不隨意投喂”,避免向AI上傳個人隱私信息。

對于有開源AI使用需求的機關(guān)單位,建議推進(jìn)開源大模型私有化部署,將所有數(shù)據(jù)存儲在本地服務(wù)器,切斷與互聯(lián)網(wǎng)的直接連接,從源頭保障數(shù)據(jù)安全。同時,建設(shè)配套基礎(chǔ)設(shè)施,組建專業(yè)團(tuán)隊開展系統(tǒng)維護(hù)與安全監(jiān)測,及時修補漏洞、抵御攻擊。

必須特別強調(diào)的是,所有涉及國家秘密的機關(guān)單位及工作人員,務(wù)必嚴(yán)格遵守保密法律法規(guī),嚴(yán)禁使用任何開源AI工具存儲、處理涉密信息,不得將涉密文件、數(shù)據(jù)提交至此類工具進(jìn)行分析或生成內(nèi)容。

歸根結(jié)底,AI是提升效率的輔助工具,絕非規(guī)避保密要求的“捷徑”。只有時刻繃緊安全保密這根弦,才能在享受技術(shù)便利的同時,牢牢守住數(shù)據(jù)安全與國家安全的底線。

來源：保密觀