如今，人工智能已深度融入日常工作與生活，在帶來高效便利的同時，其作為“雙刃劍”的另一面也日益顯現(xiàn)。近日，瑞星公司發(fā)布的《2025年中國網(wǎng)絡(luò)安全報(bào)告》明確指出，AI自身的安全漏洞及其被惡意濫用的風(fēng)險(xiǎn)，已成為當(dāng)前網(wǎng)絡(luò)安全領(lǐng)域的突出挑戰(zhàn)。

一、AI被武器化：攻擊門檻降低，欺詐更逼真

更令人擔(dān)憂的是，攻擊者正將AI轉(zhuǎn)化為高效“犯罪工具”，顯著降低網(wǎng)絡(luò)攻擊的技術(shù)門檻：

自動化惡意軟件生成：

如2025年初曝光的FunkSec勒索木馬，研究顯示其很可能由AI自動生成，短時間內(nèi)攻擊了至少85家企業(yè)。AI不僅能快速生成惡意代碼，還能批量生成變種，繞過傳統(tǒng)安全軟件的簽名檢測。

首現(xiàn)AI勒索軟件：

全球首個AI勒索軟件PromptLock濫用開源模型，可跨平臺搜索、竊取并加密文件，標(biāo)志著勒索攻擊進(jìn)入智能化新階段。

深度偽造與社交工程：

AI偽造的“YouTube CEO”視頻被用于釣魚詐騙；意大利詐騙分子利用AI語音模仿國防部長，誘騙企業(yè)家轉(zhuǎn)賬；國內(nèi)甚至出現(xiàn)“AI張伯禮院士”帶貨護(hù)膚品的偽造視頻，嚴(yán)重侵犯個人權(quán)益并誤導(dǎo)公眾。

釣魚郵件升級：

AI生成的釣魚郵件語法準(zhǔn)確、語氣逼真，且能結(jié)合目標(biāo)公開信息進(jìn)行個性化定制，欺騙性大幅提升。

二、大模型自身漏洞頻出，成黑客新突破口

隨著大語言模型（LLM）從實(shí)驗(yàn)室走向產(chǎn)業(yè)應(yīng)用，其攻擊面持續(xù)擴(kuò)大。報(bào)告指出，針對大模型本身的攻擊已成為2025年最突出的安全威脅之一。

開源工具默認(rèn)配置漏洞：

如開源跨平臺大模型工具Ollama默認(rèn)開放11434端口且無鑒權(quán)機(jī)制，一旦暴露在公網(wǎng)，極易導(dǎo)致數(shù)據(jù)泄露、算力盜取或服務(wù)中斷。

第三方連接器風(fēng)險(xiǎn)：

ChatGPT連接器被曝存在漏洞，攻擊者可通過“間接提示詞注入”手法，在用戶處理看似正常的文檔時，悄無聲息地提取其Google Drive賬戶中的敏感信息。

代碼助手被惡意利用：

GitLab的AI代碼助手GitLab Duo曾存在提示詞注入漏洞，攻擊者通過Unicode夾帶、Base16編碼等手段篡改其生成的代碼建議，甚至誘導(dǎo)其認(rèn)可惡意合并請求。

報(bào)告還提到，攻擊者可通過“敘述式工程”手段，構(gòu)建虛構(gòu)場景誘導(dǎo)模型忽略安全規(guī)則，自動生成竊密木馬等惡意程序，反映出大模型在語義層面的防御機(jī)制仍存在明顯短板。

瑞星提醒：AI安全需全鏈條防護(hù)

報(bào)告最后指出，應(yīng)對日益增長的AI安全威脅，機(jī)構(gòu)與個人需共同遵循以下幾項(xiàng)核心防護(hù)原則：

工具官方化，配置最小化：

無論是企業(yè)部署還是個人使用，均應(yīng)從官方渠道獲取AI工具與組件，并立即修改默認(rèn)配置、禁用非必要服務(wù)，從源頭減少攻擊面。

數(shù)據(jù)分類化，權(quán)限最小化：

建立敏感數(shù)據(jù)“防火墻”，不向AI工具輸入個人隱私、商業(yè)機(jī)密等敏感信息。企業(yè)需嚴(yán)格管控API密鑰與數(shù)據(jù)訪問權(quán)限，個人要養(yǎng)成“先分類，后使用”的習(xí)慣。

核驗(yàn)流程化，操作冷靜化：

對所有AI生成的內(nèi)容或指令（如轉(zhuǎn)賬、修改憑證要求）保持警覺，建立“必須通過官方、獨(dú)立渠道進(jìn)行二次核實(shí)”的強(qiáng)制流程，避免在緊急氛圍中誤操作。

瑞星公司表示，AI帶來的便利毋庸置疑，但它的安全風(fēng)險(xiǎn)也離我們不遠(yuǎn)，唯有通過持續(xù)的技術(shù)升級、規(guī)范的完善與用戶安全意識的普遍提升，才能共同構(gòu)建更可靠的數(shù)字安全屏障。