關(guān)鍵詞

AI

據(jù)科技媒體 TechPower Up 今天報道，微軟在幾天前宣布 Win11 系統(tǒng)將迎來一次 "agentic"（智能體式）大更新，不過微軟最近在官方發(fā)布博文稱，Win11 系統(tǒng)的 AI 智能體功能可能出現(xiàn) " 幻覺 " 現(xiàn)象。

據(jù)報道，用戶在安裝 Windows 11 Build 26220.7262 后，可以在 " 設(shè)置 --> 系統(tǒng) -->AI Components" 中看到一個新開關(guān) " 實驗性智能體功能 "，啟用后系統(tǒng)會彈出一個警告窗口，提醒用戶相關(guān)功能仍處于實驗階段，可能會對電腦產(chǎn)生影響。

值得注意的是，目前黑客已經(jīng)基于自主式智能體（autonomous agents）研發(fā)新型攻擊方式，其中最為人所知的便是間接提示注入，不懷好意的人會將惡意指令隱藏在普通文檔或網(wǎng)頁元素中，讓智能體遵循這些隱藏指令而非原本的任務(wù)，最終導(dǎo)致電腦被裝上惡意軟件，或是泄露支付信息。

不過微軟表示，Windows 11 的智能體將被運行在一個專屬工作區(qū)內(nèi)，每個智能體都有一個限定范圍、可審計的賬戶，并且所有操作記錄都會被記錄以供審查，具體工作原理類似沙盒，但智能體被設(shè)計可持續(xù)存在，并且能跨對話執(zhí)行文件操作，這無疑擴大了潛在攻擊面。

默認(rèn)情況下，智能體會被授予 Downloads、Desktop、Documents 等用戶文件夾的讀寫權(quán)限，雖然這些文件夾并非系統(tǒng)要害，但仍然有可攻擊的漏洞，微軟還是需要實施更強的安全措施才能避免黑客攻擊。

注：AI 領(lǐng)域的 " 幻覺 " 指的是 AI 大語言模型生成出看起來合理但實際虛假或不準(zhǔn)確的信息，這種現(xiàn)象之所以被稱為 " 幻覺 "，是因為模型會不知不覺地輸出與事實不符的內(nèi)容，產(chǎn)生原因多種多樣，包括訓(xùn)練數(shù)據(jù)不足、有偏差或不完整、上下文理解有限、過度擬合等。

安全圈

網(wǎng)羅圈內(nèi)熱點 專注網(wǎng)絡(luò)安全

實時資訊一手掌握！

好看你就分享 有用就點個贊

支持「安全圈」就點個三連吧！