国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

企業(yè)能把安全交給Agent么?丨ToB產(chǎn)業(yè)觀察

0
分享至


如果說2023年是“大模型元年”,ChatGPT的問世打開了AI大模型的大門,2025年是“大模型應(yīng)用落地”之年,那么2026年正在被行業(yè)定義為“智能體爆發(fā)元年”。當(dāng)AI從“對話機(jī)器”進(jìn)化為“能自主行動的Agent”,在安全行業(yè)的應(yīng)用也讓Agent成為了企業(yè)安全的捍衛(wèi)者。

“意圖主權(quán)”是智能體安全的基礎(chǔ)

根據(jù)GII發(fā)布的《2026年全球人工智慧(AI)安全市場報告》,全球AI提示詞安全市場在2025年已達(dá)到19.8億美元,預(yù)計2026年將增長至26.1億美元,年復(fù)合增長率高達(dá)31.3%。這種高速增長本身就說明,大模型時代的安全需求正在經(jīng)歷爆發(fā)式擴(kuò)張。

回看AI大模型問世之后至今,企業(yè)級AI安全大致可以分為三個階段,對此,綠盟科技集團(tuán)副總裁宮智表示,企業(yè)級AI安全經(jīng)歷了從最初的“內(nèi)容博弈”,到中間的“協(xié)議生態(tài)”,再到當(dāng)下的“意圖主權(quán)”?!?023年大模型剛剛出來,它還不是一個平民技術(shù),基本上體現(xiàn)出來的產(chǎn)品形態(tài)就是Chatbot對話,”他回憶道,“對話更重要的是圍繞模型的輸入輸出、模型內(nèi)容語料的安全,以及在對話過程中產(chǎn)生內(nèi)容的合規(guī)性?!北藭r,安全防護(hù)的重點(diǎn)相對單一,那就是管控模型“說什么”和“怎么說”。

然而,真正帶來“范式革命”的轉(zhuǎn)折點(diǎn)出現(xiàn)在2024年底至2025年初。隨著DeepSeek等國產(chǎn)大模型以更低的成本門檻走向大眾,智能體迎來了真正的爆發(fā)式增長?!癆gent集中問世是應(yīng)用側(cè)明顯的變化?!睂m智分析道,這一變化帶來的風(fēng)險暴露面急劇擴(kuò)大——“原來僅限于內(nèi)容輸入輸出問題,現(xiàn)在智能體之后它會實(shí)現(xiàn)跟不同應(yīng)用和系統(tǒng)之間的交互,這個智能體本身跟不同的智能體也會有交互,鏈路就非常多,對安全來說,每一個通道和接口都會存在一些風(fēng)險問題?!?/p>

而這些變化意味著,一個被惡意操控或存在漏洞的智能體,可能成為穿透企業(yè)內(nèi)網(wǎng)、竊取核心數(shù)據(jù)、破壞業(yè)務(wù)流程的新型“跳板”。國際知名網(wǎng)絡(luò)安全機(jī)構(gòu)SANS Institute在2025年底的一份白皮書中警告,基于智能體的供應(yīng)鏈攻擊和橫向移動已成為新興高級持續(xù)性威脅(APT)的典型特征。

新威脅的背后,對于網(wǎng)絡(luò)安全行業(yè)而言,一條清晰的脈絡(luò)已然浮現(xiàn)——安全焦點(diǎn)正從單一模型的“內(nèi)容安全”向復(fù)雜智能體的“行為與意圖安全”快速遷移。

面對智能體帶來的復(fù)雜交互風(fēng)險,傳統(tǒng)的基于權(quán)限和角色的訪問控制顯得力不從心。業(yè)界共識正在向一個新的概念聚焦——“意圖主權(quán)”。

所謂“意圖主權(quán)”,其核心在于將安全管控的關(guān)口大幅前移。傳統(tǒng)的安全監(jiān)控通常在動作執(zhí)行后進(jìn)行分析響應(yīng),而在智能體場景下,由于其行動速度極快,事后響應(yīng)往往為時已晚?!耙鈭D管理的本質(zhì)來說就需要我介入它智能體的推理過程,就把風(fēng)險管控再往前置一下?!睂m智表示。這就需要安全系統(tǒng)能夠解析智能體的“思考”過程,在其計劃執(zhí)行危險操作(如批量刪除數(shù)據(jù)、越權(quán)訪問敏感系統(tǒng))之前,就進(jìn)行預(yù)判和干預(yù)。

不過“意圖主權(quán)”的底層,也給安全技術(shù)提出了挑戰(zhàn)。首先,它要求安全產(chǎn)品能夠與多樣化的智能體及其底層模型進(jìn)行深度集成與交互,即“跟不同的模型能夠有一個生態(tài)的配合”;其次,這種介入不能嚴(yán)重影響智能體原有的推理效率和正常業(yè)務(wù)功能;最后,必須具備實(shí)時的高精度意圖識別與阻斷能力。

盡管有很多挑戰(zhàn),但“意圖主權(quán)”被視為應(yīng)對海量智能體并行環(huán)境的必由之路?!拔磥?,企業(yè)和個人都會面對很多智能體,在使用過程中,無論是角色,還是權(quán)限管理,難度都非常高”宮智進(jìn)一步表示,“如果能夠基于智能體的推理邏輯,以及它的行為來做這樣一個管理的話,從最終的管控或者風(fēng)險控制效果來看,效果更好,效率更高。”

而當(dāng)前安全廠商除了利用AI的能力進(jìn)行防御之外,也開始在智能體安全方面進(jìn)行布局。這些布局也可以看作是安全防御走向“意圖主權(quán)”的一部分。以亞信安全為例,在近期舉辦的C3安全大會上,其發(fā)布了業(yè)內(nèi)首個智能體信任架構(gòu)——ATF(Agent Trust Fabric)。對此,亞信安全智能體安全專家焦正新介紹,當(dāng)前90%以上的企業(yè)已部署智能體,但僅10%的組織擁有成熟的非人類身份管理策略。傳統(tǒng)以人為中心的靜態(tài)身份體系面對智能體的動態(tài)產(chǎn)生和湮滅、身份冒用、權(quán)限過度授予等風(fēng)險,已難以應(yīng)對。

據(jù)焦正新介紹,ATF框架首創(chuàng)“智能體意圖對齊+人機(jī)共治”的安全范式,圍繞“身份可信、意圖對齊、生成有界、行為可控、鏈路可審、責(zé)權(quán)可溯”六個維度重構(gòu)人機(jī)協(xié)同的信任根基。

而亞信安全提出的ATF框架,也可以視為將智能體安全從“權(quán)限管理”推向“意圖治理”重要一步——其建立了AI智能體身份安全的系統(tǒng)性標(biāo)準(zhǔn),為智能體在企業(yè)核心業(yè)務(wù)中的規(guī)?;尚挪渴鹛峁┝税踩A(chǔ)。

一體化能力是安全廠商重點(diǎn)布局方向

在AI安全的技術(shù)路線之爭中,一個核心問題始終困擾著整個行業(yè):安全大模型究竟應(yīng)該走“通用”路線還是“垂直”路線?2023年至2024年間,幾乎每一家安全廠商都宣稱自己在做垂直大模型。但到了2025年,這一陣營明顯出現(xiàn)了分化。宮智的判斷是,安全領(lǐng)域更適合垂直大模型的路徑,而綠盟科技就正在沿著“垂直領(lǐng)域?qū)I(yè)化”和“一體化全鏈路防護(hù)”兩條路徑構(gòu)建新型防御能力。

“業(yè)內(nèi)可能也有不同的聲音,垂直模型是否比通用模型更好用,但是我們從我們自身項(xiàng)目的一些實(shí)踐,以及我們對安全未來風(fēng)險的判斷來看,我們始終還是很堅(jiān)定的認(rèn)為安全垂直大模型市場的一個價值,這個是明確的?!睂m智表示。

通用大模型雖然能夠通過精心的提示詞工程覆蓋大量通用性安全知識,但面對安全運(yùn)營中高度場景化、行業(yè)化的復(fù)雜問題時,往往力不從心。

但垂直模型之路也并不好走,首先,安全知識的專業(yè)性極強(qiáng),漏洞信息、攻擊手法、威脅情報具有高度的時效性和隱蔽性,通用模型難以通過公開語料獲得深度理解;其次,模型效果嚴(yán)重依賴于高質(zhì)量、高相關(guān)度的數(shù)據(jù)。“真正要做垂域的前提,模型的效果好壞完全取決于數(shù)據(jù),你要做好專業(yè)模型的話就是要有更高質(zhì)量的一些安全數(shù)據(jù)?!睂m智指出。綠盟憑借二十多年的攻防實(shí)戰(zhàn)、安全服務(wù)和產(chǎn)品積累,形成了獨(dú)有的安全數(shù)據(jù)資源庫,這構(gòu)成了其垂直模型的核心競爭力。

在宮智看來,垂直模型的價值正體現(xiàn)在兩個關(guān)鍵方向。其一,是邊緣側(cè)的輕量化與專用化。隨著安全能力需要下沉到網(wǎng)絡(luò)邊緣(如探針、IPS/IDS、WAF等設(shè)備),對本地化、低延遲、低算力消耗的AI能力需求激增?!斑@就要求在邊緣側(cè)要有算力,模型本身要夠小但是又要夠?qū)?,邊緣的好處它確實(shí)只解決一件事情,它不需要解決很多的事情。”宮智介紹,綠盟正在致力于將安全模型針對特定邊緣場景進(jìn)行極致輕量化,以提升本地檢測與自適應(yīng)響應(yīng)的效率。

其二,是支撐上層場景化智能體。綠盟以“風(fēng)云衛(wèi)”安全數(shù)據(jù)大模型為基座,衍生出面向不同安全運(yùn)營環(huán)節(jié)(如分析研判、威脅狩獵、處置響應(yīng))的專用數(shù)字人?!案嗟鼐褪前盐覀兊拇褂蚰芰瓦@種聚焦面向更細(xì)分場景化的安全運(yùn)營環(huán)節(jié)來做一個結(jié)合?!边@種架構(gòu)既保證了底層知識的專業(yè)性,又實(shí)現(xiàn)了上層應(yīng)用的靈活性與針對性。

而在騰訊云安全總經(jīng)理、云鼎實(shí)驗(yàn)室首席架構(gòu)師李濱看來,垂類模型和通用模型,以及串聯(lián)起它們的智能體都是當(dāng)前確保企業(yè)安全過程中不可或缺的一部分,“通用模型以更強(qiáng)的泛化和推理能力,是統(tǒng)攬企業(yè)安全全局的角色,經(jīng)過領(lǐng)域優(yōu)化的垂類模型則對于單點(diǎn)的安全問題處理能力更高效,而智能體則是能很好地將兩者‘粘合’在一起,從而發(fā)揮出最大的效率?!崩顬I如是說。

無論是垂直模型,還是通用模型,亦或是智能體,這些也都只是當(dāng)前企業(yè)安全防御的一環(huán),企業(yè)真正需要的不僅是一個安全模型或者一個安全產(chǎn)品,而是需要一個整體的解決方案,能夠幫助他們構(gòu)建一套完整的安全防御體系,最終達(dá)成一體化防御的效果。

而一體化防護(hù)的體系也成為了當(dāng)前安全廠商重點(diǎn)布局的方向。對此,宮智表示,“雖然智能體帶來了全新的安全挑戰(zhàn),但核心的安全防護(hù)理念并沒有發(fā)生太大變化,依然是‘事前、事中、事后’的全流程防御框架,關(guān)鍵在于將這一框架適配到智能體場景中”?;谶@一理念,綠盟科技打造了清風(fēng)衛(wèi)一體化智能體安全防護(hù)系統(tǒng),構(gòu)建了覆蓋“輸入輸出防護(hù)、全鏈路監(jiān)測、意圖預(yù)判、風(fēng)險處置”的全流程防御體系,成為企業(yè)應(yīng)對智能體安全風(fēng)險的核心工具。針對此,據(jù)宮智介紹,綠盟推出的AI安全一體機(jī) (AI-UTM)正在以月為單位迭代升級,用最快速度推向市場,新增了智能體安全評估、智能體指令安全、Skill安全檢查、智能體安全網(wǎng)關(guān)、智能體行為管控功,可實(shí)現(xiàn)精準(zhǔn)識別、全域管控AI智能體并快速收斂風(fēng)險,有效破解“影子 AI”管理難題,適配企業(yè)級智能體應(yīng)用發(fā)展的安全新需求。

據(jù)宮智介紹,清風(fēng)衛(wèi)通過容器化套件,將不同的安全模塊部署在智能體業(yè)務(wù)流的關(guān)鍵節(jié)點(diǎn)。例如,在智能體的聊天交互前端部署“圍欄套件”進(jìn)行輸入輸出檢測;在智能體與后端業(yè)務(wù)系統(tǒng)、工具API(通過MCP等協(xié)議網(wǎng)關(guān))的交互路徑上部署“執(zhí)行圍欄”,監(jiān)測其調(diào)用行為。這套體系旨在覆蓋從“意圖”到“行為”的全過程。

亞信安全副董事長、CEO馬紅軍也表示一體化安全防御已經(jīng)當(dāng)前企業(yè)級安全必需的選擇,他指出,舊的安全建設(shè)模式已觸及天花板。安全需要的不是再買一個盒子、再上一個產(chǎn)品,而是一次底層邏輯的徹底重建——在聯(lián)動防御的基礎(chǔ)上,打造數(shù)據(jù)驅(qū)動與AI原生的新體系。

而亞信安全在AI XDR產(chǎn)品升級上也體現(xiàn)了這一點(diǎn)。馬紅軍介紹,今年亞信安全AI XDR最大的一個升級就是將AI XDR平臺從“工具”走向“智能體矩陣”。亞信安全在平臺中嵌入了資產(chǎn)管理、風(fēng)險分析、漏洞管理、聯(lián)動處置等十大智能體,覆蓋從威脅檢測到響應(yīng)處置的全鏈條。

安全行業(yè)的“人機(jī)協(xié)同”怎么做?

隨著AI在企業(yè)整體安全架構(gòu)的位置愈發(fā)重要,一個有關(guān)“人機(jī)關(guān)系”的問題也隨之浮出水面。人與AI的關(guān)系一直是這個時代熱議的話題,在安全行業(yè)亦是如此,AI主導(dǎo)的攻防時代,人的角色將如何被重新定義?

在RSAC 2026大會上,谷歌云首席運(yùn)營官兼安全產(chǎn)品總裁Francis deSouza曾拋出了一個頗具爭議的觀點(diǎn):“以人為主導(dǎo)的防御往往過于緩慢,難以阻止由智能體發(fā)起的網(wǎng)絡(luò)攻擊,因此谷歌正轉(zhuǎn)向以智能體主導(dǎo)的防御方式?!边@一判斷背后是攻擊方利用AI實(shí)現(xiàn)“攻擊武器化”的驚人速度。

據(jù)媒體報道,安全研究機(jī)構(gòu)Gambit Security曾披露,在2025年12月至2026年2月期間,一名獨(dú)立攻擊者利用Claude Code和GPT-4.1兩款A(yù)I編程輔助工具,成功入侵墨西哥九家政府實(shí)體,竊取了數(shù)億條公民敏感記錄,并在部分系統(tǒng)中實(shí)現(xiàn)了持久化控制。據(jù)悉,本次攻擊中Claude Code承擔(dān)了約75%的遠(yuǎn)程命令執(zhí)行任務(wù),攻擊者共記錄了1,088條提示詞,這些提示生成了5,317條可執(zhí)行命令。借助AI的代碼生成與解釋能力,攻擊者在數(shù)小時內(nèi)即可完成對陌生網(wǎng)絡(luò)的資產(chǎn)識別與攻擊路徑規(guī)劃——這一效率在過去需要一支專業(yè)攻擊團(tuán)隊(duì)數(shù)周甚至數(shù)月才能實(shí)現(xiàn)。

面對攻擊側(cè)不斷利用AI提升攻擊效率,豐富攻擊手段,防守方也在積極擁抱AI,“用AI打敗AI”這個觀點(diǎn)從生成式AI問世那天起就響徹安全圈。當(dāng)前,AI SOC正在從“輔助駕駛”邁向“智能體驅(qū)動”的新階段。

那么,在這樣一個“AI對決AI”的新格局中,人類安全專家的位置在哪里?宮智的回答非常清醒:“人在這個過程中又是不可或缺的,但是人在這個過程中更多是說我對AI輔助加工過的信息之后,它最終都要回歸到一個處置的決策上。”

他認(rèn)為,AI可以承擔(dān)“偏體力活”的工作,比如認(rèn)知分析、告警研判、威脅溯源等常規(guī)動作,但最終的處置決策必須由人來做?!癆I接到的只是一個相對僵化的基于邏輯的推理判斷,”宮智解釋道,“但不同企業(yè)在做安全運(yùn)營的時候,環(huán)境沒有一個統(tǒng)一原則。安全一定是服務(wù)于業(yè)務(wù)的,所以安全決策的前提要保證業(yè)務(wù)本身的連續(xù)性。”

李濱也有著相同觀點(diǎn),他指出,傳統(tǒng)重復(fù)性的安全工作可以交給AI處理,安全運(yùn)營人員可以將更多的精力放在一些高階的安全問題的處理和決策上。

這種“人機(jī)協(xié)同”的分工邏輯,既兼顧了防御效率,也規(guī)避了AI自主決策帶來的風(fēng)險。具體而言,AI負(fù)責(zé)完成大量常規(guī)性的風(fēng)險識別、數(shù)據(jù)分析工作,比如對智能體的交互行為進(jìn)行實(shí)時監(jiān)測、對潛在風(fēng)險進(jìn)行初步判斷,將復(fù)雜的信息加工成簡潔的決策建議;而人則負(fù)責(zé)對AI提供的建議進(jìn)行審核,結(jié)合企業(yè)的業(yè)務(wù)需求、安全策略,做出最終的處置決策。

(文|Leo張ToB雜談,作者|張申宇,編輯丨楊林)

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
陸毅50歲體重飆至176斤,血壓偏高嘴唇發(fā)紫入院

陸毅50歲體重飆至176斤,血壓偏高嘴唇發(fā)紫入院

日不西沉
2026-04-26 23:00:12
一醫(yī)院原院長:我就像一個吸血鬼

一醫(yī)院原院長:我就像一個吸血鬼

南方都市報
2026-04-26 23:49:54
火箭隊(duì)火線變陣!11人輪換變8人輪換,新陣火力全開,烏度卡精明

火箭隊(duì)火線變陣!11人輪換變8人輪換,新陣火力全開,烏度卡精明

熊哥愛籃球
2026-04-27 11:50:24
馬龍:公開感恩岳父母!岳父母把他當(dāng)親兒子,他給他們在北京買房

馬龍:公開感恩岳父母!岳父母把他當(dāng)親兒子,他給他們在北京買房

阿豐聊娛
2026-04-27 09:48:41
伊朗用血淚給中國換來了教訓(xùn):最大的敵人,并不是美國和以色列

伊朗用血淚給中國換來了教訓(xùn):最大的敵人,并不是美國和以色列

墨印齋
2026-04-23 15:42:00
清朝妃子掛的“白圍脖”,不是為了漂亮,而是為了讓皇帝辦事方便

清朝妃子掛的“白圍脖”,不是為了漂亮,而是為了讓皇帝辦事方便

卡西莫多的故事
2026-03-23 10:02:13
北京緊急通報!柬埔寨國王在華手術(shù),全程不回本國,原因不簡單

北京緊急通報!柬埔寨國王在華手術(shù),全程不回本國,原因不簡單

叮當(dāng)當(dāng)科技
2026-04-26 20:53:11
失業(yè)后在小縣城的兩年發(fā)現(xiàn),打麻將和性生活才是普通人底色!

失業(yè)后在小縣城的兩年發(fā)現(xiàn),打麻將和性生活才是普通人底色!

黯泉
2026-04-01 17:44:20
2026年4月27日央視體育頻道節(jié)目預(yù)告

2026年4月27日央視體育頻道節(jié)目預(yù)告

生活新鮮市
2026-04-27 04:33:29
吉林一女子救下毒蛇,賴著不走12年,怪事不斷,至今無法解釋

吉林一女子救下毒蛇,賴著不走12年,怪事不斷,至今無法解釋

燦爛夏天
2025-02-23 23:30:44
東方甄選主播集體辭職背后說明了什么?

東方甄選主播集體辭職背后說明了什么?

稿得輕松
2026-04-26 16:38:52
李嘉欣現(xiàn)身倫敦街頭被路人偶遇,頂級骨相美到發(fā)光完全不像55歲

李嘉欣現(xiàn)身倫敦街頭被路人偶遇,頂級骨相美到發(fā)光完全不像55歲

喜歡歷史的阿繁
2026-04-24 11:57:41
回顧:“種樹市長”一人搞了3代的錢,給小孫子小孫女都買了別墅

回顧:“種樹市長”一人搞了3代的錢,給小孫子小孫女都買了別墅

愛史紀(jì)
2026-04-27 11:44:24
女騎手兩年暴漲35%,女司機(jī)猛增75%,中年女人為何搶著跑車?

女騎手兩年暴漲35%,女司機(jī)猛增75%,中年女人為何搶著跑車?

老特有話說
2026-04-17 17:19:57
防暑提醒:5月5日晚上開始,今年夏天不一般,早做安排少遭罪

防暑提醒:5月5日晚上開始,今年夏天不一般,早做安排少遭罪

小談食刻美食
2026-04-26 09:00:10
新婚姻法來了,離婚將不復(fù)存在?3種情況不允許離婚!

新婚姻法來了,離婚將不復(fù)存在?3種情況不允許離婚!

巢客HOME
2026-04-26 20:24:39
倫敦世乒賽國乒男團(tuán)最難一次,只要王楚欽不上三單,12連冠就穩(wěn)贏!

倫敦世乒賽國乒男團(tuán)最難一次,只要王楚欽不上三單,12連冠就穩(wěn)贏!

好乒乓
2026-04-27 12:37:59
斯諾克大冷門?吳宜澤9-7逆轉(zhuǎn)塞爾比,火箭或翻車,羅伯遜復(fù)仇?

斯諾克大冷門?吳宜澤9-7逆轉(zhuǎn)塞爾比,火箭或翻車,羅伯遜復(fù)仇?

劉姚堯的文字城堡
2026-04-27 07:40:05
5月起,這些新規(guī)將影響你我生活

5月起,這些新規(guī)將影響你我生活

環(huán)球網(wǎng)資訊
2026-04-27 08:52:37
大年初一起床晚了,婆家10口人等我做飯,婆婆當(dāng)眾打我:真是頭豬

大年初一起床晚了,婆家10口人等我做飯,婆婆當(dāng)眾打我:真是頭豬

麥子情感故事
2026-04-26 23:51:04
2026-04-27 14:35:00
鈦媒體APP incentive-icons
鈦媒體APP
獨(dú)立財經(jīng)科技媒體
132816文章數(shù) 862118關(guān)注度
往期回顧 全部

科技要聞

打1折!DeepSeek輸入緩存降價

頭條要聞

白宮槍手路徑首披露:房卡放行 在隔間組槍直沖宴會廳

頭條要聞

白宮槍手路徑首披露:房卡放行 在隔間組槍直沖宴會廳

體育要聞

最抽象的天才,正在改變瓜迪奧拉

娛樂要聞

《奔跑吧14》剛播就把一手好牌打稀爛

財經(jīng)要聞

DeepSeek融資、字節(jié)加碼 AI開始真燒錢了

汽車要聞

在不確定中尋找確定性:大眾汽車的中國解法

態(tài)度原創(chuàng)

本地
時尚
教育
公開課
軍事航空

本地新聞

云游中國|逛世界風(fēng)箏都 留學(xué)生探秘中國傳統(tǒng)文化

比起買大件,這些“小裝備”更派得上用場!

教育要聞

新傳考研名詞解釋打卡:幽靈勞動

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

伊朗總統(tǒng):不會在壓力、威脅下進(jìn)行談判

無障礙瀏覽 進(jìn)入關(guān)懷版