【TechWeb】4月10日消息，Gartner預(yù)測(cè)，到2028年，50%的企業(yè)網(wǎng)絡(luò)安全事件響應(yīng)工作將聚焦于涉及定制化人工智能（AI）應(yīng)用的安全事件。

Gartner研究副總裁Christopher Mixter表示：“AI正在快速發(fā)展，但許多工具在尚未充分測(cè)試的情況下便被倉促部署，尤其是定制化AI應(yīng)用。這些系統(tǒng)復(fù)雜多變，長期安全防護(hù)難度很高。而多數(shù)安全團(tuán)隊(duì)仍缺乏明確的AI相關(guān)事件處理流程，這將導(dǎo)致耗費(fèi)更多時(shí)間和精力去解決問題。

Gartner建議安全領(lǐng)導(dǎo)者盡早介入定制化AI應(yīng)用項(xiàng)目，通過預(yù)留充足的時(shí)間、規(guī)劃資源配置及合理管理預(yù)期建立完善的安全控制體系。

Gartner建議網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者在未來兩年將以下預(yù)測(cè)納入安全戰(zhàn)略考量。

到2028年，超過50%的企業(yè)將采用AI安全平臺(tái)，以保障第三方AI服務(wù)的使用安全，并保護(hù)其定制化AI應(yīng)用。

AI安全平臺(tái)為組織提供了一種統(tǒng)一方式，用于管理與快速AI采用相關(guān)的新型風(fēng)險(xiǎn)，例如提示詞注入、數(shù)據(jù)濫用等。通過集中可視化與控制能力，這些平臺(tái)將幫助首席信息安全官（CISO）執(zhí)行使用策略、監(jiān)控AI活動(dòng)，并在第三方及定制化AI應(yīng)用之間實(shí)施一致的安全防護(hù)措施。安全負(fù)責(zé)人需要評(píng)估AI安全平臺(tái)，以確保其能夠同時(shí)保障這兩類應(yīng)用的安全。

到2030年末，33%的IT工作將用于修復(fù)AI數(shù)據(jù)債務(wù)以保障AI安全。

多數(shù)企業(yè)的數(shù)據(jù)尚未適配AI，安全防護(hù)薄弱且結(jié)構(gòu)混亂的數(shù)據(jù)已成為AI應(yīng)用的主要障礙。針對(duì)此問題，網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者正在擴(kuò)展數(shù)據(jù)防泄露系統(tǒng)，以監(jiān)控并限制由生成式AI和代理式AI數(shù)據(jù)訪問事件和請(qǐng)求引發(fā)的數(shù)據(jù)流。Gartner建議其協(xié)同數(shù)據(jù)分析和AI領(lǐng)導(dǎo)者制定結(jié)構(gòu)化的數(shù)據(jù)發(fā)現(xiàn)、評(píng)估和訪問控制修復(fù)方案。

到2027年末，依賴人工方式開展AI合規(guī)流程將使75%的受監(jiān)管組織面臨風(fēng)險(xiǎn)，可能被處以超過其全球營收5%的罰款。

盡管全球在監(jiān)管路徑上存在差異，但各類AI監(jiān)管正趨于一致，即普遍要求建立系統(tǒng)化的風(fēng)險(xiǎn)管理方法。即使首席信息安全官（CISO）能夠提前滿足、持續(xù)跟上安全、隱私及網(wǎng)絡(luò)風(fēng)險(xiǎn)管理相關(guān)法規(guī)與標(biāo)準(zhǔn)，圍繞AI安全的新規(guī)仍會(huì)對(duì)既有體系帶來新的不確定性。為提高應(yīng)對(duì)成效，Gartner建議建立網(wǎng)絡(luò)治理、風(fēng)險(xiǎn)與合規(guī)（GRC）體系，并通過技術(shù)手段推動(dòng)合規(guī)落地。

到2027年，30%的企業(yè)將要求對(duì)自身的云安全控制體系擁有全面主權(quán)以應(yīng)對(duì)持續(xù)地緣政治動(dòng)蕩。

地緣政治動(dòng)蕩與本地法規(guī)正在導(dǎo)致難以承受的數(shù)據(jù)風(fēng)險(xiǎn)，迫使眾多企業(yè)將主權(quán)納入其網(wǎng)絡(luò)彈性策略的核心。伴隨地緣回遷要求的增加，將促使企業(yè)調(diào)整云端服務(wù)供應(yīng)商的選擇策略并重新規(guī)劃優(yōu)先事項(xiàng)。網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者必須積極參與企業(yè)主權(quán)要求的確定工作，包括本地法規(guī)中的要求。

到2028年，70%的首席信息安全官（CISO）將使用身份可見性和智能技術(shù)減少身份和訪問管理（IAM）攻擊面，降低證書泄露風(fēng)險(xiǎn)。

企業(yè)已難以應(yīng)對(duì)人類與機(jī)器身份的快速增長及復(fù)雜性，使得身份成為了主要攻擊面。孤立的身份和訪問管理（IAM）工具導(dǎo)致可見性缺口，加劇配置錯(cuò)誤風(fēng)險(xiǎn)。Gartner建議通過整合統(tǒng)一的AI驅(qū)動(dòng)身份可見性與智能平臺(tái)消除這些盲區(qū)，從而提升檢測(cè)與修復(fù)能力。