生成式AI現(xiàn)已成為我們?nèi)粘Ｊ褂玫乃阉饕妗⒉僮飨到y(tǒng)和商業(yè)應(yīng)用程序中不可或缺的功能。雖然其價(jià)值不容置疑，但便利性和可訪問(wèn)性使得"影子AI"成為默認(rèn)的采用模式，而非例外。當(dāng)員工可以輕松將敏感、專有數(shù)據(jù)上傳到日益增長(zhǎng)的未受監(jiān)控的公共第三方工具中時(shí)，這就成為了主要的數(shù)據(jù)泄露載體。

與任何第三方軟件一樣，了解供應(yīng)商如何處理安全和隱私至關(guān)重要。這些方面絕不應(yīng)被視為理所當(dāng)然，特別是因?yàn)樵S多生成式AI工具默認(rèn)將您的輸入重新用作訓(xùn)練數(shù)據(jù)，這意味著潛在敏感或?qū)Ｓ行畔⒖赡軙?huì)在稍后回應(yīng)他人提示時(shí)重新出現(xiàn)。此外，許多公共生成式AI工具的使用政策授予供應(yīng)商訪問(wèn)對(duì)話進(jìn)行人工審查的權(quán)限。這就是為什么保護(hù)敏感數(shù)據(jù)必須從提示開(kāi)始，以避免以下情況：

直接粘貼敏感文本，如用戶憑據(jù)、合同語(yǔ)言、源代碼和其他可能用作訓(xùn)練數(shù)據(jù)或?qū)?yīng)商員工可見(jiàn)的專有信息。

文件上傳，如電子表格、屏幕截圖、專有設(shè)計(jì)文檔甚至音頻，都可能包含可能被復(fù)制、歸檔或重新用于模型訓(xùn)練的敏感信息。

連接器和API使副駕駛能夠訪問(wèn)電子郵件、文檔、存儲(chǔ)庫(kù)和其他資產(chǎn)，可能導(dǎo)致過(guò)度的數(shù)據(jù)暴露并可能違反保密協(xié)議。

模型輸出可以重新包裝敏感輸入，然后粘貼到電子郵件、聊天消息或外部文檔中，大大擴(kuò)大影響范圍。

提示注入攻擊發(fā)生在惡意用戶故意試圖覆蓋AI內(nèi)置安全措施，強(qiáng)制其執(zhí)行未經(jīng)授權(quán)操作時(shí)。

除了本質(zhì)上故意的提示注入攻擊外，大多數(shù)通過(guò)生成式AI的數(shù)據(jù)泄露實(shí)例都是完全意外的，源于未能理解這些工具固有的安全和隱私漏洞。

提示本質(zhì)上是運(yùn)動(dòng)中的數(shù)據(jù)，因此應(yīng)該像處理任何其他數(shù)據(jù)傳輸（如電子郵件或即時(shí)消息）一樣對(duì)待。然而，鑒于大多數(shù)供應(yīng)商默認(rèn)將用戶輸入重新用作訓(xùn)練數(shù)據(jù)，而且大多數(shù)使用政策授予供應(yīng)商員工訪問(wèn)該數(shù)據(jù)進(jìn)行人工審查的權(quán)限，生成式AI對(duì)話通常比其他渠道的隱私性要低得多。這在免費(fèi)訂閱層級(jí)和集成的生成式AI工具中尤其如此，它們通常不提供商業(yè)數(shù)據(jù)保護(hù)并脫離IT監(jiān)管范圍。

理想情況下，組織應(yīng)該只允許使用經(jīng)批準(zhǔn)的商業(yè)級(jí)生成式AI工具，因?yàn)樗鼈兲峁┮恍┲匾膬?nèi)置保護(hù)。但僅憑這些也不應(yīng)被視為理所當(dāng)然，傳統(tǒng)的數(shù)據(jù)丟失防護(hù)政策和控制措施本身也不夠充分。畢竟，傳統(tǒng)的DLP解決方案通常無(wú)法大規(guī)模處理非結(jié)構(gòu)化內(nèi)容，如提示和附件。

禁用廣泛使用的工具也不是實(shí)用的替代方案，因?yàn)檫@會(huì)損害生產(chǎn)力并鼓勵(lì)人們使用不受監(jiān)管的替代方案，如個(gè)人副駕駛賬戶。相反，企業(yè)必須明確定義團(tuán)隊(duì)允許用于工作的生成式AI工具，然后應(yīng)用覆蓋每次交互的通用、提示感知政策。

當(dāng)然，彌合生成式AI安全差距不僅僅是施加限制。這同樣關(guān)乎實(shí)時(shí)培訓(xùn)和意識(shí)提升，因此需要考慮用戶意圖、渠道和響應(yīng)的三層政策模型。這樣的政策應(yīng)該是什么樣的，以及支持生成式AI的DLP解決方案如何提供幫助：

警告：如果提示包含中低風(fēng)險(xiǎn)數(shù)據(jù)，如未發(fā)布的營(yíng)銷宣傳材料，用戶可能會(huì)收到警告。這有助于在日常用例中進(jìn)行實(shí)時(shí)用戶指導(dǎo)，持續(xù)建立意識(shí)。

說(shuō)明：包含非公開(kāi)信息的提示，如預(yù)發(fā)布產(chǎn)品信息或機(jī)密（但非監(jiān)管）內(nèi)部信息，應(yīng)要求用戶提供額外背景來(lái)說(shuō)明其行為。這在不過(guò)于限制的情況下塑造更安全的行為。

阻止：某些數(shù)據(jù)，如企業(yè)機(jī)密、憑據(jù)和受監(jiān)管信息，絕不應(yīng)允許出現(xiàn)在提示中。無(wú)論用戶意圖和渠道如何，都應(yīng)始終對(duì)這些高影響場(chǎng)景實(shí)施硬性執(zhí)行。

為了獲得最大效果，組織應(yīng)該使用單一政策平面在所有批準(zhǔn)的工具和渠道中執(zhí)行這些政策。最終，安全AI啟用是一個(gè)治理程序，組織使用像Palo Alto網(wǎng)絡(luò)公司的Prisma SASE這樣的統(tǒng)一安全解決方案來(lái)主動(dòng)監(jiān)控和控制他們使用的渠道，而不是在事后被動(dòng)地追查事件。

Q&A

Q1：為什么生成式AI成為數(shù)據(jù)泄露的主要渠道？

A：生成式AI的便利性和可訪問(wèn)性使得"影子AI"成為默認(rèn)采用模式，員工可以輕松將敏感數(shù)據(jù)上傳到未受監(jiān)控的公共第三方工具。許多AI工具默認(rèn)將用戶輸入作為訓(xùn)練數(shù)據(jù)，且允許供應(yīng)商員工審查對(duì)話內(nèi)容，這些都增加了數(shù)據(jù)泄露風(fēng)險(xiǎn)。

Q2：提示注入攻擊是什么，如何預(yù)防？

A：提示注入攻擊是惡意用戶故意試圖覆蓋AI內(nèi)置安全措施，強(qiáng)制其執(zhí)行未經(jīng)授權(quán)操作的行為。預(yù)防方法包括建立三層政策模型（警告、說(shuō)明、阻止），對(duì)不同風(fēng)險(xiǎn)級(jí)別的數(shù)據(jù)采取相應(yīng)措施，并使用統(tǒng)一安全解決方案進(jìn)行主動(dòng)監(jiān)控。

Q3：企業(yè)應(yīng)該如何安全地使用生成式AI工具？

A：企業(yè)應(yīng)只允許使用經(jīng)批準(zhǔn)的商業(yè)級(jí)生成式AI工具，建立明確的使用政策，實(shí)施提示感知的數(shù)據(jù)丟失防護(hù)措施。同時(shí)需要進(jìn)行實(shí)時(shí)培訓(xùn)和意識(shí)提升，使用統(tǒng)一的政策平面覆蓋所有工具和渠道，確保在享受AI便利的同時(shí)保護(hù)數(shù)據(jù)安全。