對許多人而言，生成式人工智能（GenAI）最初只是居家和個人設(shè)備上的新奇嘗試。

但如今，AI 已深度滲透職場生態(tài) ——在提升生產(chǎn)效率的同時，也讓企業(yè)暴露于巨大的安全漏洞之中。

敏感公司數(shù)據(jù)正以各種形式（無論有意或無意）持續(xù)流入公共 AI 系統(tǒng)，IT 與網(wǎng)絡(luò)安全負(fù)責(zé)人疲于應(yīng)對。

一旦專有數(shù)據(jù)被公共 AI 工具處理，這些信息就可能成為模型的訓(xùn)練數(shù)據(jù)，最終服務(wù)于其他用戶。例如 2023 年 3 月，某跨國電子制造商就曾被曝發(fā)生多起員工將產(chǎn)品源代碼等機(jī)密數(shù)據(jù)輸入 ChatGPT 的事件。

大型語言模型等生成式 AI 應(yīng)用的運行機(jī)制決定了它們會從交互中持續(xù)學(xué)習(xí)—— 沒有任何企業(yè)愿意用自家核心數(shù)據(jù)來 "喂養(yǎng)" 公共 AI 應(yīng)用。

面對商業(yè)秘密和核心數(shù)據(jù)泄露的風(fēng)險，許多企業(yè)選擇直接封殺生成式 AI 應(yīng)用。

這種看似能阻斷敏感信息流入未授權(quán)平臺的做法，實則催生了更危險的 "AI 影子化" 現(xiàn)象 —— 員工開始通過私人設(shè)備登錄、將數(shù)據(jù)轉(zhuǎn)發(fā)至個人賬戶，甚至截圖繞過監(jiān)控系統(tǒng)上傳，使得企業(yè)安全防線的盲區(qū)不斷擴(kuò)大。

【牛透社小貼士】
"Shadow AI"（影子AI）：指員工未經(jīng)企業(yè) IT 部門批準(zhǔn)，私自使用生成式 AI 工具（如 ChatGPT 等）處理工作的現(xiàn)象。
這一概念源自 IT 管理中的術(shù)語 "Shadow IT"（影子 IT），特指員工繞過正規(guī)流程使用的技術(shù)工具。

更糟的是，通過簡單封鎖訪問權(quán)限，IT 和安全主管反而失去了對真實情況的掌控，實際上并未真正管控數(shù)據(jù)安全與隱私風(fēng)險。這種舉措只會扼殺創(chuàng)新與生產(chǎn)力提升。

應(yīng)對 AI 風(fēng)險的戰(zhàn)略路徑

有效管控員工使用 AI 帶來的風(fēng)險，需要采取以可視化監(jiān)控、治理規(guī)范和員工賦能為核心的多元化策略。

第一步是全面掌握 AI 工具在組織內(nèi)部的應(yīng)用情況。通過可視化監(jiān)控，IT 管理者能夠識別員工使用模式，標(biāo)記風(fēng)險行為（例如試圖上傳敏感數(shù)據(jù)），并評估公共 AI 應(yīng)用使用的真實影響。

若缺乏這一基礎(chǔ)認(rèn)知，治理措施注定收效甚微，因為它們無法針對員工與 AI 交互的真實場景進(jìn)行有效管控。

制定定制化政策是下一步的關(guān)鍵舉措。企業(yè)應(yīng)避免一刀切的禁令，轉(zhuǎn)而推行基于場景感知的智能管控策略。

具體而言，對于公共 AI 應(yīng)用，可部署瀏覽器隔離技術(shù)—— 允許員工處理常規(guī)任務(wù)的同時，自動攔截特定類型公司數(shù)據(jù)的上傳行為。

另一種方案是將員工引導(dǎo)至經(jīng)企業(yè)認(rèn)證的 AI 平臺，這些平臺在保持同等功能的同時，能有效保護(hù)商業(yè)機(jī)密。

需要特別注意的是，不同崗位應(yīng)實施差異化管控：某些研發(fā)團(tuán)隊可能需要特定應(yīng)用的精準(zhǔn)授權(quán)，而財務(wù)等敏感部門則需配置更嚴(yán)格的訪問限制。

為防止濫用 AI 技術(shù)，企業(yè)須部署強(qiáng)效的數(shù)據(jù)防泄露（DLP）機(jī)制，實時識別并阻斷向公共或未授權(quán) AI 平臺共享敏感信息的企圖。

鑒于意外泄露是 AI 相關(guān)數(shù)據(jù)泄露的主因，啟用實時 DLP 防護(hù)可構(gòu)筑安全防線，顯著降低企業(yè)受損風(fēng)險。

最終，企業(yè)必須對員工開展 AI 固有風(fēng)險及相應(yīng)管控政策的專項培訓(xùn)。培訓(xùn)內(nèi)容應(yīng)當(dāng)聚焦實操指南 —— 明確告知哪些 AI 使用行為安全可行，哪些屬于高危操作 —— 同時清晰傳達(dá)敏感數(shù)據(jù)泄露的后果。

唯有將技術(shù)防護(hù)措施與員工風(fēng)險意識、責(zé)任追究機(jī)制相結(jié)合，方能構(gòu)建完整的防御體系。

創(chuàng)新與安全的平衡之道

生成式 AI 已然徹底改變了員工的工作模式與組織運作方式，在帶來變革性機(jī)遇的同時也伴隨著顯著風(fēng)險。

問題的關(guān)鍵不在于拒絕這項技術(shù)，而在于以負(fù)責(zé)任的態(tài)度擁抱它。那些著力構(gòu)建可視化監(jiān)控體系、實施精準(zhǔn)治理策略并持續(xù)開展員工培訓(xùn)的企業(yè)，終將找到創(chuàng)新激勵與敏感數(shù)據(jù)保護(hù)之間的最佳平衡點。

企業(yè)不應(yīng)在安全與工作效率之間做單選題，而應(yīng)打造二者共生共榮的生態(tài)。那些成功實現(xiàn)這種平衡的組織，將在快速演進(jìn)的數(shù)字化浪潮中搶占先機(jī)。

通過管控 "影子 AI" 風(fēng)險、構(gòu)建安全高效的 AI 應(yīng)用體系，企業(yè)完全可以將生成式 AI 從潛在負(fù)擔(dān)轉(zhuǎn)化為戰(zhàn)略機(jī)遇，在此過程中夯實基業(yè)長青的根基。

生成式 AI 已成為不可逆的趨勢。

真正能從中獲益的，永遠(yuǎn)是那些洞悉其風(fēng)險、建立有效防護(hù)機(jī)制，并賦能員工安全合規(guī)應(yīng)用的企業(yè)。

說明：文章為牛透社原創(chuàng)，未經(jīng)允許謝絕轉(zhuǎn)載。