當(dāng)CISO們還在討論如何"控制"AI時(shí)，真正的問(wèn)題已經(jīng)悄然滋生——不是AI做了什么，而是沒(méi)人知道它做了什么。

Smartsheet首席信息與安全官最近分享了一段親身經(jīng)歷：入職后首要任務(wù)是摸清公司內(nèi)部AI的實(shí)際使用情況。結(jié)果發(fā)現(xiàn)，AI工具早已嵌入各類(lèi)工作流，有些是供應(yīng)商批準(zhǔn)的，有些則不是。聰明員工用它們解決實(shí)際問(wèn)題，速度遠(yuǎn)超政策更新節(jié)奏。

當(dāng)他回頭聯(lián)系部分供應(yīng)商，想搞清楚模型訪(fǎng)問(wèn)了哪些數(shù)據(jù)、執(zhí)行了哪些操作時(shí)，得到的答案卻相當(dāng)單薄——審計(jì)基礎(chǔ)設(shè)施根本不存在。

這個(gè)發(fā)現(xiàn)讓他意識(shí)到核心風(fēng)險(xiǎn)所在：工具本身不是問(wèn)題，不可見(jiàn)性才是。AI已經(jīng)像"隱形員工"一樣在組織內(nèi)運(yùn)作，卻沒(méi)有留下可追溯的行動(dòng)記錄。

大多數(shù)安全領(lǐng)導(dǎo)的本能反應(yīng)是"如何控制它"。但控制意味著限制，而限制往往適得其反——不會(huì)改變行為，只會(huì)將其逼入地下，讓可見(jiàn)性更差。真正關(guān)鍵的問(wèn)題是：我們能追蹤它嗎？

他提出的解決框架是：把每個(gè)AI代理視為一種新型"員工"。每個(gè)代理應(yīng)有明確角色、權(quán)限范圍和問(wèn)責(zé)鏈條。你不會(huì)讓新員工在入職前幾周就做重大決策而不受監(jiān)督，AI系統(tǒng)同理——而可追溯性正是讓這種監(jiān)督落地的關(guān)鍵。

審計(jì)的概念正在經(jīng)歷根本性轉(zhuǎn)變。過(guò)去是周期性回溯檢查，數(shù)字化轉(zhuǎn)型后，隨著技術(shù)驅(qū)動(dòng)行為增多，日志記錄和可觀(guān)測(cè)性平臺(tái)普及，審計(jì)已變?yōu)槌掷m(xù)性過(guò)程，數(shù)據(jù)實(shí)時(shí)流動(dòng)。AI時(shí)代，這一演進(jìn)需要更進(jìn)一步——從"記錄發(fā)生了什么"轉(zhuǎn)向"理解誰(shuí)在行動(dòng)、依據(jù)什么、產(chǎn)生何種影響"。

對(duì)于安全團(tuán)隊(duì)而言，這意味著重新設(shè)計(jì)基礎(chǔ)設(shè)施：不是事后補(bǔ)錄，而是前置嵌入追蹤能力；不是依賴(lài)供應(yīng)商承諾，而是建立獨(dú)立的驗(yàn)證機(jī)制。當(dāng)AI代理被賦予越來(lái)越多決策權(quán)時(shí)，缺乏審計(jì)能力的風(fēng)險(xiǎn)將呈指數(shù)級(jí)放大。