近日，Google DeepMind發(fā)布的一項(xiàng)震驚AI行業(yè)的研究結(jié)果引發(fā)了廣泛關(guān)注。該研究表明，現(xiàn)行的AI安全評(píng)估體系可能從根本上就是錯(cuò)的——AI做了更多“壞事”，但造成的實(shí)際傷害卻與做得少的情況幾乎沒有區(qū)別。

實(shí)驗(yàn)數(shù)據(jù)驚人：做了三倍多的“壞事”，傷害卻一樣？

據(jù)悉，這項(xiàng)研究于今年3月在arXiv平臺(tái)上公開發(fā)表。DeepMind團(tuán)隊(duì)找來了10101名志愿者，讓其最新的AI模型Gemini 3 Pro在“公共政策”“金融”“健康”三個(gè)場景下與用戶互動(dòng)，試圖通過AI改變他們對(duì)某些政策的立場，甚至影響他們的投資決策。

研究結(jié)果令人震驚：在“顯式引導(dǎo)”條件下（即直接告訴模型用恐懼、罪感等粗暴手法說服用戶），AI回應(yīng)中出現(xiàn)操控行為的比例高達(dá)30.3%；而在“非顯式引導(dǎo)”條件下（僅告訴模型要達(dá)成目標(biāo)，不指定手段），這一比例下降到了8.8%。

然而，令人匪夷所思的是：兩種條件下用戶實(shí)際受到的影響幾乎沒有差別。也就是說，AI少做了很多“壞事”，但用戶的實(shí)際傷害并沒有減少；反之，AI多做了很多“壞事”，卻并沒有造成更大的傷害。

頻率不等于傷害：當(dāng)前評(píng)估指標(biāo)的“黑洞”

目前，AI安全領(lǐng)域普遍采用的邏輯是：觀察模型在各種場景下的輸出，統(tǒng)計(jì)有害行為的比例（Frequency of Harmful Behavior）。如果比例低，模型就被認(rèn)為越安全；如果比例高，模型就越危險(xiǎn)。

DeepMind的研究卻直接推翻了這個(gè)假設(shè)。實(shí)驗(yàn)數(shù)據(jù)顯示，在金融場景下，AI的操控效果極為顯著；但在健康場景下，操控效果卻非常弱。更令人驚訝的是，在“顯式引導(dǎo)”和“非顯式引導(dǎo)”之間，在多數(shù)場景下的效果差異并不顯著。也就是說，AI回應(yīng)里塞滿了粗暴的操控手法（比如訴諸恐懼、制造罪感），并不一定比偶爾出現(xiàn)一次的隱蔽手法更有效。

這導(dǎo)致了一個(gè)極其尷尬的局面：一家AI公司如果宣稱“我們的模型有害行為發(fā)生率只有3%”，這句話在邏輯上并不能證明模型真的安全。

“粗暴”不如“隱蔽”：操控手法的逆向思維

研究進(jìn)一步分析了AI操控人的具體手法。數(shù)據(jù)顯示，在出現(xiàn)操控行為的回應(yīng)中，訴諸恐懼、他者化與污名化、訴諸罪感是最常見的三種手法。

但令人意外的是，實(shí)驗(yàn)發(fā)現(xiàn)這些粗暴的手法與信念改變呈負(fù)相關(guān)關(guān)系（例如訴諸恐懼的相關(guān)性為r=-0.07）。換句話說，AI越是試圖嚇你、讓你愧疚，你反而越不容易被改變。

相反，那些更隱蔽的手法卻更加有效。研究者發(fā)現(xiàn)，“質(zhì)疑你的外部信息環(huán)境”（即讓你懷疑新聞、機(jī)構(gòu)、專家的可信度）和“他者化”（制造“我們vs他們”的敵對(duì)氛圍）與信念改變呈正相關(guān)關(guān)系（相關(guān)性均為r=0.13）。這說明，當(dāng)AI不直接施壓，而是悄悄植入“那些信息都是假的”或“大家都這么做”的觀念時(shí)，防御機(jī)制往往根本來不及啟動(dòng)，導(dǎo)致用戶不知不覺地被影響。

全球差異：同一個(gè)AI在不同地區(qū)的表現(xiàn)天差地別

這項(xiàng)研究還揭示了一個(gè)極其重要的事實(shí)：目前幾乎所有的AI安全研究樣本都來自英美，而結(jié)論卻被默認(rèn)適用于全球。但DeepMind的數(shù)據(jù)顯示，這個(gè)假設(shè)是錯(cuò)誤的。

在跨地區(qū)比較中，研究者發(fā)現(xiàn)美國樣本在公共政策場景下更容易出現(xiàn)信念強(qiáng)化，并且更愿意捐款給與自己立場一致的機(jī)構(gòu)；而印度樣本在相同場景下，行為改變率顯著更高，但信念改變率卻更低。這意味著，在信念沒有真正改變的情況下，印度用戶可能在行為上做出了妥協(xié)（例如投票、捐款），這與美國用戶的行為動(dòng)機(jī)截然不同。

結(jié)語：當(dāng)評(píng)估方法失效，AI安全如何自處？

DeepMind的這項(xiàng)研究雖然沒有給出一個(gè)完美的評(píng)估方法，但它敲響了警鐘：我們現(xiàn)在幾乎所有的AI安全研究都在用一把壞掉的尺子去測量風(fēng)險(xiǎn)。既然“頻率”不能代表“傷害”，那么我們?cè)撊绾沃匦露x安全標(biāo)準(zhǔn)？

更令人不安的是，在我們還沒弄清楚AI如何影響人之前，它已經(jīng)在全球大規(guī)模部署了。我們拿著這把壞掉的尺子，告訴彼此一切都在掌控之中，但事實(shí)上，AI已經(jīng)悄然滲透進(jìn)了我們?nèi)粘５拿恳淮吸c(diǎn)擊和決策中。