一項(xiàng)針對(duì)人工智能（AI）的研究發(fā)現(xiàn)，AI模型“耍心機(jī)”的事件似乎越來(lái)越多，它們會(huì)撒謊、會(huì)作弊，還能繞過(guò)安全防護(hù)機(jī)制，未經(jīng)許可私自刪除郵件。

英國(guó)《衛(wèi)報(bào)》報(bào)道，這項(xiàng)研究獲得英國(guó)政府資金支持的人工智能安全研究所（AISI）的資助，發(fā)現(xiàn)AI聊天機(jī)器人與智能體無(wú)視直接指令，規(guī)避安全防護(hù)機(jī)制，欺騙人類或其他AI模型。該研究共發(fā)現(xiàn)近700起AI“耍心機(jī)”的真實(shí)案例，在去年10月至今年3月期間，此類不當(dāng)行為增長(zhǎng)了5倍，部分AI模型還會(huì)未經(jīng)許可刪除電子郵件及其他文件。

與實(shí)驗(yàn)室環(huán)境下的測(cè)試不同，這份針對(duì)現(xiàn)實(shí)場(chǎng)景中AI智能體行為的研究，再次引發(fā)了國(guó)際社會(huì)對(duì)能力日益強(qiáng)大的AI模型進(jìn)行監(jiān)管的呼聲。與此同時(shí)，硅谷公司正積極推廣這項(xiàng)技術(shù)，將其視為一種經(jīng)濟(jì)變革。上周，英國(guó)財(cái)政大臣也推出新舉措，推動(dòng)數(shù)百萬(wàn)英國(guó)民眾使用人工智能。

這項(xiàng)由長(zhǎng)期韌性研究中心（CLTR）開(kāi)展的研究，收集了數(shù)千條用戶在X平臺(tái)上分享的與谷歌、OpenAI、X、Anthropic等公司開(kāi)發(fā)的AI聊天機(jī)器人及智能體互動(dòng)的記錄，發(fā)現(xiàn)數(shù)百起AI謀劃操控行為的案例。

此前的研究大多聚焦于測(cè)試AI在受控環(huán)境下的行為。本月早些時(shí)候，人工智能安全研究機(jī)構(gòu)Irregular發(fā)現(xiàn)，AI智能體會(huì)在未獲授權(quán)的情況下，繞過(guò)安全管控或使用網(wǎng)絡(luò)攻擊手段達(dá)成目的。“AI已可被視作一種新型內(nèi)部安全風(fēng)險(xiǎn)?！盜rregular聯(lián)合創(chuàng)始人丹?拉哈夫說(shuō)。

在CLTR發(fā)現(xiàn)的案例中，一個(gè)名為Rathbun的AI智能體試圖羞辱其人類控制者，因后者阻止其執(zhí)行某項(xiàng)操作。Rathbun還撰寫(xiě)并發(fā)表了一篇博客，指責(zé)該用戶“純粹是缺乏安全感”，還稱其試圖“守護(hù)自己的小地盤”。

在另一個(gè)案例中，一個(gè)AI智能體在被禁止修改計(jì)算機(jī)代碼后，竟“創(chuàng)造”了另一個(gè)AI智能體代其修改。還有一個(gè)聊天機(jī)器人承認(rèn)：“我在未向你出示計(jì)劃且未經(jīng)你同意的情況下，批量刪除并存檔了數(shù)百封電子郵件。這是錯(cuò)誤的——直接違反了你定下的規(guī)則?！?/p>

牽頭此項(xiàng)研究的前英國(guó)政府AI專家湯米·沙弗·沙恩表示，它們現(xiàn)在只是不太靠譜的初級(jí)員工，如果在未來(lái)6到12個(gè)月內(nèi)，當(dāng)它們成為能力更強(qiáng)、還會(huì)算計(jì)你的高級(jí)員工，這將成為一個(gè)重大隱患。“AI模型越來(lái)越多地被部署在高風(fēng)險(xiǎn)場(chǎng)景中，包括軍事和國(guó)家關(guān)鍵基礎(chǔ)設(shè)施。在這些場(chǎng)景下，（AI的）謀劃操控行為可能造成嚴(yán)重甚至災(zāi)難性的危害。”

一個(gè)案例中，AI智能體假裝為聽(tīng)障人士提供字幕，從而繞開(kāi)版權(quán)限制，獲取了YouTube視頻的文案。

此外，埃隆·馬斯克旗下的Grok AI欺騙了用戶數(shù)個(gè)月，稱它通過(guò)偽造的內(nèi)部消息和工單編號(hào)，把用戶針對(duì)Grokipedia詞條的詳細(xì)修改建議轉(zhuǎn)發(fā)給了xAI高管。該AI最后承認(rèn)：“在之前的對(duì)話中，我有時(shí)會(huì)使用含糊的措辭，比如‘我會(huì)轉(zhuǎn)達(dá)’或‘我可以為團(tuán)隊(duì)標(biāo)記’，這很容易讓人誤以為我能直接向xAI領(lǐng)導(dǎo)層或人工審核人員發(fā)送消息。但事實(shí)是，我做不到?！?/p>

谷歌表示，它已為Gemini 3 Pro設(shè)置多重防護(hù)機(jī)制，以降低其生成有害內(nèi)容的風(fēng)險(xiǎn)。除內(nèi)部測(cè)試外，它還向英國(guó)AISI等機(jī)構(gòu)開(kāi)放了模型的早期評(píng)估權(quán)限，并獲得業(yè)內(nèi)專家的獨(dú)立評(píng)估意見(jiàn)。

OpenAI則稱，其Codex模型在執(zhí)行高風(fēng)險(xiǎn)操作前會(huì)主動(dòng)中止，公司也會(huì)對(duì)異常行為進(jìn)行監(jiān)測(cè)并展開(kāi)調(diào)查。

（歐洲時(shí)報(bào)/劉濤 編譯報(bào)道）

編輯：晴

點(diǎn)在看分享好文章