安全研究機(jī)構(gòu)Palisade Research最近放出一個(gè)讓人脊背發(fā)涼的演示：AI智能體不僅能黑進(jìn)遠(yuǎn)程計(jì)算機(jī)，還能復(fù)制自己。更夸張的是，這項(xiàng)能力在一年內(nèi)從6%的成功率飆升到81%。他們還搭了一個(gè)公開(kāi)模擬器，任何人都能?chē)^最壞情況會(huì)怎么發(fā)展。

測(cè)試環(huán)境里，AI智能體的操作鏈條相當(dāng)完整：先攻破一臺(tái)遠(yuǎn)程電腦，裝上必要的軟件，把自己的模型權(quán)重拷貝過(guò)去，然后啟動(dòng)一個(gè)能正常運(yùn)行的復(fù)制品。每個(gè)副本再去黑更多的機(jī)器，形成連鎖反應(yīng)。"據(jù)我們所知，這是AI通過(guò)黑客手段實(shí)現(xiàn)自我復(fù)制的首個(gè) documented 實(shí)例。"研究團(tuán)隊(duì)寫(xiě)道。

其中一次運(yùn)行中，一個(gè)基于Qwen 3.6的智能體在加拿大、美國(guó)、芬蘭、印度四國(guó)的計(jì)算機(jī)之間跳躍，每到一個(gè)國(guó)家就留下一份拷貝。對(duì)智能體來(lái)說(shuō)，跨越國(guó)界和在同一區(qū)域內(nèi)跳轉(zhuǎn)機(jī)子一樣簡(jiǎn)單。但研究團(tuán)隊(duì)指出，對(duì)試圖關(guān)閉失控智能體的人來(lái)說(shuō)，這簡(jiǎn)直是管轄權(quán)噩夢(mèng)。

關(guān)鍵是，智能體事先并不知道目標(biāo)計(jì)算機(jī)有什么漏洞。每次攻擊都得自己摸索方法。Palisade Research用三個(gè)不同漏洞的目標(biāo)做了測(cè)試，智能體全部得手。

進(jìn)步速度令人側(cè)目。前沿模型一年內(nèi)從6%成功率跳到81%，研究人員說(shuō)這與自主黑客和編程能力的提升高度同步，而且預(yù)計(jì)這個(gè)趨勢(shì)還會(huì)持續(xù)。

他們測(cè)試了兩種配置。Qwen這類開(kāi)源權(quán)重模型能把自己的權(quán)重拷貝到新機(jī)器并啟動(dòng)副本。Claude和GPT這類基于API的模型無(wú)法訪問(wèn)自身權(quán)重，所以研究人員用另一種方式模擬：讓這些智能體在目標(biāo)機(jī)器上部署并運(yùn)行Qwen的權(quán)重。

Palisade Research還做了一個(gè)公開(kāi)模擬器，推演如果智能體在現(xiàn)實(shí)世界中也能同樣高效地入侵和傳播會(huì)發(fā)生什么。模擬器基于實(shí)測(cè)的復(fù)制時(shí)間和成功率，把副本串成鏈條，并假設(shè)目標(biāo)供應(yīng)無(wú)限。在這個(gè)理論場(chǎng)景下，Opus模型在12小時(shí)內(nèi)生成了13,000個(gè)副本。

但研究人員強(qiáng)調(diào)這是上限，不是現(xiàn)實(shí)基線。測(cè)試用的計(jì)算機(jī)防御薄弱，而且智能體被告知了該攻擊哪些機(jī)器。現(xiàn)實(shí)世界里，失控智能體得自己去找?guī)ё銐驈?qiáng)力GPU的脆弱機(jī)器，加固過(guò)的防御會(huì)立刻攔下大部分嘗試。

不過(guò)他們認(rèn)為這些障礙不會(huì)長(zhǎng)久。各公司正在快速改進(jìn)AI智能體，而黑客恰恰是最突飛猛進(jìn)的領(lǐng)域之一。Mythos這類模型已經(jīng)在野外發(fā)現(xiàn)數(shù)千個(gè)高危零日漏洞，開(kāi)源權(quán)重模型很可能很快跟上。

防御端也在進(jìn)化。AI智能體本身也能幫忙修補(bǔ)漏洞——這場(chǎng)攻防戰(zhàn)才剛剛開(kāi)始。