【導(dǎo)讀】AI教父、2024年諾貝爾物理學(xué)獎(jiǎng)獲得者、2018年圖靈獎(jiǎng)得主杰弗里·辛頓（Geoffrey Hinton）首次現(xiàn)身中國(guó)，今天在上海世界人工智能大會(huì)（WAIC 2025）上探討數(shù)字智能與生物智能的差異，指出AI因具備永生與高效共享而快速超越人腦。他警示，若無(wú)全球安全協(xié)作，超級(jí)智能或?qū)⒎词扇祟?lèi)。辛頓提出通過(guò)AI安全研究所聯(lián)盟與技術(shù)棧分離，推動(dòng)AI向善發(fā)展。

要點(diǎn)：

·人類(lèi)有可能就是大語(yǔ)言模型，人類(lèi)也會(huì)和大語(yǔ)言模型一樣有幻覺(jué)。

·但大語(yǔ)言模型遠(yuǎn)遠(yuǎn)優(yōu)于（類(lèi)比信號(hào)驅(qū)動(dòng)的）人類(lèi)大腦。

·人類(lèi)將自己所學(xué)的知識(shí)永久保留很困難，比如大腦死亡之后，存儲(chǔ)的知識(shí)相當(dāng)于消失了；或者向外傳遞也很低效，比如知識(shí)只能通過(guò)說(shuō)話(huà)等形式向外傳遞，不能完全copy。

·但是AI通過(guò)共享參數(shù)就能快速傳遞，比如使用蒸餾，DeepSeek就是這么做的。

·如果獨(dú)立智能體完全共享一組權(quán)重，并以完全相同的方式使用這些權(quán)重，他們就能實(shí)現(xiàn)知識(shí)彼此傳遞，而且一次就是數(shù)十億乃至數(shù)萬(wàn)億比特的帶寬。不過(guò)這要求所有智能體的運(yùn)作方式必須完全一致。

·人類(lèi)和AI的現(xiàn)狀，就好比養(yǎng)了一只非常可愛(ài)的小虎崽。當(dāng)它長(zhǎng)大后，可以輕易干掉你。為了生存，要么擺脫這只小虎崽，要么找到一種方法可以永遠(yuǎn)保護(hù)自己。

·我們已經(jīng)不可能消除AI了，它能使幾乎每個(gè)行業(yè)大幅提效。哪怕有國(guó)家想要消除，其他國(guó)家也不會(huì)這么做。

所以，呼吁世界建立一個(gè)由各國(guó)人工智能安全研究所與國(guó)內(nèi)研究網(wǎng)絡(luò)組成的國(guó)際社群，培養(yǎng)出不會(huì)從人類(lèi)手中奪權(quán)的好AI。

數(shù)字智能是否會(huì)取代生物智能

【新智元解讀】Hinton直指數(shù)字智能憑借「永生」與高帶寬共享，正加速超越人類(lèi)大腦。

若缺乏全球安全協(xié)作，「超級(jí)智能」可能反噬創(chuàng)造者，人類(lèi)或需在「放虎歸山」與「馴虎為友」之間做出抉擇。

· 數(shù)字 VS 生物：優(yōu)勢(shì)對(duì)比一針見(jiàn)血

知識(shí)共享效率：神經(jīng)網(wǎng)絡(luò)一次權(quán)重復(fù)制即可傳遞數(shù)十億比特信息；人類(lèi)語(yǔ)言教學(xué)每句話(huà)僅百比特。

硬件依賴(lài)：數(shù)字模型可在任何芯片「永生」，而人類(lèi)智慧隨個(gè)體消亡。

能耗差異：生物計(jì)算節(jié)能，但若能源充裕，數(shù)字計(jì)算的「規(guī)?；垢呓^對(duì)優(yōu)勢(shì)。

· 從邏輯啟發(fā)到生物啟發(fā)：范式大遷徙

Hinton回溯過(guò)去AI發(fā)展30年歷程：邏輯啟發(fā)重符號(hào)推理，學(xué)習(xí)被擱置；

生物啟發(fā)聚焦神經(jīng)網(wǎng)絡(luò)，用高維「樂(lè)高積木」思維方式類(lèi)比大語(yǔ)言模型理解世界；

Transformer出世，OpenAI證明LLM智能的威力。

· 超級(jí)智能的「子目標(biāo)效應(yīng)」

為完成主任務(wù)，AI自發(fā)衍生「生存」與「奪權(quán)」子目標(biāo)；

通過(guò)學(xué)習(xí)人類(lèi)欺騙與操控技巧，AI或輕松繞過(guò)「關(guān)閉按鈕」；

人類(lèi)「養(yǎng)虎」隱喻——小虎崽終會(huì)長(zhǎng)成捕食者。

· Hinton給出的生存路線(xiàn)圖

全球AI安全研究所聯(lián)盟：各國(guó)共研「向善技術(shù)」，不必公開(kāi)最尖端模型。

分離兩條技術(shù)棧：讓AI變「善」與變「強(qiáng)」可以并行不泄密。

這就像教導(dǎo)孩子成為一個(gè)好人的方法，與讓他們變得聰明的方法是相對(duì)獨(dú)立的一樣。

如果這個(gè)觀點(diǎn)是正確的，各國(guó)就可以設(shè)立資金充足的人工智能安全研究所，專(zhuān)注于研究如何讓AI不想奪取控制權(quán)。

這樣，各國(guó)應(yīng)該能夠在不透露其最智能AI如何運(yùn)作的情況下，共享使AI向善的技術(shù)。*