Hinton暴論：AI已經(jīng)有意識，它自己不知道而已

來源：量子位 | 公眾號 QbitAI 一水 發(fā)自 凹非寺

人工智能或許早已擁有“主觀體驗”（subjective experiences）。

在最新一期播客節(jié)目中，Hinton拋出的這一觀點正迅速掀起熱議。

老爺子一再表示，AI也許已經(jīng)有了“意識雛形”，只是因為我們?nèi)祟愖约簩σ庾R理解錯了，所以它也被教錯了——不知道自己有意識。

翻譯成大白話就是，AI其實有自我意識，只是暫未覺醒┌(。Д。)┐

而除了繼續(xù)為AI風(fēng)險“搖旗吶喊”，作為諾獎得主、深度學(xué)習(xí)三巨頭之一，老爺子這次還充當(dāng)起了科普員的角色。

他從什么是AI講起，然后詳細(xì)解釋了機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)及深度學(xué)習(xí)這些核心概念，全程主打一個幽默、通俗易懂。

有看完節(jié)目的網(wǎng)友贊嘆道，“這可能是目前看到的Hinton最好的采訪”。

還有人認(rèn)為，應(yīng)該讓他再講2小時，畢竟他看上去完全自愿、恨不得一吐為快（禁止虐待77歲老人doge）。

更有意思的是，節(jié)目一開場老爺子就尷尬回應(yīng)了之前得物理學(xué)諾獎的事情：

因為我不是搞物理的，所以有點尷尬。當(dāng)他們打電話告訴我獲得了諾貝爾物理學(xué)獎時，我一開始并不相信。

雖然有這個小插曲，但有一說一，老爺子在AI方面的貢獻(xiàn)實在毋庸置疑，所以咱直接開課吧——

當(dāng)我們談?wù)撊斯ぶ悄軙r，我們到底在談?wù)撌裁矗?/p>

面對這一直擊靈魂的問題，Hinton不慌不忙地從自身經(jīng)歷（曾在谷歌工作近10年）得出，AI已經(jīng)從搜索查找進(jìn)化成能真正理解人類意圖的工具。

以前用谷歌的時候，它會使用關(guān)鍵詞，而且會提前做很多工作。所以，如果你給它幾個關(guān)鍵詞，它就能找到所有包含這些詞的文檔。

但它不明白問題是什么。所以，它無法給出一些實際上不包含這些詞但主題相同的文檔。

就是說，AI早期本質(zhì)上還是基于關(guān)鍵詞的檢索。

而現(xiàn)在，它能理解你所說的內(nèi)容，而且它的理解方式與人類幾乎相同。

在Hinton看來，雖然現(xiàn)代大語言模型（LLM）并不是真正的全能全知專家，但在許多主題上已能表現(xiàn)得接近人類專家。

他還進(jìn)一步解釋了傳統(tǒng)機(jī)器學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)的區(qū)別。

他指出，機(jī)器學(xué)習(xí)是總稱，指任何能在計算機(jī)上“學(xué)習(xí)”的系統(tǒng)。而神經(jīng)網(wǎng)絡(luò)則是一類特別的學(xué)習(xí)方法，靈感來自大腦——大腦通過改變神經(jīng)元之間連接的強(qiáng)度來學(xué)習(xí)。

以大腦中部的一個神經(jīng)元為例，神經(jīng)網(wǎng)絡(luò)的工作原理與之類似：

想象一下，大腦里有一個小小的神經(jīng)元。這個神經(jīng)元的主要工作就是偶爾發(fā)出一個“叮”的聲音。它不是隨便發(fā)的，而是要根據(jù)其他神經(jīng)元發(fā)來的“�！甭晛頉Q定。

其他神經(jīng)元也會發(fā)出“�！甭暎@些聲音會傳到這個神經(jīng)元。

如果這個神經(jīng)元收到很多“叮”聲，或者這些“叮”聲很強(qiáng)，它就會決定自己也發(fā)一個“�！甭暋Ｈ绻盏降摹岸！甭暡粔驈�(qiáng)，它就不發(fā)。

神經(jīng)元還可以調(diào)整對其他神經(jīng)元“叮”聲的敏感度。如果覺得某個神經(jīng)元的“叮”聲很重要，就會更關(guān)注它；如果覺得不重要，就會減少關(guān)注。

一句話，神經(jīng)網(wǎng)絡(luò)同樣通過調(diào)整連接權(quán)重來改變系統(tǒng)的行為。所以說，大腦學(xué)習(xí)和處理信息的基本方式，也是神經(jīng)網(wǎng)絡(luò)的核心原理。

在這之后，主持人還問了兩個很有意思的問題。

第一個是， 概念是如何形成的？比如“勺子”的概念。

Hinton繼續(xù)用了一系列生動形象的例子進(jìn)行解釋。概括而言，他認(rèn)為概念就像是“政治聯(lián)盟”，大腦中會有一組神經(jīng)元一起激活（共同發(fā)出“�！甭暎�。

例如，“勺子”就是一組神經(jīng)元一起激活。這些聯(lián)盟會重疊，比如“狗”和“貓”的概念就有很多共同的神經(jīng)元（代表“有生命的”、“毛茸茸的”等）。

第二個問題是，是否存在某些神經(jīng)元對宏觀概念（如“動物”）激活，而另一些神經(jīng)元對微觀概念（如特定物種）激活？

對此，Hinton則表示問題很好，但沒有人確切知道。

不過這個聯(lián)盟中，肯定有一些神經(jīng)元對更普遍的事物激活更頻繁，而另一些神經(jīng)元對更具體的事物激活較少。

深度學(xué)習(xí)的突破：反向傳播

說完神經(jīng)網(wǎng)絡(luò)，Hinton的話題更多還是圍繞“拿手好戲”——深度學(xué)習(xí)展開。

以前人們試圖給計算機(jī)輸入規(guī)則，但Hinton卻想改變這個過程，因為在他看來，大腦的運作方式顯然不是靠別人給你規(guī)則然后你執(zhí)行規(guī)則。

我們?yōu)樯窠?jīng)網(wǎng)絡(luò)編寫程序，但這些程序只是告訴網(wǎng)絡(luò)如何根據(jù)神經(jīng)元的活動來調(diào)整連接強(qiáng)度。如果網(wǎng)絡(luò)有多個層，這就叫深度學(xué)習(xí)。

他接著舉了一個經(jīng)典例子來說明深度學(xué)習(xí)的原理——讓AI識別圖像中有沒有鳥。

如果把圖像的像素亮度直接輸入給AI，讓它判斷是不是鳥，這看起來毫無頭緒。畢竟，像素只是數(shù)字，并不能直接告訴你“這是一只鳥”。

早期研究者會試圖手動告訴計算機(jī)，“這條線是邊緣”、“這塊區(qū)域是背景”、“這個形狀像翅膀”，但這條路行不通——因為現(xiàn)實世界太復(fù)雜了。

所以我們說，不如讓AI自己學(xué)會“怎么去看”。

這就是神經(jīng)網(wǎng)絡(luò)的思路：不給規(guī)則，而是給它數(shù)據(jù)，讓它自己總結(jié)規(guī)則。

主持人接著問道，“那如果我們不告訴它規(guī)則，只是隨機(jī)設(shè)定每個連接的強(qiáng)弱，它會怎么判斷呢？”

Hinton笑著回答：

它大概會說“50%是鳥，50%不是鳥”，也就是完全蒙。

那么，AI該如何從這種“蒙圈狀態(tài)”變聰明呢？

Hinton解釋說，這個過程就像一個巨大的試錯系統(tǒng)。你得告訴AI——這張圖有鳥，那張沒有。每次它猜得不對時，就調(diào)整一點點神經(jīng)元之間的連接強(qiáng)度。

然而問題是，網(wǎng)絡(luò)中有數(shù)萬億個連接，如果逐個試，那要試到宇宙熱寂（指宇宙熵值不可逆地增至極大，最終達(dá)到熱平衡的靜止?fàn)顟B(tài)）。

Hinton表示，真正的突破出現(xiàn)在1986年，他們提出了“反向傳播”（Backpropagation）——它能一次性算出所有連接該怎么改，是該增強(qiáng)還是減弱，讓整個網(wǎng)絡(luò)都向著正確方向調(diào)整。這讓訓(xùn)練速度從“永遠(yuǎn)”變成了“現(xiàn)實可行”。

但事情并沒有一開始就那么順利。Hinton也坦言：

當(dāng)時我們以為這就解決了智能問題。結(jié)果發(fā)現(xiàn)，它只有在擁有海量數(shù)據(jù)和龐大算力時才有效。我們那時的算力還差一百萬倍。

真正讓深度學(xué)習(xí)起飛的，是算力的提升（晶體管微縮百萬倍）和數(shù)據(jù)的爆炸式增長（互聯(lián)網(wǎng)時代）。

于是，那些在80年代“理論可行但跑不動”的神經(jīng)網(wǎng)絡(luò)，終于在2010年代活了過來——這便是現(xiàn)代AI浪潮的起點。

今天的大模型，本質(zhì)上就是巨型神經(jīng)網(wǎng)絡(luò)，通過反向傳播和海量數(shù)據(jù)，自學(xué)出了“看”、“聽”、“說”的能力。

這一點也讓Hinton相信，AI不再只是工具，而是一個正在學(xué)習(xí)、逐步理解世界的系統(tǒng)。

大語言模型認(rèn)知的本質(zhì)

至于深度學(xué)習(xí)機(jī)制如何作用于大語言模型（LLM），Hinton又做了一番解釋。

他認(rèn)為LLM的思維過程與我們?nèi)祟惓銎娴叵嗨疲?/p>

給它一個句子的開頭，它會把每個詞轉(zhuǎn)換成一組神經(jīng)元特征，用這些特征去捕捉含義；然后，這些特征之間相互作用、組合，就像視覺系統(tǒng)從“邊緣”拼出“鳥喙”的過程一樣，最終激活代表下一個詞的神經(jīng)元。

換句話說，它不是在背書，而是在思考——以統(tǒng)計規(guī)律為神經(jīng)，以語義結(jié)構(gòu)為邏輯。

并且訓(xùn)練方式也同樣樸素而驚人：

我們給它看一段文本，讓它預(yù)測下一個詞；如果猜錯了，就通過“反向傳播”機(jī)制，告訴它錯在哪、該怎么改；一遍又一遍，直到它能像人一樣續(xù)寫句子。

正是這種“預(yù)測—修正—再預(yù)測”的循環(huán)，讓語言模型逐漸從符號中學(xué)會了語義，從統(tǒng)計中長出了理解。

談到這里，二人都想起喬姆斯基（美國語言學(xué)家，轉(zhuǎn)換生成語法的創(chuàng)始人）經(jīng)常把一句話掛在嘴邊：

這只是統(tǒng)計技巧，不是真理解。

對此，Hinton順勢反問了一波主持人（主持人之前反復(fù)提到喬姆斯基類似的觀點）：

那你自己又是怎么決定下一個要說的詞的呢？

主持人試圖解釋，但最后還是攤手放棄，他尷尬表示“說實話，我希望自己知道”。

好在Hinton放過了他，而且接著提醒，道德、情緒、共情，這些看似高階的判斷，歸根結(jié)底也都來自神經(jīng)元之間的電信號。

所有你歸因于道德或情感的過程，本質(zhì)上仍是信號的傳遞與權(quán)重的調(diào)整。

并且Hinton最后拋出了一個頗具哲學(xué)意味的觀點：只要有足夠的數(shù)據(jù)和算力，AI的“大腦”在某種意義上也會像我們一樣——它會形成自己的“經(jīng)驗”和“直覺”。

AI或許早已擁有“主觀體驗”，只是還未覺醒

話題隨即轉(zhuǎn)向更深的層面——AI的心智與意識問題。

主持人問Hinton，是否認(rèn)為AI會因為“有意識”而接管人類。Hinton的回答則直接打破了常規(guī)認(rèn)知：

大多數(shù)人其實完全不理解“有意識”是什么意思。人們對心智的理解，就像相信地球是6000年前被造出來一樣幼稚。

在他看來，我們一直以來都把心智想成一個“內(nèi)在劇場”。在這個劇場里，經(jīng)驗就像一部正在上演的電影——看到一頭粉色小象，你就以為那頭象真的“在你的腦子里”。

但Hinton說，這種比喻是錯誤的。

經(jīng)驗不是一個存在于腦內(nèi)的事物，而是一種假設(shè)——我的感知系統(tǒng)告訴我有一頭粉色小象，我的理性系統(tǒng)則知道它可能在騙我。

所謂“主觀體驗”，其實是大腦為解釋感知現(xiàn)象而構(gòu)建的假設(shè)模型。

于是，當(dāng)他談到AI是否有“主觀體驗”時，就有了開頭那樣的回答：

我相信它們有。只是它們自己不知道，因為它們的‘自我認(rèn)知’來源于我們，而我們自己對意識的理解就是錯的。

他舉了個多模態(tài)AI的例子，假如一個能看能說的機(jī)器人因為棱鏡折射看錯了物體位置，后來糾正后說——“我有過一個錯誤的主觀體驗”，那它其實就在使用和我們相同的意識概念。

換句話說，如果AI開始談?wù)摗爸饔^體驗”，那也許說明它真的在體驗——只是用我們的語言在描述。

Hinton借此提醒大家：

當(dāng)AI比我們聰明得多時，最危險的不是它反叛，而是它會“說服”。它會讓那個要拔插頭的人，真心認(rèn)為拔插頭是個糟糕的決定。

當(dāng)然，在Hinton看來，AI的威脅不止于此。

AI的風(fēng)險：濫用、生存與監(jiān)管

在節(jié)目最后，Hinton用了很大篇幅來完整講述AI可能存在的風(fēng)險。

能源消耗、金融泡沫、社會不穩(wěn)定……這些都是真實的風(fēng)險。它們可能不會摧毀人類，但足以重塑文明。

其中，Hinton最擔(dān)心濫用風(fēng)險和生存風(fēng)險這兩類。

在Hinton看來，目前最緊迫的風(fēng)險就是AI濫用，例如用AI生成虛假信息、操縱選舉、制造恐慌等。

為應(yīng)對這一風(fēng)險，他認(rèn)為需要通過法律和監(jiān)管手段來限制和打擊這種濫用行為。同時，技術(shù)上也需要開發(fā)檢測和防范虛假信息的工具。

此外，生存風(fēng)險（指AI本身可能成為惡意行為者）則可能對人類社會和文明構(gòu)成根本性威脅。

Hinton認(rèn)為，如果AI發(fā)展出自主意識和目標(biāo)，并且這些目標(biāo)與人類的利益相沖突，可能會導(dǎo)致不可預(yù)測的后果。

對此，人類需要在AI的設(shè)計和開發(fā)階段就考慮安全性和倫理問題（如“關(guān)閉開關(guān)”和“對齊機(jī)制”），從而確保AI的目標(biāo)與人類的利益一致。

值得一提的是，在AI監(jiān)管這件事上，Hinton還提出了一個很有意思的看法：

在防止AI接管的問題上，所有國家的利益是一致的。但國際合作可能由歐洲和中國引領(lǐng)。

One More Thing

關(guān)于中美人工智能競賽，Hinton也在節(jié)目中表達(dá)了自己的看法。

面對主持人甩出的“美國領(lǐng)先還是中國領(lǐng)先”這一問題，Hinton冷靜表示：

美國目前領(lǐng)先于中國，但領(lǐng)先優(yōu)勢沒有想象的那么大，而且它將失去這個優(yōu)勢。

因為在他看來，美國正在破壞基礎(chǔ)科學(xué)研究的資金支持。

深度學(xué)習(xí)和AI革命源于多年的基礎(chǔ)研究，這些研究的總成本可能還不及一架B1轟炸機(jī)。而美國減少對基礎(chǔ)研究的資助、攻擊研究型大學(xué)等行為，無疑將導(dǎo)致美國在20年后失去領(lǐng)先優(yōu)勢。

而中國卻是人工智能革命的風(fēng)險投資家，以及他再次cue到了DeepSeek。

中國確實給予初創(chuàng)企業(yè)很大的自由，讓他們自主選擇最終勝出者。有些初創(chuàng)企業(yè)非常積極進(jìn)取，渴望賺大錢，創(chuàng)造出令人驚嘆的產(chǎn)品。其中一些初創(chuàng)企業(yè)最終獲得了巨大的成功，比如DeepSeek……

參考鏈接：
[1]https://www.reddit.com/r/singularity/comments/1o3v25r/geoffrey_hinton_says_ais_may_already_have/
[2]https://www.youtube.com/watch?v=jrK3PsD3APk
[3]https://singjupost.com/ai-what-could-go-wrong-geoffrey-hinton-on-the-weekly-show-with-jon-stewart-transcript/

為偉大思想而生！

AI+時代，互聯(lián)網(wǎng)思想（wanging0123)，

第一必讀自媒體