淺友們好~我是史中，我的日常生活是開(kāi)撩五湖四海的科技大牛，我會(huì)嘗試用各種姿勢(shì)，把他們的無(wú)邊腦洞和溫情故事講給你聽(tīng)。如果你想和我做朋友，不妨加微信（shizhongmax）。

AI 的“終極設(shè)計(jì)圖”是什么樣子？

文｜史中

我寫這篇文章的時(shí)候，正值 DeepSeek 撕開(kāi)防線，和人類最強(qiáng)的智能 ChatGPT 隔空對(duì)峙。

DeepSeek R1 的兇猛，并不在于它超越了對(duì)手 o1 模型的邏輯推理能力（實(shí)際上只是幾乎追平），而在于它實(shí)現(xiàn)這些能力，只需要十分之一的成本。

換句話說(shuō)，它的智能密度相當(dāng)之高。

具體實(shí)現(xiàn)方式，DeepSeek 已經(jīng)公布了論文，很多大神也做了詳細(xì)解讀，不多說(shuō)了。

今天咱們?cè)囍鴿撊胫悄艿淖钌钐�，討論三個(gè)層層遞進(jìn)的話題：

1、用“顯微鏡”看，智能的微觀結(jié)構(gòu)究竟是什么？

2、什么東西在決定“智能的密度”？

3、我們有辦法做出智能密度達(dá)到極限的 AI 嗎？

這么深刻的話題，中哥確實(shí)沒(méi)能力自己構(gòu)建理論體系。給你介紹一個(gè)高手，他就是計(jì)算機(jī)科學(xué)家，被稱為目前活著的最聰明的人——史蒂芬·沃爾夫勒姆。

這篇文章的核心觀點(diǎn)，就是來(lái)自這位大神。

Stephen Wolfram

友情提示，接下來(lái) 20 分鐘，我們要和最聰明的大腦打交道，也許有些觀念過(guò)于抽象，需要一些額外的“思維墊腳石”。

有些墊腳石乍看和主題無(wú)關(guān)。但相信我，它們都是通向最終結(jié)論所必須的。如果卡住，延伸開(kāi)去琢磨一下，再回到主題，最后一定會(huì)有收益。

讓我們開(kāi)始吧！

（一）智能的蓮花開(kāi)在淤泥上

沃爾夫勒姆從一個(gè)簡(jiǎn)單的人工智能神經(jīng)網(wǎng)絡(luò)開(kāi)始：

上圖是一個(gè)很有“二極管”風(fēng)格的函數(shù)，它其實(shí)和人腦很像。

你可以理解為它就是你的大腦在戀愛(ài)中所做的判斷：當(dāng) x 滿足某些條件時(shí)，你會(huì)上頭，和 ta 結(jié)婚，此時(shí) f[x]=1；當(dāng) x 不滿足這個(gè)條件時(shí)，你會(huì)下頭，和 ta 分手，此時(shí) f[x]=0。

現(xiàn)在，我們想“克隆”一下自己的大腦——用人工智能來(lái)模擬和這個(gè)“目標(biāo)函數(shù)”一模一樣的操作。

該怎么做呢？

我們可以搞一個(gè)神經(jīng)網(wǎng)絡(luò)，然后從這個(gè)目標(biāo)函數(shù)上做數(shù)據(jù)采樣，用這些采樣去訓(xùn)練神經(jīng)網(wǎng)絡(luò)。

經(jīng)過(guò) 1000 輪訓(xùn)練，最后出來(lái)的結(jié)果是醬的：

一堆神經(jīng)元分層傳導(dǎo)，每條連線都定了不同的參數(shù)權(quán)重，它們形成了一個(gè)類似于方程的計(jì)算系統(tǒng)。你給出一個(gè) x 的值，它就能給你算出 f[x]的值。

你可以代入數(shù)值驗(yàn)證一下，它雖然不和原始方程精準(zhǔn)重合，但確實(shí)是非常接近的——這是個(gè)好使的人工智能。

不過(guò)這里有兩個(gè)問(wèn)題：

1、在訓(xùn)練開(kāi)始時(shí)，你無(wú)法預(yù)知最終每個(gè)參數(shù)會(huì)是什么。

上圖顯示從第1輪到 1000 輪的訓(xùn)練過(guò)程中，函數(shù)曲線不斷接近目標(biāo)函數(shù)的過(guò)程。由于參數(shù)是在一步步迭代中確定的，所以無(wú)法預(yù)知后續(xù)如何變化。

2、訓(xùn)練結(jié)束后，你很難講出每個(gè)具體神經(jīng)元參數(shù)對(duì)最終結(jié)果的影響是什么。

隨著 X 的變化，中間參數(shù)取值也在變化。在曲線的轉(zhuǎn)折點(diǎn)，你能看出發(fā)生了變化，但很難說(shuō)清楚每根線具體彎折的意義。

所以整個(gè)訓(xùn)練過(guò)程有點(diǎn)兒“解釋不清楚”：你只知道最后這個(gè)神經(jīng)網(wǎng)絡(luò)能用，但是，一不知道它是怎么能用的；二不知道它是怎么變成能用的。。。

這不是很奇怪嗎？

其實(shí)也沒(méi)那么怪。

我猜你上學(xué)時(shí)，一定有過(guò)這樣的經(jīng)歷：試卷上一道題，你能直接說(shuō)出正確答案。同桌問(wèn)你怎么做的，你就是沒(méi)辦法拆成他能理解的步驟給他講明白。

還有的人，可以控制自己的耳朵動(dòng)�？墒悄銌�(wèn)他具體怎么控制，他肯定沒(méi)辦法和你說(shuō)清楚，因?yàn)檫@是神經(jīng)系統(tǒng)整體的運(yùn)作，無(wú)法用語(yǔ)言邏輯拆分。

沃爾夫勒姆的意思是：

“解釋”這件事情，根本就是個(gè)幻覺(jué)。

比如我要給你解釋：“汽車為什么會(huì)走？”

我可以從宏觀層面解釋：

能源的化學(xué)能轉(zhuǎn)化成了動(dòng)能，汽車就能走。

但你還不明白，讓我詳細(xì)說(shuō)說(shuō)。

于是我從更細(xì)節(jié)的層面解釋：

發(fā)動(dòng)機(jī)的四個(gè)沖程讓燃料燃燒，推動(dòng)了傳動(dòng)桿，傳動(dòng)桿又連通了底盤和車輪，車輪轉(zhuǎn)動(dòng)，與地面摩擦，汽車向前。

但你還不明白，讓我再詳細(xì)說(shuō)說(shuō)的。

于是我從微觀層面解釋：

分子層面的化學(xué)反應(yīng)，剛體物理的諸多性質(zhì)。

但你還不明白，讓我繼續(xù)深入解釋。

于是我發(fā)現(xiàn)，細(xì)微到一定程度，解釋就失去意義了：

汽車的微觀層面就是一堆原子。。。它們?cè)谧裱囟ǖ囊?guī)則震動(dòng)。無(wú)數(shù)震動(dòng)效果的總和就是汽車向前移動(dòng)。

這算啥解釋？

沃爾夫勒姆在上個(gè)世紀(jì)就提出一個(gè)簡(jiǎn)潔又兇殘的洞見(jiàn)：世界的本質(zhì)是“計(jì)算不可約”的。（這是迄今為止對(duì)我震撼最大的認(rèn)知之一，我在 中也詳細(xì)介紹過(guò)。）

簡(jiǎn)單說(shuō)就是：

1、微觀粒子遵循基本規(guī)律； 2、宏觀世界是微觀粒子的直接累積，無(wú)法被簡(jiǎn)化。

但我們的大腦一廂情愿希望找到“簡(jiǎn)單解釋”。

哪怕這些解釋不是100%事實(shí)，而是舍棄一部分事實(shí)之后，形成粗簡(jiǎn)的“故事”，以便大腦（可憐的）計(jì)算力能夠與其他的故事類比起來(lái)，以此才能對(duì)改造世界的工作進(jìn)行一些（不一定正確的）指導(dǎo)。

越往微觀層面走，我們保留的事實(shí)就越多，故事就越不好理解，但離真相更近。

越往宏觀層面走，我們舍棄的事實(shí)越多，故事就越好理解，但離真相越遠(yuǎn)。

這種感覺(jué)很奇妙。它暗示：我們的世界就像一朵蓮花，花瓣分明，艷麗異常，但追根溯源，卻根植在一坨爛泥上。

回到我們的主題。

神經(jīng)網(wǎng)絡(luò)每個(gè)神經(jīng)元是干啥的，之所以不好解釋，就是因?yàn)槲覀冊(cè)噲D用微觀事實(shí)在宏觀上拼出一個(gè)的“簡(jiǎn)化的”故事，這本質(zhì)上是無(wú)法做到的。

說(shuō)了半天，意思就是。。。此題無(wú)解嗎？？�。�

誒，沃爾夫勒姆的兇悍之處正在于此。他的觀點(diǎn)是：

通過(guò)深刻理解智能為什么不能解釋，可以指導(dǎo)人類造出更厲害的 AI！

下面扶穩(wěn)坐好，我們從最微觀的一磚一瓦開(kāi)始，一點(diǎn)點(diǎn)描繪這幅圖景。

（二）大腦是“離散”的！

計(jì)算機(jī)是會(huì)死機(jī)的。

如果程序里存在嵌套的邏輯，計(jì)算機(jī)就只能一直算一直算，死而后已。

之所以這樣，是因?yàn)樗?strong>試圖用有限的資源模擬出一個(gè)“無(wú)限的數(shù)學(xué)空間”。

這個(gè)數(shù)學(xué)空間里，任何東西都是連續(xù)的。

例如，一個(gè)小數(shù)字都可以分成更小的數(shù)字：

0.001 夠小了吧，你給 1 前面再塞個(gè) 0，它就是 0.0001，妥妥更小。

同理，任何一個(gè)大數(shù)字都可以組成更大的數(shù)字。

在這個(gè)數(shù)學(xué)空間里，你可以砍一刀，再砍一刀，無(wú)限逼近但永遠(yuǎn)也砍不完，跟拼多多一個(gè)德性。

實(shí)際上，現(xiàn)代數(shù)學(xué)的危機(jī)與榮光，微積分、群論這種高深的理論，都必須建立在各種極限概念之上。它們共同構(gòu)成了“形式計(jì)算”的恢宏大廈。

但是，這個(gè)完美的數(shù)學(xué)空間只存在于純粹邏輯之中。

最近一百年的科學(xué)證據(jù)已經(jīng)瘋狂暗示：真實(shí)宇宙的基本結(jié)構(gòu)不是連續(xù)的，也不是無(wú)限可分的，而是“離散的”。

你可以不嚴(yán)謹(jǐn)?shù)匕延钪嫦胂蟪梢粋�(gè)屏幕。

在最小的尺度上看，全是像素點(diǎn)。一個(gè)粒子要么在 1 號(hào)點(diǎn)位，要么在 2 號(hào)點(diǎn)位，不可能在中間的 1.5 號(hào)點(diǎn)位，因?yàn)橛钪娴幕窘Y(jié)構(gòu)決定了就沒(méi)有這么個(gè)“像素”。

一個(gè)粒子從 1 號(hào)位置移動(dòng)到 2 號(hào)位置，不可能是“滑”過(guò)去，必須從 1 號(hào)位置消失，然后瞬間在 2 號(hào)位置出現(xiàn)。

沃爾夫勒姆想強(qiáng)調(diào)的是，在這種不連續(xù)的底層結(jié)構(gòu)上進(jìn)化出來(lái)的大腦，也必然“遺傳”了這個(gè)離散化的底色。

現(xiàn)實(shí)情況也在印證，大腦不是計(jì)算機(jī)：

首先，我們的大腦真的不擅長(zhǎng)算數(shù)，兩位數(shù)都容易算錯(cuò)，而計(jì)算機(jī)最擅長(zhǎng)的就是算數(shù)。 其次，大腦如果真的是計(jì)算機(jī)，一定會(huì)經(jīng)常死機(jī)，但大腦從不死機(jī)。

殘酷的自然選擇，要求我們的大腦必須具備“反智”的能力：把任何問(wèn)題都快速坍縮成一個(gè)確定的答案，同時(shí)可以不要求準(zhǔn)確！

原始人在野外看到一個(gè)長(zhǎng)條的物體，第一要?jiǎng)?wù)不是搞清楚它到底是蛇還是藤，第一要?jiǎng)?wù)是——跑。

于是，下次你聽(tīng)到“不買華為是漢奸”，“日本人都該死”之類的二極管論斷時(shí)，可以更加心平氣和。

因?yàn)榇竽X本來(lái)就是這樣工作的，它進(jìn)化出來(lái)是為了在有限的資源下幫人做出決定的，而不是用來(lái)探尋真相的。

接下來(lái)的問(wèn)題是：大腦究竟是怎么通過(guò)“離散化的結(jié)構(gòu)”給出“又快又不準(zhǔn)”的答案呢？

是時(shí)候請(qǐng)出“元胞自動(dòng)機(jī)”了。

（三）宇宙里的“邏輯碎片”

元胞自動(dòng)機(jī)最早是馮·諾依曼提出來(lái)的設(shè)想。

簡(jiǎn)單來(lái)說(shuō)就是把世界簡(jiǎn)化成一個(gè)充滿格子的平面，然后給出一定的規(guī)則，再給出一個(gè)初始條件。然后就像上帝一樣放手不管，只是隔空俯瞰這個(gè)世界的演化。

示例如下：

第一排：初始條件

第二排：規(guī)則

第三排：通過(guò)規(guī)則對(duì)下一行進(jìn)行計(jì)算的過(guò)程

沃爾夫勒姆把元胞自動(dòng)機(jī)玩出了花，他強(qiáng)烈地相信元胞自動(dòng)機(jī)里暗示了宇宙和生命的密碼。

我們一直在強(qiáng)調(diào)的“計(jì)算不可約化”原理，也是從元胞自動(dòng)機(jī)里觀察出來(lái)的。

這個(gè)規(guī)則叫做“30 號(hào)規(guī)則”，從初始的一個(gè)黑點(diǎn)，可以衍生出復(fù)雜的完全沒(méi)有規(guī)律的圖案。

現(xiàn)在，他設(shè)想了一個(gè)“三色”元胞自動(dòng)機(jī)。意思就是每個(gè)格子可以填入兩種顏色：紅、藍(lán)，加上空白時(shí)的白色，一共是三色。

上面一排的三個(gè)格子的狀態(tài)，決定了正下面一個(gè)格子的狀態(tài)。

也就是說(shuō)，要讓這個(gè)元胞自動(dòng)機(jī)啟動(dòng)，你只需要設(shè)定一個(gè)由 27 條規(guī)則（也就是 33 條）組成的規(guī)則集，還有第一行的初始狀態(tài)。

這就是一種規(guī)則集（包含 27 條規(guī)則）。

任務(wù)來(lái)了：假設(shè)初始狀態(tài)只有正中一個(gè)紅格子，那么有沒(méi)有一套規(guī)則，可以讓這個(gè)系統(tǒng)正好演化 40 步，然后就停止了呢？

就像下圖：

由于計(jì)算不可約化，沒(méi)有算法可以預(yù)知答案，只能進(jìn)行實(shí)驗(yàn)。

而且，這里有超過(guò) 7 萬(wàn)億種組合情況（32?），枚舉法太慢。

有一種比較聰明的方法：

在 27 個(gè)規(guī)則中，每次隨機(jī)突變一個(gè)，如果生命長(zhǎng)度接近 40，就保留這個(gè)突變；如果生命長(zhǎng)度沒(méi)變或者原理目標(biāo)，就不保留。

這個(gè)方法叫做“連續(xù)隨機(jī)突變”。

就這樣，經(jīng)過(guò) 300 多次的嘗試，突然碰到了一套規(guī)則，讓生命的長(zhǎng)度恰好是 40。

上圖的每一行都只顯示了 27 條規(guī)則的輸出結(jié)果（輸入沒(méi)顯示，和之前的那張圖里順序相同），從 27 個(gè)白格子開(kāi)始逐步迭代某些規(guī)則的結(jié)果。右側(cè)的數(shù)字顯示了兩排之間發(fā)生變化的規(guī)則數(shù)量。

下面這張圖就是隨著規(guī)則不斷進(jìn)行突變，最終結(jié)果不斷接近目標(biāo)的過(guò)程。

但是，如果你問(wèn)我為什么 40 的生命長(zhǎng)度對(duì)應(yīng)這套規(guī)則，我無(wú)法解釋，因?yàn)槭俏摇芭觥背鰜?lái)的。

“即便不能解釋，但它真的好使�！�

這句話是否似曾相識(shí)？

沒(méi)錯(cuò)，這個(gè)特點(diǎn)和神經(jīng)網(wǎng)絡(luò)一！毛！一！樣！

看到這，你有沒(méi)有一種不踏實(shí)的感覺(jué)？上學(xué)時(shí)老師可不樣這么解題啊。萬(wàn)一我沒(méi)“碰”出來(lái)正確的方法，怎么辦？

為了打消你的疑慮，沃爾夫勒姆又多做了幾次。由于每次的隨機(jī)性不同，他找到很多套規(guī)則，結(jié)果都可以是 40。

以下就是五種情況：

這說(shuō)明啥？說(shuō)明正確答案不止一個(gè)，想要碰出來(lái)，也沒(méi)那么難。

這里有一個(gè)隱藏的關(guān)鍵前提，沃爾夫勒姆選擇了“三色元胞自動(dòng)機(jī)”，它在邏輯上就內(nèi)涵了 7 萬(wàn)億種情況。

如果選擇“二色元胞自動(dòng)機(jī)”，則一共就有 256 種規(guī)則組合，這里面的可能性就大大降低了。

我甚至可以都列出來(lái)給你：

元胞自動(dòng)機(jī)里設(shè)置的顏色種類，在某種意義上對(duì)應(yīng)了宇宙空間中的“維度”概念。三維宇宙，就對(duì)應(yīng)著元胞自動(dòng)機(jī)的三色。

通過(guò)元胞自動(dòng)機(jī)你可以感受到一個(gè)類比：三維宇宙比二維宇宙的邏輯豐富性可是大了不止一點(diǎn)半點(diǎn)。

為啥咱們的宇宙是三維的？

很可能是因?yàn)槎S宇宙可能無(wú)法產(chǎn)生復(fù)雜生命，也就無(wú)法追問(wèn)宇宙為什么是二維的。

根據(jù)沃爾夫勒姆的宇宙模型，空間可以理解為一種由點(diǎn)線組成的網(wǎng)狀結(jié)構(gòu)。維度越高，點(diǎn)之間的連線就越多，從 A 到 B 可能的路徑也更多，也就是邏輯更豐富。

由此，我們能得到如下三條啟示：

1、我們的宇宙充滿了 邏輯碎片 。 2、簡(jiǎn)單的邏輯碎片通過(guò)排列組合，可以成為擁有特定功能的 工具 。 3、用邏輯碎片組合出特定工具的方法并不需要多高的智慧，僅僅通過(guò) “突變”+“篩選” 就可以。

而智能系統(tǒng)沒(méi)啥神秘的，本質(zhì)上就是一個(gè)可以實(shí)現(xiàn)特定功能的（復(fù)雜一點(diǎn)兒的）工具嘛。

既然這么說(shuō)，用類似的方法，也可以做出一個(gè)大腦咯？！

可以試試。

（四）用“小方塊”做出一個(gè)大腦

為了方便你理解，先做一個(gè)小小的熱身。

我們使用一個(gè)“二維元胞自動(dòng)機(jī)”。但這次我們不對(duì)規(guī)則進(jìn)行突變，而是給定如下兩套規(guī)則。（沃爾夫勒姆給他們的編號(hào)是規(guī)則 4 和規(guī)則 146）

在我們的元胞自動(dòng)機(jī)中，具體每一個(gè)格子使用規(guī)則 4 還是規(guī)則 146，由突變決定。

為了突出展示，我們把采用規(guī)則 4 的格子用綠色填充，把采用規(guī)則 146 的格子用粉色填充。

以下是幾個(gè)示例：

下面我們開(kāi)始實(shí)操：

假設(shè)我們的目的是讓這個(gè)元胞自動(dòng)機(jī)活 50 步。然后我們從純綠色開(kāi)始，在隨機(jī)的地方把綠色變成粉色，篩選距離 50 步更近的突變。

不出所料，我們能碰出來(lái)符合條件的突變：

而且還不止一種。

下圖就是另一些例子：

下圖顯示的是很多次實(shí)驗(yàn)中，找到結(jié)果分別所需花費(fèi)的步驟。

好，你應(yīng)該已經(jīng)明白了基本玩法，熱身結(jié)束。

接下來(lái)我們把這個(gè)元胞自動(dòng)機(jī)做一點(diǎn)兒小改動(dòng)。

首先，我們把結(jié)構(gòu)改成蜂窩狀，每個(gè)細(xì)胞的狀態(tài)只由最近的兩個(gè)決定。

然后，我們使用如下兩套規(guī)則：

略懂邏輯學(xué)的童鞋肯定看出來(lái)了，這不就是兩個(gè)基礎(chǔ)的邏輯函數(shù)么：與&異或。

這里我們用綠色代表“與”，用橘色代表“異或”。

厲害的來(lái)了！使用“與”、“異或”排列組合，還可生成無(wú)數(shù)其他規(guī)則，有種“一生二二生三三生萬(wàn)物”的意思。

系統(tǒng)在隨機(jī)突變中，理論上會(huì)制造出各種函數(shù)！

別急，我們一步步來(lái)。

先采用我們熟悉的方法進(jìn)行突變，讓這個(gè)系統(tǒng)存活 30 步。顯然可以做到：

但我們已經(jīng)不滿足于這一點(diǎn)了，接下來(lái)上點(diǎn)兒強(qiáng)度：

我們想讓系統(tǒng)從某個(gè)特定細(xì)胞出發(fā)，30 步之后，恰好到達(dá)另一個(gè)特定細(xì)胞。

通過(guò)突變，可能創(chuàng)造出這樣的系統(tǒng)嗎？

事實(shí)證明，可以！

我們繼續(xù)上強(qiáng)度，讓這個(gè)系統(tǒng)變得更“智能”：

能不能用一個(gè)系統(tǒng)同時(shí)滿足多個(gè)要求？

例如，點(diǎn)亮第 0 排的 x 細(xì)胞，就一定能點(diǎn)亮第 30 排的 y 細(xì)胞？

就像下面這樣：

注意，要用一套固定的系統(tǒng)（綠橘色塊位置不能動(dòng)）來(lái)完成這些不同的任務(wù)哦！

事實(shí)證明，依然可以。上面展示的這個(gè)系統(tǒng)就可以嘛！

說(shuō)到這，你有沒(méi)有發(fā)現(xiàn)什么？

你再仔細(xì)看看上面那張圖。沒(méi)錯(cuò)，我們訓(xùn)練出了最早給你展示的那個(gè)神經(jīng)網(wǎng)絡(luò) f[x]。

這個(gè)用元胞自動(dòng)機(jī)做出來(lái)的像“蜂巢”的 AI 和我們之前的那個(gè)神經(jīng)網(wǎng)絡(luò)是幾乎等價(jià)的。

下圖是這個(gè)系統(tǒng)訓(xùn)練過(guò)程中各個(gè)“中間形態(tài)”的突變點(diǎn)位和與之對(duì)應(yīng)的方程 f[x]：

但是，敲黑板！這個(gè)元胞自動(dòng)機(jī)可不是經(jīng)典的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，它們不僅是長(zhǎng)得不一樣，在基礎(chǔ)結(jié)構(gòu)上也是不一樣的。

經(jīng)典的神經(jīng)網(wǎng)絡(luò)人工智能也是“離散”的，不過(guò)每個(gè)神經(jīng)元的權(quán)重最初都是通過(guò)形式計(jì)算得到的，可能是循環(huán)的、無(wú)限的小數(shù)。

為了不讓 AI 在運(yùn)行時(shí)死機(jī)，必須強(qiáng)制把他們小數(shù)點(diǎn)后面的位數(shù)切斷才能用。屬于是“強(qiáng)制離散化”。

但“蜂巢 AI”的結(jié)構(gòu)天然就是離散的，從頭到尾都不會(huì)遇到小數(shù)點(diǎn)的困擾。

這個(gè)離散的結(jié)構(gòu)有兩個(gè)巨大的優(yōu)勢(shì)：

1、它是自然的產(chǎn)物：沒(méi)有經(jīng)過(guò)人類設(shè)計(jì)，是通過(guò)演化得來(lái)的，基本結(jié)構(gòu)和我們的大腦更接近。 2、它的性價(jià)比極高：哪怕它得到的結(jié)果不太準(zhǔn)確，但運(yùn)行時(shí)耗費(fèi)的計(jì)算力非常非常小。

不過(guò)，這樣做出來(lái)的智能系統(tǒng)，它的穩(wěn)定性如何呢？會(huì)不會(huì)稍微有點(diǎn)兒擾動(dòng)就“神經(jīng)錯(cuò)亂”呢？

沒(méi)關(guān)系，是騾子是馬拉出來(lái)遛遛！

這個(gè)系統(tǒng)從不同的初始值出發(fā)，所有過(guò)程中被點(diǎn)亮的細(xì)胞的熱力圖。可見(jiàn)：無(wú)論取什么初始值，最后結(jié)果都落在固定的“0”和“1”上。

（五）模糊的正確

就拿人類來(lái)說(shuō)，我們的大腦時(shí)刻要面對(duì)的信號(hào)都不是“純凈”的。

比如現(xiàn)在，你的大腦正在接受很多信號(hào)：手機(jī)屏幕上的文字，視野里的背景信息，耳朵里的聲音，肢體感覺(jué)，等等。。。

這些信號(hào)永遠(yuǎn)會(huì)糾纏在一起，你的大腦必須能應(yīng)對(duì)這種狀況：耳朵里聽(tīng)見(jiàn)別的聲音，你還得保持繼續(xù)閱讀才行。

當(dāng)然信號(hào)的噪音不能太大，干擾太大誰(shuí)都受不了。但你的大腦抗干擾能力越大，就說(shuō)明你大腦的“魯棒性”越強(qiáng)。

現(xiàn)在我們回到“蜂巢 AI”，試著給它輸入噪音。

怎么模擬噪音呢？

可以在初始的時(shí)候，同時(shí)給它輸入兩個(gè)黑點(diǎn)，甚至多個(gè)黑點(diǎn)。

我們先選一種沒(méi)有噪音的情況下“蜂巢 AI”的表現(xiàn)：

從：

演化到：

也就是下圖最左邊的情況。

下圖右邊幾張是在初始值中添加不同噪音的效果：

第 0 排帶紅圈的點(diǎn)位就是噪音； 下面所有帶紅圈的點(diǎn)位就是噪音產(chǎn)生的擾動(dòng)，也就是相對(duì)于沒(méi)有噪音的區(qū)別。

下面這張圖，顯示了蜂巢 AI 對(duì)噪音的適應(yīng)情況。（沒(méi)有列舉所有可能的噪音，只是一些典型的情況。）

第一排是選定的一種沒(méi)有噪音的原始輸入。下面就是在原始輸入的基礎(chǔ)上添加噪音的影響。

白色橫條，意味著輸出和原本的一致。沒(méi)有受到噪音影響。 粉色的橫條，意味著輸出和原本不一致了。受到了噪音影響。

乍一看，這系統(tǒng)的穩(wěn)定性也不咋地啊，粉色的情況那么多。

別急，我們來(lái)仔細(xì)分析一下，受到了干擾后，具體結(jié)果是啥？

沃爾夫勒姆總結(jié)了各種情況，如下圖：

其中 32.1% 其實(shí)是沒(méi)有輸出結(jié)果，系統(tǒng)走到半路就停了。

這就好比你在嘈雜的地方讀書，既沒(méi)有聽(tīng)清別人說(shuō)什么，也沒(méi)有看懂書里寫什么。這種結(jié)果其實(shí)挺好，因?yàn)橄到y(tǒng)沒(méi)有胡亂給出答案。

還有 23.8% 是給出了純純正確的答案。

還有 15.6%、2.54%、1.7% 是給出了包含正確答案的錯(cuò)誤答案。

實(shí)話說(shuō)，這個(gè)表現(xiàn)已經(jīng)很牛了！

有趣的是，還有 24.2%，是給出了純純錯(cuò)誤的答案，但這個(gè)錯(cuò)誤答案卻對(duì)應(yīng)著其他輸入的正確答案！

這說(shuō)明啥？

說(shuō)明這個(gè)系統(tǒng)也許會(huì)出錯(cuò)，但它不會(huì)錯(cuò)到非常離譜。進(jìn)化迭代，讓這個(gè)系統(tǒng)冥冥中形成了兩個(gè)“吸引盆”，好像結(jié)果會(huì)自動(dòng)滑落到盆底一般。

當(dāng)然，要達(dá)到這種境界，也需要一些訓(xùn)練技巧。

所謂技巧也不是人工干預(yù)細(xì)節(jié)，而是在演化的時(shí)候，加入一些“負(fù)樣本”，當(dāng)蜂巢 AI 得出錯(cuò)誤的結(jié)果時(shí)，會(huì)觸發(fā)“懲罰”機(jī)制。

這個(gè)方法，和我們熟悉的經(jīng)典人工智能訓(xùn)練是一樣的，也和人腦的訓(xùn)練方法是一樣的。你不好好學(xué)習(xí)，老師就會(huì)邀請(qǐng)你媽媽來(lái)揍你一頓，這就是懲罰機(jī)制。

至此，我們已經(jīng)訓(xùn)練出一個(gè)丐版的智能系統(tǒng)。

它具有模糊的正確性，它在噪音中保持強(qiáng)韌，不輕易被毀滅，它拿到了“進(jìn)化游戲”的入場(chǎng)券。

而且我們似乎還額外獲得了一個(gè)認(rèn)知。

那就是：對(duì)智能祛魅。

智能的秩序和自然界的無(wú)序總是形成鮮明反差，以至于在漫長(zhǎng)的歷史中，人們總愿意相信有個(gè)“造物主”來(lái)屈尊造人。

而“蜂巢 AI”的訓(xùn)練過(guò)程恰恰告訴我們：智能的出現(xiàn)，不是什么了不得的偶然事件，反而是個(gè)大概率事件。

同樣模擬 f[x] 那個(gè)方程，還能探索出很多種組合形式。

（六）智能是“邏輯的搬運(yùn)工”

沃爾夫勒姆嘗試了很多“蜂巢 AI”，每次都能訓(xùn)練出來(lái)擬合最初那個(gè) f[x] 方程的人工智能。

這里的關(guān)鍵是，即便它們完成的任務(wù)相同，但由于隨機(jī)性的影響，每次訓(xùn)練出來(lái)的系統(tǒng)在微觀結(jié)構(gòu)上都不一樣。（紅綠色塊的位置不同）

怎么訓(xùn)怎么有，這說(shuō)明什么？

說(shuō)明“邏輯資源”在自然界極其豐富。

就像銅礦一樣，在地球上到處都有。古代各個(gè)地區(qū)的人類文明雖然沒(méi)有交流，但都順利發(fā)現(xiàn)了冶煉銅的技術(shù)，獨(dú)立進(jìn)入青銅時(shí)代。

如此，我們可以試著回答最初的問(wèn)題：

“智能”的微觀結(jié)構(gòu)，到底是什么？

智能的運(yùn)轉(zhuǎn)，就是把自然界已有的邏輯碎片給組合了起來(lái)，讓它能夠判斷輸入與輸出極其復(fù)雜的對(duì)應(yīng)關(guān)系。

不過(guò)即便只是對(duì)既有邏輯的搬運(yùn)和整合，也不是所有整合方法都能產(chǎn)生高密度的智能。

一個(gè)反直覺(jué)的結(jié)論是：

當(dāng)你越佛系松弛的時(shí)候，越能造出高密度的智能；當(dāng)你越想嚴(yán)格把控，恰恰越難以造出高密度的智能！

這不是一碗雞湯，而是一把鋒利的認(rèn)知武器。

不信我們接著看一個(gè)實(shí)驗(yàn)：

剛才我們說(shuō)過(guò)，用“與”和“異或”可以組合出各種函數(shù)，而且針對(duì)某一個(gè)函數(shù)，有無(wú)數(shù)種方法可以等效出來(lái)。

但查看細(xì)節(jié)就會(huì)發(fā)現(xiàn)，等效的“蜂巢塊”的大小可不一樣。

比如我們找到的等效于兩色元胞自動(dòng)機(jī)規(guī)則 30 的“蜂巢塊”最小只需要 4 行，并且有兩種情況：

如果允許加到 5 行，那情況就一下子多了。

可這些蜂巢塊都是進(jìn)化得到的，看上去雜亂無(wú)章，無(wú)法解釋。

如果我們非要做出可以解釋的蜂巢塊也可以，就得按照人類理解的邏輯計(jì)算方式來(lái)一步步生成。

比如：

其中的 x、y、z 就代表規(guī)則 30 的三個(gè)輸入。

可以證明，這個(gè)“蜂巢塊”確實(shí)是對(duì)的 ↓↓↓

但你發(fā)現(xiàn)沒(méi)，人工搭建的塊，比自然進(jìn)化出來(lái)的塊更多，需要 6 行。

多數(shù)情況，按照人類邏輯來(lái)搭建邏輯樂(lè)高，得出的結(jié)果要大得更多。比如規(guī)則 110。

這些是通過(guò)進(jìn)化得到的：

這個(gè)是通過(guò)人工搭建得到的：

一個(gè)結(jié)論呼之欲出：

即便邏輯資源在自然界豐富存在，但是“隨機(jī)進(jìn)化”冶煉出來(lái)的純度更高，而“人工搭建”的方法純度更低。

要知道，無(wú)論是規(guī)則 30 還是規(guī)則 110，都還僅僅是一個(gè)簡(jiǎn)單的思想實(shí)驗(yàn)，模擬了神經(jīng)協(xié)作模式的皮毛而已。真正大腦的運(yùn)作會(huì)比這個(gè)復(fù)雜千倍萬(wàn)倍。

可想而知，如果使用“人類可解釋的編程方法”，在腦細(xì)胞層面每一次邏輯迭代都會(huì)比自然進(jìn)化的方案更耗能，那么整體思考的代價(jià)將變得非常沉重。

這暗示了一個(gè)真相：一個(gè)系統(tǒng)的“邏輯密度”和“可解釋度”是一個(gè)蹺蹺板！

這也解釋了一個(gè)大問(wèn)題：為什么現(xiàn)在我們的人工智能如此耗能？

因?yàn)槲覀冊(cè)谟?xùn)練中使用了大量“人工搭建”的邏輯，它們就像“腳手架”，增加了智能的可解釋性，但也降低了智能的邏輯密度。

這里，我們可以回到 DeepSeek。

之所以說(shuō) DeepSeek 對(duì) AI 技術(shù)產(chǎn)生了極大的理論貢獻(xiàn)，是因?yàn)樗K于找到了一種方法，在訓(xùn)練的流程中拆掉了大量腳手架。

具體來(lái)說(shuō)，DeepSeek 在很多重要的點(diǎn)位上用強(qiáng)化學(xué)習(xí)（RL）的方法替代掉了人類監(jiān)督微調(diào)（SFT）。

簡(jiǎn)單理解就是：強(qiáng)化學(xué)習(xí)就是在底層去掉人類監(jiān)督，只保留一些高層的人類篩選，讓 AI 有更大的自由度自己探索適合的思考方式。

這相當(dāng)于在訓(xùn)練的關(guān)鍵步驟照搬了宇宙的智能設(shè)計(jì)圖——“突變”+“篩選”。

換句話說(shuō)：它找到了一種更好的“搭宇宙便車的方法”！

如果回頭望，你會(huì)驚奇地發(fā)現(xiàn)：整個(gè) AI 的發(fā)展歷史，就是科學(xué)家們不斷放手，不斷把智能的產(chǎn)生交給隨機(jī)進(jìn)化，不斷更好地“搭宇宙便車”的過(guò)程！

（七）搭好宇宙的便車

在人工智能學(xué)科誕生初期，重磅科學(xué)家們幾乎都在支持“符號(hào)主義”，也就是手動(dòng)匹配萬(wàn)事萬(wàn)物的聯(lián)系，讓 AI 的全部推理都有理有據(jù)，在最細(xì)節(jié)的層面也要能被解釋。

但逐漸，科學(xué)家承認(rèn)“學(xué)會(huì)多少道理都過(guò)不好這一生”，不如放手讓 AI 自己去學(xué)習(xí)事物之間的聯(lián)系，這才倒向了羅森布拉特的“聯(lián)結(jié)主義”，乃至后續(xù)辛頓教授在這一流派基礎(chǔ)上開(kāi)創(chuàng)的，以至于 ChatGPT 誕生。

由此，AI 才洶涌成蓬勃的大河。

不是因?yàn)槿藗兿矚g放手，而是因?yàn)椴环攀志蜔o(wú)法前行。

世界上第一個(gè)基于“聯(lián)結(jié)主義”的人工智能感知機(jī)，Mark I。

和這條河流所對(duì)應(yīng)的，是人類計(jì)算負(fù)載從 CPU 向 GPU 的史詩(shī)級(jí)遷移。

CPU 是為形式計(jì)算而設(shè)計(jì)的，源自于人造的理想空間：它可以處理復(fù)雜的控制指令。

GPU 是為圖像處理而設(shè)計(jì)的，根植于人類的視覺(jué)進(jìn)化：它可以高效處理簡(jiǎn)單重復(fù)計(jì)算。

你還記得那個(gè)蹺蹺板嗎？

本質(zhì)上，CPU 就代表了“可解釋度”，而 GPU 則代表了“邏輯密度”。

CPU 時(shí)代的領(lǐng)軍企業(yè)英特爾，股價(jià)腰斬，險(xiǎn)被收購(gòu)；而 CPU 時(shí)代的領(lǐng)軍企業(yè)英偉達(dá)，股價(jià)已經(jīng)翻了無(wú)數(shù)翻。

從微觀上看，兩家公司的每一次經(jīng)營(yíng)決策的累積導(dǎo)致了如今的分野。但拉開(kāi)視野來(lái)看，順應(yīng)歷史的潮流，才是勝利的關(guān)鍵。

數(shù)學(xué)是人類智慧的王冠，精準(zhǔn)形式計(jì)算的需求永遠(yuǎn)龐大。

但宇宙的“計(jì)算不可約性”從根本上決定，更多的日常決策只適合于離散化的擬合。

聯(lián)結(jié)主義 AI 的興起、離散化結(jié)構(gòu)的成功、英偉達(dá) GPU 的崛起，不都是因?yàn)樗麄兇顚?duì)了宇宙的便車嗎？

有個(gè)笑話講：最牛的 AI 老師傅每天上班都要默念十遍“智能的本質(zhì)是壓縮”。

這恰好揭示了生命進(jìn)化的真理，也揭示了離散化擬合的本質(zhì)。那就是：只求神似，不求精準(zhǔn)。

世界上的現(xiàn)象復(fù)雜，但凡要用有限的計(jì)算力去擬合，就需要有損壓縮。

比如在用蜂巢 AI 擬合 f[x] 時(shí)，由于系統(tǒng)的“離散”本質(zhì)，即便不斷增加系統(tǒng)的計(jì)算力，我們得到的也是一個(gè)近似曲線，而不可能完全貼合形式計(jì)算的那個(gè)理想曲線。

下圖就是對(duì) f[x] 的理想曲線進(jìn)行壓縮后的結(jié)果。

但它的好處顯而易見(jiàn)，那就是計(jì)算時(shí)間是絕對(duì)剛性的。

無(wú)論如何，系統(tǒng)都可以在有限時(shí)間內(nèi)快速給出擬合結(jié)果——不死機(jī)。這對(duì)于生命的生存至關(guān)重要。

剛性時(shí)間就是進(jìn)化的篩選條件之一。

在此基礎(chǔ)上智能進(jìn)化的過(guò)程，就是不斷找到更好壓縮方案的過(guò)程。

為了更直接地展示 AI 在壓縮上的能力，沃爾夫勒姆做了另一個(gè)實(shí)驗(yàn)——“自編碼器”。

把第一排當(dāng)做輸入，把最后一排當(dāng)做輸出。系統(tǒng)的目標(biāo)就是：經(jīng)過(guò)中間步驟的演化，讓輸出無(wú)限接近于輸入。

它模擬了人“壓縮世界”的過(guò)程：在內(nèi)心構(gòu)建一個(gè)世界的“像”。

這個(gè)系統(tǒng)沒(méi)有看上去那么簡(jiǎn)單，因?yàn)樵谟?jì)算的過(guò)程中，最初的信息會(huì)被“碾碎”，而在后來(lái)又要“重構(gòu)”起來(lái)。

但宇宙內(nèi)稟的邏輯資源太豐富了，不費(fèi)什么力氣就進(jìn)化出很多“自編碼器”。

接下來(lái)更騷的操作來(lái)了：他把系統(tǒng)的“腰部”收窄，看看還能不能訓(xùn)練出自編碼器。

結(jié)果是：仍然可以。

而且，就算腰部極細(xì)，細(xì)到只有兩個(gè)格子（下圖），系統(tǒng)仍然能完成自編碼。（ 只不過(guò)在這種極端情況下，壓縮的質(zhì)量不忍直視。）

在細(xì)腰部分傳遞的信息，其實(shí)就是數(shù)據(jù)的壓縮版本； 腰部以上，是壓縮過(guò)程； 腰部以下，是解壓過(guò)程。

不同的壓縮系統(tǒng)，對(duì)應(yīng)著不同的耗能和效果。兩個(gè)參數(shù)做簡(jiǎn)單的除法，可知它們 智能的密度也不相同。

這個(gè)簡(jiǎn)單的模型卻給了我們巨大的信心：

只 要能找 到更好的方式對(duì)世界進(jìn)行壓縮，我們就能制造出一個(gè)和人腦平齊，甚至超越人腦的智能系統(tǒng)。

如今，我們已經(jīng)有了 ChatGPT，有了 DeepSeek。

再往前看，我們有可能把這種“搭便車”玩到極限，造出理解萬(wàn) 物、無(wú)所不能的超級(jí)智能嗎？

（八）我們的無(wú)知與歡喜

其實(shí)，如果我們接受了“計(jì)算不可約性”，很容易推出如下結(jié)論：

1、我們永遠(yuǎn)有機(jī)會(huì)做出更好的人工智能； 2、我們永遠(yuǎn)無(wú)法抵達(dá)人工智能的“極限”。

所謂人工智能的極限，就是對(duì)一切問(wèn)題都能給出正確答案的那種神級(jí)智能。

作為“離散宇宙”的生物，我們只能基于離散化的結(jié)構(gòu)創(chuàng)造智能。運(yùn)轉(zhuǎn)的細(xì)節(jié)依靠?jī)|萬(wàn)模糊的擬合，它的原理本身就內(nèi)含了出現(xiàn)大量錯(cuò)誤的可能性。

也就是說(shuō)，無(wú)論我們?nèi)绾螔暝�，基礎(chǔ)的物理定律“保證”了我們永遠(yuǎn)無(wú)法準(zhǔn)確理解萬(wàn)物，也永遠(yuǎn)無(wú)法準(zhǔn)確預(yù)測(cè)未來(lái)。

我們，就像被困在一個(gè)黑盒子里，再撕心裂肺的吶喊都無(wú)法透?jìng)鞒鋈ァ缤M(jìn)入《2021 太空漫游》里那個(gè)黑色的石碑，人類能做的只有沉默與敬畏。

沃爾夫勒姆把宇宙的底層結(jié)構(gòu)想象為一種“超圖重寫”結(jié)構(gòu)，這是元胞自動(dòng)機(jī)的另一種抽象，也是和元胞自動(dòng)機(jī)計(jì)算等價(jià)的。

簡(jiǎn)單來(lái)說(shuō)，超圖重寫就是把宇宙看成一幅“圖”。在這幅圖上運(yùn)行迭代策略：隨著時(shí)間流逝，按照既定規(guī)則，以一個(gè)結(jié)構(gòu)替代另一個(gè)結(jié)構(gòu)。

這個(gè)規(guī)則可能很簡(jiǎn)單，比如下面就是一個(gè)規(guī)則示例：

即便規(guī)則這么簡(jiǎn)單，每次迭代都會(huì)產(chǎn)生新的結(jié)構(gòu)，下一次的迭代也會(huì)在新的結(jié)構(gòu)中繼續(xù)演化，并不重復(fù)。由于計(jì)算的不可約性，宇宙將會(huì)變得越來(lái)越復(fù)雜。

下圖，就是基于上面那個(gè)規(guī)則演化幾步之后的結(jié)果：

同樣因?yàn)橛?jì)算不可約性，在這樣的宇宙里生活，沒(méi)人能夠先于演化精準(zhǔn)預(yù)測(cè)超圖的全景，最多只能通過(guò)（基于離散結(jié)構(gòu)的）“智能”來(lái)對(duì)某個(gè)局部的圖紙做粗略預(yù)測(cè)。

而且，由于我們用來(lái)預(yù)測(cè)的智能系統(tǒng)本身，也是“超圖”的一部分，這意味著智能當(dāng)然也無(wú)法預(yù)測(cè)自身的未來(lái)狀態(tài)。

這個(gè)特點(diǎn)解決了一個(gè)終極追問(wèn)：人到底有沒(méi)有自由意志？

我們可以逆向思考：

什么是沒(méi)有自由意志？就是我們可能找到預(yù)測(cè)自己在未來(lái)某一刻的思想的方法。對(duì)吧？

但計(jì)算不可約性已經(jīng)預(yù)言了，我們沒(méi)有辦法準(zhǔn)確預(yù)測(cè)大腦未來(lái)的狀態(tài)。也就是說(shuō)，無(wú)論我們的思維是不是機(jī)械運(yùn)動(dòng)的，都不影響“我們無(wú)法預(yù)測(cè)它”這一事實(shí)。

所以，我們永遠(yuǎn)可以認(rèn)為自己“有”自由意志！

只不過(guò)，這種自由意志的代價(jià)是昂貴的：

人類，作為一個(gè)智能體，永遠(yuǎn)無(wú)法理解宇宙的所有真相。 AI，作為一個(gè)人造的智能體，同樣永遠(yuǎn)無(wú)法理解宇宙的所有真相。

但這種對(duì)“無(wú)法理解”本身的探尋，何嘗不是一種理解呢？

這種揭示自己渺小的真相的路程，何嘗不是一種偉大呢？

我們盛開(kāi)，但我們腳踩淤泥；

我們腳踩淤泥，但我們盛開(kāi)。

正如胡適所說(shuō)：怕什么真理無(wú)窮，進(jìn)一寸有一寸的歡喜。

真正的慰藉，也許并非“朝聞道夕死可矣”。而是在終極真理的巨大引力下跌撞前行，收獲的一路歡喜。

這，也許才是終極意義上的 Deep Seek。

參考資料：

https://writings.stephenwolfram.com/2024/08/whats-really-going-on-in-machine-learning-some-minimal-models/

《機(jī)器學(xué)習(xí)中到底發(fā)生了什么？一些極簡(jiǎn)模型》

三生萬(wàn)物

再自我介紹一下吧。我叫史中，是一個(gè)傾心故事的科技記者。我的日常是和各路大神聊天。如果想和我做朋友，可以搜索微信：shizhongmax。

哦對(duì)了，如果喜歡文章，請(qǐng)別吝惜你的“在看”或“分享”。讓有趣的靈魂有機(jī)會(huì)相遇，會(huì)是一件很美好的事情。

Thx with in Beijing