新智元報道

編輯：KingHZ

【新智元導(dǎo)讀】憶往昔，符號AI曾以規(guī)則邏輯統(tǒng)領(lǐng)江湖；今朝卷土重來，它攜手神經(jīng)網(wǎng)絡(luò)，直指AGI！

這幾年，大模型多次讓人驚艷：聊天像真人、寫作像專家、畫畫像大師，仿佛「萬能AI」真的要來了。

但AI領(lǐng)域的權(quán)威們已經(jīng)開始潑下一盆冷水：

只靠「神經(jīng)網(wǎng)絡(luò)」，遠(yuǎn)遠(yuǎn)不夠通往人類級智能。

美國人工智能促進(jìn)協(xié)會（AAAI）向會員發(fā)出提問：

• 未來，計(jì)算機(jī)能否達(dá)到、甚至超越人類智力？

• 如果可以，單靠當(dāng)下火爆的神經(jīng)網(wǎng)絡(luò)行不行？

絕大多數(shù)研究者給出的答案是——不行。

真正的突破，恐怕要靠老牌選手「符號派AI」與神經(jīng)網(wǎng)絡(luò)聯(lián)手登場。

符號AI：起死回生

在歷史上，符號派AI曾是主角——它相信，世界可以被規(guī)則、邏輯和清晰的概念關(guān)系窮盡刻畫：

像數(shù)學(xué)那樣精確，像流程圖那樣可追溯，像生物分類法那樣層次分明。

后來，神經(jīng)網(wǎng)絡(luò)崛起，用「從數(shù)據(jù)中學(xué)習(xí)」的范式席卷整個領(lǐng)域。

大模型與ChatGPT成為這個時代的技術(shù)圖騰，而符號系統(tǒng)被邊緣化，幾乎只剩下教科書上的一段歷史。

然而，自2021年前后開始，「神經(jīng)–符號融合」急速升溫，被視為打破單一神經(jīng)網(wǎng)絡(luò)話語權(quán)的一次反撲：

它試圖把統(tǒng)計(jì)學(xué)習(xí)與顯式推理拼接在一起，不僅為了追逐通用智能這一遠(yuǎn)目標(biāo)，更為了在軍事、醫(yī)療等高風(fēng)險場景中，提供一種人類仍能「看得懂、追得回去」的智能形態(tài)。

目前，已經(jīng)有一些頗有代表性的神經(jīng)符號AI系統(tǒng)問世。

比如，DeepMind去年發(fā)布的AlphaGeometry，可以穩(wěn)定解出面向優(yōu)秀中學(xué)生的數(shù)學(xué)奧林匹克競賽題。

但要把神經(jīng)網(wǎng)絡(luò)和符號主義AI真正融合成通用的「全能AI」，仍然極其棘手。這種系統(tǒng)如此復(fù)雜，馬里蘭大學(xué)計(jì)算機(jī)科學(xué)家William Regli感嘆道：

其實(shí)，你是在設(shè)計(jì)一個「雙頭怪物」架構(gòu)。

苦澀的教訓(xùn)，沒有盡頭的爭論

2019 年，計(jì)算機(jī)科學(xué)家Richard Sutton公開了短文《苦澀的教訓(xùn)》（The Bitter Lesson）。

他指出，自20世紀(jì) 50 年代以來，人們反復(fù)假設(shè)：

在物理學(xué)到社會行為等各個領(lǐng)域，人類總結(jié)出世界規(guī)則，然后灌輸給計(jì)算機(jī)。

這是制造智能計(jì)算機(jī)的最佳方法。

Sutton寫道，我們要吞下的「苦果」是：利用海量原始數(shù)據(jù)和擴(kuò)大的計(jì)算能力來撬動「搜索與學(xué)習(xí)」的系統(tǒng)，一次又一次地戰(zhàn)勝了符號方法。

例如，早期的國際象棋計(jì)算機(jī)依賴人類設(shè)計(jì)的策略，結(jié)果卻敗給了那些僅僅被喂食了大量對局?jǐn)?shù)據(jù)的系統(tǒng)。

神經(jīng)網(wǎng)絡(luò)的支持者廣泛引用這一教訓(xùn)，用于支持「把系統(tǒng)做得越來越大是通往AGI的最佳路徑」這一觀點(diǎn)。

但許多研究人員認(rèn)為，這篇短文言過其實(shí)，低估了符號系統(tǒng)在AI中能夠且正在發(fā)揮的關(guān)鍵作用。

例如，當(dāng)今最強(qiáng)的國際象棋程序Stockfish就將神經(jīng)網(wǎng)絡(luò)與允許走法的符號樹（symbolic tree）結(jié)合在了一起。

神經(jīng)網(wǎng)絡(luò)和符號算法各有利弊。

• 神經(jīng)網(wǎng)絡(luò)由多層節(jié)點(diǎn)組成，通過加權(quán)連接在訓(xùn)練過程中進(jìn)行調(diào)整，以識別模式并從數(shù)據(jù)中學(xué)習(xí)。它們速度快且富有創(chuàng)造力，但也注定會編造內(nèi)容（即產(chǎn)生幻覺）。而且如果問題超出訓(xùn)練數(shù)據(jù)范圍，它們無法可靠地回答。

• 符號系統(tǒng)則難以涵蓋人類語言等「模糊」的概念，因?yàn)檫@涉及構(gòu)建龐大的規(guī)則數(shù)據(jù)庫，且構(gòu)建難度大、搜索速度慢。但它們的運(yùn)作機(jī)制清晰，擅長推理，能利用邏輯將通用知識應(yīng)用于全新的情境。

當(dāng)被應(yīng)用于現(xiàn)實(shí)世界時，缺乏符號知識的神經(jīng)網(wǎng)絡(luò)會犯下典型的低級錯誤。

比如，AI生成的圖像可能會畫出每只手有六根手指的人，因?yàn)樗鼈儧]有學(xué)到「手通常有五根手指」這一一般概念（general concept）。

一些研究人員將這些錯誤歸咎于缺乏數(shù)據(jù)或計(jì)算能力。

但其他人則認(rèn)為，這些錯誤揭示了在泛化知識（generalize knowledge）和邏輯推理（reason logically）方面，神經(jīng)網(wǎng)絡(luò)根本就無能為力。

許多人認(rèn)為，「神經(jīng)網(wǎng)絡(luò)+符號機(jī)制」可能是向AI注入邏輯推理的最佳——甚至是唯一——的方法。

例如，全球科技巨頭IBM正在押注神經(jīng)符號技術(shù)（neurosymbolic techniques），將其視為通往 AGI 的路徑。

但其他人對此仍持懷疑態(tài)度：現(xiàn)代AI之父之一Yann LeCun曾表示，神經(jīng)符號方法「不兼容」深度學(xué)習(xí)機(jī)制。

Richard Sutton堅(jiān)持自己最初的觀點(diǎn)，并告訴《自然》雜志：

「苦澀的教訓(xùn)」仍然適用于今天的AI。

Richard Sutton現(xiàn)任阿爾伯塔大學(xué)計(jì)算機(jī)科學(xué)教授，獲2024年圖靈獎；2017年至2023年期間，他曾擔(dān)任DeepMind杰出研究科學(xué)家

他說，這表明「添加符號化的、更多人工構(gòu)建（manually crafted）的元素可能是一個錯誤」。

Gary Marcus是AI企業(yè)家、作家和認(rèn)知科學(xué)家，也是神經(jīng)符號AI最直言不諱的支持者之一。

他傾向于將這種意見分歧描述為一場哲學(xué)之戰(zhàn)，并認(rèn)為戰(zhàn)局正朝著有利于他的方向定調(diào)。

另一些人，如麻省理工學(xué)院的機(jī)器人學(xué)家Leslie Kaelbling則認(rèn)為，爭論哪種觀點(diǎn)正確純屬「自討苦吃」，人們應(yīng)該專注于任何行之有效的方法。

她說：「我就像一只喜鵲（magpie）。只要能讓我的機(jī)器人變得更好，我會采納任何方法?！?/p>

雙頭怪獸：取長補(bǔ)短

盡管神經(jīng)符號AI的核心愿景非常明確——即融合神經(jīng)網(wǎng)絡(luò)與符號學(xué)派的雙重優(yōu)勢，但其具體定義在當(dāng)下仍顯得有些模糊。

Marcus直言，神經(jīng)符號AI囊括了「一個浩瀚無垠的宇宙」，而我們目前的探索，「不過是滄海一粟」。

業(yè)界涌現(xiàn)出多種技術(shù)路徑，研究者們也嘗試從不同維度對其進(jìn)行歸類。

其中，備受推崇的一條主流路徑是：利用符號技術(shù)來「加持」神經(jīng)網(wǎng)絡(luò)。

AlphaGeometry無疑是這一策略中最精妙的集大成者。它的運(yùn)作機(jī)制是：先利用符號編程語言生成海量的數(shù)學(xué)題（即合成數(shù)據(jù)集），再用這些數(shù)據(jù)去訓(xùn)練神經(jīng)網(wǎng)絡(luò)。

這種方法不僅讓解題過程更易于驗(yàn)證，還確保了極低的錯誤率。Colelough評價道，這是一種「優(yōu)雅的融合」。

另一個典型案例是「邏輯張量網(wǎng)絡(luò)」（Logic Tensor Networks）。

它提供了一種將符號邏輯編碼進(jìn)神經(jīng)網(wǎng)絡(luò)的方法。

在這種網(wǎng)絡(luò)中，陳述不再是非黑即白，而是被賦予一個「模糊真值」（Fuzzy-truth Value）——即介于1（真）與0（假）之間的數(shù)值。這就構(gòu)建了一套規(guī)則框架，輔助系統(tǒng)進(jìn)行邏輯推理。

另一條廣闊的路徑則反其道而行之：利用神經(jīng)網(wǎng)絡(luò)來「巧解」傳統(tǒng)符號算法的難題。

符號知識庫往往面臨一個棘手痛點(diǎn)：體量過于龐大，導(dǎo)致搜索極其耗時。

以圍棋為例，其所有可能走法構(gòu)成的「搜索樹」包含了約$$10^{170}$$個盤面位置，這是一個無法靠暴力計(jì)算來窮盡的天文數(shù)字。

而神經(jīng)網(wǎng)絡(luò)可以被訓(xùn)練來預(yù)測那些「最有勝算」的落子方向，從而大幅修剪需要搜索的「分枝」，讓系統(tǒng)能以極快的速度鎖定最佳走法。

這也正是當(dāng)年谷歌的AlphaGo的制勝法寶——

憑借這一機(jī)制，它在舉世矚目的對決中擊敗了人類圍棋冠軍。

參考資料：

https://www.nature.com/articles/d41586-025-03856-1

秒追ASI

?點(diǎn)贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點(diǎn)亮星標(biāo)，鎖定新智元極速推送！