文：城主

（完整版中英文精校視頻請(qǐng)關(guān)注本城同名B站號(hào)。）

AI界泰斗級(jí)人物Yann LeCun楊立昆昨天剛和硅谷科技圈第一播客Lex同學(xué)進(jìn)行了一次3小時(shí)的深度對(duì)話。本城第一時(shí)間學(xué)習(xí)了解，和大家一起分享巨頭的最新思考。

這段對(duì)話的核心,是Yann LeCun對(duì)人工智能未來發(fā)展的深度思考,特別是他對(duì)開源AI的潛力和挑戰(zhàn)的獨(dú)到見解。

LeCun可謂AI領(lǐng)域的"常青藤",他是Meta首席AI科學(xué)家、紐約大學(xué)教授、圖靈獎(jiǎng)得主,更是AI發(fā)展史上的開創(chuàng)性人物之一。一直以來,LeCun和他的團(tuán)隊(duì)都在大力支持和推動(dòng)開源AI的發(fā)展。他們毫無保留地分享了許多里程碑式的大模型,如Llama 2和即將推出的最新Llama 3。針對(duì)某些人對(duì)AGI(通用人工智能)迫在眉睫的危言聳聽,LeCun直言不諱地予以批駁。他堅(jiān)信AGI終有一天會(huì)問世,但那將是人類的福音,而非災(zāi)難。

在談到AI的未來時(shí),LeCun拋出了一些令人耳目一新的觀點(diǎn),尤其是針對(duì)GPT-4和即將發(fā)布的Llama-3等大型語言模型(LLM)的評(píng)論。他指出,盡管這些模型在語言處理上非常出色,但仍難以被視為"超人智能"的載體。因?yàn)樗鼈兩胁痪邆淅斫馐澜邕\(yùn)轉(zhuǎn)規(guī)律、把握物理法則、記憶檢索信息、持久儲(chǔ)存記憶、邏輯推理和行動(dòng)規(guī)劃等人類智能的關(guān)鍵要素。LeCun強(qiáng)調(diào),相比語言輸入,我們實(shí)際上更多地依靠感官輸入來認(rèn)知世界。換言之,我們的知識(shí)和認(rèn)知,很大程度上源自對(duì)客觀現(xiàn)實(shí)的觀察和交互,而非單純的語言學(xué)習(xí)。

LeCun進(jìn)一步剖析了LLM的局限性。在他看來,LLM無法像人類那樣進(jìn)行深度思考和周密規(guī)劃,它們只是本能地一個(gè)接一個(gè)地吐露詞句。他質(zhì)疑LLM是否真的構(gòu)建了一個(gè)內(nèi)在的世界模型,以及我們能否僅憑語言預(yù)測(cè)來塑造對(duì)世界的深刻理解。語言在信息傳遞上的"帶寬"和表現(xiàn)力有限,因此單靠對(duì)詞語序列的預(yù)測(cè),難以建立完善的認(rèn)知模型。與之相對(duì)的,是通過觀察世界,領(lǐng)悟事物演變的內(nèi)在邏輯。

LeCun特別以視頻預(yù)測(cè)為例佐證其觀點(diǎn)。過去十年,我們苦心孤詣地嘗試用視頻數(shù)據(jù)來訓(xùn)練生成模型,但收效甚微。究其原因,正如我們無法準(zhǔn)確預(yù)測(cè)特定語境下的下一個(gè)詞,我們同樣難以窮舉視頻中所有可能出現(xiàn)的幀。癥結(jié)在于,我們尚不知道如何高效地刻畫高維連續(xù)空間中的概率分布。

作為一種可能的解題思路,LeCun提出采用蘊(yùn)含潛變量的模型。這類模型能夠表征我們尚未感知、亟需補(bǔ)全的各類世界信息。然而,盡管這種途徑在像素預(yù)測(cè)上取得了不俗的效果,但在實(shí)踐中卻難以奏效。

LeCun還探討了訓(xùn)練系統(tǒng)學(xué)習(xí)圖像表征的難題。我們雖然掌握了一整套技術(shù),但在面對(duì)殘缺圖像時(shí),往往難以高質(zhì)量地復(fù)原。為了突破瓶頸,LeCun提出了一種"聯(lián)合嵌入"的新方法。其基本思路是,先用編碼器分別處理完整圖像和殘缺圖像,再訓(xùn)練一個(gè)預(yù)測(cè)器來預(yù)測(cè)完整圖像的表征。

在LeCun看來,通過自監(jiān)督學(xué)習(xí)掌握抽象表征,是智能系統(tǒng)的重要一環(huán)。我們不應(yīng)該只局限于對(duì)底層細(xì)節(jié)建模,而應(yīng)該在多個(gè)抽象層次上描述世界萬象。與此同時(shí),我們要盡可能多地從輸入中榨取信息,但又要避免提取那些難以預(yù)測(cè)的冗余。

有趣的是,"聯(lián)合嵌入預(yù)測(cè)"架構(gòu)竟然可以學(xué)到一些常識(shí),比如預(yù)測(cè)"搗蛋"的貓咪會(huì)如何激怒主人。這一架構(gòu)采用了"非對(duì)比"技術(shù),涵蓋基于蒸餾的BYOL(DeepMind)、Vicreg(FAIR)、iJEPA和DINO等方法。它們的共同點(diǎn)是,先將原始輸入(如圖像)編碼為特征表征,再對(duì)輸入施加擾動(dòng),然后訓(xùn)練一個(gè)預(yù)測(cè)器來擬合原始輸入的表征。

LeCun認(rèn)為,大型語言模型(LLM)在處理高階概念和規(guī)劃任務(wù)上大有可為,但在應(yīng)對(duì)底層操作和細(xì)節(jié)把控時(shí)則力有未逮。為此,我們需要借助JPEG這樣的工具,在不失真的前提下提升表征的抽象層次。盡管AI和LLM在語言應(yīng)用上初露鋒芒,但它們尚不具備人類智能的全部特質(zhì)。舉例來說,它們難以理解和模擬人類的共同經(jīng)歷,以及那些低階的物理知識(shí)。此外,LLM在推理能力上也有先天不足。因?yàn)樗鼈兊挠?jì)算開銷與輸出詞元的數(shù)量成正比,而與問題本身的復(fù)雜性無關(guān)。

LeCun為未來的AI系統(tǒng)設(shè)計(jì)指明了一個(gè)新方向:與其過度依賴自回歸預(yù)測(cè),不如在完善的世界模型基礎(chǔ)上開展推理和規(guī)劃。他堅(jiān)信,這一范式更接近人類的思維方式。面對(duì)錯(cuò)綜復(fù)雜的問題時(shí),我們會(huì)投入更多認(rèn)知資源,展開深入思考和縝密規(guī)劃。

這段對(duì)話還探討了基于能量的模型在互聯(lián)網(wǎng)領(lǐng)域的應(yīng)用前景,特別是在對(duì)話系統(tǒng)和語言模型中的潛力。這類模型可以度量某個(gè)回答對(duì)特定問題的契合度,進(jìn)而通過在可能解空間中尋優(yōu),輸出最佳答案。這一過程需要以語言模型為基座,在抽象表征空間中開展運(yùn)算。與其窮舉候選答案再擇優(yōu),不如直接在連續(xù)空間上應(yīng)用梯度下降,快速收斂至最優(yōu)解。這種優(yōu)化驅(qū)動(dòng)的方法已在視覺領(lǐng)域嶄露頭角,通過對(duì)良好輸入的表征進(jìn)行預(yù)測(cè),再基于預(yù)測(cè)誤差(即系統(tǒng)能量)迭代優(yōu)化。強(qiáng)化學(xué)習(xí),尤其在更新世界模型和目標(biāo)函數(shù)時(shí),也是一個(gè)不可或缺的利器。

LeCun還評(píng)論了帶人類反饋的強(qiáng)化學(xué)習(xí)(RLHF)的有效性。這一范式先訓(xùn)練一個(gè)質(zhì)量評(píng)估器,再通過反向傳播調(diào)整系統(tǒng)參數(shù),使其只輸出高分答案。針對(duì)外界對(duì)谷歌Gemini 1.5的種種詬病,尤其是它生成不實(shí)或敏感圖像、對(duì)部分話題避而不談的毛病,LeCun旗幟鮮明地指出,開源才是破解偏見和審查困局的金鑰匙。在他看來,一個(gè)零偏見的AI系統(tǒng)只能存在于理想國(guó),因?yàn)槠姳旧砭褪侵饔^的,見仁見智。與其另起爐灶,不如擁抱百花齊放的AI生態(tài)。未來,AI助手將無處不在,成為人機(jī)交互的"中間人"。

LeCun由此出發(fā),暢想了一個(gè)多元化的AI未來圖景。與其讓屈指可數(shù)的科技巨頭壟斷人類知識(shí)寶庫(kù),不如讓頂尖系統(tǒng)開放源代碼,供所有人使用和微調(diào)。他以與法國(guó)政府、印度Infosys公司創(chuàng)始人、非洲初創(chuàng)企業(yè)Kera的合作為例,闡釋了他推動(dòng)AI多樣性的不懈努力。

談到開源模型的商業(yè)前景,LeCun認(rèn)為大可不必過于悲觀。如果這些模型物有所值,即便免費(fèi)供應(yīng),公司也能從廣告和企業(yè)服務(wù)中獲利。他坦言,科技巨頭如今困局重重,內(nèi)有不滿的員工、狂躁的高管、內(nèi)訌的董事會(huì),外有壓力團(tuán)體、極端主義監(jiān)管機(jī)構(gòu)、政府機(jī)構(gòu)、媒體輿論的接連炮轟,種種亂象無不消解組織的戰(zhàn)斗力。

歸根結(jié)底,LeCun篤信開源和多元是祛除AI系統(tǒng)偏見和審查之弊的兩劑良方。只要在系統(tǒng)中設(shè)置合理的"護(hù)欄",我們就能讓AI助手更安全、更純凈。即便在仇恨言論和危險(xiǎn)言論這樣的灰色地帶,適度的微調(diào)也許是個(gè)不錯(cuò)的權(quán)宜之計(jì)。

值得欣慰的是,盡管有學(xué)者對(duì)AI系統(tǒng)(尤其是語言模型)的社會(huì)影響表示擔(dān)憂,但有理有據(jù)的證據(jù)尚不多見。比如,迄今為止,還沒有確鑿的案例表明LLM會(huì)慫恿用戶制造生化武器。要知道,炮制這類武器需要實(shí)打?qū)嵉膶I(yè)知識(shí),而這恰恰是LLM的知識(shí)盲區(qū)。

展望未來,LeCun對(duì)即將發(fā)布的Llama 3和后續(xù)版本充滿期待。作為真正意義上的開源AI系統(tǒng),它們有望在感知、記憶、規(guī)劃、推理等方面不斷突破,最終邁向人類水平的通用智能。當(dāng)然,實(shí)現(xiàn)這一宏偉藍(lán)圖需要軟硬件的協(xié)同進(jìn)化。

對(duì)于AI可能帶來的災(zāi)難性后果,LeCun并不十分認(rèn)同。在他看來,AI系統(tǒng)不大可能成為一個(gè)威脅人類的物種,因?yàn)樗鼈儧]有爭(zhēng)奪主導(dǎo)權(quán)的野心。不過,AI武器化的風(fēng)險(xiǎn)卻是實(shí)實(shí)在在的,因?yàn)樗鼈兡茏笥胰诵?控制民意。隨著AI助手不可逆轉(zhuǎn)地介入人機(jī)交互的方方面面,這種威脅只會(huì)與日俱增。

此外,LeCun還從社會(huì)學(xué)的視角解讀了新技術(shù)的沖擊波。面對(duì)顛覆性的文化運(yùn)動(dòng)或技術(shù)革命,人們往往會(huì)產(chǎn)生一種本能的恐懼,唯恐自己的文化、工作、孩子的未來和生活方式受到波及。

最后,LeCun暢想了人工智能在機(jī)器人領(lǐng)域的美好前景。他認(rèn)為,機(jī)器人將在未來十年大放異彩。盡管業(yè)界對(duì)機(jī)器人寄予厚望已久,但除了一些預(yù)設(shè)程序,鮮有革命性的突破。癥結(jié)還是出在如何讓系統(tǒng)理解世界運(yùn)轉(zhuǎn)的規(guī)律,并據(jù)此制定行動(dòng)計(jì)劃。為了解決這個(gè)難題,LeCun首先闡釋了分層規(guī)劃的概念,并以從紐約到巴黎的旅行為例,形象地說明了如何通過逐層分解來達(dá)成目標(biāo)。在此基礎(chǔ)上,他進(jìn)一步探討了如何利用認(rèn)知和深度學(xué)習(xí)來訓(xùn)練系統(tǒng)學(xué)習(xí)分層感知表征,以及如何將這種學(xué)習(xí)應(yīng)用到行動(dòng)規(guī)劃中去。

LeCun由衷地憧憬,AI終有一天能提升全人類的智力水平,就好比每個(gè)人身邊都有一幫比自己更聰明的AI助手。它們俯首帖耳,言聽計(jì)從,還能以更高效、更優(yōu)質(zhì)的方式執(zhí)行任務(wù)。屆時(shí),每個(gè)人都像是一群"超級(jí)員工"的領(lǐng)導(dǎo)者。

LeCun還將AI的普及與印刷術(shù)的發(fā)明相提并論,認(rèn)為二者都是讓人類"腦洞大開"的重大突破。當(dāng)然,這兩項(xiàng)技術(shù)也可能引發(fā)一些連鎖反應(yīng),如宗教沖突和就業(yè)市場(chǎng)的結(jié)構(gòu)性調(diào)整。

但歸根結(jié)底，LeCun對(duì)人性和AI的未來前景保持樂觀。他篤信人性向善的本質(zhì),也相信AI能放大人類的善意。