Jay 李根 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
Harness（馴馬）會成為這個（AI）時代最關(guān)鍵的能力之一。

這是小馬智行CTO樓天城，在與量子位的對話中，給出的最新判斷。

在他看來，如今的AI越來越像一匹脫韁野馬。它開始學(xué)會了「調(diào)用」：調(diào)用工具、調(diào)用skills……因此能通過這些腳手架，自我演進(jìn)，和人類打配合。

主動性和能量大幅提升，未來甚至連人類，都可能成為被「調(diào)用」的一環(huán)。

樓教主表示，當(dāng)「AI司機(jī)」也和Coding Agent一樣學(xué)會了使用工具，人類工程師的角色，會逐漸從「教練」轉(zhuǎn)變?yōu)椤笀?zhí)行者」。

這種情況下——

人和AI的關(guān)系，必須重新思考了。

這也是小馬智行發(fā)布PonyWorld世界模型2.0的根本原因。

自動駕駛，即將進(jìn)入一個AI主導(dǎo)、AI評測、并「調(diào)用」人類協(xié)助的新時代。

這個趨勢是確定的，畢竟，人類想要趕上模型的迭代速度，太難了。

連強(qiáng)悍如樓教主這樣的工程師都坦言：

開發(fā)的主導(dǎo)權(quán)，會逐步交給AI。

是的，一個頂尖的人類程序員，此刻卻在宣告：即便是天之驕子般的工程師，也必須將研發(fā)的主導(dǎo)權(quán)拱手相讓。

聽起來多少有些殘酷。

但這就是教主樓天城和小馬智行10年創(chuàng)業(yè)歷程里，目前為止最直接的結(jié)論。開發(fā)時代的范式，正在發(fā)生方向性的質(zhì)變。

關(guān)于這個問題，或許可以用樓天城在訪談中反復(fù)提及的一個詞回答——

大勢所迫。

被技術(shù)瓶頸所迫，被消費(fèi)者的期望所迫，被自動駕駛的終局所迫，被小馬智行十年來始終渴望實現(xiàn)的藍(lán)圖所迫。

而這個被逼出來的模型，叫作PonyWorld世界模型2.0。

這是一場自動駕駛開發(fā)范式革命中，必須被倒逼出來的一次投影。

而且隨這種趨勢打開的還有小馬智行的2.0時代，以自動駕駛出發(fā)的PonyAI，現(xiàn)在已經(jīng)到了開啟更大空間探索的時刻，通往物理AGI的道路已經(jīng)被打開。

以及，樓教主的觀點(diǎn)是：我們已經(jīng)在路上了。

PonyWorld世界模型2.0深度解析

人類駕駛數(shù)據(jù)的價值，正在逐步歸零。

并非思維實驗。這個曾經(jīng)看似遙遠(yuǎn)的未來，如今已成為小馬智行一切技術(shù)研發(fā)的出發(fā)點(diǎn)。

當(dāng)AI司機(jī)的安全性全面超越人類，再讓人類工程師手把手教AI開車，無異于讓業(yè)余棋手去輔導(dǎo)AlphaGo。

雖然從行業(yè)發(fā)展角度來看是件可喜可賀的事，但回想2020年，難免不有些讓人唏噓。

那基本是「模仿學(xué)習(xí)」的時代。無論自動駕駛還是人工駕駛，核心都是為了收集海量數(shù)據(jù)，讓系統(tǒng)去模仿人的行為。

整個行業(yè)都在用影子模式收集海量人類駕駛數(shù)據(jù)，試圖大力出奇跡。

但奇跡沒有來。

模仿學(xué)習(xí)的天花板，就是人類本身。

而L4級自動駕駛是無法靠人類兜底的，這個幾乎零容錯的終局要求，遠(yuǎn)比「像人一樣開車」嚴(yán)苛得多。

這也是2020年P(guān)onyWorld世界模型1.0啟動的契機(jī)。

他們想給機(jī)器一個超越人的空間。通過創(chuàng)造一個虛擬駕校，讓機(jī)器在里面自己摸索怎么開車，做強(qiáng)化學(xué)習(xí)。

不過，隨著能力的進(jìn)一步躍升，另一個尷尬的問題隨之浮現(xiàn)。

當(dāng)AI駕駛能力已經(jīng)遠(yuǎn)超人類時，人類給AI的指導(dǎo)，很可能是錯的……

一旦AI超過了人，人其實已經(jīng)失去了評判權(quán)。因為我們無法再判斷誰更好、誰更差。

在這種情況下，只有AI自己，能窮盡人類所不能察覺的維度，精準(zhǔn)定位到底哪里出了問題。

也就是說，讓AI來識別并指導(dǎo)AI。

這是AI時代的「圖靈測試」。

基于這個理念，小馬對1.0進(jìn)行了一次開發(fā)范式的全面重構(gòu)，帶來了PonyWorld世界模型2.0。

人類不再是這個閉環(huán)的中心，AI，正式成為總教練。

自我診斷，是這套系統(tǒng)進(jìn)化的核心引擎。

目前行業(yè)里大熱的VLA（視覺-語言-動作）路線，核心邏輯是在感知與動作之間硬塞進(jìn)一個語言模型——讓AI先把路況「翻譯」成文字，再基于文字生成動作。

但語言，本質(zhì)上是對復(fù)雜4D物理時空的一種極度降維的「扁平投影」。雖然它提升了信息的傳播效率，卻不可避免地丟棄了大量珍貴的物理世界上下文。

這種架構(gòu)，從誕生的那一刻起，就注定了它的上限。

為此，小馬智行選擇跳過「語言」這個中間商，讓傳感器數(shù)據(jù)直接映射為駕駛動作。

這不僅大幅削減了算力消耗，更讓物理數(shù)據(jù)的收集與世界模型精度的提升變得前所未有的高效。

但這并不意味著放棄了「可解釋性」和「語義推理」。

小馬在車端模型的訓(xùn)練中，引入了一個比語言更接近駕駛本質(zhì)的中間層——Intention（意圖）語義層。

真正的老司機(jī)在緊急避險時，腦海里絕不會先默念一段臺詞。

「前方有障礙物，我要向左打方向……」等把這些可能性都在腦海里推理一遍，黃花菜都涼了。

面對瞬息萬變的路況，人類高手是直接產(chǎn)生「意圖」。

這正是PonyWorld世界模型2.0想要復(fù)刻的本能。

模型在做出每一個駕駛動作的同時，其內(nèi)部會同步生成結(jié)構(gòu)化的意圖表達(dá)。翻譯成人類能懂的語言，就是：

我選擇在路口前減速等待，是因為右前方那個行人正在走向斑馬線，我預(yù)判他大概率會橫穿。

請注意，這些意圖信息不是事后用另一個模型「解釋」出來的，也不是推理過程中額外插入的累贅，而是在訓(xùn)練階段就與駕駛動作被聯(lián)合學(xué)習(xí)的原生能力。

而當(dāng)這個意圖層被解鎖時，將會帶來一個此前鮮被討論的殺手锏：

它可以被無限生成。

世界模型本身就是生成模型，我們可以基于意圖去反向生成任何意圖組合對應(yīng)的虛擬場景，讓AI在所有可能的意圖排列組合中接受高強(qiáng)度的「特訓(xùn)」。

這帶來了一個根本性的差異。

人類開車時，通常只能對其他交通參與者做「最大似然估計」——覺得最有可能發(fā)生什么，就按什么反應(yīng)。

但小馬的AI司機(jī)擁有比人類長得多的上下文記憶能力，這是AI的天賦。它不需要靠「直覺」這種玄乎的東西，而是可以同時Keep in mind所有可能的意圖組合，再進(jìn)行綜合決策。

系統(tǒng)可以自動回溯每一次決策，精準(zhǔn)定位偏差究竟出在哪一層。

這些數(shù)據(jù)在真實世界中是無法被收集的，畢竟，誰會告訴你他剛才打方向盤的時候到底在想些啥啊。

當(dāng)AI補(bǔ)全了這塊長期的數(shù)據(jù)空缺，模型的自我診斷能力，無疑將迎來質(zhì)的飛躍。

這直接帶來了第二個核心突破：定向進(jìn)化。

以前想提升世界模型的精度，路子很野，叫「廣撒網(wǎng)」。

全無人車隊到處跑，數(shù)據(jù)全量回傳，然后指望工程師憑經(jīng)驗去「沙里淘金」。

但車隊規(guī)模一旦從百輛沖到千輛，這招就不靈了。絕大多數(shù)數(shù)據(jù)對提升精度沒啥用，只會變成昂貴的存儲垃圾，白白燒錢。

PonyWorld世界模型2.0徹底反轉(zhuǎn)了這個邏輯。

當(dāng)系統(tǒng)自我診斷發(fā)現(xiàn)模型在某個場景下「心里沒底」——比如某幾個路口每到傍晚逆光時，模型對特定障礙物的模擬置信度就開始跳水——它會自動生成一個定向采集任務(wù)，直接給測試團(tuán)隊派單：

請在未來一周內(nèi)，于下午4:30-5:30之間，在指定路口重點(diǎn)采集逆光條件下非機(jī)動車與行人混行場景數(shù)據(jù)。

隨后，研發(fā)人員、測試工程師、運(yùn)營團(tuán)隊……整個組織開始圍繞世界模型2.0的「精度需求」運(yùn)轉(zhuǎn)。AI說哪里差點(diǎn)意思，人類就去補(bǔ)哪塊數(shù)據(jù)。

人類工程師的角色，從手握教鞭的「駕校教練」，變成了聽命行事的「AI數(shù)據(jù)采集員」。

研發(fā)節(jié)奏不再由人類經(jīng)驗驅(qū)動，而是由AI根據(jù)自身進(jìn)化需求，自動生成。

值得注意的是，這里有個前提：

即便是做「AI的數(shù)據(jù)采集員」，也極度考驗人類對AI的駕馭能力。

人類并沒有完全退出Loop（AI進(jìn)化的閉環(huán)流程），只是角色變了。

未來，怎么駕馭AI這匹脫韁的野馬，既讓它按自己的意志行動，又能保留它自我演進(jìn)的能力，將是人才最需要具備的特質(zhì)。

而對小馬來說，同樣可以預(yù)見的未來是：

接入2.0的自我診斷和定向進(jìn)化能力后，無疑會給小馬智行已有的「飛輪」，再狠狠踩一腳油門。

而核心燃料，正是L4全無人車隊在真實交通中運(yùn)營產(chǎn)生的數(shù)據(jù)。

AI會遇到人類司機(jī)不容易遇到的場景。

通常而言，人類司機(jī)在意識到旁邊是AI車時，反應(yīng)模式會變。有人會更敢加塞，有人會更愿意配合，也有人會試探它的邊界。

因此，世界模型不僅要模擬人和人之間的交互，還得模擬人和AI之間的交互，尤其當(dāng)AI的開法并不完全像人時，這件事就更有必要了。

而這種數(shù)據(jù)，只有像小馬這樣跑全無人Robotaxi的公司才能采集到——

大規(guī)模L4無人車隊商業(yè)運(yùn)營，產(chǎn)生真實世界的高價值數(shù)據(jù)；世界模型據(jù)此提升精度；車端模型持續(xù)增強(qiáng)；更強(qiáng)的模型支撐更大規(guī)模部署；更大規(guī)模部署又產(chǎn)出更多高精度數(shù)據(jù)。

循環(huán)往復(fù)，自我加速。

如今，小馬智行已經(jīng)積累了千萬公里級的多城市純無人駕駛數(shù)據(jù)。

數(shù)據(jù)量級是對結(jié)果的一種印證，而這個過程中所積累的經(jīng)歷和Know-How，同樣是一筆寶貴的財富。

當(dāng)然，一切的一切，最終還是得回到技術(shù)。

而負(fù)責(zé)技術(shù)的小馬智行CTO樓天城，給出了許多細(xì)節(jié)和實踐認(rèn)知。

對話樓天城

量子位：以前你們一直用安全、舒適、效率這些指標(biāo)，之前是人來定義?，F(xiàn)在聽起來，更像是AI在決定了。

樓天城：整體架構(gòu)最早當(dāng)然還是人搭的，安全這些指標(biāo)也一直都在。

但后來，我們通過學(xué)習(xí)的方式，訓(xùn)練了一些模型去做評價。

關(guān)鍵在于：AI為什么做得不好，問題到底出在哪。這件事現(xiàn)在人已經(jīng)不太能判斷準(zhǔn)了，AI來當(dāng)這個醫(yī)生更合適。

量子位：核心原因不是人有短板，是AI進(jìn)化得太強(qiáng)了。

樓天城：或者說人現(xiàn)在也很難再有什么進(jìn)步（笑）。

但AI可以依靠非常長的context（上下文），讓自己的理解能力變得特別強(qiáng)。

以前是人來判斷，現(xiàn)在是AI來判斷。收集之后夠不夠、還要不要繼續(xù)改、這次改得好不好……這些關(guān)鍵決策點(diǎn)，正在逐步被AI接管。

量子位：所以人真的成了「工具人」（笑）。

樓天城：或者說，我們把人的精力放到了其他同樣重要的事情上。至于判斷這件事，就交給更擅長判斷的AI。

這樣做最大的意義就是突破天花板。如果今天還繼續(xù)靠人來做，很多時候可能已經(jīng)沒法推動系統(tǒng)繼續(xù)正向進(jìn)步了。

量子位：主導(dǎo)權(quán)交給AI，這里面會不會出現(xiàn)幻覺？

樓天城：幻覺這個詞最早是從大語言模型那邊來的。

過去兩年已經(jīng)有太多例子說明，Scaling Law這條路，也就是單純加數(shù)據(jù)，并不能解決幻覺。到今天，幻覺比例依然不低。

真正需要的是別的東西。比如對系統(tǒng)加限制，讓它自我迭代、自我演進(jìn)。

要讓它自己意識到哪里有問題，然后自己去改進(jìn)。

量子位：怎么意識到？

樓天城：它知道結(jié)果不對。比如因為幻覺導(dǎo)致最后撞了，或者發(fā)生了急剎，它就會回溯前面哪幾步出了問題，然后再去改。

量子位：在自動駕駛里，幻覺問題是不是相對更容易處理一些？畢竟交通規(guī)則還是比較完備的。

樓天城：它確實相對更容易被壓低，但問題在于，在真實世界中，幻覺帶來的代價非常高。

量子位：PonyWorld世界模型2.0是一個升維概念，整個AI在訓(xùn)練AI，AI在驅(qū)動一切。那怎么確保系統(tǒng)始終安全？

樓天城：有一整套非常精確的評價體系，來判斷問題發(fā)生的概率到底是多少。

我們會告訴它什么是好的、什么是不好的，但不會直接告訴它具體該怎么評價。最終我們看到的是，指標(biāo)在持續(xù)提升。

還有一點(diǎn)，就算讓AI來判斷，它判斷得也比人更準(zhǔn)。隨著系統(tǒng)持續(xù)進(jìn)化，人可能連某個問題到底是不是幻覺，都判斷不過AI了。

到今天為止，所有基于概率的模型都還做不到徹底消除幻覺。但讓AI來驅(qū)動改進(jìn)，比讓人來驅(qū)動，速度快得多，天花板也高得多。

量子位：世界模型2.0對系統(tǒng)訓(xùn)練的速度和效率有了質(zhì)的提升，那在落地層面，是不是也意味著質(zhì)的提升？

樓天城：（停頓2秒）這是多方面的。

首先，落地不再只是局限在固定區(qū)域，而是可以走向更多區(qū)域、更繁忙的路段，比如高峰期，還有那些我們原來并不熟悉的國家和市場。

這里可以用一個詞，叫superset。在這些新地方遇到的很多場景，其實只是原有世界模型的一個子集。所以系統(tǒng)在新區(qū)域啟動時，會更有底。

另外一個變化，是大家的預(yù)期在提高。早年大家會覺得自動駕駛偶爾犯傻也能接受，但現(xiàn)在大家要求已經(jīng)高很多了。這也是長期商業(yè)化推進(jìn)里很關(guān)鍵的因素。

量子位：每個地方的駕駛行為和容忍度都不一樣。有些地方讓行人，有些地方加塞很激烈，這會影響系統(tǒng)嗎？

樓天城：這些其實都可以看作子集。

這些組合在世界模型里其實都已經(jīng)出現(xiàn)過，只是在不同地方，它們的概率分布不一樣。這個地方更保守一點(diǎn)，那個地方更激進(jìn)一點(diǎn)，但兩種場景本身都已經(jīng)在世界模型里存在了。

量子位：能不能理解成，北京訓(xùn)練出來的司機(jī)和廣州訓(xùn)練出來的司機(jī)，風(fēng)格上還是會有差別？

樓天城：在L4這個層面，其實不需要特別明顯的差異。

L4真正要解決的，是在一萬小時駕駛里，那些因為風(fēng)格不同或者極端行為導(dǎo)致的危險場景。而這些危險場景在很多地方，哪怕是海外，其實都沒有本質(zhì)上的巨大差異。

有些地方開車猛一點(diǎn)，有些地方保守一點(diǎn)，但真正到出事的時候，其實都是一樣的。

這可能和L2不同。輔助駕駛更在意不同地區(qū)整體的駕駛習(xí)慣，但L4更關(guān)注極端場景，而這些極端場景的分布其實非常一致。

所以去新地方，并不需要太多額外操作。

量子位：世界模型2.0發(fā)揮作用之后，對車端傳感器方案和算力會有什么影響？

樓天城：先說傳感器，這里面核心是成本。

如果我們希望使用更便宜、更標(biāo)準(zhǔn)化的傳感器，那它們在質(zhì)量上一定會有一些不足。比如在特別復(fù)雜的雨天環(huán)境里，標(biāo)準(zhǔn)化傳感器可能就會比高端傳感器差一些。

這確實需要世界模型繼續(xù)進(jìn)步，在生成階段把這些問題也納入進(jìn)去。不過這項技術(shù)我們已經(jīng)做完了，現(xiàn)在已經(jīng)可以比較好地使用標(biāo)準(zhǔn)化傳感器。

再說算力。通常兩三倍的差距不會帶來本質(zhì)變化，除非是100倍這種量級，才可能真的改變很多事情。但100倍本身也不是個簡單數(shù)字。

大多數(shù)時候，兩三倍這種差異，主要還是通過訓(xùn)練范式、開發(fā)范式和模型結(jié)構(gòu)去消化。

量子位：10年前大家最常說的詞是corner case，也就是極端場景。當(dāng)時大家一直在討論到底能不能窮盡它?，F(xiàn)在世界模型是不是找到了一條能解決，或者說能窮盡極端場景的路徑？

樓天城：更準(zhǔn)確地說，是窮盡這些場景里的intention（意圖）分布。

場景本身并沒有那么多變種，但我們不能說自己已經(jīng)窮盡了全部場景。真正無限變化的，其實是不同物體之間的意圖組合。

同樣的場景、同樣的狀態(tài)，因為不同參與者的意圖不同，就會形成非常多的組合。世界模型真正能做的，是把這些意圖組合窮盡掉。

（停頓……）

在現(xiàn)實世界做這件事，是不可能的。

意圖數(shù)據(jù)本身就很難收集，你不可能在真實道路上要求所有人按照某種設(shè)定好的意圖去行動。

但在虛擬環(huán)境中，我們可以強(qiáng)制設(shè)定意圖。

量子位：你們博客里有一句話讓我印象很深，在AI駕駛能力超過人類實際水平之后，普通人類數(shù)據(jù)對世界模型精度提升的價值會趨近于零。這是一個數(shù)據(jù)層面的洞察，還是認(rèn)知層面的洞察？

樓天城：這個認(rèn)知其實已經(jīng)存在一段時間了。而且我甚至覺得，如果系統(tǒng)已經(jīng)做得很好，那這個價值不只是趨近于零，甚至可能是負(fù)的。

量子位：??？（驚訝臉）

樓天城：本質(zhì)上其實是是AI發(fā)展階段變了。AI會經(jīng)歷從不如人，到接近人，再到超過人，然后繼續(xù)自我改進(jìn)的過程。

當(dāng)人已經(jīng)明顯比AI差的時候，人提供的很多數(shù)據(jù)反而會把一些不該有的壞習(xí)慣帶進(jìn)來。

AI剛超過人的時候，可能整體行為看起來還和人很像，只是它在那些和人不一樣的地方做得更好。但恰恰是這些不一樣的場景，人已經(jīng)沒法準(zhǔn)確判斷到底是好還是不好了。

有點(diǎn)像老師。早期當(dāng)然很感謝老師教了很多東西，但真正到了做研究的階段，老師其實已經(jīng)幫不上太多了，更不需要再把早年的東西一遍遍重新灌給你。

接下來，需要AI自己去生成。

這就好像你沒法教AlphaGo下圍棋，就算讓我教，我也教不了?。ń讨鳠o奈）。

量子位：有一種說法是，真正高級的AI司機(jī)，可能會在多車道變道時，直接從第一車道切到第四車道……

樓天城：（打斷）這其實要看具體情況。

如果路上視野特別好，看得很清楚，沒有遮擋，那它這么做也許完全合理，甚至可能就是最優(yōu)解。

但換個場景，就不能這么做。有時候人類司機(jī)沒有意識到潛在風(fēng)險，因為整個過程需要時間，而且前方可能有遮擋，只是恰好沒碰上問題。但AI可以意識到這些潛在因素。

而且人本來就是千人千面。AI還得先判斷「到底該學(xué)誰」，對吧？

因為有些人會這樣開，有些人不會。

量子位：所以現(xiàn)在讓AI教AI怎么學(xué)，也能避免學(xué)到這些危險行為？

樓天城：AI一旦不再以開得和人一樣為目標(biāo)，而是以開得更好為目標(biāo)，它自然就會意識到這些風(fēng)險因素必須納入考慮。

但AI教AI最根本的一點(diǎn)，還是它要繼續(xù)告訴自己，哪里開得不夠好，然后持續(xù)改進(jìn)。當(dāng)AI已經(jīng)明顯超過人之后，要再往上提升，就必須讓AI來驅(qū)動很多事情。

量子位：你這個洞察，好像也回應(yīng)了L2到底能不能升到L4這個問題。如果只是不斷模仿和學(xué)習(xí)人的駕駛方式，是到不了L4的，對嗎？

樓天城：我確實說過類似觀點(diǎn)，但這個問題要分技術(shù)和產(chǎn)品兩個維度來看。

從技術(shù)上說，不能簡單把某條路徑打成L2技術(shù)。今天很多公司也在做強(qiáng)化學(xué)習(xí)。我當(dāng)時真正想表達(dá)的是，只靠收集人類駕駛數(shù)據(jù)，做不到L4。

這一點(diǎn)今天其實已經(jīng)成了共識。幾乎所有公司都在談強(qiáng)化學(xué)習(xí)、談世界模型。大家都發(fā)現(xiàn)，只靠大量車在路上跑、收集人類數(shù)據(jù)，這件事幫不了L4。

簡單說，不是L2一定走不到L4，而是沿著L2那條純模仿的技術(shù)路徑，它本身幫不了你實現(xiàn)L4。完全沒做過L2的公司也一樣可以做L4。

從產(chǎn)品角度看，又是另一回事。隨著L2越來越安全，用戶會慢慢產(chǎn)生一種差不多可以了的感覺。這種trust會導(dǎo)致一個問題，就是在需要接管的時候，用戶反而接不過來。

這也是為什么L2開得越好，反而在產(chǎn)品層面會引出新的風(fēng)險。技術(shù)上的瓶頸和產(chǎn)品上的風(fēng)險，其實是兩件事。

量子位：有人說你給VLA判了死刑。

樓天城：如果不看中間過程，只說自動駕駛最終形態(tài)……

應(yīng)該，沒有L的空間（語速放緩）。

因為從效率上看，L并不是V和A之間最有效的中間層。今天我們已經(jīng)能找到更好的layer（層）。

它可能對某些中間階段是有用的，但我討論的是終局。在終局里，VLA里的L不是最終的連接方式。

即便未來中間層還會保留一些語義推理能力，那也不太可能還是human language（人類語言）這種L，更可能是一些新token。

intention可能不是一種token，但本質(zhì)上，這已經(jīng)證明它是更好的中間層。以后也許還會有別的。

所以最終來看，L不會是V和A之間真正長期存在的橋梁。

量子位：那中間階段呢？

樓天城：中間階段它當(dāng)然是不錯的。我沒說中間階段沒有機(jī)會，只是說最終形態(tài)不會是這樣。

量子位：但確實已經(jīng)有一些做VLA的系統(tǒng)，跑出了不錯的效果。

樓天城：對。但很多時候，VLA本身也在變，尤其是L在變，它已經(jīng)不再是傳統(tǒng)意義上的human language了。

VLA一開始之所以成立，是因為人類語言數(shù)據(jù)最好收集，所以它是個很好的起點(diǎn)。但再往后看，從工程實踐和產(chǎn)業(yè)發(fā)展的角度，L扮演的角色會越來越少。

量子位：你也提到，世界模型2.0讓工程師的角色發(fā)生了變化。在信息AI領(lǐng)域，大家會討論超級對齊。那在物理AI或者自動駕駛里，有沒有對齊這個概念？

樓天城：此對齊非彼對齊。這里真正需要對齊的，是對什么叫開得好的標(biāo)準(zhǔn)，而不是和人的駕駛行為做對齊。

如果你說的是行為上的對齊，那我們早就不追求那個了，而且那也不是正確方向。但什么叫「好」，這件事還是需要人的參與。

當(dāng)然，人能提供的關(guān)于好與不好的維度，其實是很有限的。AI很早就已經(jīng)基于這些維度做了大量擴(kuò)展，而且做得更好。但它不會違反人設(shè)定的這些基本維度。

這在技術(shù)上未必叫對齊，但它可以實現(xiàn)類似對齊的效果。它對齊的是評價標(biāo)準(zhǔn)，而不是駕駛行為。

所以它的駕駛行為本身，絕對不會再照著人類怎么開來學(xué)。

人會先給出最基本的原則，但再往上更細(xì)的東西，人其實也給不出來了。AI就在這些原則之上，把事情做得更好。

量子位：假設(shè)未來要給火星設(shè)計一套新的駕駛系統(tǒng)或者交通系統(tǒng)，是不是那時候就該由AI來設(shè)計？

樓天城：（教主漫長停頓5秒）

好問題。

短期內(nèi)……不會發(fā)生。

很長一段時間里，人類駕駛和自動駕駛還會共存，所以系統(tǒng)還是必須建立在現(xiàn)有交通規(guī)則之上，不能違反任何規(guī)則。

當(dāng)然，如果未來真的出現(xiàn)一種完全不同于今天的新交通體系，那空間就會被打開。但那可能要等到絕大多數(shù)車都已經(jīng)是自動駕駛之后，才會慢慢開始。

如果真到了火星，而且是一個全自動駕駛環(huán)境，那就完全是另一套故事了。但這件事還非常遠(yuǎn)。

量子位：我自己平時也開輔助駕駛的車?，F(xiàn)在很多車會亮藍(lán)燈，表示處于智能駕駛狀態(tài)。如果我要加塞，我會優(yōu)先挑藍(lán)燈的車去加。因為現(xiàn)在交通系統(tǒng)里，最復(fù)雜的bug，其實往往是人類駕駛員自己。

樓天城：人現(xiàn)在很多時候更愿意和AI配合，而不是和人配合。

我以前常用AlphaGo來舉例。下棋的時候它是對抗關(guān)系，但到了配合場景里，你會發(fā)現(xiàn)人其實更喜歡和AI合作。

AI更懂人，而人也會越來越懂AI。

量子位：你們提到，研發(fā)人員正在變成世界模型的數(shù)據(jù)員。

樓天城：更準(zhǔn)確地說，是一部分人會變成這樣。另一部分人，比如做車載模型部署和優(yōu)化的，還是在做別的同樣重要、甚至更重要的事。

量子位：你們一直以天才團(tuán)隊著稱。當(dāng)AI開始承擔(dān)一些高水平研發(fā)角色，會不會降低未來自動駕駛行業(yè)對天才的需求？

樓天城：這已經(jīng)不只是自動駕駛的問題了。

核心在于，人必須學(xué)會用新的方式和AI配合。在AI擅長的地方，讓AI主導(dǎo)；在AI不擅長的地方，人去想辦法駕馭它。

這不是某個行業(yè)、某家公司單獨(dú)面臨的變化，而是整個AI發(fā)展到今天，人都必須做出的改變。真正懂得怎么駕馭AI的人，才會成為下一代真正有價值的人才。

這是一次非常大的技術(shù)革命。

量子位：但如果我們把視野放回自動駕駛，當(dāng)AI開始能替代天才工程師，自動駕駛的入局門檻似乎正在降低，因為對人才密度的要求沒那么高了。

不過，你們在構(gòu)建世界模型2.0的過程中，又依賴了大量運(yùn)營車輛、反饋數(shù)據(jù)、精度迭代和整個世界模型閉環(huán)……

這樣看，入局的壁壘好像反而又更高了（困惑臉）？

樓天城：其實更準(zhǔn)確的說法，是優(yōu)勢發(fā)生了轉(zhuǎn)移。

當(dāng)然還是需要很多頂尖人才，但他們做的事情會和以前不太一樣。過去的技術(shù)優(yōu)勢，會逐步轉(zhuǎn)化成更全面的優(yōu)勢。

量子位：假設(shè)你已經(jīng)知道了今天這些關(guān)于世界模型的洞察，如果重新做一次自動駕駛，會有什么不同？

樓天城：世界上沒有時光倒流這種機(jī)會（笑）。

但有些認(rèn)知，確實要走到一定階段之后才會慢慢形成。比如早年很多公司都覺得，只要不斷收集人類數(shù)據(jù)、不斷模仿，就能把事做成。到了今天，幾乎所有人都已經(jīng)認(rèn)可強(qiáng)化學(xué)習(xí)的重要性。

但很多公司的車可能還沒有發(fā)展到那個階段，也就是還沒強(qiáng)到讓人徹底判斷不了好壞，所以他們還會覺得現(xiàn)有研發(fā)方式能繼續(xù)用下去。也許等再往后走，他們也會有類似認(rèn)知。

如果真的能帶著今天的記憶回到過去，可能確實能少走一些彎路。但現(xiàn)實是，一個團(tuán)隊也必須靠自己一步步意識到這些事情。

沿著原來的方法走，我們Pony自己也走了4年模仿學(xué)習(xí)。這些經(jīng)歷不是沒用，恰恰是因為走過了，才真正理解為什么必須走向強(qiáng)化學(xué)習(xí)。我們也長期依靠人來主導(dǎo)開發(fā)，正因為做過，才真正理解為什么要把更多事情交給AI。

量子位：所以說你們這十年自動駕駛的探索過程……

樓天城：（提前預(yù)判）這個問題問得很好。

也許知道整個發(fā)展過程，才是一家公司真正的壁壘。

（停頓3秒）

一步步走到現(xiàn)在，經(jīng)歷過那些Know-How，經(jīng)歷過那些鉆研，才知道下一步該怎么走。

整個過程本身，就是一筆非常獨(dú)特的財富。

量子位：Scaling Law在你們的探索過程中起什么作用？

樓天城：在數(shù)據(jù)量還比較小的時候，增加數(shù)據(jù)當(dāng)然有幫助。

但當(dāng)數(shù)據(jù)量上來之后，尤其是在自動駕駛這種出錯代價非常高的場景里，已經(jīng)被多次證明，單靠加數(shù)據(jù)幫助很有限。

真正需要的，是訓(xùn)練范式和模型結(jié)構(gòu)層面的改變。不是說Scaling Law沒用，而是它在早期作用更大，到了后期，決定上限的已經(jīng)是其他因素了。

量子位：你們在博文里提到，未來不會只局限在自動駕駛這個場景。核心原因是什么？

樓天城：我一直認(rèn)為，自動駕駛是物理AI里最先鋒的應(yīng)用。

如果連先鋒應(yīng)用都做不好，那別的應(yīng)用遲早也會遇到同樣的問題。

而世界模型本身也有不同階段的演化。到了下一階段，很自然就要融入更多物理定律。這個能力建設(shè)，會讓我們有機(jī)會去做更多物理AI應(yīng)用，也能創(chuàng)造更多價值。

還有一個很關(guān)鍵的點(diǎn)，就是人和AI之間關(guān)系的變化。

最近幾個月，大家都在盯著AI寫代碼，AI coding成了熱點(diǎn)。它開始具備一定的自我演進(jìn)能力，調(diào)用工具的能力也越來越強(qiáng)。

這時候，人和AI的關(guān)系就必須重新思考了。

我自己其實早就跳出了當(dāng)年那種人教AI的圖靈測試式想象。越來越多事情，已經(jīng)可以由AI來主導(dǎo)了。比如世界模型2.0，本質(zhì)上就是AI在主導(dǎo)研發(fā)。

那再往外想，整個公司的其他策略，比如商業(yè)化、宣傳，是不是未來也可以由AI來主導(dǎo)？甚至今天我來和你聊天，說不定以后AI也能告訴我應(yīng)該怎么表達(dá)。都是有可能的。

未來，我們和AI的關(guān)系大概率還會繼續(xù)變化。很多事情會從AI輔助，逐步走向AI主導(dǎo)。

量子位：能不能理解成，你們在自動駕駛里實現(xiàn)了harness（控制），接下來在其他領(lǐng)域也有機(jī)會復(fù)制這件事？

樓天城：對，這套能力完全有機(jī)會影響到別的部分，甚至不一定局限在物理AI。

量子位：也就是說，一方面是核心技術(shù)發(fā)生了變化，另一方面是你們內(nèi)部技術(shù)積累也到了某個階段，所以才打開了新的象限。

樓天城：我們現(xiàn)在更多還在能力積累階段，等到更合適的時候再去分享。

但這個空間肯定不會只局限在物理AI的某一個應(yīng)用里。它至少有兩個維度。一個是應(yīng)用層面，不止一種物理AI應(yīng)用；另一個是我們和AI的關(guān)系，也已經(jīng)不再停留在輔助階段。

量子位：空間打開之后，先做什么、后做什么，你們會怎么判斷？

樓天城：一個很重要的心得是，能力積累和把事情真正做成，是分階段的。

能力必須先積累到一定程度，事情才有可能真正做成。

自動駕駛就是這樣。只有當(dāng)車的安全性夠好、成本夠好、服務(wù)體驗也夠好，真正有意義的商業(yè)化才會開始。

其他領(lǐng)域有時候要求甚至比自動駕駛還高。因為出行本身已經(jīng)是一個很成熟的領(lǐng)域了，如果進(jìn)入一個還不成熟的商業(yè)場景，對能力的要求可能更高。

所以前期，我們還是會把主要精力放在能力建設(shè)上。然后等真正合適的機(jī)會出現(xiàn)時，再去出手，而且希望每一次出手都能達(dá)到很好的效果。未來肯定不會只做一種應(yīng)用。

量子位：有沒有一些像ODD那樣規(guī)則特別清晰的領(lǐng)域，更適合能力復(fù)用？

樓天城：可能是反過來的。

隨著基礎(chǔ)模型的發(fā)展，單獨(dú)提升細(xì)分領(lǐng)域能力，已經(jīng)不是最重要的方向了。你看今天的基礎(chǔ)模型，也不會專門拆出一個物理模型、一個化學(xué)模型、一個數(shù)學(xué)模型，它們基本都是融合在一起的。

很多細(xì)分場景的能力，反而是在更通用的場景中學(xué)出來的。

當(dāng)然，你可以先在一兩個新場景里驗證價值，但訓(xùn)練這件事的關(guān)鍵，并不來自那個具體場景本身。

量子位：很多公司做創(chuàng)新，都是先看準(zhǔn)場景再建能力。你剛才表達(dá)的邏輯還是先基于能力。那你們內(nèi)部評價自己能力的標(biāo)準(zhǔn)是什么？有沒有類似L0到L5這樣的劃分？

樓天城：我不太想自己再發(fā)明一個新的定義，但在整個AI領(lǐng)域，其實有一個很自然的階段劃分。

先是AI向人學(xué)習(xí)，這時候它比人弱。再往后，它會逐漸接近人。然后，它會超越人。再之后，是在超越人之后繼續(xù)進(jìn)步。

這幾個階段，在物理AI領(lǐng)域也一定會持續(xù)發(fā)生。

而且我認(rèn)同這種分法，因為從弱于人，到接近人，再到超越人，最后走向超越人之后繼續(xù)自我進(jìn)化，這幾個階段所需要的技術(shù)方法是完全不一樣的。每進(jìn)入下一個階段，前一階段那套做法都必須發(fā)生根本變化，才可能真正邁進(jìn)去。

今天我看到的很多物理AI，其實還處在第一個階段，很多系統(tǒng)甚至還不如人，用的也還是我們更早年那種模仿學(xué)習(xí)思路。

至于后面怎么走，我們因為已經(jīng)經(jīng)歷過，所以知道還可以繼續(xù)往下走。但我覺得，誰都繞不過這些階段。

量子位：你的很多學(xué)弟學(xué)妹（笑）……現(xiàn)在都投身了具身智能浪潮。大家都說這是10年前的自動駕駛。

作為10年前走過來的人，你覺得他們未來一定會遇到什么挑戰(zhàn)？

樓天城：剛才說的這幾個階段，他們都會經(jīng)歷。

他們也會走到一個類似我們2020年的狀態(tài)，也就是開始要做強(qiáng)化學(xué)習(xí)的那個階段。

但如果你自己還沒走到那里，我其實也沒法說服你。因為很多事情，只有真正經(jīng)歷過，后面才能走得更好。

所以我覺得，最重要的是盡快走到那個階段。等到了那一步，要有足夠開放的心態(tài)，真正接受一套完全不同的做法，接受一種新的訓(xùn)練范式，然后讓系統(tǒng)繼續(xù)進(jìn)步。

再往后，等有一天它明顯比人強(qiáng)很多了，那下一步怎么讓它繼續(xù)提升，就又會進(jìn)入今天我們正在經(jīng)歷的這種進(jìn)化過程。

這些事情，都會發(fā)生。

量子位：這個過程其實沒法跳過去。你明知道他們大概會在哪個節(jié)點(diǎn)需要改變，但他們還是得自己經(jīng)歷一遍。

樓天城：或者說，只有真的經(jīng)歷過，他才可能真正知道為什么要改，愿意去改，或者真正知道該怎么改。

量子位：你們現(xiàn)在打開了新的空間，可以做更多事了。公司已經(jīng)上市了，這件事會帶來什么變化嗎？

樓天城：上市這件事，本質(zhì)上還是為了做更有價值的事，這一點(diǎn)始終不會變。

自動駕駛的商業(yè)化本身也還在繼續(xù)發(fā)展，而且現(xiàn)在應(yīng)該正處在進(jìn)展最快的時候。這仍然會是小馬最主要的增長方向。

只不過與此同時，我們也可以把過去積累下來的經(jīng)驗，延展到更多方向，去創(chuàng)造更大的價值。

所以從本質(zhì)上說，上市這件事并不會影響技術(shù)發(fā)展的方向。

還有一點(diǎn)，其實和上不上市都沒關(guān)系。AI發(fā)展到今天，這半年可能已經(jīng)是變化最快的半年了，半年之后可能還會更快。

這種變化，不只會影響我們的技術(shù)，也會影響人和AI之間的關(guān)系。

能不能跟上這種變化，是所有想survive的公司都必須面對的事。

量子位：這種變化，會不會也影響你們創(chuàng)新的方式？就是很少幾個人試了一下，結(jié)果發(fā)現(xiàn)居然有效?，F(xiàn)在還會有這種狀態(tài)嗎？

樓天城：從結(jié)果上看，確實可能還是你說的這種感覺。有些事情，未必需要投入特別多人力，就可以先試一下，然后很快驗證它能不能有效。

但更重要的其實不是這個。

更關(guān)鍵的是，在這個過程中，人發(fā)揮作用的方式變了，貢獻(xiàn)價值的方式也變了。

量子位：在人和AI關(guān)系發(fā)生巨大變化的這個時刻，那種真正會馴馬的人才，反而變得更稀缺、更珍貴了。

樓天城：對。harness這個詞翻得特別好，就是馬鞍。

現(xiàn)在的AI，真的越來越像一匹能量極大、越來越野的脫韁野馬。

你怎么讓它沿著你的意志去行動，同時又能保持自控，還能繼續(xù)自我演進(jìn)、越做越好，我覺得這類能力就是今天這個時代最關(guān)鍵的能力之一。

量子位：人還是最重要的。只是現(xiàn)在這種人才越來越貴了。

樓天城：貴其實是相對的。

如果同樣一個人，能夠創(chuàng)造出比以前大得多的價值，那自然也應(yīng)該獲得更高的、合理的回報。這本身就是正常的發(fā)展過程。

量子位：現(xiàn)在行業(yè)里，頂級AI人才已經(jīng)拿到像足球明星一樣的待遇……（教主聽到后困惑臉）

就是說會給他們發(fā)上億年薪。你覺得這合理嗎？

樓天城：這里面當(dāng)然會有階段性的波動。

但整體來看，未來一定會是更少的人，做出更多的貢獻(xiàn)。這是一個很正常的發(fā)展趨勢。

所以我們還是回到貢獻(xiàn)本身來看。薪水可能會上下波動，但背后那條主線，其實是在不斷抬升的。

量子位：我們現(xiàn)在談世界模型2.0的時候，感覺像是在打開一條通向AGI的路。你認(rèn)同這個說法嗎？

樓天城：不是在打開。已經(jīng)打開了，而且已經(jīng)走了很久，現(xiàn)在已經(jīng)到了一個勢不可擋的狀態(tài)。

量子位：那你定義的AGI，會是什么狀態(tài)？

樓天城：emm……早年也嘗試過給AI的發(fā)展定義一些階段。

但后來我發(fā)現(xiàn)，那已經(jīng)不是一個簡單和人比較的階段定義了，因為今天早就不是停留在那個層面了。

我覺得AI現(xiàn)在已經(jīng)具備了一些自我演進(jìn)、自我提升的能力。這已經(jīng)遠(yuǎn)遠(yuǎn)不只是獨(dú)立完成任務(wù)這么簡單。

接下來，AI還會進(jìn)一步擁有和物理世界更緊密接觸的能力，甚至真正能夠去管理一大群人，或者去管理更復(fù)雜的人與人之間的關(guān)系。

量子位：你的意思是，AI未來甚至可能去管理一個團(tuán)隊？

樓天城：公司里面當(dāng)然還是有人，但越來越多關(guān)鍵決策會由AI來做，由AI來分配任務(wù)，人更多是給它提供信息。

量子位：這也是你認(rèn)可的一種AGI實現(xiàn)方式。

樓天城：AGI這個詞，很多時候是在描述一種能力，比如分析能力、推理能力這些。

當(dāng)然你也可以反過來說，既然它最終能實現(xiàn)這種效果，那它一定已經(jīng)具備了這些能力。

比如我們今天談AI coding，很少有人再單獨(dú)去強(qiáng)調(diào)推理能力，但實際上寫代碼這件事里，推理本身就是最核心的能力之一，它是天然包含在里面的。

從我的判斷來看，AI在能力層面已經(jīng)處在一個勢不可擋的上升過程中。

量子位：之前大家談AGI時，常常會把寫代碼能力當(dāng)成一個關(guān)鍵指標(biāo)。我一直在觀察，有沒有哪個新模型已經(jīng)超過了你的水平。你現(xiàn)在覺得，有模型已經(jīng)超過你了嗎？

樓天城：我現(xiàn)在自己也已經(jīng)在用模型幫助我寫代碼了，甚至還在用一些方法去教模型怎么自己寫代碼。

所以從這個意義上說，我早就不是一個單獨(dú)存在的個體了。

不過，就我訓(xùn)練出來的agent來看，至少在很多題庫上，現(xiàn)在還是排在前面，還是有一定領(lǐng)先性的。

但這里說的是我訓(xùn)練出來的agent，不再是我個人本身了。

我其實早就不在意，去和模型做那種個人層面的正面對比了。

如果一定要說，我能說的是，我和AI結(jié)合之后形成的系統(tǒng)，要比單獨(dú)的AI更強(qiáng)。

但如果只是把我個人拎出來和它們單獨(dú)比，我很早就不這么看這件事了。

量子位：所以以后真正的頂尖程序員比拼，拼的其實是人加AI的綜合能力。

樓天城：以后比賽是不是會按這個方式辦，我不確定。

但在真實世界里寫代碼這件事上，已經(jīng)是這樣了。

量子位：你剛才提到，我們已經(jīng)在通往AGI的過程中。之前Ilya有一個比較有爭議的觀點(diǎn)，他說現(xiàn)在這套算法，以及單純依賴scaling的方式，是沒法實現(xiàn)AGI的。你認(rèn)同嗎？

樓天城：確實不是能靠那種方式做出來的。

量子位：那是不是意味著，我們還是需要一種新的，或者更好的架構(gòu)？

樓天城：過去3到6個月，AI最大的變化其實已經(jīng)把答案給出來了。

模型結(jié)構(gòu)上當(dāng)然一直會有自然演進(jìn)和升級，但真正更關(guān)鍵的變化，是它開始會使用工具了，開始擁有skills，也開始有了harness和engineer的能力。

我覺得這才是它能力躍遷的根源。并不是靠簡單增加數(shù)據(jù)做到的。

量子位：這里還有一個很直覺的問題。比如人類小孩，好像天然就知道站在高處不能掉下去。但機(jī)器人，或者自動駕駛汽車，似乎并不天然具備這種認(rèn)知。

樓天城：它不需要自己親自經(jīng)歷一次，可以直接通過這些skills獲得這種能力。

人的很多能力是彼此分散的，要一項一項學(xué)。但AI可以直接把這些點(diǎn)總結(jié)出來、記住就行了。

量子位：你怎么看電車難題？是不是是時候可以談?wù)摿恕?/p>

樓天城：我覺得AI的作用，就是避免系統(tǒng)做這種選擇。

更早去防范，提前規(guī)避，讓系統(tǒng)根本不被逼到那個狀態(tài)。

如果它真的做得足夠好，本來就不該被逼到非選不可的狀態(tài)。

量子位：我其實還有最后一個問題，AI正在變得這么強(qiáng)大，咱們都是有娃的人……面向AI未來，你會怎么去養(yǎng)育下一代？

樓天城：過去這些年，我們一直在做一件事，就是讓AI超越人。駕駛上它已經(jīng)超越了，未來別的領(lǐng)域可能也會繼續(xù)超越。

問題在于，這件事真正的意義是什么？為什么人要去推動這件事？

一方面，AI做得更好，當(dāng)然會給我們帶來價值。比如從安全角度，它可以減少事故。

但更重要的另一方面是，只有親身參與這個AI超越人的過程，你才真正有機(jī)會想明白，人未來該怎么和AI共存。如果你根本沒有參與這個過程，你甚至可能不知道該怎么和它相處。

在這個過程中，我們也許才會真正找到，當(dāng)AI已經(jīng)足夠強(qiáng)的時候，人還有哪些事情值得做、還能做出獨(dú)特貢獻(xiàn)。這其實也是我現(xiàn)在工作中一個很重要的重點(diǎn)。

我經(jīng)常在想，到底還有什么事情，是人能做而AI做不了的？

但這件事和下一代教育本身，并不是直接對應(yīng)關(guān)系。

我并不認(rèn)同現(xiàn)在就急著去學(xué)某個特定內(nèi)容，我反而覺得，一些基礎(chǔ)能力更重要。

量子位：比如體育……（笑）

樓天城：體育肯定是重要的。數(shù)學(xué)、物理這些認(rèn)知能力，以及交流能力，這些都很重要。

但如何和AI共存，確實會是一個持續(xù)發(fā)展的命題。這可能也是我們這一代人最重要的工作之一。

幫助AI超越人，不是為了單純看它變得比人強(qiáng)，而是希望在這個過程中，真正想明白，人到底還能在哪些地方做出貢獻(xiàn)。

只有真正經(jīng)歷完整個過程，才可能知道下一步應(yīng)該怎么走。

也只有經(jīng)歷過幫助AI超越人的過程，才會知道，未來人該怎么和AI共存。