在機器人領(lǐng)域，實驗室的精選視頻與現(xiàn)實應用的笨拙表現(xiàn)之間一直存在巨大鴻溝。長期以來，行業(yè)習慣于將失敗歸咎于硬件，但Physical Intelligence (PI)團隊卻提出了一個極具挑戰(zhàn)性的觀點：智能，才是機器人普及的唯一瓶頸。

2026年初，PI 團隊發(fā)布了通用機器人模型 π*0.6。本期對話邀請到了公司核心成員Karol Hausman與Tobi Springenberg，深入探討他們?nèi)绾瓮ㄟ^端到端學習與真實世界強化學習，試圖打破機器人學的舊范式。

訪談中，兩位專家針對行業(yè)痛點提出了三項核心主張：

• 模塊化是進步的枷鎖：過去幾十年將機器人拆解為感知、規(guī)劃、控制的“分治法”從底層就錯了。這種架構(gòu)導致模塊間的信息流失嚴重，而端到端的視覺語言動作模型才是通往真智能的唯一路徑。

• 告別仿真環(huán)境的溫室陷阱：當同行還在模擬器里跑數(shù)據(jù)時，PI 堅持真實世界強化學習。他們認為模擬器永遠無法復現(xiàn)紙板粘連或咖啡粉受潮這種長尾故障，只有讓機器人在現(xiàn)實中瘋狂“交學費”，才能練出真正的可靠性。

• 硬件早已不是借口：PI 團隊認為，十年前的機器人硬件就足以打掃房間。研發(fā)重心應從堆硬件轉(zhuǎn)向磨智能。一旦智能瓶頸突破，現(xiàn)有的簡單夾具也能完成切菜、烹飪等復雜家務。

• 部署即數(shù)據(jù)，數(shù)據(jù)即一切：由于互聯(lián)網(wǎng)缺乏現(xiàn)成的機器人動作數(shù)據(jù)，PI 的策略是直接部署：通過機器人實地工作收集海量真實經(jīng)驗，形成“部署→數(shù)據(jù)→優(yōu)化→更廣部署”的正向循環(huán)，最終構(gòu)建出能跨領(lǐng)域泛化的“物理大模型”。

在 Physical Intelligence 的愿景中，我們正處于機器人從特定工具向通用物種”轉(zhuǎn)變的前夜。以下訪談實錄，帶你走進物理智能的最前沿。

圖片來源：Sequoia Capital

Sonya Huang：在本期節(jié)目中，我們邀請到了Physical Intelligence公司的Karol和Tobi。該公司專注于構(gòu)建機器人基礎(chǔ)模型。Karol和Tobi將解釋，為何傳統(tǒng)上將機器人技術(shù)拆解為感知、規(guī)劃和控制的方法存在根本性錯誤，以及基于強化學習的端到端學習如何最終實現(xiàn)技術(shù)落地。你將聽到他們?nèi)绾螌崿F(xiàn)機器人在真實場景中的穩(wěn)定表現(xiàn)——例如讓機器人連續(xù)13小時制作咖啡，這些模型如何在截然不同的任務中實現(xiàn)泛化（從手術(shù)機器人到無人機飛行），而其中的原理我們尚未完全掌握。我們還將探討π*0.6背后的技術(shù)洞察，這是Physical Intelligence最新推出的模型，能夠通過強化學習從經(jīng)驗中持續(xù)學習。敬請收聽。Karol、Tobi，非常感謝你們今天的到來。

Karol Hausman/Tobi Springenberg：感謝邀請。

Sonya Huang：很期待與你們探討物理智能、通用機器人等相關(guān)話題。在深入交流前，能否先向觀眾簡要介紹一下物理智能的定義以及你們追求的使命？

Karol Hausman：好的。Physical Intelligence的核心是構(gòu)建機器人基礎(chǔ)模型。理論上，這類模型應能讓任何機器人完成任何任務。在過去一年半左右的時間里，我們已搭建起支撐模型規(guī)?；瘧玫暮诵慕M件。我們的研究表明，這些模型能夠控制多種形態(tài)、不同類型的機器人，并且具備泛化能力——可適配全新環(huán)境，我們也已明確其泛化所需的條件。

我們剛剛發(fā)布的π*0.6版本（后續(xù)會詳細介紹），其性能已達到可部署水平。這對我們而言意義重大：一方面，我們希望這項技術(shù)能真正落地到現(xiàn)實世界；另一方面，由于互聯(lián)網(wǎng)上缺乏現(xiàn)成的機器人動作數(shù)據(jù)，我們必須自行構(gòu)建數(shù)據(jù)集。因此，我們聚焦于物理智能領(lǐng)域的核心挑戰(zhàn)，致力于打造機器人基礎(chǔ)模型，并已取得顯著進展。

Sonya Huang：非常出色。我想追問一下，為何選擇構(gòu)建基礎(chǔ)模型，而非像其他公司那樣打造全垂直整合的機器人產(chǎn)品？比如我記得上個月的周日午餐話題——現(xiàn)在已有可購買的家用小型輔助機器人，還有公司在研發(fā)烹飪機器人，人形機器人領(lǐng)域也有不少參與者。你們?yōu)楹芜x擇專注于基礎(chǔ)模型，而非親自研發(fā)機器人？

Karol Hausman：回顧機器人技術(shù)的發(fā)展歷程，我和許多機器人專家都清晰地認識到，智能始終是行業(yè)的瓶頸。無論是家用還是工業(yè)場景，機器人硬件早已具備完成復雜任務的能力。十多年前就有機器人在遠程操控下完成全屋清潔的案例——關(guān)鍵在于遠程操控：只要有人類智能介入，就能證明硬件具備多樣化任務執(zhí)行潛力。長期以來，多數(shù)機器人公司都采用你提到的模式：設(shè)計針對單一任務或應用場景的專用機器人。

但我們認為，推動行業(yè)發(fā)展的關(guān)鍵是突破智能瓶頸。因此，我們成立公司專注于解決這一核心問題——只有突破智能限制，才能真正實現(xiàn)機器人技術(shù)的普及。若選擇其他路徑，很難在智能領(lǐng)域取得實質(zhì)性進展。我們希望直面這一挑戰(zhàn)，聚焦智能技術(shù)研發(fā)，未來有望催生出各類垂直領(lǐng)域產(chǎn)品，讓機器人走進家庭、工業(yè)等更多場景。

Sonya Huang：我想進一步探討這個問題。硬件方面，我看到了最新的Optimus機械臂視頻，設(shè)計堪稱精湛，宛如藝術(shù)品。雖然我沒見過十年前遠程操控機器人清潔房屋的視頻，但很好奇是否存在一些如今才剛具備實現(xiàn)條件的任務？例如烹飪，或是剝洋蔥、切洋蔥這類過去硬件無法完成的操作。你認為當前硬件水平對技術(shù)落地的推動作用有多大？

Karol Hausman：硬件領(lǐng)域確實取得了長足進步，尤其是人形機器人硬件，比如你提到的靈巧手，現(xiàn)在的性能比幾年前提升了很多。但這并未解決核心瓶頸。即便使用簡單的夾具，機器人理論上早就能完成切菜、烹飪等任務，問題的關(guān)鍵在于缺乏操控這些硬件的智能。而且硬件越復雜，反而越無法規(guī)避這一瓶頸——它或許能拓展任務邊界，但機器人智能不足的根本問題仍未解決。

Sonya Huang：明白了。也就是說，硬件可能提升了任務執(zhí)行的上限，但我們目前還未達到基礎(chǔ)能力的下限。

Karol Hausman：沒錯。即便是簡單的機器人，其性能也尚未達到人類操作者的水平。

機器人技術(shù)發(fā)展演進：從拆解式架構(gòu)到端到端學習革新

Alfred Lin：既然限制在于智能層面，那么研發(fā)智能的瓶頸又是什么？是數(shù)據(jù)收集嗎？還是低成本數(shù)據(jù)獲??？我們會不斷追問，深入核心。所以，解決智能問題的下一層瓶頸是什么？是泛化能力嗎？

Karol Hausman：這是個好問題。我們將其歸結(jié)為三個關(guān)鍵因素：能力、泛化性和性能。關(guān)于能力，我們的目標是：只要能為某項任務或某類機器人收集數(shù)據(jù)，模型就能復現(xiàn)并自動化該任務。這一點我們已快速實現(xiàn)——大約一年前發(fā)布的π0版本就證明了其可行性：任何任務、任何機器人，只要有數(shù)據(jù)支持，模型就能學習并自動化執(zhí)行。下一個挑戰(zhàn)是泛化性，這仍是未完全解決的難題。我們希望機器人能實現(xiàn)零樣本學習，例如將其帶入全新的家庭環(huán)境，它就能自主適應并開展工作。這難度極大——新環(huán)境中，物品擺放、臺面布局、光線條件都與訓練數(shù)據(jù)存在差異。雖然這一問題尚未完全解決，但我們已摸索出可行的解決思路和規(guī)?；窂?。

機器學習中，泛化能力的核心在于數(shù)據(jù)多樣性——接觸足夠多的多樣化數(shù)據(jù)，模型就能適配相似的新場景。今年4月發(fā)布的π*0.6版本已實現(xiàn)這一突破：機器人能夠在從未去過的家庭環(huán)境中運行，雖未臻完美，但已具備完成廚房清潔等簡單任務的常識。最后一個尚未完全解決的挑戰(zhàn)是性能：如何讓模型性能達到可部署標準？部署至關(guān)重要，正如我之前提到的，我們需要通過部署收集數(shù)據(jù)。這是最具規(guī)模化的數(shù)據(jù)收集方式——讓機器人在現(xiàn)實世界中執(zhí)行具有經(jīng)濟價值的任務，數(shù)據(jù)收集成本幾乎為負。技術(shù)部署范圍越廣，獲取的數(shù)據(jù)就越多，最終可能成為比互聯(lián)網(wǎng)數(shù)據(jù)更龐大的數(shù)據(jù)源。

Alfred Lin：你認為我們距離實現(xiàn)泛化能力，或是達到可部署的性能水平還有多遠？這里的場景可以是受控環(huán)境，也可以是家庭、辦公室等通用場景，不一定是整個世界。若限定場景，泛化能力和性能需要達到什么程度，這類機器人才能實現(xiàn)部署？

Karol Hausman：實際上，我們已非常接近部署階段，并且已經(jīng)開始自主部署。原本預計需要五年時間才能讓技術(shù)達到商業(yè)部署標準，具備實際應用價值，但我們在兩個月前就已實現(xiàn)這一目標。目前，模型的實用性、性能和任務覆蓋范圍都已達到臨界點，這是一個非常令人興奮的時刻。

不過，部署場景的廣度仍有待觀察。有些任務的失敗代價極高，目前并非最佳部署選擇；還有些任務對泛化能力要求極高，如家庭場景部署；或涉及隱私、安全問題，這些場景可能也暫不適合部署。但可以肯定的是，部署范圍正在不斷擴大。隨著數(shù)據(jù)積累和模型優(yōu)化，我們將能把機器人部署到更多場景中，現(xiàn)在正處于這一進程的起步階段。

Alfred Lin：目前你們的部署場景主要集中在哪些領(lǐng)域？

Karol Hausman：這是個很難準確回答的問題。對于這些基礎(chǔ)模型，其能力邊界往往超出我們的預期，類似大型語言模型的發(fā)展——內(nèi)部訓練優(yōu)化后，最終的模型效果難以預測，必須通過實際測試驗證。因此，我們選擇開源模型，避免僅依靠內(nèi)部團隊測試導致的認知局限。通過開源，我們發(fā)現(xiàn)模型的應用場景遠超想象，涵蓋駕駛、手術(shù)機器人、農(nóng)業(yè)等多個領(lǐng)域。所以，我無法準確界定當前的部署范圍，但可以確定它比我們預期的更廣泛，且會隨著時間推移持續(xù)擴大。模型獲取的數(shù)據(jù)越多、越成熟，部署場景就會越豐富。

Tobi Springenberg：我想補充一下性能層面的觀點。如你所說，模型的應用起點比我們預想的更廣泛。但同時，要讓每個應用場景都達到商業(yè)級日常使用標準——例如作為核心業(yè)務支撐，性能方面仍有很長的路要走。

即將詳細介紹的π*0.6版本，在利用經(jīng)驗數(shù)據(jù)學習方面取得了突破——模型部署后，能通過數(shù)據(jù)反饋持續(xù)優(yōu)化。但坦率地說，許多場景中仍存在大量長尾問題和潛在故障點，我們尚未完全掌握解決方案。

核心技術(shù)架構(gòu)解析：VLM基礎(chǔ)與動作模塊的融合設(shè)計

Sonya Huang：你們一直非常透明地公開研究成果，并選擇開源。如果方便的話，能否介紹一下你們的整體技術(shù)架構(gòu)？你認為通往終極目標的架構(gòu)是否已基本定型，未來只需在現(xiàn)有基礎(chǔ)上微調(diào)并積累大量數(shù)據(jù)？還是說，架構(gòu)仍處于探索階段？

Tobi Springenberg：我們可以先談談當前的架構(gòu)，再探討其未來可能的變化。目前，我們的架構(gòu)與大家日常接觸的VLM非常相似——輸入文字和圖像，模型就能完成圖像內(nèi)容識別等任務。我們以同樣的思路為基礎(chǔ)：模型先在互聯(lián)網(wǎng)規(guī)模的數(shù)據(jù)上進行預訓練，吸收圖像和文本信息，再融入大量機器人數(shù)據(jù)。目前，訓練數(shù)據(jù)以我們自行收集的機器人數(shù)據(jù)為主，僅包含少量互聯(lián)網(wǎng)數(shù)據(jù)。整體架構(gòu)基于視覺語言模型，同時增加了動作模型（或稱動作專家）模塊，這部分負責驅(qū)動機器人——接收圖像輸入和任務指令后，生成并向機器人發(fā)送動作指令。

從技術(shù)層面看，這是一個參數(shù)規(guī)模達十億級別的Transformer模型，通過機器人數(shù)據(jù)和互聯(lián)網(wǎng)數(shù)據(jù)進行預訓練，初始訓練主要基于人類演示數(shù)據(jù)（Karol之前也提到過）——即人類遠程操控機器人執(zhí)行任務的相關(guān)數(shù)據(jù)。目前，模型的性能提升主要依賴數(shù)據(jù)規(guī)模的擴大，技術(shù)架構(gòu)與VLM領(lǐng)域的主流方案類似。至于未來的變化，這仍是一個開放性問題。我們正在探索為模型增加更多能力，例如拓展上下文理解范圍、支持更多攝像頭輸入、提升對物理世界的認知——如識別房間內(nèi)的物品、判斷物品是否易碎、是否便于移動等。

因此，無論是能力拓展還是架構(gòu)調(diào)整，都仍有很大的優(yōu)化空間。我預計，五六年后回顧現(xiàn)在，當前基于VLM的模型基礎(chǔ)架構(gòu)可能會發(fā)生變化，我們或許會采用全新的技術(shù)方案。但核心的數(shù)據(jù)理念和輸入方式，大概率會保持不變。

Sonya Huang：明白了。是否可以理解為，模型的輸入是像素或信號，輸出是動作？這是否屬于一個大型神經(jīng)網(wǎng)絡？

Tobi Springenberg：沒錯，是一個大型模型。目前本質(zhì)上就是圖像輸入、文本輸入，然后輸出文本和動作。

Sonya Huang：你們是否將移動和操作模塊分開設(shè)計？或許現(xiàn)在可以聊聊機器人技術(shù)的歷史演進，以及不同學習浪潮與你們技術(shù)架構(gòu)的關(guān)聯(lián)。

Karol Hausman：好的。在機器學習廣泛應用之前，人們普遍認為，只要投入足夠的人力和工程師，深入研究就能編寫代碼，讓機器人完成世界上任何任務。人們曾為此付出巨大努力，但最終發(fā)現(xiàn)，現(xiàn)實世界的復雜性遠超想象——無法為所有可能出現(xiàn)的場景編寫規(guī)則。同時，在嘗試解決這一問題的過程中，人們習慣性地將機器人技術(shù)拆解為多個子問題：感知、控制、規(guī)劃。這甚至催生了不同的學術(shù)社群，每個社群都有自己的會議和研究重點。后來，人們意識到無法通過手寫規(guī)則覆蓋所有場景，于是轉(zhuǎn)向數(shù)據(jù)驅(qū)動的學習方法——這與人類的學習方式相似，本是個不錯的思路。但實際操作中，人們?nèi)匝永m(xù)了子問題拆解的模式，分別對感知層、控制層、規(guī)劃層進行獨立的機器學習訓練。這種方式確實取得了一定進展，效果優(yōu)于傳統(tǒng)方法，但最終證明，子問題拆解的思路本身存在缺陷。例如，當我試圖拿起這杯水時，不會刻意區(qū)分感知、規(guī)劃、控制等步驟，而是自然地完成動作。

傳統(tǒng)的流水線式架構(gòu)——感知模塊輸出物體位置，規(guī)劃模塊生成軌跡，控制模塊執(zhí)行動作中，各模塊間的接口設(shè)計是失敗的關(guān)鍵。我們原本對機器人工作原理的認知，從根本上就是錯誤的。于是，我們進入了下一個發(fā)展階段：意識到子問題拆解可能從一開始就是錯誤的，轉(zhuǎn)而采用端到端訓練模式——將傳感器輸入直接作為網(wǎng)絡輸入，動作作為輸出。我們稱之為端到端方法，即從像素直接映射到動作，讓網(wǎng)絡或?qū)W習算法自行決定是否需要拆分模塊，如果可行的話。

但在實踐中，我們發(fā)現(xiàn)這種方法需要海量數(shù)據(jù)，且在需要常識判斷的場景中容易失效——通過第一人稱動作數(shù)據(jù)集積累常識極其困難，因為需要覆蓋世界上所有可能的場景。就在這時，我們發(fā)現(xiàn)了視覺語言動作模型：利用在互聯(lián)網(wǎng)數(shù)據(jù)上預訓練的模型，即已具備一定的世界認知的，在其基礎(chǔ)上添加動作模塊，將通用世界知識與物理世界的任務執(zhí)行能力相結(jié)合。這大致就是我們當前的技術(shù)路線。

在Physical Intelligence，我們還解決了其他關(guān)鍵問題：如何實現(xiàn)模型規(guī)?；咳绾翁嵘夯芰?？如何優(yōu)化性能和運行速度？如何推進部署落地？但總體而言，我們?nèi)蕴幱诶没ヂ?lián)網(wǎng)預訓練模型的常識知識，構(gòu)建適用于各類機器人、具備通用動作執(zhí)行能力的階段。

Sonya Huang：關(guān)于推理能力——大型語言模型在推理領(lǐng)域取得了諸多突破。你們的VLA基礎(chǔ)架構(gòu)是否能受益于這些進展？端到端訓練過程中，推理能力是否會自然涌現(xiàn)？或者說，大型語言模型領(lǐng)域的進展對你們是否有幫助？

Tobi Springenberg：目前我們的模型已經(jīng)具備一定的動作規(guī)劃能力，不僅能預測即時動作，還能規(guī)劃后續(xù)約50個時間步的動作（約1-2秒）。同時，模型已能在語言層面將任務分解為子任務。例如，當指令為清潔廚房時，模型會自動拆解出“移動到臺面→拿起杯子→將杯子放入水槽”等子步驟。所以，一定程度的推理能力已經(jīng)存在，未來還會進一步強化。

我完全預計，強化學習在推理領(lǐng)域的所有進展，最終都會應用到機器人技術(shù)中。這一過程很有趣，因為它與人們針對數(shù)學問題的強化學習研究有所不同。數(shù)學問題對人類而言更像是文本類任務——可以在腦海中通過文本邏輯思考，例如調(diào)整公式以得到結(jié)果。但對于物理智能而言，推理過程會更復雜。例如，當我最近學習打網(wǎng)球時，不會在腦海中刻意思考拿起球拍→移動到某個位置→做出擊球動作，而是專注于動作本身——身體的移動方式，以及對周圍物體軌跡的預判。這類推理能力，未來會越來越多地融入到模型中。

Karol Hausman：目前，我們確實從視覺語言模型中獲益良多。但這種受益關(guān)系未來很可能會逆轉(zhuǎn)。當前大型語言模型的許多缺陷，本質(zhì)上是由于其聚焦于文本類任務，如數(shù)學、編程。而機器人技術(shù)將提供一個全新的視角，促使我們重新思考推理的本質(zhì)——推理可能需要在抽象空間中進行，結(jié)合文本、圖像、軌跡等多種信息來源得出結(jié)論。機器人技術(shù)為這種新推理模式提供了絕佳的測試平臺：它扎根于物理世界，雖然目前數(shù)據(jù)有限，面臨諸多挑戰(zhàn)，但由此產(chǎn)生的新發(fā)現(xiàn)，未來很可能反哺大型語言模型領(lǐng)域。

數(shù)據(jù)與泛化能力：機器人技術(shù)落地的關(guān)鍵挑戰(zhàn)與突破路徑

Alfred Lin：談到數(shù)據(jù)，能否介紹一下你們目前已收集的數(shù)據(jù)規(guī)模，以及明年的收集目標？當然，數(shù)據(jù)越多越好，但具體量級是怎樣的？

Karol Hausman：這是一個相當復雜的問題，不能僅以數(shù)量衡量。數(shù)據(jù)質(zhì)量和多樣性同樣重要，而機器人數(shù)據(jù)的質(zhì)量和多樣性目前尚無嚴格定義。例如，用10種不同方式完成同一任務，這是否屬于多樣化數(shù)據(jù)？與10種不同杯子相關(guān)的數(shù)據(jù)相比，哪種多樣性更高？

Alfred Lin：確實如此。

Karol Hausman：整個行業(yè)目前尚未完全搞清楚如何描述數(shù)據(jù)的特征、多樣性和質(zhì)量，也缺乏嚴謹?shù)脑u估標準。我們還發(fā)現(xiàn)，數(shù)據(jù)的某些特定屬性至關(guān)重要。例如，要在某項任務上達到特定性能，僅靠增加現(xiàn)有數(shù)據(jù)的數(shù)量是無法實現(xiàn)的。在π*0.6版本的研發(fā)過程中，我們針對三個不同任務進行了測試，早期就發(fā)現(xiàn)：如果沿用現(xiàn)有數(shù)據(jù)收集方式持續(xù)積累數(shù)據(jù)，性能會進入平臺期，無法進一步提升。因此，我們需要尋找新的數(shù)據(jù)收集方法，或思考什么樣的數(shù)據(jù)能推動性能提升。而強化學習等技術(shù)，正是解決這一問題的關(guān)鍵。

Sonya Huang：我們來談談強化學習和π*0.6。這個星號是在致敬π-star嗎？

Tobi Springenberg：沒錯，本質(zhì)上是這樣。我們希望接近最優(yōu)策略。

Sonya Huang：最優(yōu)策略。好的，非常好。能否先簡要介紹一下π*0.6的核心內(nèi)容，然后再深入探討強化學習在你們領(lǐng)域的意義？

Tobi Springenberg：當然可以。與我們之前的模型相比，核心區(qū)別在于：在此之前，我們所有的機器人基礎(chǔ)模型訓練都基于演示數(shù)據(jù)，即遠程操控數(shù)據(jù)，模型的訓練目標本質(zhì)上是模仿這些數(shù)據(jù)。而新模型π*0.6采用了基于經(jīng)驗的強化學習：機器人通過運行初始策略——基于演示數(shù)據(jù)訓練的策略——執(zhí)行任務，自行收集經(jīng)驗數(shù)據(jù)。在這一過程中，人類會提供獎勵信號，也會進行干預修正，例如指出這樣做不對，應該換種方式。這些數(shù)據(jù)會被回收，模型利用這些數(shù)據(jù)判斷哪些行為需要強化（多執(zhí)行），哪些需要弱化（少執(zhí)行），從而實現(xiàn)持續(xù)自我優(yōu)化。這就是核心差異。正如Karol之前提到的，這種真實數(shù)據(jù)的持續(xù)輸入，是幫助我們突破性能平臺期的關(guān)鍵。

Sonya Huang：我理解強化學習就像是在獎勵信號的引導下“爬坡”。那么，在針對特定任務“爬坡”時，如何確保模型的泛化能力？

Tobi Springenberg：針對這個問題，我們的思路是：現(xiàn)有通用模型已具備一定性能（雖非最優(yōu)），初期目標并非進一步泛化，而是先攻克特定任務。我們選擇了三四個任務進行部署，模型本身需要具備跨任務泛化能力，但強化學習過程的核心是確保在特定任務上的表現(xiàn)。部署并啟動強化學習時，首要目標是精準完成該任務——例如，能從不同位置啟動任務，能應對各類長尾故障。從表面上看，專注于單一任務似乎與泛化能力相悖，但本質(zhì)上，我們采用相同的方法和流程應對每個任務：提升單個任務的性能，收集所有任務的數(shù)據(jù)并回收，最終實現(xiàn)整體泛化能力的提升。所以，兩者并非對立關(guān)系。

強化學習的實踐探索：真實場景優(yōu)先與泛化能力的平衡

Sonya Huang：明白了。你們的強化學習是在真實場景中進行的嗎？能否談談你們在仿真環(huán)境和真實環(huán)境中強化學習的應用比例？

Tobi Springenberg：我們采取了“真實世界優(yōu)先”的策略，而非依賴仿真。當然，我們也將仿真作為研究工具進行探索，但π*0.6論文中的所有強化學習實驗均在真實系統(tǒng)中完成。原因在于，真實場景中的長尾故障極難通過仿真建模。以我們此次針對的任務為例，很多故障模式在仿真環(huán)境中完全無法預見。例如，其中一個任務是組裝盒子——這是一個實際部署場景，目標是將紙板組裝成巧克力包裝盒，以便后續(xù)包裝和運輸。初期，機器人組裝效果很好，但當新一批紙板到貨后，問題出現(xiàn)了：這些扁平的紙板穿孔不夠規(guī)整，容易粘連在一起。機器人抓取紙板放置到臺面準備組裝時，會發(fā)現(xiàn)臺面上有兩個粘連的紙板——這種情況在仿真環(huán)境中（假設(shè)紙板都是獨立的）是不會出現(xiàn)的。而我們的方法能夠讓機器人學會處理這種問題：識別粘連情況，將兩個紙板分開，再繼續(xù)組裝。如果僅在仿真環(huán)境中訓練，機器人永遠無法應對這類真實場景中的突發(fā)狀況。

Karol Hausman：強化學習在仿真環(huán)境中應用于移動領(lǐng)域已取得不少成功，模型遷移到真實場景的效果也不錯，但在操作領(lǐng)域尚未見到類似的成功案例。原因在于，移動領(lǐng)域的核心問題是機器人對自身身體的建?！灰芫珳式Ｗ陨恚湍茌^好地完成移動任務。這種建模在仿真環(huán)境中只需進行一次（針對特定機器人），若建模足夠精準，就能實現(xiàn)有效遷移。但操作領(lǐng)域的核心并非機器人自身的移動，而是與外部世界的交互——如何通過動作影響物體。例如，將手從A點移動到B點并不難，難的是預判這一動作對所操作物體的影響。此時，問題就從“建模機器人自身”擴展到“建模整個世界”——包括所有可能交互的物體和任務，這在仿真環(huán)境中幾乎無法實現(xiàn)規(guī)模化建模，因此這類方法在操作領(lǐng)域的效果有限。

Sonya Huang：π*0.6的核心成果是什么？經(jīng)過強化學習后，模型在你們關(guān)注的測試任務上表現(xiàn)如何？這對你們未來的訓練方案有何啟示？

Tobi Springenberg：對我而言，最令人印象深刻的是，這些模型能夠連續(xù)運行數(shù)小時，從各類故障中自主恢復，并持續(xù)工作。同時，其運行效率相比初始模型有了大幅提升。核心數(shù)據(jù)如下：在三個任務（之前提到的組裝巧克力盒、用工業(yè)級濃縮咖啡機制作咖啡、折疊衣物）中，模型的任務吞吐量提升了兩倍多。與僅基于演示數(shù)據(jù)訓練的基礎(chǔ)模型相比，新模型不僅運行速度更快，故障恢復能力也顯著增強。你可以在我們的官網(wǎng)查看相關(guān)視頻：機器人連續(xù)13小時制作咖啡，或連續(xù)4小時折疊衣物。親眼目睹這些場景，會徹底改變你對模型的認知——它不再是僅能演示一次的“玩具”，而是具備實際部署價值、能持續(xù)完成真實任務的技術(shù)。

Karol Hausman：這正是機器人技術(shù)領(lǐng)域一個鮮為人知的巨大挑戰(zhàn)。你能在網(wǎng)上看到很多機器人完成酷炫任務的視頻（我們也會發(fā)布這類視頻），幾乎任何你能想到的任務，都能找到對應的機器人演示視頻。但這些視頻往往是經(jīng)過多次拍攝、篩選出的完美片段。行業(yè)內(nèi)普遍面臨的問題是模型的可靠性、性能、運行速度，以及長時間部署的穩(wěn)定性。這是機器人技術(shù)落地的最大瓶頸——如果模型每兩次嘗試就失敗一次，根本不具備實際部署價值。而π*0.6的最大突破，正是讓模型具備了可部署性：我們的辦公室里已有機器人為員工制作咖啡，公司員工也能將機器人帶回家折疊衣物，還有機器人在真實場景中組裝盒子。這真的非常令人興奮。

Sonya Huang：你們的強化學習是否主要聚焦于提升客戶部署場景中的可靠性？例如，確?？Х戎谱髂Ｐ驮诳蛻衄F(xiàn)場能夠穩(wěn)定運行，速度足夠快，長時間無故障。這更像是客戶部署層面的創(chuàng)新，還是基礎(chǔ)能力層面的突破？或者兩者兼具？

Tobi Springenberg：兩者兼具。正如Karol之前所說，我們理想中的機器人（無論是家用的洗衣、洗碗、烹飪機器人，還是小型企業(yè)用于解決特定問題——如組裝巧克力盒——的機器人），既需要具備可靠性和高性能，也需要能夠應對訓練階段未見過的新任務。僅依靠擴大人類演示數(shù)據(jù)規(guī)模，無法無限提升初始模型的性能和泛化能力——數(shù)據(jù)收集存在上限。因此，部署是必要的（這也是你提到的客戶部署層面的創(chuàng)新），但從長遠來看，我預計未來幾年，部署過程中收集的數(shù)據(jù)將成為模型預訓練的重要數(shù)據(jù)源，助力模型持續(xù)優(yōu)化。我們會越來越依賴自主數(shù)據(jù)收集，構(gòu)建覆蓋各類任務的龐大數(shù)據(jù)集。從這個角度來說，這也是一種新能力的突破。

Karol Hausman：此前，行業(yè)內(nèi)尚未實現(xiàn)模型從自身經(jīng)驗中學習的規(guī)?；瘧谩m有諸多嘗試，但均未取得足以支撐部署的令人信服的成果。這正是π*0.6成果的重要性所在：我們首次實現(xiàn)了模型從自身經(jīng)驗中學習。這與人類的學習方式相似：你可以通過觀看視頻或向他人學習獲得初步知識，但最終必須通過親身實踐才能真正掌握技能——嘗試、觀察動作的結(jié)果、總結(jié)經(jīng)驗、持續(xù)改進。π*0.6正是朝著這個方向邁出的第一步。

Sonya Huang：這讓我想到了今年Rich Sutton的《經(jīng)驗時代》論文，非常深刻。你們認為這一技術(shù)會開啟機器人領(lǐng)域的持續(xù)學習時代嗎？它會成為持續(xù)學習的重要組成部分嗎？

Karol Hausman：這取決于人們對“持續(xù)學習”的定義。與過去的訓練模式相比，它無疑更具持續(xù)性：過去，我們通常是進行一次大規(guī)模預訓練（可能加一次后續(xù)訓練），然后輸出一個固定的模型，后續(xù)幾乎無法調(diào)整。而現(xiàn)在，模型部署后仍能持續(xù)學習——嘗試新動作、從自身經(jīng)驗中總結(jié)、不斷優(yōu)化。從這個角度來說，它更接近持續(xù)學習。但未來仍有很大的提升空間：例如，通過這種方式快速獲取新技能，或在學習過程中融入推理能力。持續(xù)學習是一個梯度光譜，我們目前的成果證明了其可行性，但還有很大的優(yōu)化潛力。

Tobi Springenberg：我同意。我們目前還處于起步階段。這并非傳統(tǒng)意義上的持續(xù)學習（例如通過數(shù)據(jù)流持續(xù)訓練，最終走向通用人工智能等），但這是關(guān)鍵的第一步，方向是正確的，未來還有很多工作要做。僅從π*0.6的成果來看，我個人對模型從少量數(shù)據(jù)中學習的能力感到驚訝。例如，制作濃縮咖啡過程中有一個“壓粉”步驟——將咖啡粉放入濾杯后壓實。我們的機器人初期壓粉力度過大，甚至在壓粉時差點把自己抬離臺面。后來，人類僅進行了30-50次修正，將這些數(shù)據(jù)反饋給模型后，機器人就學會了更輕柔、更準確地壓粉。這讓我非常意外：模型已經(jīng)過數(shù)百萬次預訓練，而少量的人類修正就能帶來顯著改進。這正是持續(xù)學習的潛力所在，令人印象深刻。

Sonya Huang：我仍關(guān)心泛化能力。例如，我學會了更好地壓粉，這會讓我更擅長折疊盒子嗎？

Tobi Springenberg：在這個具體案例中，不會。但背后的學習機制是通用的——你可以用同樣的方式修正“盒子粘連時需要分開“盒子折疊不整齊”等問題。30次壓粉修正、30次盒子分離修正、30次折疊對齊修正，這些數(shù)據(jù)積累起來，就能帶來整體泛化能力的提升。

Sonya Huang：所以這是一種可重復的方案，但不同任務的學習成果不會直接交叉遷移？

Tobi Springenberg：是的。不過，隨著規(guī)模擴大，如果不同任務存在相似的動作模式，我預計會出現(xiàn)一定的遷移效應。但目前來看，它更像是一種可重復應用的通用方案。

Karol Hausman：我們發(fā)現(xiàn)，通過在更多任務、更多數(shù)據(jù)上進行預訓練，模型的泛化能力會顯著提升——新任務的適配難度降低，甚至會出現(xiàn)未預期的零樣本任務執(zhí)行能力。我們會定期開展預訓練，每次都會發(fā)現(xiàn)模型性能因數(shù)據(jù)積累和預訓練流程優(yōu)化而持續(xù)提升。我堅信，隨著模型部署范圍擴大、任務類型增多，回收的數(shù)據(jù)會進一步推動泛化能力提升，形成“部署→數(shù)據(jù)→優(yōu)化→更廣泛部署”的正向循環(huán)。

Tobi Springenberg：關(guān)于你提到的泛化能力，有一個關(guān)鍵細節(jié)值得補充。π*0.6的方案包含兩個核心部分：一是通過修正和強化學習反饋持續(xù)優(yōu)化的策略；二是強化學習反饋的獲取方式。我們之前提到了人類修正，而強化學習反饋的獲取方式本身就蘊含泛化潛力。

具體來說，我們首先讓人類判斷機器人執(zhí)行任務（如制作咖啡、組裝盒子）的成功與否，為每個任務片段打上標簽；然后訓練一個價值函數(shù)，用于預測當前任務狀態(tài)下成功或失敗的概率；最后，以這個價值函數(shù)為基準，決定是否強化或弱化當前數(shù)據(jù)。我們發(fā)現(xiàn)，當價值函數(shù)在更多不同任務的數(shù)據(jù)上進行訓練時，其性能會顯著提升——例如，對于某些任務，模型能提前30-40個時間步預判失?。ㄉ踔猎缬谌祟愅ㄟ^視頻觀察到的失敗信號）。例如，機器人嘗試將濾杯插入咖啡機時，價值函數(shù)會提前預判角度不當導致的失敗，并拒絕使用這類數(shù)據(jù)進行訓練。隨著數(shù)據(jù)和任務的增加，這種預判能力會不斷增強。

Sonya Huang：這很有趣。

Tobi Springenberg：而且數(shù)據(jù)和任務越多，效果越好。

Sonya Huang：這與Karpathy所說的“從末端獲取信號”形成了鮮明對比——你們并非等待最終結(jié)果，而是在過程中獲取大量信號。

Karol Hausman：強化學習是一個廣闊的領(lǐng)域，包含多種不同方法。人們通常會將強化學習與策略梯度法或特定的在線學習方法關(guān)聯(lián)，但對我而言，強化學習更像是一種問題定義。針對你提到的“僅能在任務末端獲取獎勵”的問題，已有多種解決方案，例如價值函數(shù)、時序差分學習等——通過持續(xù)的序列預測來規(guī)避長時程任務的獎勵信號稀疏問題。這或許是機器人技術(shù)能為整個AI社區(qū)帶來的重要貢獻：由于我們無法像語言模型那樣擁有完美的仿真環(huán)境（可進行無限次模擬），必須在真實世界中高效學習，因此需要依賴價值函數(shù)等技術(shù)。這些技術(shù)將在更廣泛的AI領(lǐng)域發(fā)揮重要作用。

Sonya Huang：我想再深入探討一下——互聯(lián)網(wǎng)視頻似乎是你們訓練方案的一部分，但目前并非重點。你認為互聯(lián)網(wǎng)視頻中仍有未被挖掘的價值嗎？另外，當前視頻模型、世界模型的發(fā)展，是否會為機器人模型能力帶來突破性提升，并成為你們技術(shù)pipeline的重要組成部分？

Karol Hausman：這其實包含兩個問題：一是數(shù)據(jù)層面，如何通過數(shù)據(jù)積累實現(xiàn)部署突破；二是視頻模型和世界模型的作用。關(guān)于數(shù)據(jù)，我們目前處于“啟動階段”——任何有助于模型提升的數(shù)據(jù)源（仿真數(shù)據(jù)、人類視頻、手持設(shè)備數(shù)據(jù)、人類遠程操控數(shù)據(jù)等）都值得嘗試。我們需要通過各種方式積累數(shù)據(jù)，達到部署門檻。因為從長遠來看，啟動階段的數(shù)據(jù)積累無論規(guī)模多大，都無法與部署階段獲取的海量真實數(shù)據(jù)相提并論。我們現(xiàn)在正全力沖刺部署階段，希望通過在更多任務、更多環(huán)境中的部署，構(gòu)建強大的數(shù)據(jù)引擎。

關(guān)于世界模型：世界模型和強化學習本質(zhì)上都在解決同一個問題——反事實推理或信用分配問題，即如何判斷哪些動作對任務成功至關(guān)重要，以及若采取不同動作，世界會如何演變。世界模型的解決思路是預測未來（例如，若濾杯插入角度不同，結(jié)果會是成功還是失敗，通過完整視頻序列呈現(xiàn)）；強化學習則通過更隱含的機制解決這一問題，但兩者的核心目標一致。我們正在探索所有這些方法，試圖找到解決反事實推理問題的最佳路徑。目前尚無明確答案，但π*0.6的成果表明強化學習已取得顯著進展，未來也可能有更多其他方法涌現(xiàn)。

行業(yè)洞察與技術(shù)反思：從拆解到通用，數(shù)據(jù)驅(qū)動的智能本質(zhì)

Sonya Huang：非常精彩。能否談談，度過啟動階段后，你們的客戶部署模式會是怎樣的？你們會為客戶提供什么？如何收費？未來會如何演變？例如，是提供全垂直整合的機器人解決方案，還是僅提供模型，由客戶自行整合到其業(yè)務流程中？具體又會如何運作？

Karol Hausman：說實話，我們目前還不確定，仍在探索中。技術(shù)還處于早期階段，正如你所知，我們才剛剛達到部署的門檻。因此，我們認為當前應優(yōu)先聚焦技術(shù)本身——提升模型的通用性和部署便捷性，擴大之前提到的應用場景范圍?；仡櫃C器人創(chuàng)業(yè)公司的歷史，很多公司都經(jīng)歷過這樣的階段：先研發(fā)技術(shù)，懷揣著通用化的宏偉愿景，但一旦選定某個應用場景，就會陷入局限——為適配特定場景而妥協(xié)，開發(fā)專用解決方案，最終淪為專注于單一領(lǐng)域（如倉庫揀選機器人）的應用公司。我們希望避免這種結(jié)局。解決物理智能問題的價值，遠超過當前任何單一應用場景的商業(yè)價值。

因此，我們希望確保技術(shù)盡可能通用、易于部署，應用場景盡可能廣泛，之后再考慮商業(yè)化模式。正如你所說，商業(yè)化可能有多種路徑，甚至包括一些我們目前無法預見的方式（取決于技術(shù)的發(fā)展方向）——例如提供模型服務、全垂直解決方案、機器人硬件銷售等。但現(xiàn)在回答這個問題還為時過早，雖然明確一個方向會讓人更安心，但現(xiàn)階段我們必須專注于技術(shù)本身。

Sonya Huang：Alfred肯定會希望有明確答案。

Karol Hausman：是的，Alfred會很高興，但確實還太早。

Alfred Lin：不，你們的愿景非常宏大。感謝你們致力于物理智能研究，這是一項非凡的進步。僅π*0.6就堪稱重大突破。祝賀你們?nèi)〉玫乃谐删汀?/strong>

Tobi Springenberg：謝謝。

Alfred Lin：我能問一個尖銳的問題嗎？

Karol Hausman：當然可以。

Alfred Lin：正如你們所說，你們的愿景宏大而廣泛，涉及多個領(lǐng)域。我相信你們研究過以往的機器人技術(shù)嘗試，正如你所說，它們大多最終聚焦于單一應用，范圍越來越窄。自動駕駛是其中最成功的大規(guī)模應用案例之一，Waymo和特斯拉都取得了巨大成就。但回顧歷史，我在2009年、2010年左右聽Sebastian Thrun在TED演講時第一次了解到自動駕駛——他提到了2007年贏得DARPA挑戰(zhàn)賽的經(jīng)歷。而現(xiàn)在已經(jīng)是2025年，自動駕駛技術(shù)仍只能在舊金山等局部地區(qū)應用，僅能行駛在普通道路上，甚至無法上高速公路。如果你們追求如此通用的目標，那么在泛化能力和性能提升方面，你們設(shè)想的時間線是怎樣的？

Karol Hausman：這個問題很有價值。機器人技術(shù)的落地，有些方面比自動駕駛更容易，有些方面則更難。更容易的一點是，我們不需要達到100%的可靠性才能部署。很多任務只要達到95%的可靠性就完全可行——例如，家用折疊衣物機器人，即使每100件衣物中有1件折疊不完美，用戶也能接受。

Alfred Lin：可以讓孩子去折疊那1件，這反而成了額外的好處。家務還是需要的。

Karol Hausman：沒錯。但自動駕駛完全不同——每100次行駛中出現(xiàn)1次災難性故障，后果不堪設(shè)想。因此，機器人技術(shù)的部署門檻可能更低。同時，我們也受益于技術(shù)時代的進步——現(xiàn)在已進入視覺語言模型和基礎(chǔ)模型的時代，這些模型本身具備一定的常識，而且我們從2009年到2025年期間積累了大量經(jīng)驗教訓，這些都為我們提供了助力。我們的解決方案比以往更具通用性。

但另一方面，挑戰(zhàn)也同樣存在：機器人技術(shù)并非單一應用，而是適用于駕駛、操作、移動、飛行等多個領(lǐng)域的通用解決方案，其難度仍有待觀察。但根據(jù)我們目前的經(jīng)驗，說實話，它并沒有想象中那么難。如果從一開始就以通用化為目標進行設(shè)計，模型的泛化能力其實相當出色。物理智能中存在一些我們尚未完全理解的特性，使得模型能夠在駕駛、制作咖啡、無人機飛行、手術(shù)機器人操作等看似毫無關(guān)聯(lián)的任務中實現(xiàn)泛化。

盡管這些任務差異巨大，看似需要不同的模型和應用方案，但我們的模型卻能從這些多樣化的數(shù)據(jù)中提煉出共性。這讓我充滿信心，或許這個問題并沒有那么難，甚至可能比自動駕駛更容易解決。這是一個合理的質(zhì)疑，但我們不應從自動駕駛的發(fā)展歷程中得出錯誤的結(jié)論。

Alfred Lin：非常精彩。祝賀你們。除了自己的成果，還有哪些領(lǐng)域的進展讓你們印象最深刻？

Karol Hausman：我先來回答。你之前提到的視頻模型讓我印象深刻。幾年前我曾參與過相關(guān)研究，從未想過其發(fā)展速度會如此之快——現(xiàn)在的視頻模型生成的內(nèi)容幾乎與真實場景無異，能完成各種令人驚嘆的任務。這真的非常令人意外和震撼。

Tobi Springenberg：我至今仍對一個現(xiàn)象感到驚嘆：僅通過下一個Token預測，我們竟然能構(gòu)建出具備一定通用智能的模型。無論是模型在國際數(shù)學奧林匹克挑戰(zhàn)賽中獲勝，還是在科學研究中輔助發(fā)現(xiàn)新成果，每一個進展都讓我感到意外。今年有很多這樣的案例，年初時我還以為大型語言模型的預訓練可能已經(jīng)進入瓶頸期，但沒想到會迎來如此強勁的“第二春”。

Karol Hausman：我想補充的是，這整套技術(shù)的可行性本身就令人難以置信。我們或許并未完全意識到這有多不可思議：構(gòu)建一個松散受大腦啟發(fā)、具備通用學習能力的算法，輸入數(shù)據(jù)后，它不僅能理解，而且表現(xiàn)遠超以往任何技術(shù)。這一技術(shù)適用于機器人、計算機視覺、語言、聲音等多個領(lǐng)域。仔細想想，它的工作原理及其實際效果，確實令人嘆為觀止。例如，機器人能夠在從未去過的家庭環(huán)境中自主工作，能夠連續(xù)13小時制作咖啡——這些都是由一個端到端訓練的通用模型完成的，我們雖未完全理解其原理，但它確實開始展現(xiàn)出強大的能力。這對我來說，簡直太神奇了。

Sonya Huang：我們是不是生活在一個模擬世界里？

Alfred Lin：Sonya就是這么認為的，覺得我們身處模擬環(huán)境中。但這確實很有趣——科學研究中，人們通常會將大問題拆解為小問題，但最終發(fā)現(xiàn)，這種方法可能并不適用于機器或機器人的訓練。

Tobi Springenberg：說實話，機器學習和AI領(lǐng)域在某種程度上也犯了同樣的錯誤。長期以來，人們都在深入研究單個具體問題，后來才意識到，如果能將這些問題整合起來，實現(xiàn)多任務學習，效果可能會好得多。但令人意外的是，僅僅通過切換到通用預訓練目標，這一切就自然實現(xiàn)了——這正是最令人驚訝的地方。

Alfred Lin：你認為這會不會像手風琴一樣，在兩種框架之間來回切換？先將大問題拆解為小問題，在一段時間內(nèi)有效，然后失效；再回到大問題，嘗試更通用的解決方案。如此循環(huán)往復。

Tobi Springenberg：我們不會再回到拆解問題的老路上去。

Karol Hausman：我也這么認為。有些人提出“兩全其美”的思路：將已知規(guī)則（如牛頓物理定律）融入模型，無需讓模型重新學習。但我們的經(jīng)驗表明，這種方法行不通——強行融入已知規(guī)則會限制模型學習新事物的能力。所謂“兩全其美”可能并不存在，我們必須堅持完全的數(shù)據(jù)驅(qū)動學習。這很有趣，試想一下，如果存在一種預加載所有智能的方式，進化過程應該早已找到它——生物出生時就會具備所有知識。但我們觀察到，有些物種（如鹿）出生時就已具備成年個體的智能，終生無需學習；而人類、烏鴉等智能物種則有漫長的童年和青春期，初期并不聰慧，必須通過自身經(jīng)驗持續(xù)學習。

這說明，通過親身體驗世界并從中學習，是智能形成的關(guān)鍵。機器學習和AI領(lǐng)域也正在吸取這一教訓：我們自以為了解人類的思考方式，但實際上并非如此。我們需要做的，是讓算法從數(shù)據(jù)中自行學習。

Alfred Lin：養(yǎng)育孩子也是如此。我以為自己了解兒子的想法，但其實并不完全了解。

Karol Hausman：我有一個小女兒，她的學習速度和認知發(fā)展真的非常令人驚訝。

Alfred Lin：孩子學得太快了。

Karol Hausman：是的，而且你根本不知道他們的知識來自哪里。

Alfred Lin：希望是來自父母。

Karol Hausman：希望如此。但她確實知道一些我從未教過她的東西。

Alfred Lin：非常感謝你們。

Sonya Huang：你們追求的使命非常偉大。感謝你們的分享。

Karol Hausman/Tobi Springenberg：謝謝，感謝邀請。

原文：Training General Robots for Any Task: Physical Intelligence’s Karol Hausman and Tobi Springenberg

https://www.youtube.com/watch?v=OJCT-HGxPjk

編譯：Lingyun Xu