henry 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

靜態(tài)3D資產(chǎn)缺少動力學(xué)信息，真實物理標(biāo)簽又極其昂貴——

物理仿真到底該如何scaling？

何愷明團隊最新的論文GeoPT提供了新思路——

GeoPT提出了一種全新的動力學(xué)提升預(yù)訓(xùn)練范式，通過合成動力學(xué)（Synthetic Dynamics）將靜態(tài)幾何“提升”到動態(tài)空間，讓模型在無標(biāo)簽數(shù)據(jù)上通過學(xué)習(xí)粒子軌跡演化來獲取物理直覺。

在相同的精度條件下，GeoPT最高可以節(jié)省60%的物理仿真數(shù)據(jù)。

接下來，我們一起來看。

將靜態(tài)幾何“提升”到動態(tài)空間

一般來說，物理系統(tǒng)的解場（Solution Fields）是由幾何G（定義空間邊界）和系統(tǒng)條件S（動力學(xué)驅(qū)動，如速度、力）共同決定的。

以空氣動力學(xué)為例，汽車的形狀（幾何）定義了空間的邊界，而風(fēng)速和風(fēng)向（動力學(xué)條件）則決定了流場的演化與具體的阻力分布。

當(dāng)前，為了實現(xiàn)對物理系統(tǒng)的預(yù)測與控制，研究已經(jīng)從傳統(tǒng)的物理仿真，轉(zhuǎn)向基于數(shù)據(jù)驅(qū)動的神經(jīng)網(wǎng)絡(luò)仿真器。

然而，這一路徑面臨著兩個核心瓶頸：

一方面是標(biāo)注成本極高

訓(xùn)練仿真器依賴由傳統(tǒng)數(shù)值求解器（如CFD/FEA）生成的監(jiān)督數(shù)據(jù)，生成一個工業(yè)級精度樣本往往耗費數(shù)萬CPU小時，高昂的“標(biāo)簽生成”成本嚴(yán)重限制了仿真器的規(guī)�；⊿caling）。

另一方面是靜態(tài)預(yù)訓(xùn)練的局限

盡管互聯(lián)網(wǎng)上有海量的3D幾何數(shù)據(jù)，但如果僅對靜態(tài)幾何進行自監(jiān)督預(yù)訓(xùn)練（如常見的掩碼重建任務(wù)），會因完全缺失“動力學(xué)”維度，導(dǎo)致模型無法捕捉物理仿真的核心特征，甚至在下游任務(wù)中出現(xiàn)“負(fù)遷移”現(xiàn)象。

基于此，愷明團隊提出了一種全新的預(yù)訓(xùn)練范式——動力學(xué)提升的幾何預(yù)訓(xùn)練（Dynamics-lifted Geometric Pre-training）

其核心在于，雖然真實的物理標(biāo)簽難求，但“動力學(xué)”本身是可以被參數(shù)化的。

研究通過在預(yù)訓(xùn)練階段引入合成動力學(xué)（Synthetic Dynamics），讓GeoPT不僅學(xué)習(xí)到幾何特征，還通過引入隨機速度場v，將表征從單純的幾何空間提升到“幾何+動力學(xué)”的聯(lián)合空間。

在這里，研究不依賴由物理決定、且需要昂貴仿真才能獲取的v，而是通過隨機采樣每個粒子的速度來構(gòu)建合成速度（Synthetic Velocities）

由此，自監(jiān)督目標(biāo)變成了幾何特征在這種合成動力學(xué)下的軌跡：

于是，通過追蹤幾何特征沿這些合成軌跡的演化過程，研究獲得了一個完全由幾何構(gòu)建的、感知動力學(xué)的監(jiān)督信號。

這使得模型在接觸真實的物理標(biāo)簽之前，就能夠通過海量無標(biāo)簽幾何數(shù)據(jù)，預(yù)先學(xué)習(xí)到物理演化中通用的空間約束與耦合規(guī)律。

與此同時，上述動力學(xué)提升框架不僅提供了預(yù)訓(xùn)練目標(biāo)，還為下游任務(wù)提供了一個統(tǒng)一的接口：在預(yù)訓(xùn)練和微調(diào)階段，模型均接收幾何和速度作為輸入。

預(yù)訓(xùn)練后，GeoPT捕捉到了以速度為條件的物理對齊相關(guān)性，通過將動力學(xué)條件特化為相應(yīng)的仿真設(shè)置并學(xué)習(xí)求解器生成的標(biāo)簽，進而可以被微調(diào)至特定的物理任務(wù)。

訓(xùn)練流程

在預(yù)訓(xùn)練階段，模型被訓(xùn)練用于預(yù)測合成動力學(xué)下的幾何特征軌跡，其損失函數(shù)定義為：

該目標(biāo)函數(shù)涵蓋了三個核心變量的組合：

• 幾何：從包含車、機、船等萬余個幾何體的數(shù)據(jù)集中進行類別平衡采樣。
• 追蹤點x：從物體周圍的體積空間和幾何邊界上采樣初始位置。
• 速度v：從有界球體中為每個點均勻采樣隨機速度。

給定上述 (G, V) 信息后，軌跡通過公式確定性計算得出，其監(jiān)督目標(biāo)即為沿此路徑的幾何特征序列。

由于預(yù)訓(xùn)練使GeoPT捕捉到了以速度為條件的物理對齊相關(guān)性，在微調(diào)階段，只需將預(yù)訓(xùn)練時的隨機速度替換為編碼了特定仿真設(shè)置的任務(wù)特定速度。

具體的適配策略如下：

• 空氣動力學(xué)：將入射流條件（速度、攻角等）編碼為Vs，其方向與流向一致。
• 水動力學(xué)：分別為水、氣兩相配置不同的Vs，反映船舶阻力仿真中的兩相流。
• 碰撞仿真：將沖擊方向編碼為Vs，其大小從碰撞點開始隨空間衰減，以反映力的傳播。

這種統(tǒng)一接口的設(shè)計，使得單個預(yù)訓(xùn)練模型只需通過重配置速度輸入，即可適配多樣化的物理仿真任務(wù)。

在具體的細(xì)節(jié)方面，研究采用Transolver作為骨干網(wǎng)絡(luò)，并配置了從3M到15M參數(shù)的三種模型尺寸。

在數(shù)據(jù)效率方面，軌跡被離散化為 3 個步驟，使用向量距離（Vector Distance）編碼幾何信息。每個幾何體采樣約3.6萬個點，并生成100個隨機動力學(xué)場。

在計算優(yōu)勢上，監(jiān)督信號通過優(yōu)化的射線-三角形求交算法計算。處理一個樣本僅需約0.2秒，比工業(yè)級 CFD 仿真快10^7倍。在80核CPU上，僅需3天即可生成5TB的預(yù)訓(xùn)練數(shù)據(jù)集。

目前，該框架已開源，感興趣的同學(xué)可以參考文末鏈接。

實驗驗證

在預(yù)訓(xùn)練中，研究使用ShapeNet-V1數(shù)據(jù)集，包含汽車、飛機、船舶等三類工業(yè)相關(guān)幾何，通過采樣生成了超過100萬個樣本（約5TB數(shù)據(jù)） 。

任務(wù)覆蓋流體力學(xué)： 汽車空氣動力學(xué) (DrivAerML)、飛機受力分析 (NASA-CRM)、船舶水動力學(xué) (DTCHull) ；固體力學(xué)： 汽車碰撞最大應(yīng)力仿真 (Car-Crash) 以及 輻射度仿真 (Radiosity) 等 。

實驗結(jié)果表明，GeoPT顯著降低了對標(biāo)注數(shù)據(jù)的依賴，在達到相同精度時可節(jié)省20-60%的物理仿真數(shù)據(jù)。

與此同時，GeoPT還使微調(diào)階段的收斂速度比從頭訓(xùn)練快2倍

而且，隨著模型層數(shù)增加（從8層增加到32層）和預(yù)訓(xùn)練數(shù)據(jù)量的增大，性能持續(xù)穩(wěn)步提升，展現(xiàn)了“物理大模型”的潛力 。

總的來說，論文證明了通過“合成動力學(xué)軌跡”進行預(yù)訓(xùn)練，可以有效彌合靜態(tài)幾何與復(fù)雜動態(tài)物理任務(wù)之間的鴻溝 。

GeoPT 為構(gòu)建通用的物理仿真基礎(chǔ)模型開辟了一條可擴展的路徑，即：

大規(guī)模無標(biāo)簽幾何+簡單的合成動力學(xué)自監(jiān)督=強大的跨領(lǐng)域物理仿真能力

論文作者

這篇論文的第一作者是來自MIT（CSAIL）的博士后研究員吳海旭

他目前師從Wojciech Matusik教授。此前，吳海旭在清華大學(xué)獲得博士和學(xué)士學(xué)位，導(dǎo)師為龍明盛教授。

值得一提的是，龍明盛教授現(xiàn)為清華大學(xué)軟件學(xué)院副教授，也是本文作者之一。

論文的共同第一作者是Minghao Guo，他目前為MIT（CSAIL）博士生，同樣師從Wojciech Matusik教授。

他本科就讀于清華大學(xué)，碩士畢業(yè)于香港中文大學(xué)。

此外，論文的其他作者還包括Zongyi Li（何愷明教授的博士后）、MIT博士生Zhiyang (Frank) Dou，以及何愷明教授和Wojciech Matusik教授。

[1]https://arxiv.org/abs/2602.20399v1

[2]https://github.com/Physics-Scaling/GeoPT