過去三年，擴散模型席卷圖像生成領(lǐng)域。以 DiT (Diffusion Transformer) 為代表的新一代架構(gòu)不斷刷新圖像質(zhì)量的極限，讓模型愈發(fā)接近真實世界的視覺規(guī)律。

然而，與 LLM 可解釋性研究的蓬勃發(fā)展相對，擴散模型內(nèi)部的語義結(jié)構(gòu)、時間規(guī)律以及因果路徑仍然像被深深封住的「黑箱」。研究者可以憑直覺優(yōu)化架構(gòu)，但外界無法真正理解擴散模型在生成過程中的「思考方式」。

更棘手的是，已有的可解釋性嘗試往往伴隨著明顯的性能下降：特征分解、激活分析、插值擾動……無論采用哪種方法，只要試圖將擴散模型拆開來看，生成質(zhì)量就會顯著劣化。這讓「可解釋擴散模型」在很長一段時間里被視為不切實際的小眾方向。

在這樣的背景下，香港中文大學 MMLab 與上海人工智能實驗室的研究團隊提出了一個不同的觀點：擴散模型作為當今視覺世界最重要的生成器，其內(nèi)部機制不應(yīng)永遠處于不可見狀態(tài)；可解釋性也不應(yīng)該以犧牲生成質(zhì)量為代價。

基于這一理念，他們提出了被 AAAI 2026 接收的TIDE (Temporal-Aware Sparse Autoencoders)—— 首個真正意義上面向擴散 Transformer 的時序稀疏自編碼器框架。

• 論文標題：TIDE: Temporal-Aware Sparse Autoencoders for Interpretable Diffusion Transformers in Image Generation
  
• 論文鏈接：
• https://arxiv.org/pdf/2503.07050

TIDE：

讓「時序」成為擴散可解釋性的核心

以往的可解釋方法大多忽視了擴散過程最大的特點：生成是一個隨時間展開的漸進式構(gòu)造過程。早期步驟決定物體形狀和布局，中期步驟塑造語義和結(jié)構(gòu)，后期步驟填充材質(zhì)與細節(jié)。如果忽略這條時間線，擴散模型看起來就像一團混亂的噪聲與特征。TIDE 的突破在于，它不是「硬拆」一個靜態(tài)特征，而是讓模型自己在時間維度上對齊語義：

同一個因子會在不同時間步中保持一致的語義軌跡，最終形成一個可讀、可控、穩(wěn)固的「時間語義剖面」。

也正是在這樣的時序框架下，擴散模型內(nèi)部原本模糊的過程第一次被清晰呈現(xiàn)出來：粗結(jié)構(gòu)從噪聲中浮現(xiàn)、語義逐漸成型、紋理被不斷潤色……模型的「思考流」沿著時間軸被完整雕刻出來。

更重要的是，這一切并不會破壞原模型的生成能力。TIDE 的稀疏自編碼器在特征空間進行無損重構(gòu)，擴散軌跡保持穩(wěn)定，模型幾乎感受不到被「觀察」的存在。同時在 scaling latent 維度時，也優(yōu)于原有 vanilla SAE 方法。

TIDE 架構(gòu)與訓練

在 Stable Diffusion XL、PixArt-α、Flux 等主流擴散框架上，TIDE 將擴散特征分解為具有可控語義的因子：

負責輪廓的因子、負責物體姿態(tài)的因子、負責材質(zhì)紋理的因子……甚至可以捕捉到跨時間的概念演化。基于這些因子，研究團隊構(gòu)建出一種全新的圖像編輯方式：編輯不再依賴繁瑣的提示語或反復調(diào)參，而是可以沿著清晰的語義方向直接操控擴散過程。例如：

• 提升紋理細節(jié)而不改變?nèi)纸Y(jié)構(gòu)
• 調(diào)整物體姿態(tài)但保持背景一致
• 加強某類語義而不干擾其它部分

這些編輯操作完全基于 TIDE 生成的語義因子完成，意味著未來擴散模型有望出現(xiàn)一種全新的「因子級編輯器」，具備高度可控性與透明性。

與此同時，TIDE 對模型生成質(zhì)量的影響幾乎可以忽略不計。FID、sFID 變化小于 0.1%，噪聲預測軌跡保持穩(wěn)定，實現(xiàn)了真正意義上的「可解釋而不降質(zhì)」。

TIDE 的效果

TIDE 在不同設(shè)置、不同模型規(guī)模以及不同任務(wù)維度下的整體表現(xiàn)。無論是在超參數(shù)選擇、在 DiT 不同層級進行因子學習，還是在 SDXL、FLUX-dev 等主流擴散架構(gòu)上的泛化能力，TIDE 都表現(xiàn)出高度穩(wěn)定且持續(xù)的優(yōu)勢。

可以看到，TIDE 在幾乎不增加 FID 代價的前提下，顯著提升了 AlignScore 中的語義綁定（顏色、形狀、紋理）以及跨區(qū)域關(guān)系理解（空間與非空間關(guān)系），其中多處指標在表中以綠色標記為最優(yōu)表現(xiàn)。

此外，在安全性評測部分，TIDE 相比多個現(xiàn)有方法大幅降低了攻擊成功率，顯示出更穩(wěn)健的特征理解能力。整體來看，這幅表格清楚證明：TIDE 不僅帶來了高質(zhì)量、可解釋的語義因子，還在保持生成質(zhì)量的同時，提升了模型的結(jié)構(gòu)理解、關(guān)系推理與安全性，成為一種真正可泛化、可落地的可解釋擴散框架。

TIDE 的意義：

補齊擴散模型的「理解」能力

擴散模型已經(jīng)成為現(xiàn)代視覺生成系統(tǒng)的核心支柱，但它們的內(nèi)部機制一直缺乏系統(tǒng)、透明的解釋路徑。TIDE 的出現(xiàn)不僅提供了首個真正實用的可解釋性方案，更重要的是，它讓研究者第一次能夠沿著「時間」這條線索觀察擴散模型內(nèi)部的語義結(jié)構(gòu)。

這種理解能力將直接影響未來的多個方向：

• 更可控、更穩(wěn)健的擴散編輯系統(tǒng)
• 統(tǒng)一理解——生成模型的因子級橋接
• 擴散模型的因果與語義理論研究
• 新一代透明、可信的視覺生成系統(tǒng)

TIDE 不僅是一個方法，更是一種新的研究范式：擴散模型并非不可解釋，只是缺少一個合適的視角。

未來展望

研究團隊表示，當前 TIDE 已成功驗證了時序稀疏自編碼器框架的有效性，但可解釋擴散模型的潛力遠未被完全發(fā)掘。未來的工作將進一步：

• 擴展更大規(guī)模、更精細的時序字典
• 探索跨模態(tài)共享的語義因子
• 結(jié)合 LLM-SAE 構(gòu)建統(tǒng)一解釋空間
• 將因子級編輯推向產(chǎn)品化工具

隨著更多研究者的加入，擴散模型的「黑箱壁壘」正逐漸被揭開，而 TIDE 或許是這一轉(zhuǎn)變具有代表性的第一步。