大語言模型（LLMs）的爆發(fā)式增長引領了人工智能領域的范式轉移，取得了巨大的工程成功。然而，一個關鍵的悖論依然存在：盡管 LLMs 在實踐中表現(xiàn)卓越，但其理論研究仍處于起步階段，導致這些系統(tǒng)在很大程度上被視為難以捉摸的「黑盒」。

為了打破這一僵局，中國人民大學的研究者們采用了一種統(tǒng)一的基于生命周期的分類法，將 LLM 理論研究整合為六個階段：數(shù)據(jù)準備、模型準備、訓練、對齊、推理和評估。

本文系統(tǒng)綜述了驅動 LLM 性能的底層理論與機制，深入分析了數(shù)據(jù)混合的數(shù)學依據(jù)、不同架構的表示極限以及對齊算法的優(yōu)化動力學，并指出了合成數(shù)據(jù)自我提升、安全保證數(shù)學邊界等前沿挑戰(zhàn)。本綜述旨在為 LLM 發(fā)展從工程啟發(fā)式方法向嚴謹科學學科的轉型提供結構化路線圖。

• 論文標題：Beyond the Black Box: Theory and Mechanism of Large Language Models
• 論文鏈接：https://arxiv.org/abs/2601.02907

引言

近年來，ChatGPT、DeepSeek、Llama、Claude 等模型的涌現(xiàn)標志著 AI 領域的深刻變革。隨著系統(tǒng)規(guī)模的擴大，LLMs 展現(xiàn)出類似人類推理的行為，正改變著人類與信息交互的方式。然而，正如核物理的發(fā)展經(jīng)歷了從愛因斯坦的質能方程到原子彈爆炸的 40 年跨度，AI 領域的理論與應用同步也存在顯著滯后。

盡管工程上取得了巨大成功，LLM 的理論理解仍面臨兩大挑戰(zhàn)：一是規(guī)模帶來的前所未有的數(shù)學復雜度；二是模型展現(xiàn)出的諸多「涌現(xiàn)」現(xiàn)象（如幻覺、涌現(xiàn)能力、Scaling Laws 等）難以在統(tǒng)一框架下解釋。

為了解決研究碎片化的問題，來自中國人民大學高瓴人工智能學院的研究團隊發(fā)布了最新綜述論文 《Beyond the Black Box: Theory and Mechanism of Large Language Models》。本文不僅是一份文獻索引，更是一份試圖將 LLM 研究從 「工程啟發(fā)式」推向「嚴謹科學」的路線圖。

本綜述提出了涵蓋六大階段的生命周期路線圖。

圖表 1: 大語言模型理論與機制路線圖。

LLM 理論與機制的六大階段

數(shù)據(jù)準備階段 (Data Preparation)：探討如何保證更好的數(shù)據(jù)利用率，并量化數(shù)據(jù)特征對模型最終能力的影響，分析數(shù)據(jù)混合策略 (Data Mixture)、去重與過濾機制以及記憶 (Memorization) 與模型能力之間的關系。

模型準備階段 (Model Preparation)：從理論上評估架構能力，理解 Transformer 結構的表示能力極限、優(yōu)化景觀（如「河谷」假設）以及從展開優(yōu)化視角設計新架構。

訓練階段 (Training)：研究簡單的學習目標如何鍛造出復雜的涌現(xiàn)能力，分析 Scaling Laws 的本質、預訓練的獲益機制以及參數(shù)高效微調(diào)（PEFT，如 LoRA）的機制。

對齊階段 (Alignment)：探討魯棒對齊是否在數(shù)學上可實現(xiàn)，分析 RLHF（的動力學，研究「超級對齊」（Superalignment）與「弱到強泛化」 (Weak-to-Strong Generalization)。

推理階段 (Inference)：解密凍結權重的模型如何在測試時模擬學習與算法執(zhí)行，分析提示工程 (Prompt Engineering)、上下文學習 (In-Context Learning) 的機制以及推理時擴展 (Inference-Time Scaling) 帶來的推理能力提升。

評估階段 (Evaluation)：從理論上定義與衡量復雜的、主觀的人類價值觀，探討基準測試的有效性、LLM-as-a-Judge 的可靠性以及安全性與透明度的形式化保證。

各個階段代表性的研究內(nèi)容如下所述。

1 數(shù)據(jù)準備階段：智能的基礎

圖表 2: 數(shù)據(jù)準備階段的理論概覽。

數(shù)據(jù)準備不僅僅是工程上的設計，而是決定模型能力的基石。研究者們從三個維度剖析了數(shù)據(jù)的理論機制：

• 數(shù)據(jù)混合的數(shù)學邏輯：研究者利用多源學習視角，證明了當多任務結構共享時，泛化界限不再取決于模型海量的原始參數(shù)，而是取決于總壓縮編碼長度。通過引入「數(shù)據(jù)混合定律」（Data Mixing Laws），小規(guī)模實驗擬合驗證損失函數(shù)，實現(xiàn)對大規(guī)?；旌喜呗孕阅艿念A先計算。最終，研究者們使用各種不同的理論框架，動態(tài)尋找最優(yōu)數(shù)據(jù)混合權重的前沿方法。
• 去重與過濾的理論保障：實證研究確認了去重能直接減少不必要的記憶，從而降低隱私風險。各種理論框架證明了高質量、高信息密度的網(wǎng)頁數(shù)據(jù)甚至能超越人工精選語料。
• 記憶機制的量化分析：模型對數(shù)據(jù)的記憶并非簡單的「死記硬背」。理解這種記憶機制是平衡知識獲取與隱私保護的關鍵。研究者們認為模型通過整合模糊重復序列形成復雜記憶，也揭示了熵與記憶之間的相關性。

此外，這一階段也存在著重要的前沿開放問題：

• 合成數(shù)據(jù)與自主進化：合成數(shù)據(jù)能否為模型帶來理論上的性能提升？模型是否能夠通過生成合成數(shù)據(jù)從而實現(xiàn)自主進化？
• 數(shù)據(jù)污染：訓練與測試數(shù)據(jù)的泄漏為 LLM 的隱私問題帶來了挑戰(zhàn)，能否從理論上規(guī)避或者緩解這一問題？

2 模型準備階段：架構的表示極限

圖表 3: 模型準備階段的理論概覽。

選擇何種模型架構不僅關乎效率，更決定了信息的表示上限。研究者們通過以下視角探討了架構的本質：

• 表示能力的邊界：研究者們探討了 Transformer 作為通用逼近器的數(shù)學證明，并分析了在無限精度下 Transformer 的圖靈完備性。通過電路復雜度（Circuit Complexity）理論，研究者分析了 Transformer 等架構在處理層級結構語言時的表達上限與下限，揭示了模型寬度如何成為函數(shù)組合能力的通信瓶頸。
• 優(yōu)化景觀的幾何特性：研究者們提出了諸如「河谷（River Valley）模型」等假設，解釋了 Warmup-Stable-Decay 類學習率調(diào)度如何引導參數(shù)在復雜的函數(shù)空間中跨越「山坡」并在「河床」方向高效前進。
• 理論驅動的架構設計：從「展開優(yōu)化（Unrolled Optimization）」和「測試時訓練（TTT）」的視角，研究者將網(wǎng)絡層等效為優(yōu)化算法的迭代步驟，為理解前沿的模型架構提供了統(tǒng)一框架。

除此之外，研究者們也在關注模型架構的演進，并從理論視角對新架構進行設計與分析：

• 線性注意力模型：線性遞歸模型在提升效率的同時，是否存在無法逾越的表示瓶頸（如關聯(lián)回想能力的缺失）？
• 循環(huán)模型與隱式推理：權重共享的循環(huán)架構是否能通過增加推斷深度，在更少的參數(shù)量下實現(xiàn)更強的泛化？

3 訓練階段：模型能力的鍛造爐

圖表 4: 訓練階段的理論概覽。

訓練階段將靜態(tài)架構轉化為具備智能的實體。研究者們對預訓練和微調(diào)的機制進行了深入解構：

• 預訓練的收益機制：研究者論證了預訓練本質上是學習數(shù)據(jù)的底層上下文結構，并提出了「壓縮即智能」的觀點，認為語言模型的目標是實現(xiàn)對海量數(shù)據(jù)的無損壓縮。從信息論視角出發(fā)，論證了 LLM 作為強大的無損壓縮器，其壓縮效率與下游任務性能之間存在強線性關系。
• Scaling Laws 的本質：通過對計算、數(shù)據(jù)和參數(shù)規(guī)模的冪律關系分析，研究者探討了能力「涌現(xiàn)」背后的連續(xù)性過程，并分析了流形假設下內(nèi)在維度如何決定縮放指數(shù)。
• 微調(diào)的數(shù)學保障：針對 LoRA 等 PEFT 技術，研究者分析了其在低秩子空間中的優(yōu)化動力學，證明了低秩適配器在對齊預訓練特征梯度方面的有效性，并揭示了權重初始化（如 A 隨機、B 置零）對收斂穩(wěn)定性的關鍵影響。

此外，這一階段也存在著優(yōu)化層面的前沿探索：

• 超參數(shù)遷移：如何實現(xiàn)在小規(guī)模模型上尋找的最優(yōu)超參數(shù)，能夠「零樣本」地直接應用于萬億級模型？
• 優(yōu)化算法的演進：除了 Adam 等一階優(yōu)化器，矩陣敏感型優(yōu)化器（如 Muon）如何利用 Hessian 結構的塊對角特性加速收斂？

4 對齊階段：安全與價值的數(shù)學邊界

圖表 5: 對齊階段的理論概覽。

對齊不僅是指令遵循，更是人類價值觀的注入。研究者們從安全性與動力學視角進行了審視：

• 對齊的理論基礎：研究者分析了安全對齊的數(shù)學邊界，探討了現(xiàn)有對齊方法是否只是「淺層防御」，以及對齊后的模型是否存在回復原始分布的「彈性」。研究者認為只要有害行為的概率不被完全消除，通過對抗性提示觸發(fā)違規(guī)行為在數(shù)學上是不可避免的。
• 弱到強泛化（W2SG）：在超智能時代，弱監(jiān)督者如何可靠地控制強受訓者？研究者從偏差 - 方差分解等視角，分析了強模型糾正弱信號錯誤的機制，并界定了泛化增益。
• 強化學習的作用：研究者探討了 RL 是激活了預訓練中的潛在模式（如代碼能力、數(shù)學推理能力），還是通過長期的策略復位真正擴張了推理邊界。同時量化了對齊與預訓練知識保持之間的權衡，并從變分信息瓶頸視角提出了緩解「Reward Hacking」的方法。

此外，對齊階段還面臨著深層次的開放挑戰(zhàn)：

• 訓練與對齊的關系：SFT 和 RL 在塑造模型行為上有何本質區(qū)別？為什么 RL 在泛化性上通常優(yōu)于簡單的行為克??？
• RL 的前沿疆界：在缺乏驗證器的開放領域，如何設計高效的獎勵信號？

5 推理階段：解密靜態(tài)模型的前向過程

圖表 6: 推理階段的理論概覽。

推理是釋放模型潛力的關鍵環(huán)節(jié)。研究者們解密了大模型推理中的「思維」過程：

• 提示工程與機制分析：研究者從任務重參數(shù)化角度理解 Prompt，利用 Token 分布動力學和歸納頭（Induction Heads）機制，剖析了 Prompt 如何引導模型內(nèi)部的信息路由。
• 上下文學習（ICL）的機制：研究者對比了「算法執(zhí)行」與「任務定位」兩種觀點，探討了 Transformer 是否在推斷時隱式地運行了優(yōu)化算法。
• 推理時擴展（Inference-Time Scaling）：研究者分析了 CoT 如何作為模型的 「深度擴展器」，證明思維鏈能顯著提升 Transformer 的計算復雜度上限，并探討了搜索算法如何通過外部計算換取推理質量。

此外，推理階段也暴露了一些特殊的理論現(xiàn)象：

• 過度思考（Overthinking）：在推理時投入更多計算資源是否總是正向的？模型為何會在簡單問題上陷入冗余推理？
• 隱式推理（Latent Reasoning）：模型能否在不輸出顯式 Token 的情況下，直接在隱空間中完成多路徑的思維并行？

6 評估階段：從基準測試到形式化保證

圖表 7: 評估階段的理論概覽。

評估是大模型進步的標準，但當前的評估手段正面臨嚴峻挑戰(zhàn)：

• 基準測試理論：研究者利用不同的理論框架分析了傳統(tǒng)基準測試的飽和問題與捷徑學習現(xiàn)象，并剖析了「LLM-as-a-Judge」模式中的系統(tǒng)性偏見。
• 安全性與透明度：研究者深入探討了可解釋性（如 Sparse Autoencoders），對模型內(nèi)部特征進行解構，并利用計算不可解性證明了在任何可計算的 LLM 中，幻覺都是不可消除的理論必然。
• 抗誤用機制：研究者通過水印（Watermarking）等技術，探討了識別 AI 生成內(nèi)容與保持文本質量之間的理論權衡。

此外，評估階段也催生了關于模型內(nèi)部表示的深刻討論：

• 線性表示假設：語義概念（如真實性）在模型潛空間中是否真的以線性方向編碼？
• 推理失效模式：如「逆轉詛咒（Reversal Curse）」和「位置偏差（Lost-in-the-Middle）」，這些失敗案例揭示了自回歸模型在邏輯對稱性上的本質缺陷。

結語：邁向 AGI 的未來

盡管我們已經(jīng)邁出了從經(jīng)驗邁向科學的第一步，但隨著 LLM 的不斷發(fā)展，更多的前沿理論問題依然亟待解決。正如愛因斯坦所言：「科學的偉大目標是用最少數(shù)量的假設或公理推導出最大數(shù)量的經(jīng)驗事實?！刮覀兿Ｍ麨樯鐓^(qū)提供一份結構化的 LLM 理論研究路線圖，共同揭開黑盒背后的真理。

作者介紹

劉勇，中國人民大學，長聘副教授，博士生導師，國家級高層次青年人才。長期從事機器學習基礎理論研究，共發(fā)表論文 100 余篇，其中以第一作者 / 通訊作者發(fā)表頂級期刊和會議論文近 50 篇，涵蓋機器學習領域頂級期刊 JMLR、IEEE TPAMI、Artificial Intelligence 和頂級會議 ICML、NeurIPS 等。獲中國人民大學「杰出學者」、中國科學院「青年創(chuàng)新促進會」成員、中國科學院信息工程研究所「引進優(yōu)青」等稱號。主持國家自然科學面上 / 基金青年、北京市面上項目、中科院基礎前沿科學研究計劃、騰訊犀牛鳥基金、CCF - 華為胡楊林基金等項目。

甘澤宇，中國人民大學高瓴人工智能學院博士研究生，本科及碩士研究生畢業(yè)于中國人民大學信息學院。當前主要研究方向包括大模型機理分析。