在 AI 快速發(fā)展的今天，LLM 已經(jīng)具備很強(qiáng)的語言理解和生成能力，但在實(shí)際應(yīng)用中仍會出現(xiàn)回答不準(zhǔn)確、知識更新不及時以及在專業(yè)場景下表現(xiàn)不夠理想等問題。為了解決這些不足，檢索增強(qiáng)生成（RAG）通過在回答問題時引入外部資料，讓模型能夠“查資料再作答”，從而提升結(jié)果的可靠性。但是，傳統(tǒng) RAG 通常流程比較固定，面對復(fù)雜問題時不夠靈活，在多步推理、隱私保護(hù)和個性化方面也存在一定局限。隨著 Agent 技術(shù)的發(fā)展，Agentic RAG 進(jìn)一步增強(qiáng)了系統(tǒng)的能力，使 RAG 系統(tǒng)完成從“被動響應(yīng)”到“主動思考”的躍遷。

本文以 Youtu-RAG 開源框架為例，介紹其整體設(shè)計(jì)、核心能力以及在實(shí)際業(yè)務(wù)中的應(yīng)用效果，展示其在復(fù)雜場景中的優(yōu)勢和潛力。

責(zé)編 | 夢依丹

出品 | 騰訊優(yōu)圖實(shí)驗(yàn)室投稿

在 AI 快速發(fā)展的今天，LLM 已經(jīng)具備很強(qiáng)的語言理解和生成能力，但在實(shí)際應(yīng)用中仍會出現(xiàn)回答不準(zhǔn)確、知識更新不及時以及在專業(yè)場景下表現(xiàn)不夠理想等問題。為了解決這些不足，檢索增強(qiáng)生成（RAG）通過在回答問題時引入外部資料，讓模型能夠“查資料再作答”，從而提升結(jié)果的可靠性。但是，傳統(tǒng) RAG 通常流程比較固定，面對復(fù)雜問題時不夠靈活，在多步推理、隱私保護(hù)和個性化方面也存在一定局限。隨著 Agent 技術(shù)的發(fā)展，Agentic RAG 進(jìn)一步增強(qiáng)了系統(tǒng)的能力，使 RAG 系統(tǒng)完成從“被動響應(yīng)”到“主動思考”的躍遷。

本文以 Youtu-RAG 開源框架為例，介紹其整體設(shè)計(jì)、核心能力以及在實(shí)際業(yè)務(wù)中的應(yīng)用效果，展示其在復(fù)雜場景中的優(yōu)勢和潛力。

RAG 概述

RAG（Retrieval-Augmented Generation，檢索增強(qiáng)生成）是一種結(jié)合信息檢索與大語言模型（LLM）生成能力的人工智能架構(gòu)。 RAG 系統(tǒng)能夠從外部知識庫（如文檔、數(shù)據(jù)庫、網(wǎng)頁）中檢索出與問題相關(guān)的信息，并將這些信息作為上下文提供給 LLM，從而生成更準(zhǔn)確、可靠、可追溯的答案。傳統(tǒng) RAG 系統(tǒng)作為 LLM 的“知識外掛”，雖然在一定程度上緩解了 LLM 的“幻覺”問題，但仍然面臨以下核心問題：

1. 檢索能力不足：傳統(tǒng) RAG 系統(tǒng)流程固定、無法實(shí)現(xiàn)多步推理、沒有規(guī)劃能力和工具調(diào)用能力。面對日益復(fù)雜的檢索場景和需求，傳統(tǒng) RAG 已無法滿足。

2. 數(shù)據(jù)隱私風(fēng)險：企業(yè)或個人敏感私有數(shù)據(jù)、商業(yè)信息在傳輸?shù)酵獠?LLM 服務(wù)處理時存在一定泄露風(fēng)險，無法實(shí)現(xiàn)敏感數(shù)據(jù)不出域的數(shù)據(jù)安全需求。

3. 記憶能力缺失：傳統(tǒng) RAG 系統(tǒng)無法積累用戶的長期行為模式和個性化偏好，且跨會話信息無法關(guān)聯(lián)復(fù)用，導(dǎo)致每次對話都需要重新提供背景信息，相似問題也無法積累推理經(jīng)驗(yàn)。

面對以上問題，Youtu-RAG 給出了系統(tǒng)的解決方案：

1.新一代智能體驅(qū)動的檢索增強(qiáng)生成系統(tǒng)：基于 Youtu-Agent 框架開發(fā)，集成覆蓋多種檢索需求的 Agent 鏈路。相比傳統(tǒng) RAG 系統(tǒng)，不再依賴固定的“檢索—生成”單次流程，而是利用 LLM 的 Agent 能力，使系統(tǒng)能夠自主規(guī)劃、決策、調(diào)用工具、推理，根據(jù)任務(wù)需求動態(tài)地執(zhí)行檢索和分析。

2.本地全?；渴?，保證私有數(shù)據(jù)不出域：充分發(fā)揮 Youtu 系列模型的全面能力，支持 Youtu-LLM、Youtu-Embedding、Youtu-Parsing、Youtu-HiChunk等模型的本地部署和接入；集成MinIO高性能對象存儲進(jìn)行大規(guī)模文件本地化管理；集成Chroma DB實(shí)現(xiàn)本地向量庫構(gòu)建和知識庫管理；接入SQLite和MySQL實(shí)現(xiàn)關(guān)系型數(shù)據(jù)庫管理。

3.構(gòu)建雙層記憶機(jī)制解決傳統(tǒng) RAG 系統(tǒng)的記憶缺失問題：短期記憶利用大模型 Context Window 維護(hù)當(dāng)前會話的完整上下文，支持多輪對話的指代消解和任務(wù)狀態(tài)保持；長期記憶則跨會話實(shí)現(xiàn)相似問題的經(jīng)驗(yàn)復(fù)用和個性化服務(wù)，使系統(tǒng)從“無狀態(tài)工具”進(jìn)化為能夠積累用戶行為模式、自動優(yōu)化決策路徑的“有狀態(tài)智能體系統(tǒng)”。

目前，該項(xiàng)目已在 Github 開源，并附帶了詳細(xì)的本地部署使用教程。項(xiàng)目將持續(xù)維護(hù)和更新，歡迎大家體驗(yàn)和試用。

技術(shù)方案與實(shí)踐

基于“本地部署 · 自主決策 · 記憶驅(qū)動”三大核心理念，本節(jié)將深入剖析下一代檢索增強(qiáng)生成技術(shù) Agentic RAG 的核心特點(diǎn)與優(yōu)勢，揭示 Agentic RAG 如何實(shí)現(xiàn)從“被動響應(yīng)”到“主動思考”的躍遷。

2.1 智能檢索引擎

為了解決傳統(tǒng) RAG 系統(tǒng)檢索能力不足的問題，我們主要從數(shù)據(jù)管理和檢索分析兩方面進(jìn)行優(yōu)化。對于前者，核心關(guān)注不同類型數(shù)據(jù)源的統(tǒng)一存儲和管理方案，以文件為中心，建立層級化的、可增量編輯的多源異構(gòu)數(shù)據(jù)管理系統(tǒng)。對于后者，核心關(guān)注不同任務(wù)需求的檢索鏈路以及相應(yīng)工具的開發(fā)，引入智能體驅(qū)動的自主決策和多樣化的檢索策略，開發(fā)多個開箱即用的成熟 Agent 鏈路。

2.1.1 文件中心化架構(gòu)

傳統(tǒng) RAG 系統(tǒng)通常將文檔切分后直接存入向量數(shù)據(jù)庫進(jìn)行檢索，這種方式雖然便于語義匹配，但往往會打散原始文件的結(jié)構(gòu)，導(dǎo)致文件級的組織信息和元數(shù)據(jù)難以保留與利用。Youtu-RAG 在此基礎(chǔ)上進(jìn)行了改進(jìn)，將“文件”作為知識組織的核心單位，構(gòu)建了從原始文件到知識庫的完整管理鏈路，使每一段數(shù)據(jù)都可以追溯到其來源。因此，系統(tǒng)支持“無向量檢索”機(jī)制，能夠結(jié)合關(guān)鍵詞、結(jié)構(gòu)化信息和元數(shù)據(jù)進(jìn)行多維度檢索，減少對向量表示的依賴，在提升檢索準(zhǔn)確性的同時，也更好地支持隱私敏感或結(jié)構(gòu)復(fù)雜的數(shù)據(jù)場景。這樣，不同 Agent 可以基于不同粒度（文件級、片段級）的信息進(jìn)行分析和處理，從而提升整體系統(tǒng)的靈活性和實(shí)用性。

文件即知識單元：系統(tǒng)以文件為核心組織知識，保留文件的完整性和獨(dú)立性。每個文件都擁有獨(dú)立的生命周期管理。

多源異構(gòu)數(shù)據(jù)統(tǒng)一管理：支持 PDF/Word/MD、Excel、圖片、數(shù)據(jù)庫等十幾種數(shù)據(jù)格式，通過統(tǒng)一的文件管理接口實(shí)現(xiàn)異構(gòu)數(shù)據(jù)的無縫接入。系統(tǒng)采用處理器工廠模式，為不同文件類型配置專屬處理流程，部分可選環(huán)節(jié)可在配置文件中開啟和關(guān)閉。

為實(shí)現(xiàn)大規(guī)模文件本地化管理，系統(tǒng)集成MinIO高性能對象存儲，支持：

• 分桶管理：原始文件（ufile）與派生文件（sysfile）分離存儲

• 版本控制：通過 ETag 機(jī)制實(shí)現(xiàn)增量構(gòu)建，避免重復(fù)處理

• 衍生文件管理：自動管理 OCR 結(jié)果、分塊文件、布局圖像等派生產(chǎn)物

在文件上傳時，系統(tǒng)將通過 LLM 自動提取文件的關(guān)鍵元數(shù)據(jù)，構(gòu)建多維度檢索標(biāo)簽：

● 時效性元數(shù)據(jù)：

○ publish_date：文檔發(fā)布日期（從文件名或正文頭部提?。?/p>

○ key_timepoints：關(guān)鍵時間點(diǎn)列表（標(biāo)準(zhǔn)化為YYYY、YYYY-QX、YYYY-MM等格式）

● 內(nèi)容元數(shù)據(jù)：

○ summary：100字以內(nèi)的核心摘要

○ authors：作者或發(fā)布機(jī)構(gòu)

○ char_length：字符總數(shù)

除此之外，還可以編輯配置文件 file_management.yaml 設(shè)置其他的元數(shù)據(jù)字段。這些元數(shù)據(jù)不僅可以用于后續(xù)的元數(shù)據(jù)檢索（Meta Retrieval），還為智能體提供了重要的決策依據(jù)。對于無法從文件內(nèi)容中提取的元數(shù)據(jù)，系統(tǒng)還支持元數(shù)據(jù)的批量導(dǎo)出、編輯、導(dǎo)入，允許便捷導(dǎo)入自定義的元數(shù)據(jù)信息。

文件中心化架構(gòu)以文件作為知識組織的核心維度，構(gòu)建從原始文件到知識庫內(nèi)容的可追溯管理鏈路，避免傳統(tǒng) RAG 在切片階段丟失結(jié)構(gòu)與語義信息。通過統(tǒng)一的文件管理與對象存儲體系，可高效接入多源異構(gòu)數(shù)據(jù)并自動生成多維元數(shù)據(jù)標(biāo)簽，從而提升知識檢索能力并支持 Agent 的精細(xì)化決策。

2.1.2 智能體驅(qū)動的自主決策

Youtu-RAG 基于 Youtu-Agent 框架構(gòu)建智能檢索引擎，實(shí)現(xiàn)“不同問題，多種策略”的智能適配。核心機(jī)制如下：

• 問題意圖識別：通過 LLM 分析問題特征（問題類型、時間偏好、數(shù)據(jù)源線索），提取關(guān)鍵信息（如時間標(biāo)簽、實(shí)體名稱、相關(guān)數(shù)據(jù)源、原始文件）

• 檢索策略動態(tài)選擇：根據(jù)意圖分析結(jié)果，自動選擇最優(yōu) Agent 或 Agent 組合（KB Search、Meta Retrieval、Text2SQL、Excel Agent等）

• 多源數(shù)據(jù)融合檢索：同一問題可能觸發(fā)多種檢索策略（如向量檢索 + 元數(shù)據(jù)過濾 + SQL 查詢），并將結(jié)果自動整合

與傳統(tǒng) RAG 系統(tǒng)相比，Agent 可以對用戶問題進(jìn)行拆解，判斷是否需要檢索知識庫、調(diào)用外部工具或進(jìn)行多輪推理，并在獲得中間結(jié)果后持續(xù)評估當(dāng)前信息是否足夠，從而決定下一步行動。在這一過程中，檢索不再是一次性的操作，而是可以在推理過程中被多次觸發(fā)；工具的使用也不局限于向量檢索，還可以擴(kuò)展到 Web 搜索、SQL 查詢、代碼執(zhí)行等多種能力。它使得 RAG 系統(tǒng)從單一的檢索增強(qiáng)問答流程，演進(jìn)為具備自主決策與工具協(xié)作能力的智能問題解決系統(tǒng)，在復(fù)雜任務(wù)場景（如多步分析、跨數(shù)據(jù)源查詢或深度數(shù)據(jù)分析）中表現(xiàn)出更強(qiáng)的靈活性與推理能力。

系統(tǒng)支持6種核心檢索模式，覆蓋不同數(shù)據(jù)類型和檢索場景。在開箱即用的8種Agent中，其中6種與具體檢索能力一一對應(yīng)：

除此之外，Auto Select Agent 并不綁定某一種固定檢索模式，而是作為統(tǒng)一對話入口，根據(jù)用戶問題在上述6種模式之間進(jìn)行路由、選擇或組合調(diào)用。因此，從系統(tǒng)設(shè)計(jì)上看 Youtu-RAG 形成了“6種基礎(chǔ)檢索模式 + 1個統(tǒng)一調(diào)度入口”的能力布局，既保證了檢索覆蓋面的完整性，也提升了復(fù)雜任務(wù)下的編排靈活性。

2.1.3 特色應(yīng)用展示

本項(xiàng)目針對具體的業(yè)務(wù)場景，構(gòu)建了多個開箱即用的 Agent 應(yīng)用示例，支持對非結(jié)構(gòu)化表格、結(jié)構(gòu)化數(shù)據(jù)庫、以及復(fù)雜元數(shù)據(jù)知識庫檢索的統(tǒng)一理解與處理能力。系統(tǒng)能夠?qū)⒆匀徽Z言問題轉(zhuǎn)化為多步分析流程，完成數(shù)據(jù)檢索、計(jì)算與推理，并生成結(jié)構(gòu)化分析結(jié)果或可視化產(chǎn)物，支持復(fù)雜場景下的高質(zhì)量數(shù)據(jù)分析與表達(dá)。下面將詳細(xì)介紹三組特色應(yīng)用。

2.1.3.1 Excel Agent

Excel Agent 是該項(xiàng)目中負(fù)責(zé)復(fù)雜表格（Excel、CSV）數(shù)據(jù)處理與智能分析的核心智能體。它是以文件為核心處理單元的典型示例。它底層基于 DTR（Deep Tabular Research）方法構(gòu)建，其核心目標(biāo)是解決復(fù)雜、非結(jié)構(gòu)化表格上的長鏈路分析任務(wù)。

其主要能力包括：

1. 復(fù)雜非結(jié)構(gòu)化表格理解能力：DTR 能夠從復(fù)雜、非結(jié)構(gòu)化的表格中識別行列層級、表頭關(guān)系和語義結(jié)構(gòu)，并將其轉(zhuǎn)換為結(jié)構(gòu)化的 Meta Graph 表示。這樣可以讓模型準(zhǔn)確理解真實(shí) Excel 表格中的層級信息和數(shù)據(jù)語義。

2.自然語言到數(shù)據(jù)操作映射能力：DTR 能夠?qū)⒂脩舻淖匀徽Z言問題解析為一系列標(biāo)準(zhǔn)化的數(shù)據(jù)操作（如 Filter、Group、Aggregate、Sort）。通過這種方式，查詢被轉(zhuǎn)化為可執(zhí)行的數(shù)據(jù)分析流程。

3.規(guī)劃與執(zhí)行分離能力：DTR 將分析任務(wù)拆分為高層操作規(guī)劃和底層代碼執(zhí)行兩個階段，使模型能夠先確定分析策略，再生成具體的數(shù)據(jù)處理代碼塊，從而提高執(zhí)行穩(wěn)定性。

4.基于經(jīng)驗(yàn)的持續(xù)優(yōu)化能力：DTR 通過記錄執(zhí)行反饋和抽象經(jīng)驗(yàn)，對不同操作路徑進(jìn)行評估和更新，從而逐步學(xué)習(xí)更優(yōu)的數(shù)據(jù)分析策略，提高后續(xù)任務(wù)的效率和成功率。

Excel Agent 執(zhí)行示例：

在 DTR-Bench 評測基準(zhǔn)上，我們的方案在正確性（Accuracy）、分析質(zhì)量（Analysis Depth）、代碼可執(zhí)行性（Feasibility）、生成圖表的視覺質(zhì)量（Aesthetics）這4個維度都達(dá)到了SOTA。

在此基礎(chǔ)上，我們基于 Multi-Agent 模式進(jìn)一步開發(fā)了 Excel Deep Analysis Agent，能夠?qū)崿F(xiàn)更豐富的產(chǎn)物生成，包括 Markdown 圖文報告和網(wǎng)頁看板。這些復(fù)雜產(chǎn)物均支持便攜的預(yù)覽、下載等操作，方便用戶進(jìn)行編輯、使用和分享。

2.1.3.2 Text2SQL Agent

Text2SQL Agent 是該項(xiàng)目中負(fù)責(zé)結(jié)構(gòu)化數(shù)據(jù)檢索的核心智能體。它通過規(guī)劃（Plan）- 執(zhí)行（Execute）- 總結(jié)（Report）的 ReAct 編排模式，支持多數(shù)據(jù)庫（MySQL、SQLite）的自然語言轉(zhuǎn) SQL 操作，形成了更穩(wěn)健的關(guān)系型數(shù)據(jù)庫檢索方案。

其主要技術(shù)亮點(diǎn)如下：

1. Memory 機(jī)制（記憶檢索與沉淀）：并非零起點(diǎn)生成 SQL，而是復(fù)用歷史成功的 SQL（Few-shot 示例），極大降低了面對復(fù)雜業(yè)務(wù)或領(lǐng)域特定表結(jié)構(gòu)時的幻覺問題。

2. Schema Link 與 Value Link 分離與統(tǒng)一：在寫 SQL 前先通過檢索找到正確的表結(jié)構(gòu)，而不是將整個庫的 Schema 塞給模型，這解決了大型數(shù)據(jù)庫超出大模型上下文窗口的難題。

3. 強(qiáng)大的多數(shù)據(jù)源兼容能力（Multi-Database）：不局限于單個數(shù)據(jù)庫連接，支持在一次查詢中跨 SQLite、MySQL 甚至是用戶上傳的 Excel 文件（后臺映射為 SQLite 數(shù)據(jù)庫）進(jìn)行多實(shí)例查詢與結(jié)果組裝。

4. ReAct 容錯機(jī)制（Error Handling）：SQL執(zhí)行器收到數(shù)據(jù)庫報錯后（如不存在某個字段、語法錯誤），能夠基于報錯日志自我修正 SQL 再嘗試，相比傳統(tǒng)的“單次生成-執(zhí)行”具有更高的魯棒性。

Text2SQL Agent 執(zhí)行示例：

通過記憶機(jī)制檢索 Few-shot case，引入帶有業(yè)務(wù)經(jīng)驗(yàn)的 SQL 模版和思考邏輯，可以將業(yè)務(wù)側(cè)的領(lǐng)域?qū)I(yè)數(shù)據(jù)庫查詢問題的解答正確率從 40% 提升至 85% 以上，具有更好的可用性，也便于根據(jù)不同業(yè)務(wù)場景進(jìn)行快速泛化。

2.1.3.3 Meta Retrieval Agent

Meta Retrieval Agent 是該項(xiàng)目中負(fù)責(zé)時間感知與帶元數(shù)據(jù)過濾的知識庫檢索智能體。它通過動態(tài)查詢分析、自適應(yīng)多輪檢索和結(jié)果去重聚合的機(jī)制，極大提高了在龐大且具有時間屬性的語料庫（如：各季度財報、新聞資訊等）中回答精準(zhǔn)事實(shí)的準(zhǔn)確率。

其主要技術(shù)亮點(diǎn)如下：

1. 時間感知的精準(zhǔn)降噪（Temporal-Aware Filtering）：不同于傳統(tǒng)的 RAG 會把所有年份的相似財報都召回，該 Agent 提前提取時間范圍并在向量檢索底層做 Metadata 過濾，從源頭上避免了“問2024答2023”的幻覺。

2. 漸進(jìn)式動態(tài)召回（Progressive Adaptive Retrieval）：設(shè)定了 <5 chunks 的硬性評判標(biāo)準(zhǔn)。找不到足夠數(shù)據(jù)時，會像人類一樣放寬時間范圍（日 ?? 年）或換個詞搜，完美平衡了“精準(zhǔn)度”與“召回率”。

3. 全局上下文整合（Context Rerank & Merge）：多輪搜索極易帶來重復(fù)的碎片垃圾，通過前置的 merge_retrieval_results 強(qiáng)制收斂機(jī)制，確保喂給大模型生成答案的始終是去重后信息密度最高的 Token。

4. 分類施策的 Prompt 工程：針對不同顆粒度的問題（聚焦事實(shí)/單點(diǎn)分析/宏觀戰(zhàn)略），在 Prompt 層面直接約束了不同的 top_k（5~50）獲取策略，節(jié)約性能的同時保障了復(fù)雜問題的回答深度。

5. 高度可定制的元數(shù)據(jù)過濾策略（Customizable Metadata Filtering）：系統(tǒng)支持開發(fā)者自定義問題偏好與元數(shù)據(jù)的映射關(guān)系，同時允許靈活定制 Filters 的定義方式。通過這種開放的配置能力，用戶可以針對特定行業(yè)或私有語料庫，自由構(gòu)建精準(zhǔn)的元數(shù)據(jù)過濾邏輯。

Meta Retrieval Agent 執(zhí)行示例（均為虛構(gòu)數(shù)據(jù)）：

我們在元數(shù)據(jù)檢索數(shù)據(jù)集上進(jìn)行了評測（483 條測試樣本），評測指標(biāo)如下：

• Weighted NDCG@5: 在前 5 個檢索結(jié)果中，按準(zhǔn)確順序召回真實(shí)相關(guān)文檔的能力指標(biāo)

• Recall@all: 所有的真實(shí)的相關(guān)文檔中有多少被準(zhǔn)確召回

關(guān)鍵發(fā)現(xiàn):

• 熱度偏好提升幅度大于時效性偏好，說明傳統(tǒng)向量檢索在處理熱度相關(guān)查詢時尤其無力

• NDCG_w@5 提升幅度（20.37%）大于 Recall@all（15.87%），說明元數(shù)據(jù)過濾不僅提升召回率，更顯著改善了 Top-K 結(jié)果的排序質(zhì)量

2.2 全棧本地部署

為了降低數(shù)據(jù)隱私風(fēng)險，文件處理過程中涉及的各個組件均支持本地部署。我們優(yōu)先推薦大家按需使用 Youtu 自研模型進(jìn)行部署，也可以使用標(biāo)準(zhǔn)的API接口，以體驗(yàn) Agentic RAG 全棧能力。

2.2.1 Youtu-Embedding

Youtu-Embedding 是基于開源 Youtu-LLM 基礎(chǔ)模型訓(xùn)練的通用文本表示模型，專注于將文本轉(zhuǎn)換為高質(zhì)量的向量表示（Embedding）。該模型在信息檢索、語義相似度計(jì)算、文本聚類、重排序和分類等廣泛的自然語言處理任務(wù)中均表現(xiàn)卓越，為 RAG（檢索增強(qiáng)生成）、智能搜索、推薦系統(tǒng)等應(yīng)用場景提供強(qiáng)大的語義理解能力。其主要特性如下：

1. 頂尖的性能表現(xiàn)：在權(quán)威的中文文本嵌入評測基準(zhǔn) CMTEB 上以 77.58 的高分榮登榜首（截至2025年09月），支持信息檢索（IR）、語義相似度（STS）、聚類、重排序、分類等多類任務(wù)，展現(xiàn)強(qiáng)大的通用表征能力。

2. 創(chuàng)新的訓(xùn)練范式：首創(chuàng)“LLM基礎(chǔ)預(yù)訓(xùn)練 → 弱監(jiān)督對齊 → 協(xié)同-判別式微調(diào)”的三階段訓(xùn)練流程，系統(tǒng)性地將大語言模型的廣博知識轉(zhuǎn)化為專用于嵌入任務(wù)的判別能力，有效解決多任務(wù)學(xué)習(xí)中的“負(fù)遷移”難題。

3. 獨(dú)創(chuàng)的微調(diào)框架：設(shè)計(jì)了協(xié)同-判別式微調(diào)框架（CoDiEmb），包含統(tǒng)一數(shù)據(jù)格式、任務(wù)差異化損失函數(shù)（InfoNCE對比損失用于IR任務(wù)、排序感知損失用于STS任務(wù)）和動態(tài)單任務(wù)采樣機(jī)制，實(shí)現(xiàn)多任務(wù)穩(wěn)定協(xié)同訓(xùn)練。

4. 輕量高效易部署：僅 2B 參數(shù)的輕量級模型，支持 8K 序列長度、2048 維度輸出，完全開源，可通過 Hugging Face、Transformers 等多種方式快速集成，部署成本極低。

模型的部署指南詳見鏈接：

• https://youtu-rag-docs.vercel.app/docs/zh/youtu-embedding/deploying-locally

2.2.2 Youtu-Parsing

Youtu-Parsing 是基于開源 Youtu-LLM 基礎(chǔ)模型構(gòu)建的專業(yè)文檔解析模型，通過提示引導(dǎo)框架和 NaViT 風(fēng)格的動態(tài)視覺編碼器，實(shí)現(xiàn)了對文本、表格、公式和圖表等多樣化文檔元素的增強(qiáng)解析能力。其主要特性如下：

1. 全能識別能力：支持文本（印刷/手寫/藝術(shù)字）、數(shù)學(xué)公式（LaTeX）、表格（HTML）、圖表（Markdown/Mermaid）等多種文檔元素的精準(zhǔn)識別與轉(zhuǎn)換。

2. 結(jié)構(gòu)化解析：像素級文本定位與智能閱讀順序恢復(fù)，確保復(fù)雜文檔布局的準(zhǔn)確理解和內(nèi)容完整性。

3. 極速推理性能：創(chuàng)新的 Token 并行和 Query 并行機(jī)制，推理速度提升 5-11 倍，實(shí)際應(yīng)用可獲得額外 2 倍加速。

4. 輕量易部署：僅 2B 參數(shù)的輕量級模型，完全開源，支持 Hugging Face 快速集成，部署成本低。

5. 基準(zhǔn)測試領(lǐng)先：在 OminiDocBench v1.5 和 olmOCR 等權(quán)威基準(zhǔn)測試中表現(xiàn)優(yōu)異。

模型的部署指南詳見鏈接：

• https://youtu-rag-docs.vercel.app/docs/zh/youtu-embedding/deploying-locally

2.2.3 Youtu-HiChunk

Youtu-HiChunk 是一個面向 RAG 系統(tǒng)的層次化文檔分塊框架，通過樹狀結(jié)構(gòu)解析和 Auto-Merge 檢索算法，動態(tài)調(diào)整檢索粒度以提升檢索質(zhì)量和上下文完整性。其主要特性如下：

1. 層次化文檔分塊：創(chuàng)新性地將文檔解析為樹狀層次結(jié)構(gòu)，支持多層級（最高10級）語義粒度，精準(zhǔn)捕捉文檔的章節(jié)-段落-句子等自然層次關(guān)系。

2. Auto-Merge 智能檢索算法：獨(dú)創(chuàng)的自動合并檢索機(jī)制，動態(tài)調(diào)整檢索片段的語義粒度，有效緩解傳統(tǒng)固定分塊導(dǎo)致的信息不完整問題，智能平衡檢索精度與上下文完整性。

3. 完整的評估基準(zhǔn) HiCBench：專注于文檔分塊質(zhì)量評估的權(quán)威基準(zhǔn)，包含精細(xì)的層次結(jié)構(gòu)標(biāo)注和證據(jù)密集型問答對，為 RAG 系統(tǒng)提供更準(zhǔn)確的瓶頸診斷能力。

4. 多語言訓(xùn)練增強(qiáng)：基于 Youtu-LLM，使用 qasper、gov-report、wiki-727k 等多源數(shù)據(jù)集訓(xùn)練，支持中英文文檔處理，具備數(shù)據(jù)增強(qiáng)（內(nèi)部打亂、截斷增強(qiáng)）等多種訓(xùn)練策略。

模型的部署指南詳見鏈接：

• https://youtu-rag-docs.vercel.app/docs/zh/hichunk/deploying-locally

2.3 雙層記憶機(jī)制

傳統(tǒng) RAG 系統(tǒng)缺乏記憶能力，每次對話都是獨(dú)立的、無狀態(tài)的交互，無法積累用戶的長期行為模式和個性化偏好，也無法跨會話關(guān)聯(lián)信息。Youtu-RAG 構(gòu)建了“短期記憶 + 長期記憶”的雙層記憶架構(gòu)，使系統(tǒng)從"無狀態(tài)工具"進(jìn)化為"有狀態(tài)智能體"，實(shí)現(xiàn)個性化服務(wù)與上下文連貫。（目前 Youtu-RAG 系統(tǒng)配置了基礎(chǔ)版本的支持，持續(xù)更新中。）

2.3.1 短期記憶

短期記憶負(fù)責(zé)維護(hù)當(dāng)前會話的即時上下文信息，確保多輪對話的連貫性和任務(wù)執(zhí)行的連續(xù)性。

核心功能：

1. 會話上下文保持：利用大模型的 Context Window 維護(hù)當(dāng)前對話的完整歷史，包括用戶問題、系統(tǒng)回答、工具調(diào)用結(jié)果、中間推理狀態(tài)等

2. 多輪對話關(guān)聯(lián)：支持指代消解和意圖繼承，理解"這個"、"剛才那個"等代詞指代，保持話題連貫

3. 臨時狀態(tài)管理：存儲當(dāng)前任務(wù)執(zhí)行過程中的臨時變量，如檢索參數(shù)、中間計(jì)算結(jié)果、待確認(rèn)信息等

典型應(yīng)用場景：

• 用戶追問：“剛才提到的第三點(diǎn)具體是什么？” ?? 系統(tǒng)通過短期記憶準(zhǔn)確定位前文內(nèi)容

• 多步任務(wù)執(zhí)行：“先查 2024 年 Q1 數(shù)據(jù)，再對比 Q2” ?? 短期記憶保持 Q1 結(jié)果供后續(xù)對比

2.3.2 長期記憶

長期記憶負(fù)責(zé)跨會話（Session）積累用戶的個性化信息和行為模式，實(shí)現(xiàn)“越用越懂你”的個性化體驗(yàn)。

核心功能：

1. 示例 QA 學(xué)習(xí)

• 高質(zhì)量QA沉淀：系統(tǒng)自動記錄經(jīng)過用戶確認(rèn)或驗(yàn)證的高質(zhì)量問題-答案對

• 相似問題匹配：當(dāng)遇到新問題時，通過語義相似度檢索歷史成功案例，優(yōu)先參考已驗(yàn)證的解決路徑

• 經(jīng)驗(yàn)復(fù)用：對于周期性或相似問題，直接調(diào)用歷史最優(yōu)答案或推理路徑，減少重復(fù)計(jì)算

2. 檢索策略優(yōu)化

● 問題 ?? 策略映射：記錄不同問題類型對應(yīng)的最優(yōu)檢索策略組合，比如

○ 數(shù)據(jù)分析類問題 ?? Text2SQL Agent + Excel Agent

○ 概念查詢類問題 ?? KB Search + Meta Retrieval

○ 事實(shí)核查類問題 ?? File QA + Web Search

● 策略效果評估：根據(jù)歷史執(zhí)行效果（準(zhǔn)確率、用戶滿意度）動態(tài)調(diào)整策略優(yōu)先級

● 自適應(yīng)路由：基于積累的策略知識，Agent可自動選擇最優(yōu)檢索路徑，無需人工配置規(guī)則

3. 參數(shù)自適應(yīng)

● 場景化參數(shù)配置：沉淀不同場景下的最優(yōu)參數(shù)組合

○ 檢索閾值（相似度 cutoff）

○ TopK數(shù)量（召回數(shù)量）

○ 重排策略（Reranker模型選擇）

○ 元數(shù)據(jù)過濾條件（時間范圍、作者等）

● 動態(tài)調(diào)優(yōu)：根據(jù)問題復(fù)雜度和數(shù)據(jù)特征，自動加載歷史最優(yōu)參數(shù)配置

典型應(yīng)用場景：

● 用戶 A 偏好詳細(xì)技術(shù)文檔，用戶 B 偏好簡明摘要 ?? 同一問題給出不同詳略程度的回答

● 每月固定查詢財務(wù)報表的用戶 ?? 系統(tǒng)自動記憶其偏好的時間范圍、關(guān)注指標(biāo)、展示格式

● 識別用戶專業(yè)背景（財務(wù)/技術(shù)/市場），調(diào)整術(shù)語使用和專業(yè)深度

2.3.3 雙層記憶的協(xié)同機(jī)制

短期記憶與長期記憶通過智能體決策協(xié)同工作，實(shí)現(xiàn)上下文連貫與個性化服務(wù)的統(tǒng)一：

協(xié)同工作流程：

1. 會話初始化：系統(tǒng)啟動時檢索長期記憶，加載用戶畫像和偏好設(shè)置

2. 實(shí)時交互：短期記憶保持當(dāng)前對話上下文，支持多輪推理和指代消解

3. 記憶更新：會話結(jié)束時，將本次會話的關(guān)鍵信息（確認(rèn)的事實(shí)、新發(fā)現(xiàn)的偏好、問答對、Agent 執(zhí)行軌跡等）寫入長期記憶

結(jié)語

3.1 核心技術(shù)創(chuàng)新與價值

Youtu-RAG 通過三大技術(shù)創(chuàng)新實(shí)現(xiàn)了從傳統(tǒng) RAG 到 Agentic RAG 的全面升級，系統(tǒng)性地解決了傳統(tǒng)檢索增強(qiáng)生成系統(tǒng)的核心痛點(diǎn)：

1. 智能檢索引擎——從“單次檢索”到“多步推理”：傳統(tǒng) RAG 系統(tǒng)采用固定的“檢索→生成”流程，面對復(fù)雜問題時缺乏靈活性。Youtu-RAG 構(gòu)建了智能體驅(qū)動的檢索引擎，實(shí)現(xiàn)三大突破：自主決策能力、多樣化檢索策略、文件中心化架構(gòu)。

2. 全棧本地部署——從“云端依賴”到“數(shù)據(jù)自主”：針對企業(yè)和個人用戶的數(shù)據(jù)隱私需求，Youtu-RAG 實(shí)現(xiàn)了完整的本地化部署方案，Youtu生態(tài)全覆蓋、數(shù)據(jù)存儲本地化、零數(shù)據(jù)出域。

3. 雙層記憶機(jī)制——從“無狀態(tài)對話”到“持續(xù)學(xué)習(xí)”：傳統(tǒng) RAG 系統(tǒng)缺乏記憶能力，每次對話都是孤立的。Youtu-RAG構(gòu)建了“短期記憶+長期記憶”的雙層架構(gòu)，二者協(xié)同支撐“越用越懂你”的智能體演進(jìn)。

這些創(chuàng)新不僅提升了系統(tǒng)的技術(shù)性能，更重要的是拓展了RAG技術(shù)的應(yīng)用邊界，為企業(yè)級知識管理、智能客服、數(shù)據(jù)分析等場景提供了全新的解決方案。

3.2 開源生態(tài)與未來展望

Youtu-RAG 已開源，項(xiàng)目中提供了詳盡的部署文檔、使用教程和最佳實(shí)踐案例：

• Youtu-RAG主項(xiàng)目：完整的 Agentic RAG 實(shí)現(xiàn)，包含智能檢索引擎、多 Agent 協(xié)作、文件管理等核心能力

• Youtu系列模型：Youtu-Embedding、Youtu-Parsing、Youtu-HiChunk等專業(yè)模型全面開源，均基于 Youtu-LLM 訓(xùn)練

• 評測基準(zhǔn)：發(fā)布 DTR-Bench（表格分析）、HiCBench（文檔分塊）、Memoria-Bench（智能體記憶）等權(quán)威評測集

Agentic RAG 的持續(xù)演進(jìn)，本質(zhì)上是一場在效率、成本與效果之間尋求最優(yōu)解的長期實(shí)踐。面向下一代智能檢索增強(qiáng)系統(tǒng)，我們的打磨不僅圍繞性能本身，也會聚焦于以下幾個核心命題：

1. 記憶系統(tǒng)的深度進(jìn)化：構(gòu)建具備自動壓縮與選擇性遺忘機(jī)制的長期記憶結(jié)構(gòu)，以解決記憶膨脹問題，使系統(tǒng)能夠在自主學(xué)習(xí)與成長中不斷迭代

2. 多模態(tài)能力的系統(tǒng)擴(kuò)展：突破文本邊界，實(shí)現(xiàn)對圖像、音頻、視頻等異構(gòu)信息的統(tǒng)一檢索與語義理解，推動知識交互從單一模態(tài)走向多元融合

3. 推理效率的極致優(yōu)化：通過輕量化模型的蒸餾與高效部署，讓 Agentic RAG 能夠在邊緣設(shè)備或低資源環(huán)境中穩(wěn)定運(yùn)行，真正實(shí)現(xiàn)智能能力的普惠

Agentic RAG 技術(shù)通過賦予系統(tǒng)自主決策與持續(xù)學(xué)習(xí)的能力，正在將傳統(tǒng)的被動式檢索工具，重塑為真正智能的知識助手。它不僅推動著下一代知識管理、智能客服、研報分析、數(shù)據(jù)洞察等應(yīng)用的演進(jìn)，也正成為這些場景中不可或缺的核心技術(shù)底座。依托于開源協(xié)作項(xiàng)目Youtu-RAG，我們期待與更多開發(fā)者、研究者攜手，共同探索RAG技術(shù)的更多可能，推動人工智能在知識密集型領(lǐng)域的深度落地與廣泛普及。

• Youtu-RAG:https://youtu-rag-docs.vercel.app/about.html

• YoutuAgent:https://github.com/TencentCloudADP/youtu-agent

• YoutuEmbedding:https://github.com/TencentCloudADP/youtu-embedding

• YoutuParsing:https://github.com/TencentCloudADP/youtu-parsing

• YoutuHiChunk:https://github.com/TencentCloudADP/hichunk

【活動分享】由 CSDN&奇點(diǎn)智能研究院聯(lián)合舉辦的「全球機(jī)器學(xué)習(xí)技術(shù)大會」正式升級為「奇點(diǎn)智能技術(shù)大會」。2026 奇點(diǎn)智能技術(shù)大會將于 4 月 17-18 日在上海環(huán)球港凱悅酒店正式召開，大會聚焦大模型技術(shù)演進(jìn)、智能體系統(tǒng)工程、OpenClaw 生態(tài)實(shí)踐及 AI 行業(yè)落地等十二大專題板塊，特邀來自BAT、京東、微軟、小紅書、美團(tuán)等頭部企業(yè)的 50+ 位技術(shù)決策者分享實(shí)戰(zhàn)案例。旨在幫助技術(shù)管理者與一線 AI 落地人員規(guī)避選型風(fēng)險、降低試錯成本、獲取可復(fù)用的工程方法論，真正實(shí)現(xiàn) AI 技術(shù)的規(guī)?；涞嘏c商業(yè)價值轉(zhuǎn)化。這不僅是一場技術(shù)的盛宴，更是決策者把握 2026 AI 拐點(diǎn)的戰(zhàn)略機(jī)會。