點(diǎn)擊下方“JavaEdge”，選擇“設(shè)為星標(biāo)”

第一時(shí)間關(guān)注技術(shù)干貨！

免責(zé)聲明~ 任何文章不要過(guò)度深思！ 萬(wàn)事萬(wàn)物都經(jīng)不起審視，因?yàn)槭郎蠜]有同樣的成長(zhǎng)環(huán)境，也沒有同樣的認(rèn)知水平，更「沒有適用于所有人的解決方案」； 不要急著評(píng)判文章列出的觀點(diǎn)，只需代入其中，適度審視一番自己即可，能「跳脫出來(lái)從外人的角度看看現(xiàn)在的自己處在什么樣的階段」才不為俗人。 怎么想、怎么做，全在乎自己「不斷實(shí)踐中尋找適合自己的大道」

0 前言

RAG是AIGC可靠性和準(zhǔn)確性的一項(xiàng)關(guān)鍵技術(shù)。不過(guò)，RAG 也存在一些局限，如上下文處理、成本控制及面對(duì)超大數(shù)據(jù)集時(shí)的挑戰(zhàn)。

因此，過(guò)去一年里，業(yè)界出現(xiàn)了許多新方法，試圖彌補(bǔ) RAG 的不足。

下面深入了解 2025 年RAG領(lǐng)域的一些最新動(dòng)態(tài)。

1 RAG工作原理及其局限性

RAG是一種結(jié)合LLM與外部知識(shí)源的技術(shù)。具體做法是，把文檔或數(shù)據(jù)庫(kù)等外部知識(shí)源進(jìn)行分塊、向量化處理，生成所謂的向量嵌入（vector embeddings），并存儲(chǔ)在向量數(shù)據(jù)庫(kù)或其他存儲(chǔ)系統(tǒng)中。當(dāng)用戶輸入提示詞時(shí)，系統(tǒng)可以實(shí)時(shí)檢索這些數(shù)據(jù)，從而為 LLM 提供更準(zhǔn)確、更新或更具上下文的信息。

雖然強(qiáng)大，但不少局限，如：

• 檢索效果大程度取決于數(shù)據(jù)本身質(zhì)量和更新頻率

• 面對(duì)復(fù)雜查詢或超大數(shù)據(jù)集時(shí)，傳統(tǒng)的 RAG（有時(shí)也被稱為“原始 RAG”）容易出現(xiàn)信息混淆或檢索出的內(nèi)容缺乏足夠的細(xì)膩度

近年來(lái)非常受歡迎的一種新方法。

2.1 核心思想

在檢索過(guò)程中引入評(píng)估步驟，加入所謂的“自我反思”或“自我評(píng)分”機(jī)制。評(píng)估器會(huì)檢查檢索結(jié)果的準(zhǔn)確性，如果達(dá)不到設(shè)定標(biāo)準(zhǔn)，系統(tǒng)就會(huì)重新檢索（有時(shí)還會(huì)擴(kuò)展到網(wǎng)頁(yè)搜索）。這一機(jī)制通常由一個(gè)輕量級(jí)檢索評(píng)估器來(lái)實(shí)現(xiàn)，用來(lái)衡量檢索結(jié)果的相關(guān)性。

2.2 解決啥問(wèn)題？

校正型 RAG 主要是為了應(yīng)對(duì)檢索不準(zhǔn)確的問(wèn)題。例如，當(dāng)數(shù)據(jù)集中存在語(yǔ)義相近的信息時(shí)，容易混淆，而加入評(píng)估步驟可以大大提高檢索結(jié)果的可靠性。

2.3 局限性

不過(guò)，校正型 RAG 也存在一些弊端。首先，引入評(píng)估環(huán)節(jié)不可避免地增加了延遲，因?yàn)樾枰~外的計(jì)算資源，可能會(huì)影響整體性能（尤其是在面向客戶的實(shí)時(shí)應(yīng)用中）。其次，它會(huì)增加 AI 流水線的復(fù)雜性，降低團(tuán)隊(duì)的開發(fā)效率，一旦出現(xiàn)問(wèn)題，排查和修復(fù)也更困難。

此外，校正型 RAG 無(wú)法解決數(shù)據(jù)本身的問(wèn)題——如果數(shù)據(jù)不準(zhǔn)確、過(guò)時(shí)或分塊不合理，仍然會(huì)影響最終效果。

2.4 適用場(chǎng)景

如需在準(zhǔn)確性和實(shí)時(shí)數(shù)據(jù)集成之間取得平衡，這是不錯(cuò)選擇。

3 自我反思型 RAG（Self-RAG）

類似校正型RAG ，也引入“自我反思”機(jī)制，但走得更遠(yuǎn)。除了評(píng)估檢索結(jié)果本身之外，自我反思型 RAG 還會(huì)在是否需要檢索以及如何檢索方面進(jìn)行更深層次的反思，并能通過(guò)反復(fù)訓(xùn)練不斷優(yōu)化。

它采用三個(gè)模型協(xié)同工作：檢索器、評(píng)審器和生成器。通過(guò)這種“三位一體”的架構(gòu)，自我反思型 RAG 可以生成所謂的“反思 token”。這些 token 讓語(yǔ)言模型在推理階段可以根據(jù)不同任務(wù)要求調(diào)整行為。

一句話，通過(guò)反饋循環(huán)不斷強(qiáng)化自己的檢索決策，最終提高整體性能。

3.1 解決啥問(wèn)題？

和校正型 RAG 一樣，自我反思型 RAG 能有效提高檢索準(zhǔn)確率。而且由于具備自我學(xué)習(xí)能力，隨著時(shí)間推移，表現(xiàn)還能不斷提升。

3.2 局限性

它的問(wèn)題和校正型 RAG 類似，但也有自己的獨(dú)特挑戰(zhàn)。比如，自我反思機(jī)制有時(shí)會(huì)導(dǎo)致模型“想太多”，結(jié)果輸出的信息與實(shí)際數(shù)據(jù)并不吻合。

此外，訓(xùn)練過(guò)程中用于反思的 token 可能會(huì)影響最終生成內(nèi)容的質(zhì)量或流暢度。因此，使用時(shí)需要根據(jù)實(shí)際需求權(quán)衡利弊。

3.3 適用場(chǎng)景

如果你需要模型具備較強(qiáng)的適應(yīng)性，尤其是處理開放領(lǐng)域問(wèn)題或復(fù)雜推理任務(wù)，自我反思型 RAG 是一個(gè)非常合適的選擇。

4 RAG 融合（RAG-fusion）

思路與校正型 RAG、自我反思型 RAG 不同。前兩者專注于“自我反思”，而 RAG-fusion 則是將多個(gè)檢索到的資源（如文檔、維基條目等）融合成一個(gè)批次，通過(guò)互惠排名融合（RRF）算法處理，擴(kuò)展模型能夠檢索到的信息范圍和細(xì)節(jié)。

4.1 解決啥問(wèn)題？

RAG-fusion 主要提升了模型處理復(fù)雜背景和細(xì)節(jié)問(wèn)題的能力。它能讓模型給出更加連貫、詳細(xì)的回答，尤其是在面對(duì)困難或多層次提示時(shí)表現(xiàn)更好。

4.2 局限性

不過(guò)，RAG-fusion 會(huì)顯著增加 LLM 架構(gòu)和流水線的復(fù)雜度（以及成本）。額外的步驟還可能引發(fā)性能下降等問(wèn)題。

4.3 適用場(chǎng)景

如果你在客服等需要細(xì)致、連貫輸出的場(chǎng)景中工作，RAG-fusion 是非常值得考慮的方法。

5 快速圖譜 RAG（Fast GraphRAG）

Fast GraphRAG 是 GraphRAG 的開源實(shí)現(xiàn)。GraphRAG 并不是簡(jiǎn)單地檢索數(shù)據(jù)塊，而是將數(shù)據(jù)抽取后構(gòu)建成知識(shí)圖譜，使得 LLM 能夠像閱讀地圖一樣理解和檢索數(shù)據(jù)，提升了檢索的深度和細(xì)致程度。

Fast GraphRAG 在此基礎(chǔ)上引入了 PageRank（谷歌創(chuàng)始人 Larry Page 和 Sergey Brin 開發(fā)的算法），幫助系統(tǒng)更快速地找出知識(shí)圖譜中最相關(guān)的信息。

5.1 解決啥問(wèn)題？

Fast GraphRAG 特別擅長(zhǎng)處理數(shù)據(jù)理解和細(xì)膩度問(wèn)題。利用知識(shí)圖譜，讓 AI 系統(tǒng)對(duì)數(shù)據(jù)有更豐富的“理解”。此外，它比傳統(tǒng) RAG 更適合處理大規(guī)模動(dòng)態(tài)數(shù)據(jù)集，能夠更好應(yīng)對(duì)數(shù)據(jù)更新或變化。

而且，F(xiàn)ast GraphRAG 相比傳統(tǒng) GraphRAG 成本更低、速度更快（據(jù)說(shuō)能便宜 6 倍左右）。

5.2 局限性

不過(guò)，F(xiàn)ast GraphRAG 相比直接基于向量數(shù)據(jù)庫(kù)的 RAG 技術(shù)還是慢一些，而且系統(tǒng)復(fù)雜度更高，對(duì)于很多簡(jiǎn)單場(chǎng)景來(lái)說(shuō)，可能得不償失。

5.3 適用場(chǎng)景

如果你面對(duì)的是超大數(shù)據(jù)集，或者對(duì)檢索準(zhǔn)確性要求極高，F(xiàn)ast GraphRAG 是一個(gè)非常值得考慮的選擇。

6 RAG的未來(lái)

上面提到的方法并不全面，目前還有很多新技術(shù)正在不斷涌現(xiàn)。

比如，有些團(tuán)隊(duì)正在探索多模態(tài) RAG，不僅檢索文本，還能處理圖像、表格、甚至音頻數(shù)據(jù)。

還有一種更徹底的替代方案叫緩存增強(qiáng)生成（Cache-augmented Generation），通過(guò)預(yù)加載數(shù)據(jù)到模型上下文窗口，省去了實(shí)時(shí)檢索步驟，提升模型響應(yīng)速度。雖然這種方式未必能提高準(zhǔn)確性和輸出質(zhì)量，但對(duì)于提高效率很有幫助。

7 總結(jié)

可見，RAG 領(lǐng)域正在迅速發(fā)展。雖然生成式 AI 和大型語(yǔ)言模型常常成為媒體關(guān)注的焦點(diǎn)，但真正決定 AI 產(chǎn)品效果的，往往是檢索技術(shù)背后的創(chuàng)新和實(shí)驗(yàn)。

當(dāng)然，每種方法都有其優(yōu)缺點(diǎn)，必須在復(fù)雜性、速度和成本之間權(quán)衡取舍。

最重要的是，根據(jù)你的具體應(yīng)用場(chǎng)景明確需求，認(rèn)真評(píng)估不同方案，做出理性、有效的選擇。

本文已收錄在Github Java-Interview-Tutorial，關(guān)注我，緊跟本系列專欄文章，咱們下篇再續(xù)！

• 魔都架構(gòu)師 | 全網(wǎng)30W技術(shù)追隨者

• 大廠分布式系統(tǒng)/數(shù)據(jù)中臺(tái)實(shí)戰(zhàn)專家

• 主導(dǎo)交易系統(tǒng)億級(jí)流量調(diào)優(yōu) & 車聯(lián)網(wǎng)平臺(tái)架構(gòu)

• AIGC應(yīng)用開發(fā)先行者 | 區(qū)塊鏈落地實(shí)踐者

• 以技術(shù)驅(qū)動(dòng)創(chuàng)新，我們的征途是改變世界！

• 實(shí)戰(zhàn)干貨：編程嚴(yán)選網(wǎng)

關(guān)注我，緊跟本系列專欄文章，咱們下篇再續(xù)！

加我好友，一起AI探索交流：