新智元報(bào)道

編輯：LRST

【新智元導(dǎo)讀】LyapLock首次讓大模型在上萬(wàn)次知識(shí)更新中穩(wěn)住舊記憶、精準(zhǔn)學(xué)新知。它用「虛擬隊(duì)列」實(shí)時(shí)監(jiān)控遺忘風(fēng)險(xiǎn)，動(dòng)態(tài)平衡新舊知識(shí)，理論保證長(zhǎng)期不崩盤(pán)，編輯效果比主流方法提升11.89%，還能賦能現(xiàn)有模型，讓AI真正學(xué)會(huì)「持續(xù)成長(zhǎng)」。

大型語(yǔ)言模型通常包含事實(shí)上不正確或過(guò)時(shí)的知識(shí)，這催生了用于實(shí)現(xiàn)精確知識(shí)更新的模型編輯方法。然而，由于缺乏適當(dāng)?shù)拈L(zhǎng)期知識(shí)保留機(jī)制，當(dāng)前主流的「先定位后編輯」方法在連續(xù)編輯過(guò)程中表現(xiàn)出漸進(jìn)式的性能下降。

為了解決這個(gè)問(wèn)題，中科院信工所的研究人員提出了LyapLock，將連續(xù)編輯建模為一個(gè)受約束的隨機(jī)規(guī)劃問(wèn)題。鑒于累積保留誤差約束以及逐漸揭示的編輯任務(wù)所帶來(lái)的挑戰(zhàn)。

論文鏈接： https://arxiv.org/pdf/2505.15702

LyapLock整合了排隊(duì)論和李雅普諾夫（Lyapunov）優(yōu)化，將長(zhǎng)期的約束規(guī)劃分解為易于處理的逐步子問(wèn)題，從而實(shí)現(xiàn)高效求解。

這是第一個(gè)具備嚴(yán)格理論保證的模型編輯框架，在滿(mǎn)足長(zhǎng)期知識(shí)保留約束的同時(shí)，實(shí)現(xiàn)了漸近最優(yōu)的編輯性能。

實(shí)驗(yàn)結(jié)果表明，該框架將連續(xù)編輯的能力擴(kuò)展到了10,000次以上，在穩(wěn)定模型通用能力的同時(shí)，其平均編輯效果比當(dāng)前最先進(jìn)（SOTA）的基線(xiàn)方法提升了11.89%。此外，該框架還可以被用來(lái)增強(qiáng)現(xiàn)有基線(xiàn)方法的性能。

研究背景

目前主流的「先定位后編輯（Locate-then-edit）」范式（比如大名鼎鼎的ROME和MEMIT）在單次知識(shí)更新上極其精準(zhǔn)。為了讓它們適應(yīng)連續(xù)編輯，近期的研究（如RECT、AlphaEdit）嘗試在參數(shù)搜索時(shí)加入正則化或零空間投影等啟發(fā)式約束 。

痛點(diǎn)在于：這些方法本質(zhì)上都是短視的。

• 它們大都只專(zhuān)注于眼前的單步增量?jī)?yōu)化，缺乏一個(gè)嚴(yán)謹(jǐn)?shù)睦碚摽蚣軄?lái)管控連續(xù)編輯在長(zhǎng)期帶來(lái)的累積效應(yīng) 。

• 每次編輯似乎只破壞了一點(diǎn)點(diǎn)原有知識(shí)，但一萬(wàn)次編輯之后，累積的保留損失（Preservation Loss）會(huì)呈現(xiàn)單調(diào)上漲的失控態(tài)勢(shì) 。

• 實(shí)驗(yàn)殘酷地證明了這一點(diǎn)：在連續(xù)編輯10,000個(gè)樣本后，所有主流基線(xiàn)方法在下游任務(wù)上的性能幾乎全部掉到了零點(diǎn)（圖1）。

圖1：基線(xiàn)方法Preservation Loss爆炸和下游任務(wù)F1歸零的折線(xiàn)圖

研究方法

既然頭痛醫(yī)頭腳痛醫(yī)腳不行，那就必須從全局視角重新定義問(wèn)題。

LyapLock 沒(méi)有繼續(xù)在單步損失函數(shù)上縫縫補(bǔ)補(bǔ)，而是直接把連續(xù)編輯建模成了一個(gè)帶長(zhǎng)期約束的隨機(jī)規(guī)劃問(wèn)題（圖2）。

圖2：傳統(tǒng)的單步雙目標(biāo)優(yōu)化與 LyapLock 約束長(zhǎng)期優(yōu)化的核心區(qū)別公式對(duì)比圖

用「剝洋蔥」的方式來(lái)說(shuō)，直覺(jué)（Intuition）是這樣的：

• 引入虛擬隊(duì)列（Virtual Queues）充當(dāng)「蓄水池」：設(shè)計(jì)了一個(gè)虛擬隊(duì)列 ，用來(lái)實(shí)時(shí)監(jiān)控累積的記憶遺忘情況 。如果編輯某條知識(shí)導(dǎo)致原有知識(shí)破壞過(guò)大，超出了設(shè)定的紅線(xiàn)閾值 ，這個(gè)隊(duì)列的水位就會(huì)上漲 。

• 動(dòng)態(tài)博弈的李雅普諾夫優(yōu)化（Lyapunov Optimization）：這是控制論中的經(jīng)典方法 。當(dāng)隊(duì)列水位 升高時(shí)，系統(tǒng)會(huì)自動(dòng)拉響警報(bào)，增加損失函數(shù)中「知識(shí)保留（Preservation Loss）」的懲罰權(quán)重 。此時(shí)，模型的首要任務(wù)變成了「保護(hù)老知識(shí)」。

• 張弛有度：而當(dāng)水位下降（即近期編輯對(duì)老知識(shí)破壞不大，處于安全區(qū)）時(shí)，權(quán)重減小，系統(tǒng)又會(huì)把計(jì)算資源傾斜給「學(xué)習(xí)新知識(shí)（Editing Loss）」 。

通過(guò)這種方式，研究人員在理論上證明了：只要虛擬隊(duì)列保持強(qiáng)穩(wěn)定，模型在無(wú)限次連續(xù)編輯中的平均保留損失就一定會(huì)被死死鎖在紅線(xiàn)之內(nèi) 。

詳細(xì)結(jié)果

用真實(shí)的實(shí)驗(yàn)數(shù)據(jù)來(lái)說(shuō)話(huà)，在LLaMA-3(8B)、GPT-J(6B) 等多個(gè)模型上進(jìn)行了極限測(cè)試 。

破萬(wàn)次編輯，通用能力不崩盤(pán)

在連續(xù)編輯10,000次后，所有的基線(xiàn)方法（ROME, MEMIT, PRUNE, RECT, AlphaEdit）在 GLUE 六大下游任務(wù)上全軍覆沒(méi)，性能暴跌至0%。而LyapLock穩(wěn)如泰山，甚至當(dāng)把壓力測(cè)試?yán)叩?strong>20,000次編輯時(shí)，模型依然保持著極佳的通用語(yǔ)言能力。同時(shí)，在其他基線(xiàn)方法的Preservation Loss類(lèi)似指數(shù)上升的同時(shí)，LyapLock方法將其限制在了一定的閾值內(nèi)（圖3，圖4）。

圖3：GLUE下游任務(wù)抗跌對(duì)比

圖4：Preservation Loss穩(wěn)定在閾值內(nèi)的對(duì)比圖

知識(shí)更新性能霸榜

不僅老知識(shí)護(hù)得好，新知識(shí)也學(xué)得精。相比于第二強(qiáng)的基線(xiàn)AlphaEdit，LyapLock的平均編輯效力（Efficacy）硬生生拔高了11.89%。在LLaMA3-Counterfact場(chǎng)景下，泛化能力更是拉開(kāi)了19.71%的巨大差距 。

圖5：主實(shí)驗(yàn)結(jié)果

即插即用的外掛神器

LyapLock的理論框架不僅能單打獨(dú)斗，還能向下兼容！把它和MEMIT、PRUNE等現(xiàn)有方法結(jié)合，能夠直接讓它們的編輯性能提升9.76%，下游任務(wù)表現(xiàn)更是暴漲41.11%。

圖6：結(jié)合 LyapLock 后基線(xiàn)方法性能提升的雷達(dá)圖

總結(jié)與展望

LyapLock第一次利用Lyapunov優(yōu)化為連續(xù)編輯套上了一層帶理論保證的「鎖」。它證明了，只要控制好長(zhǎng)期損失的累積，LLM完全有潛力像人類(lèi)一樣，在漫長(zhǎng)的生命周期中持續(xù)學(xué)習(xí)和修正認(rèn)知，而不至于「學(xué)了新知識(shí)，忘了自己是誰(shuí)」 。

當(dāng)然，目前的工作也還有進(jìn)步空間。

比如評(píng)測(cè)主要集中在自然語(yǔ)言理解（NLU）任務(wù)上，未來(lái)在代碼生成、復(fù)雜數(shù)學(xué)推理等領(lǐng)域，這種連續(xù)編輯的鎖還能不能鎖得這么穩(wěn)？更大的十萬(wàn)、百萬(wàn)級(jí)編輯量極限又在哪里？這些都非常值得社區(qū)繼續(xù)深挖 。

參考資料：

https://arxiv.org/pdf/2505.15702