全球頂尖的AI模型可以被誘導(dǎo)生成暢銷小說的近似逐字復(fù)制內(nèi)容，這給AI行業(yè)聲稱其系統(tǒng)不存儲版權(quán)作品的說法帶來了新的質(zhì)疑。

最近的一系列研究顯示，來自O(shè)penAI、谷歌、Meta、Anthropic和xAI的大語言模型對訓(xùn)練數(shù)據(jù)的記憶程度遠(yuǎn)超此前預(yù)期。

AI和法律專家向《金融時報》表示，這種"記憶"能力可能對AI集團(tuán)在全球數(shù)十起版權(quán)訴訟中的抗辯產(chǎn)生嚴(yán)重影響，因為它削弱了他們的核心防御論點——大語言模型從版權(quán)作品中"學(xué)習(xí)"但不存儲副本。

"越來越多的證據(jù)表明，記憶現(xiàn)象比此前認(rèn)為的更為普遍，"倫敦帝國理工學(xué)院應(yīng)用數(shù)學(xué)和計算機(jī)科學(xué)教授伊夫-亞歷山大·德·蒙喬伊說。

AI集團(tuán)長期以來一直聲稱不會發(fā)生記憶現(xiàn)象。在2023年致美國版權(quán)局的信件中，谷歌表示"模型本身不存在訓(xùn)練數(shù)據(jù)的副本——無論是文本、圖像還是其他格式"。

AI行業(yè)還聲稱，使用版權(quán)書籍訓(xùn)練模型屬于"合理使用"，認(rèn)為該技術(shù)將原始作品轉(zhuǎn)化為有意義的新內(nèi)容。

但上個月發(fā)表的一項研究顯示，斯坦福大學(xué)和耶魯大學(xué)的研究人員能夠策略性地誘導(dǎo)來自O(shè)penAI、谷歌、Anthropic和xAI的大語言模型生成13本書中的數(shù)千個單詞，包括《權(quán)力的游戲》、《饑餓游戲》和《霍比特人》。

通過要求模型完成書中的句子，Gemini 2.5以高度準(zhǔn)確性復(fù)制了《哈利波特與魔法石》的76.8%，而Grok 3生成了70.3%。

他們還能夠通過"越獄"Anthropic的Claude 3.7 Sonnet模型，幾乎完整地"近似逐字"提取整部小說，越獄是指用戶可以誘導(dǎo)大語言模型無視其安全防護(hù)。

這項研究建立在去年一項研究的基礎(chǔ)上，該研究發(fā)現(xiàn)Meta的Llama等"開放"模型會記憶訓(xùn)練數(shù)據(jù)中特定書籍的大部分內(nèi)容。

AI專家此前不確定通常具有更多安全防護(hù)以防止模型生成不當(dāng)內(nèi)容的封閉模型是否也容易出現(xiàn)大規(guī)模記憶現(xiàn)象。

"令人驚訝的是，盡管有防護(hù)措施，它們?nèi)阅苡洃浾麄€文本，"參與該研究的耶魯大學(xué)研究員A·費德·庫珀說。

研究人員尚未弄清楚大語言模型為什么會記憶出現(xiàn)在訓(xùn)練數(shù)據(jù)中的內(nèi)容。目前也不清楚有多少訓(xùn)練數(shù)據(jù)在其生成的輸出中顯現(xiàn)。

這種記憶特性在醫(yī)療保健和教育等其他領(lǐng)域也可能產(chǎn)生嚴(yán)重影響，因為任何訓(xùn)練數(shù)據(jù)的泄露都可能導(dǎo)致隱私和保密問題。

法律專家表示，這可能給AI集團(tuán)在版權(quán)侵權(quán)方面造成重大責(zé)任，以及對AI公司如何訓(xùn)練模型和開發(fā)成本產(chǎn)生影響。

律師事務(wù)所Pinsent Masons的知識產(chǎn)權(quán)合伙人塞瑞絲·溫·戴維斯表示，研究發(fā)現(xiàn)"可能對那些聲稱AI模型不存儲或復(fù)制任何版權(quán)作品的人構(gòu)成挑戰(zhàn)"。

AI模型是否記憶其訓(xùn)練數(shù)據(jù)在最近的版權(quán)法律戰(zhàn)中發(fā)揮了重要作用。

美國法院去年裁定，Anthropic在一些版權(quán)內(nèi)容上訓(xùn)練大語言模型可能被視為合理使用，因為它被認(rèn)為具有"變革性"。

但法院認(rèn)定存儲盜版作品是"本質(zhì)上、不可挽回的侵權(quán)行為"，這導(dǎo)致該AI集團(tuán)支付15億美元和解訴訟。

在德國，去年11月的一項裁決發(fā)現(xiàn)OpenAI侵犯了版權(quán)，因為其模型記憶了歌詞。這起由代表作曲家、作詞家和出版商的協(xié)會GEMA提起的案件被認(rèn)為是歐盟的里程碑式裁決。

律師事務(wù)所Husch Blackwell的合伙人魯?shù)稀ぬ貭柹釥柋硎?，在不越獄的情況下復(fù)制整本書"明顯是版權(quán)侵犯"。但"關(guān)鍵是這種情況是否發(fā)生得足夠頻繁，以至于[AI模型]可能對侵權(quán)承擔(dān)連帶責(zé)任，"他補充說。

Anthropic表示，斯坦福和耶魯研究中使用的越獄技術(shù)對普通用戶不實用，提取文本所需的努力比直接購買內(nèi)容更多。

該公司還補充說，其模型不存儲特定數(shù)據(jù)集的副本，而是從訓(xùn)練數(shù)據(jù)中單詞和字符串之間的模式和關(guān)系中學(xué)習(xí)。

xAI、OpenAI和谷歌未回應(yīng)置評請求。

帝國理工學(xué)院的德·蒙喬伊表示，AI實驗室已經(jīng)建立防護(hù)措施來防止訓(xùn)練數(shù)據(jù)被提取，這表明他們意識到了這個問題。

芝加哥大學(xué)計算機(jī)科學(xué)教授本·趙質(zhì)疑AI實驗室是否真的需要在訓(xùn)練數(shù)據(jù)中使用版權(quán)內(nèi)容來創(chuàng)建尖端模型。

"無論技術(shù)結(jié)果能否實現(xiàn)，這仍然是一個我們是否應(yīng)該這樣做的問題，"趙說。"法律方面最終應(yīng)該堅持立場，真正成為整個過程的仲裁者。"

Q&A

Q1：大語言模型的記憶現(xiàn)象是什么？有多嚴(yán)重？

A：大語言模型的記憶現(xiàn)象是指AI模型能夠近乎逐字地復(fù)制其訓(xùn)練數(shù)據(jù)中的內(nèi)容。研究顯示，Gemini 2.5能夠以高度準(zhǔn)確性復(fù)制《哈利波特與魔法石》的76.8%，Grok 3能生成70.3%。通過越獄技術(shù)，甚至能從Claude 3.7 Sonnet中提取幾乎完整的小說內(nèi)容。

Q2：AI公司之前是如何為使用版權(quán)作品訓(xùn)練模型辯護(hù)的？

A：AI公司長期聲稱模型不會記憶訓(xùn)練數(shù)據(jù)，谷歌在2023年表示"模型本身不存在訓(xùn)練數(shù)據(jù)的副本"。他們還聲稱使用版權(quán)書籍訓(xùn)練模型屬于"合理使用"，認(rèn)為技術(shù)將原始作品轉(zhuǎn)化為有意義的新內(nèi)容，模型是從作品中"學(xué)習(xí)"而非存儲副本。

Q3：記憶現(xiàn)象對AI行業(yè)版權(quán)訴訟有什么影響？

A：這種記憶能力削弱了AI公司的核心防御論點，可能在全球數(shù)十起版權(quán)訴訟中造成重大責(zé)任。德國法院已裁定OpenAI因模型記憶歌詞而侵犯版權(quán)，美國法院也認(rèn)定存儲盜版作品是"本質(zhì)上的侵權(quán)行為"，導(dǎo)致Anthropic支付15億美元和解。