記者|潘巧

責(zé)編|張晶

正文共3450個(gè)字，預(yù)計(jì)閱讀需10分鐘▼

2025年12月，北京市通州區(qū)人民法院民事審判一庭（家事審判庭）副庭長(zhǎng)鄭吉喆審理的一起商事糾紛案例入選人民法院案例庫(kù)。這起商事糾紛的案情并不復(fù)雜，但其中的兩個(gè)關(guān)鍵詞“人工智能”和“虛假案例”，在上述案例庫(kù)中并不多見(jiàn)——原告訴訟代理人律師楊某向法院提交的“參考案例”，事后被發(fā)現(xiàn)是由人工智能生成，未經(jīng)核實(shí)便作為代理意見(jiàn)的一部分提交給法院。

根據(jù)鄭吉喆的介紹，涉事AI生成案例的形成時(shí)間是2024年年底，提交時(shí)間是2025年年初。這一時(shí)間節(jié)點(diǎn)意味著，在AI技術(shù)快速滲透各領(lǐng)域的早期階段，AI生成的虛假案例已經(jīng)在司法審判中出現(xiàn)，為司法實(shí)踐帶來(lái)新的挑戰(zhàn)。

AI生成的“完美”案例

2024年12月30日，一起因股權(quán)代持引發(fā)的商事糾紛案件在北京市通州區(qū)法院開(kāi)庭審理，原告方作為顯名股東訴求相關(guān)方承擔(dān)侵權(quán)責(zé)任。庭審中，原告委托寧夏某律師事務(wù)所律師楊某作為訴訟代理人參加訴訟。

庭審結(jié)束后，楊某向法院提交書(shū)面代理意見(jiàn)，其中援引了兩個(gè)分別來(lái)自最高人民法院和上海市第一中級(jí)人民法院的案例，以佐證其在本案中提出的類(lèi)似訴訟請(qǐng)求曾得到相關(guān)法院的判例支持。

根據(jù)最高人民法院發(fā)布的《關(guān)于案例指導(dǎo)工作的規(guī)定》及其實(shí)施細(xì)則的規(guī)定，各級(jí)人民法院正在審理的案件，在基本案情和法律適用方面與最高人民法院發(fā)布的指導(dǎo)性案例相類(lèi)似的，應(yīng)當(dāng)參照相關(guān)指導(dǎo)性案例的裁判要點(diǎn)作出裁判。參照時(shí)，應(yīng)當(dāng)將指導(dǎo)性案例作為裁判理由引述，但不作為裁判依據(jù)引用。2024年5月，最高人民法院發(fā)布的《人民法院案例庫(kù)建設(shè)運(yùn)行工作規(guī)程》中，也明確要求各級(jí)人民法院審理案件時(shí)，應(yīng)當(dāng)檢索人民法院案例庫(kù)，嚴(yán)格依照法律和司法解釋、規(guī)范性文件，并參考入庫(kù)類(lèi)似案例作出裁判。

法官鄭吉喆接受本社記者專(zhuān)訪。記者 莊德通/攝

鄭吉喆介紹，在審判實(shí)踐中，法院非常重視參考案例的“參照”作用?！拔覀儗?duì)案例的作用特別重視，在審判實(shí)踐中會(huì)參照指導(dǎo)性案例以及人民法院案例庫(kù)的參考案例等權(quán)威案例進(jìn)行裁判。此外，最高人民法院和上級(jí)法院的判決，也對(duì)法官有較強(qiáng)的指引作用?！编嵓獑凑f(shuō)。

正因如此，法院對(duì)楊某提交的參考案例非常重視。鄭吉喆告訴記者，按照審判流程，法院收到訴訟當(dāng)事人提交的參考案例后，首先會(huì)進(jìn)行形式上的審查，若參考案例與正在審理的案件的事實(shí)、爭(zhēng)議法律問(wèn)題相似，會(huì)進(jìn)一步核實(shí)案例的真實(shí)性。

“若參考案例真實(shí)，與正在審理的案件具有相似性、一致性，且是指導(dǎo)性案例或者人民法院案例庫(kù)的參考案例，可直接引述作為明示的裁判理由，對(duì)于其他參考案例，如果跟正在審理的案件足夠相似，也會(huì)在案件的審理中予以考慮?！编嵓獑凑f(shuō)。

法官助理在核實(shí)參考案例時(shí)發(fā)現(xiàn)，楊某提供的案例與正在審理的案件的事實(shí)細(xì)節(jié)、法律爭(zhēng)議以及裁判邏輯高度契合，看似具有較強(qiáng)的參考價(jià)值，但該案例所述事實(shí)情況與相應(yīng)案號(hào)對(duì)應(yīng)的真實(shí)案件的事實(shí)情況完全不符。

“會(huì)不會(huì)是代理律師比較粗心，把案號(hào)寫(xiě)錯(cuò)了，導(dǎo)致跟案件本身對(duì)不上？”鄭吉喆回憶，最初法官助理還與楊某電話聯(lián)系，催促、提醒楊某核實(shí)提交的參考案例案號(hào)是否有誤，楊某在電話中回復(fù)稱(chēng)會(huì)再進(jìn)行核實(shí)，但始終沒(méi)有更正或重新提交。

法官助理將此事向鄭吉喆匯報(bào)，鄭吉喆仔細(xì)查看楊某提交的參考案例后察覺(jué)異常，“案例的裁判要點(diǎn)與楊某想要達(dá)到的訴求太像了，加上案例的文本格式與AI生成文本的特點(diǎn)有一定相似性，我基本篤定這就是AI生成的?！编嵓獑凑f(shuō)。

記者在中國(guó)裁判文書(shū)網(wǎng)搜索印證時(shí)也發(fā)現(xiàn)，標(biāo)注為最高人民法院的案例無(wú)法搜索到；上海市第一中級(jí)人民法院的相關(guān)案號(hào)，對(duì)應(yīng)的是一起民間借貸糾紛，與本案不僅案由不同，案情也完全不同。

在鄭吉喆的詢問(wèn)下，楊某承認(rèn)兩個(gè)案例是他根據(jù)本案的事實(shí)提煉關(guān)鍵詞和爭(zhēng)議焦點(diǎn)后，反復(fù)向某人工智能語(yǔ)言模型軟件提問(wèn)后獲得，并且沒(méi)有經(jīng)過(guò)核實(shí)就將兩個(gè)案例寫(xiě)入代理意見(jiàn)提交給法院。

最終，法院沒(méi)有采納楊某基于虛假案例提出的代理意見(jiàn)。

“應(yīng)該有一個(gè)態(tài)度”

隨著人工智能技術(shù)快速發(fā)展，一個(gè)新詞也隨著AI的應(yīng)用而產(chǎn)生——“AI幻覺(jué)”。

據(jù)了解，“AI幻覺(jué)”是指人工智能大模型“自說(shuō)自話”、一本正經(jīng)“胡說(shuō)八道”、生成偏離事實(shí)的內(nèi)容。

2025年初，某人工智能語(yǔ)言模型軟件掀起使用熱潮時(shí)，記者曾使用該模型軟件搜索相關(guān)案例，雖然該模型的回答中給出明確的案號(hào)及案例內(nèi)容，但記者在中國(guó)裁判文書(shū)網(wǎng)輸入案號(hào)查詢時(shí)發(fā)現(xiàn)，要么搜索不到相關(guān)案例，要么案號(hào)與實(shí)際裁判案例內(nèi)容完全不相同。

那么，楊某提交的由AI生成的虛假案例，是否屬于“AI幻覺(jué)”導(dǎo)致的過(guò)失？

鄭吉喆介紹，楊某提交的代理意見(jiàn)署名日期是2024年12月31日，正值A(chǔ)I大模型興起初期，公眾對(duì)于AI大模型尤其是“AI幻覺(jué)”問(wèn)題的認(rèn)識(shí)仍然處于早期階段。從案例的生成時(shí)間、生成文本的原始狀態(tài)上判斷，楊某的行為“過(guò)失大于故意”。

“現(xiàn)在大家知道‘AI幻覺(jué)’，AI會(huì)說(shuō)‘瞎話’，但在當(dāng)時(shí)不了解‘AI搜索’‘AI幻覺(jué)’的情況下，是一個(gè)情有可原的狀態(tài)。”鄭吉喆介紹，楊某更像是過(guò)于相信AI工具帶來(lái)的便利和效率，更多是一種過(guò)失心態(tài)。

本案承辦法官鄭吉喆翻閱案件材料。記者 莊德通/攝

不過(guò)，鄭吉喆也強(qiáng)調(diào)，楊某提交AI生成案例的行為對(duì)審判工作造成影響，不僅降低了審判效率，也嚴(yán)重干擾了審判秩序。“訴訟過(guò)程中需要遵循誠(chéng)信的原則，不管是當(dāng)事人還是訴訟代理人，向法院提交的任何材料要保證真實(shí)性。案例雖然不是正式的法律淵源，但對(duì)案件審理具有重要參考作用。一旦構(gòu)成誤導(dǎo)，是一個(gè)很?chē)?yán)重的問(wèn)題。司法公信力也會(huì)受到影響?！编嵓獑凑f(shuō)。

據(jù)了解，律師提交AI生成的虛假案例在國(guó)內(nèi)屬于新情況，對(duì)于利用AI生成虛假參考案例這一行為如何處理，缺乏明確的法律依據(jù)或可參考的實(shí)踐經(jīng)驗(yàn)?！睹袷略V訟法》第一百一十四條雖然對(duì)偽造、毀滅重要證據(jù)等行為有處罰規(guī)定，但鄭吉喆認(rèn)為，楊某提交AI生成的虛假案例不能歸入這一范疇。

鄭吉喆解釋?zhuān)咐龑儆谠V辯證據(jù)范疇，不屬于證據(jù)。楊某向法院提交未經(jīng)核實(shí)的虛假案例的行為不構(gòu)成上述條款規(guī)定的“偽造、毀滅重要證據(jù)”。

“現(xiàn)有民事訴訟法中，沒(méi)有對(duì)這種情形作出明確規(guī)定。但是，我們認(rèn)為此事確實(shí)對(duì)我們產(chǎn)生切身影響，擾亂了司法秩序，所以我們覺(jué)得在這個(gè)案件中，（法院）應(yīng)該有一個(gè)態(tài)度。”鄭吉喆介紹。

考慮到楊某提交AI生成且未經(jīng)核實(shí)的虛假案例是過(guò)失態(tài)度，沒(méi)有造成嚴(yán)重后果，也沒(méi)有對(duì)裁判結(jié)果造成影響，楊某也坦承問(wèn)題，通州區(qū)法院認(rèn)為，楊某的行為屬于情節(jié)相對(duì)輕微的情形，不宜作出罰款拘留的處罰，最終決定在判決書(shū)中對(duì)其提出批評(píng)教育，希望能夠引起律師對(duì)此事的足夠警醒。

2025年4月，通州區(qū)法院對(duì)本案作出判決，并在判決書(shū)中對(duì)楊某提交虛假案例的行為進(jìn)行批評(píng)教育，“原告代理人在庭后向本院提交參考案例時(shí)包含了部分人工智能語(yǔ)言模型生成的內(nèi)容，其提交的部分參考案例與該案號(hào)下案件事實(shí)情況完全不同，本院對(duì)此提出批評(píng)，希望原告代理人引以為戒，在向法院提交參考案例、法條時(shí)，應(yīng)當(dāng)進(jìn)行檢查和核驗(yàn)，確保內(nèi)容的真實(shí)性和準(zhǔn)確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序?！?/p>

本案宣判后，雙方當(dāng)事人均未提起上訴，判決已發(fā)生法律效力。

并非孤例的警示

實(shí)際上，由人工智能生成虛假訴訟材料的情況，已經(jīng)不是孤立事件。本案發(fā)生后，多地法院也陸續(xù)公布了類(lèi)似的情況——

2025年11月，湖北省孝感市大悟縣人民法院審理的一起房屋租賃合同糾紛案中，原告提交的水電表照片證據(jù)上帶有“豆包AI生成”的水印，法院對(duì)其進(jìn)行法治教育和訓(xùn)誡，對(duì)其提交的偽造證據(jù)不予采信。

2025年12月，浙江省臺(tái)州市中級(jí)人民法院公布的一起案例中，臺(tái)州市路橋區(qū)人民法院在審理一起房屋租賃合同糾紛案件時(shí)，發(fā)現(xiàn)原告利用AI技術(shù)修改聊天記錄，偽造證據(jù)，法院對(duì)原告進(jìn)行批評(píng)教育，并依據(jù)民事訴訟法的相關(guān)規(guī)定，對(duì)其作出罰款的處罰。

類(lèi)似情況的集中出現(xiàn)，暴露了AI技術(shù)應(yīng)用給司法審判帶來(lái)的全新挑戰(zhàn)，也對(duì)司法審判工作提出更高要求。鄭吉喆介紹，此事之后，該院對(duì)訴訟當(dāng)事人提交的案例和證據(jù)的審查更加審慎。

“即使當(dāng)事人不是故意的，提交的案例也可能是有問(wèn)題的或者不真實(shí)的?！编嵓獑刺寡裕珹I降低了普通人參與訴訟的門(mén)檻，降低了普通人或者其代理律師在法律工作中的難度，但對(duì)于法院來(lái)說(shuō)，應(yīng)該進(jìn)一步提高認(rèn)識(shí)和警惕性。

根據(jù)AI使用的實(shí)踐經(jīng)驗(yàn)以及本案的審理經(jīng)驗(yàn)，鄭吉喆提醒，可通過(guò)三個(gè)方面識(shí)別AI生成的虛假案例特征：AI生成案例的案號(hào)往往呈現(xiàn)刻意規(guī)律化的特點(diǎn)，多采用“12345”等連續(xù)整數(shù)或“111”等具有明顯特征的數(shù)字；案情描述過(guò)度貼合需求場(chǎng)景，呈現(xiàn)人為定制化特征；AI有時(shí)會(huì)刻意模糊案件可識(shí)別要素，比如當(dāng)事人姓名等，因此最穩(wěn)妥的識(shí)別方法是通過(guò)登錄中國(guó)裁判文書(shū)網(wǎng)對(duì)生成案例的真實(shí)性進(jìn)行核實(shí)和驗(yàn)證。

“目前還沒(méi)有專(zhuān)門(mén)的AI虛假內(nèi)容檢測(cè)工具，識(shí)別難度較大，很多識(shí)別工作仍依賴(lài)法官的責(zé)任心，我們必須擦亮雙眼，避免被虛假證據(jù)、案例所蒙蔽。”鄭吉喆說(shuō)。