作者：周軍律師.

如需幫助可關(guān)注，私信必復(fù)。

“事實(shí)細(xì)節(jié)高度契合，裁判邏輯精準(zhǔn)匹配，這簡(jiǎn)直是為案件量身定做的參考案例?！?北京通州法院審理的一起股權(quán)代持糾紛中，原告代理人提交的兩份參考案例讓初看者眼前一亮。

然而，承辦法官的檢索核實(shí)卻揭開(kāi)了真相——這兩份看似完美的案例，竟是AI生成的虛假信息。隨著人工智能深度滲透法律服務(wù)領(lǐng)域，類(lèi)似的“AI幻覺(jué)”風(fēng)險(xiǎn)正在顯現(xiàn)，給司法秩序和當(dāng)事人權(quán)益帶來(lái)潛在威脅，警惕人工智能法律服務(wù)的隱形陷阱已刻不容緩。

這起案件的細(xì)節(jié)極具警示意義。原告代理人為佐證己方觀點(diǎn)，通過(guò)某AI大模型提煉案件事實(shí)后反復(fù)提問(wèn)，最終引導(dǎo)AI生成了包含最高人民法院案例及“(2022)滬01民終12345號(hào)”案例的書(shū)面意見(jiàn)。從表面看，這些案例的爭(zhēng)議焦點(diǎn)、裁判思路與涉案事實(shí)高度契合，極具說(shuō)服力。但法官檢索后發(fā)現(xiàn)，“(2022)滬01民終12345號(hào)”對(duì)應(yīng)的真實(shí)案件實(shí)為民間借貸糾紛，與本案毫無(wú)關(guān)聯(lián)，另一則最高法案例也純屬虛構(gòu)。面對(duì)追問(wèn)，代理人最終承認(rèn)未對(duì)AI生成內(nèi)容進(jìn)行核實(shí)，直接復(fù)制粘貼提交法院。

最終，法院未采納該部分代理意見(jiàn)，并在判決書(shū)中明確批評(píng)其行為擾亂司法秩序。

這起案例并非個(gè)例，而是AI法律服務(wù)風(fēng)險(xiǎn)的集中暴露。當(dāng)前，ChatGPT、DeepSeek等AI工具憑借強(qiáng)大的語(yǔ)言生成能力，已成為不少法律從業(yè)者的“輔助神器”，能快速完成法條檢索、案例梳理、文書(shū)撰寫(xiě)等工作。

但AI的生成邏輯基于概率統(tǒng)計(jì)與語(yǔ)境匹配，而非對(duì)法律事實(shí)的真實(shí)認(rèn)知，當(dāng)使用者明確限定需求后，極易出現(xiàn)“AI幻覺(jué)”，為契合預(yù)設(shè)結(jié)果編造看似合理卻與事實(shí)相悖的信息。這種特性在法律服務(wù)領(lǐng)域尤為危險(xiǎn)，虛假案例、錯(cuò)誤法條不僅會(huì)誤導(dǎo)法律從業(yè)者的判斷，更會(huì)干擾法院正常審理流程，浪費(fèi)司法資源，甚至損害司法公信力。

識(shí)別AI編造的法律信息，其實(shí)有章可循。結(jié)合司法實(shí)踐經(jīng)驗(yàn)，可從三個(gè)維度精準(zhǔn)甄別：

一是看案號(hào)規(guī)律性，真實(shí)司法案例的案號(hào)由年份、法院代字、隨機(jī)案件編號(hào)等組成，編號(hào)具有隨機(jī)性和連續(xù)性，而AI生成的案號(hào)常出現(xiàn)“12345”這類(lèi)刻意規(guī)律化的數(shù)字，本案中的“12345號(hào)”便極具典型性；

二看案情貼合度，若檢索出的案例事實(shí)細(xì)節(jié)、裁判結(jié)論與自身案件過(guò)度契合，呈現(xiàn)“定制化”特征，就需高度警惕，畢竟真實(shí)司法案例千差萬(wàn)別，很難出現(xiàn)完美匹配的情況；

三看信息可驗(yàn)證性，AI編造的案例往往刻意模糊當(dāng)事人姓名等可識(shí)別要素，多用“甲乙丙丁”替代，且無(wú)法通過(guò)中國(guó)裁判文書(shū)網(wǎng)等官方渠道檢索到對(duì)應(yīng)的真實(shí)裁判文書(shū)。

警惕AI法律服務(wù)風(fēng)險(xiǎn)，并非要否定技術(shù)價(jià)值，而是要明確其“輔助工具”的定位。對(duì)于法律從業(yè)者而言，必須摒棄“AI萬(wàn)能”的誤區(qū)，將技術(shù)作為提升效率的手段，而非替代專(zhuān)業(yè)判斷的“神器”。

在使用AI生成的法條、案例等內(nèi)容時(shí)，務(wù)必履行核實(shí)義務(wù)，通過(guò)官方數(shù)據(jù)庫(kù)驗(yàn)證信息真實(shí)性，確保提交的法律文書(shū)嚴(yán)謹(jǐn)可靠。今年9月1日實(shí)施的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》已明確要求，所有AI生成內(nèi)容必須顯式標(biāo)識(shí)，這一規(guī)定更需要法律從業(yè)者嚴(yán)格遵守，主動(dòng)規(guī)避法律風(fēng)險(xiǎn)。

周軍律師提醒，對(duì)于普通民眾而言，更要警惕過(guò)度依賴(lài)AI獲取法律服務(wù)的風(fēng)險(xiǎn)。在面臨離婚財(cái)產(chǎn)分割、勞動(dòng)糾紛、債務(wù)追償?shù)确蓡?wèn)題時(shí)，AI生成的答案可能存在法條過(guò)時(shí)、適用場(chǎng)景偏差等問(wèn)題，盲目采信極易導(dǎo)致權(quán)益受損。正確的做法是將AI作為獲取基礎(chǔ)法律知識(shí)的參考，而非決策依據(jù)，涉及具體案件時(shí)，仍需咨詢(xún)專(zhuān)業(yè)律師，通過(guò)合法途徑維護(hù)自身權(quán)益。

普及法律常識(shí)，幫您維護(hù)權(quán)益。

點(diǎn)贊關(guān)注分享，讓親友都得到法律保護(hù)！