首席大法官將這一現(xiàn)象定性為“令人震驚”且“絕非必要”。這一表態(tài)不僅揭示了人工智能潛藏的風(fēng)險，更觸及了更深層次的職業(yè)操守問題。問題的核心并不在于人工智能技術(shù)本身，而在于從業(yè)者對生成式輸出的盲目信賴。

在確保安全的前提下，人工智能可以減少常規(guī)性工作，成為法律研究的助力。不加甄別地依賴人工智能生成的產(chǎn)物——包括那些根本不存在的判例引用，即法律界常說的“幻覺”現(xiàn)象——正成為司法的隱患。

印度法院并非首次遭遇此類亂象。去年11月，提交至最高法院的一份答辯狀被發(fā)現(xiàn)引用了完全虛構(gòu)的人工智能生成判決。無獨(dú)有偶，孟買高等法院曾指出，一名所得稅評估官員所依據(jù)的司法裁定事后被證實(shí)純屬虛構(gòu)。在卡納塔克，據(jù)報道甚至有初審法院法官在撰寫判決書時，采納了由人工智能工具生成的假判例。

這些事件清晰地表明，法律幻覺并非律政界的專利，任何將人工智能輸出視為權(quán)威而不加驗(yàn)證的權(quán)力機(jī)構(gòu)都難以幸免。

這些案例共同揭示了一個全球性現(xiàn)實(shí)：生成式人工智能系統(tǒng)雖然功能強(qiáng)大，但其設(shè)計(jì)初衷并非可靠的法律數(shù)據(jù)庫，必須經(jīng)過人工校驗(yàn)。

國際司法界的應(yīng)對措施主要分為兩類。首先，法院對提交未經(jīng)驗(yàn)證的人工智能材料的律師施以罰款或制裁。專業(yè)機(jī)構(gòu)與法院開始發(fā)布指導(dǎo)意見，包括要求律師簽署證明書，確認(rèn)未曾使用人工智能，或在使用人工智能后已由人工對內(nèi)容進(jìn)行了獨(dú)立驗(yàn)證。

目前，印度尚缺乏關(guān)于在法院訴狀中使用生成式人工智能的綜合指南。雖然最高法院發(fā)布了白皮書，喀拉拉等高等法院也采取了積極步驟，闡明了涵蓋行政與技術(shù)融合的宏觀人工智能政策，并敦促在依賴人工智能工具前保持審慎。印度仍需要來自多個機(jī)構(gòu)參與者的全面回應(yīng)，包括建立必要的震懾機(jī)制。

首要責(zé)任在于辯護(hù)律師。提交虛構(gòu)的判例，即便由于人工智能誤導(dǎo)所致，也絕非單純的技術(shù)疏失。

這實(shí)質(zhì)上構(gòu)成了一種不公平競爭，違反了辯護(hù)律師對法庭負(fù)有的基本義務(wù)。在最高法院的語境下，這種義務(wù)對于專門負(fù)責(zé)備案訴狀的記錄律師而言更為重大。記錄律師制度的存在，正是為了確保提交給法庭的每一份材料都具備一層責(zé)任背書。

如果人工智能的“幻覺”進(jìn)入了法庭記錄，那么這種失敗本質(zhì)上不是技術(shù)性的，而是監(jiān)督性的。因此，建立有效的懲戒機(jī)制刻不容緩。同時，印度律師理事會及其他法律行業(yè)監(jiān)管機(jī)構(gòu)必須為從業(yè)者和法學(xué)學(xué)生制定結(jié)構(gòu)化的負(fù)責(zé)任使用指南。

解決之道不在于簡單的禁止，而在于專業(yè)的培訓(xùn)——即讓法律從業(yè)者充分理解人工智能工具的局限性，尤其是虛假引用的風(fēng)險。

這其中同樣存在機(jī)構(gòu)層面的因素。法庭有時會受理起草不當(dāng)?shù)脑V狀，而不堅(jiān)持要求其符合既定的陳述標(biāo)準(zhǔn)，這在無形中降低了對嚴(yán)謹(jǐn)性的要求。關(guān)于訴狀起草的法律規(guī)定——即要求案由清晰、事實(shí)具體、理由明確——其存在自有其深意。

如果這些規(guī)則能得到一以貫之的執(zhí)行，無論是由人類還是由機(jī)器生成的膚淺寫作，都將受到自然的阻嚇。

斯瓦普尼爾·特里帕蒂