美國堪薩斯州聯(lián)邦地區(qū)法院近日開出了首張AI 幻覺罰單：由于律師在專利案件的法院文件中引用了 ChatGPT 生成的不存在判例和引文且未加核實，法官裁定相關律師團隊需支付共計 1.2 萬美元的罰款。這起事件并非意在禁止 AI 技術，而是鮮明地提醒法律從業(yè)者：無論技術多先進，律師都有義務對提交給法院的內容進行充分核查，確保程序誠信。

Lexos Media IP LLC在起訴 美國知名電商Overstock.com涉嫌專利侵權的過程中，其代理律師提交的文件包含了由 ChatGPT 生成的引文和案例。然而這些引用完全是虛構的，包括并不存在的判例名稱和斷章取義的法律論述。負責該案的堪薩斯聯(lián)邦地區(qū)法官在審查文件后，當即發(fā)出訂單要求解釋，并最終在2026年2月2日簽署意見，對相關律師和律所予以制裁。

2025年6月，Lexos 公司在堪薩斯聯(lián)邦法院提交了針對 Overstock 的專利侵權訴訟文件；2025年12月17日，法院發(fā)現(xiàn)其中存在AI幻覺內容，發(fā)出命令要求解釋；2026年2月2日，法官正式作出制裁決定。

Lexos 指控 Overstock 網(wǎng)站侵犯其三項與自定義鼠標光標顯示/動畫相關的專利。具體而言，這些專利涉及在網(wǎng)頁中修改光標圖像顯示效果的技術，例如用戶將鼠標懸停在產品圖片上時，光標替換為放大鏡效果等。這類技術細節(jié)成為訴訟焦點之一。

2025年7月初，Lexos 團隊提交了反對被告排除專家證人證詞的意見書，以及針對被告 summary judgment 動議的回應書。這些文件由 Sandeep Seth 起草，據(jù)其后來承認，他為節(jié)省時間使用了 ChatGPT 輔助法律研究但未對其輸出結果進行獨立核查。結果，ChatGPT給出了若干看似權威卻實際上并不存在的案例引用和法律段落。法官審閱時發(fā)現(xiàn)多處可疑之處，包括引用了根本不存在的判決引用和完全錯誤的法律摘錄，甚至對真實案例的描述也前后矛盾。更嚴重的是，有些內容疑似直接從無關案件的材料中復制粘貼而來，Lexos律師后來承認，有兩段引述中的相同錯誤是從別的文件中“照搬”過來的，涉及Cordis、Baldwin、AstraZeneca等無關案例，引發(fā)法官對流程管理的質疑。

Overstock 的律師在回復中指出了這些虛假引用，提請法庭注意并暗示此舉已違反聯(lián)邦民事訴訟規(guī)則第11條以及堪薩斯州職業(yè)道德規(guī)范第3.3條（即向法庭據(jù)實陳述的義務）。雖然被告方當時并未正式提出制裁動議，法院仍依職權于2025年12月15日發(fā)出了《命令要求律師說明原因》，要求Lexos代理律師逐一說明自己在起草、審核和提交上述文件過程中的角色，使用了哪些AI工具，以及在提交前做過何種核查。法官特別要求解釋：為何這些AI生成的謬誤得以混入正式文件？律所是否有不同于以往的審查流程？以及Lexos公司是否知情并批準使用生成式AI。

經過對各律師書面回復的審核，羅賓遜法官在2026年2月2日發(fā)布了長達36頁的意見書，認定Lexos代理團隊集體違反了聯(lián)邦民訴規(guī)則11(b)。該規(guī)則要求律師在向法院提交文件時經過“在當時情形下合理的詢問”，確保法律主張有理有據(jù)。然而，本案中有五名代理律師在明知或應知文件包含虛假內容的情況下簽署了文件，未盡到基本核實義務。法院據(jù)此對相關律師和律所施加了總計12,000美元的罰款，并按過錯程度作出區(qū)別處理。

主責律師罰款 5,000 美元。由于他直接使用了ChatGPT并插入錯誤引用，法官還撤銷了他在本案中的臨時出庭許可（pro hac vice），并責令其在2026年2月底前向所在州律師紀律當局提交本裁決書副本，報告此違規(guī)行為。同時他必須向法院提交一份說明，詳述其律所將采取哪些內部整改措施來防止今后再發(fā)生類似情況。Seth 隨后郵件回應媒體稱：“這是一次令人尷尬的教訓。各律所若不建立嚴格的AI使用政策，就不該在任何情況下把AI當作工具，以免釀成錯誤?！?/p>

主辦律所合伙人各罰款 3,000 美元。這兩位律師雖然并未親自撰寫有誤內容，但作為簽字律師，沒有盡到審核把關責任。法官明確指出，不了解AI并不能豁免責任，在他人起草的文件上簽名卻不審閱，依然構成對Rule 11義務的違反。

羅賓遜法官在裁決書中措辭嚴厲，強調這是一次對律師群體的警示。她指出：“一名理稱職的律師在向法院提交文件時，應當意識到使用未經驗證的生成式AI進行法律研究存在明顯且眾所周知的風險，同時也應清楚在簽署法院文件而不核實其準確性時所承擔的倫理義務”。換言之，AI并不能成為逃避盡職調查的借口。法官還感慨，近年因為律師不核實AI輸出而引用“虛構”判例所引發(fā)的司法意見“數(shù)量之多令人震驚”。從紐約到懷俄明，各地法院紛紛遇到類似問題，不得不發(fā)出警告、罰款等制裁措施。就在2023年，紐約南區(qū)法官卡斯特曾因一起航空事故案中律師引用了ChatGPT捏造的六個虛假判例而對涉事律師及其律所罰款5000美元。如今兩年不到，多起案件中均出現(xiàn)了AI“幻覺”造成的失當行為：有的法院罰款，有的直接舉行聽證對律師進行訓誡。羅賓遜法官引用這些案例，表明司法系統(tǒng)對這類問題已經形成共識：無論AI多聰明，律師都必須親自確保提交給法院的一字一句是真實可靠的。

法律界對此事反應強烈。許多律師在社交媒體上表示，這一案件為所有法律從業(yè)者敲響警鐘：AI 可以提高工作效率，但不能代替律師的專業(yè)判斷和誠信義務。一位參與報道此事的律師評論道：“法院并不是在反對AI本身，而是在維護法律程序的誠信。我們可以使用AI工具輔助工作，但絕不能不加審查地照單全收AI給出的結果?！币灿衅髽I(yè)法務人員指出，如果律師在工作中過度依賴AI而不驗證，其風險不僅自己擔責，還可能給客戶帶來無法挽回的損失——從敗訴到商譽受損，代價沉重。

律師事務所應當建立明確的AI使用標準作業(yè)程序（SOP），包括檢索原始資料、復核AI輸出內容、留存核查記錄等步驟，確保任何引文和事實都有據(jù)可查。生成式AI提供的內容應僅作為初稿或思路參考。律師應當像對待助理的草稿那樣對待AI輸出，既可以參考其建議，但必須自行查證每一個引用和事實，尤其不能直接把AI的話當成既成事實寫進法律文件。

AI可以加速資料查找和文書撰寫，但不能也永遠不應替代律師對真實性和準確性的把關。對于法律從業(yè)者乃至所有借助AI工作的專業(yè)人士而言，最穩(wěn)妥的做法是將AI視作助手而非權威，時刻保持質疑精神和審慎態(tài)度。對于律師提交的文件更應該注意，因為對手會帶著放大鏡審查，任何錯誤都難以蒙混過關。

Maxipat致力于作為成為科技創(chuàng)新和知識產權工作的AI加速器，主要包括輔助創(chuàng)新：提高研發(fā)的科技創(chuàng)新效率；智能搜索與分析：將專利搜索和報告制作借助AI實現(xiàn)智能化，包括智能查新、無效、FTO、Landscaping報告；投資助手：快速生成投資賽道報告、專利購買篩選、專利轉化評估。目前開放注冊中。輔助科技創(chuàng)新和知識產權工作的AI智能體

感興趣的朋友可以通過以下三種方式填寫申請信息：

1. 請發(fā)郵件到郵箱：info@maxipat.com

2. 點擊文末閱讀全文；

3. 掃描以下二維碼

感興趣的朋友可以加筆者微信patentlight