作者|徐媛

責(zé)編|薛應(yīng)軍

正文共3467個(gè)字，預(yù)計(jì)閱讀需10分鐘▼

生成式人工智能在輸出內(nèi)容時(shí)，可能出現(xiàn)偏離客觀事實(shí)、捏造信息乃至邏輯不通的現(xiàn)象，此即“生成式人工智能幻覺(jué)”。這種幻覺(jué)以一種看似權(quán)威、流暢的語(yǔ)言形式呈現(xiàn)，實(shí)則具有高度的迷惑性，其潛在的風(fēng)險(xiǎn)也由此日益產(chǎn)生。近年來(lái)，隨著生成式人工智能技術(shù)快速融入人們生產(chǎn)生活，生成式人工智能幻覺(jué)內(nèi)容已不再是單純的技術(shù)瑕疵。當(dāng)其關(guān)涉?zhèn)€人聲譽(yù)、市場(chǎng)秩序乃至公共安全時(shí)，則可能直接觸發(fā)侵權(quán)、不正當(dāng)競(jìng)爭(zhēng)、危害公共安全等一系列法律后果。因此，亟須構(gòu)建一套與技術(shù)發(fā)展相適應(yīng)的法律規(guī)制框架，保障數(shù)字社會(huì)安全與秩序。

生成式人工智能幻覺(jué)法律風(fēng)險(xiǎn)的類型化分析

近年來(lái)，一些實(shí)際案例顯示，生成式人工智能幻覺(jué)的法律風(fēng)險(xiǎn)已從理論預(yù)警演變?yōu)楝F(xiàn)實(shí)威脅，其具體可作如下分類。

一是侵犯人格權(quán)益的法律風(fēng)險(xiǎn)。生成式人工智能幻覺(jué)引發(fā)的人格權(quán)風(fēng)險(xiǎn)，根源在于技術(shù)缺陷導(dǎo)致的客觀事實(shí)扭曲。首先，幻覺(jué)內(nèi)容可能侵犯名譽(yù)權(quán)。生成式人工智能模型容易因信息處理偏差，生成關(guān)于個(gè)人的負(fù)面不實(shí)描述，如將其與失信或不法行為相關(guān)聯(lián)。這種由機(jī)器生成的“事實(shí)性錯(cuò)誤”，因其呈現(xiàn)方式看似中立，極易誤導(dǎo)第三方，從而可能導(dǎo)致個(gè)人社會(huì)評(píng)價(jià)降低。其次，幻覺(jué)內(nèi)容可能侵犯隱私權(quán)。生成式人工智能模型容易在無(wú)事實(shí)依據(jù)下，“推斷”并生成涉及個(gè)人健康、行蹤的虛假信息，這種技術(shù)失靈可能造成對(duì)個(gè)人私密空間的非自愿曝光。

二是擾亂市場(chǎng)秩序的法律風(fēng)險(xiǎn)。在商業(yè)宣傳層面，生成式人工智能可能因數(shù)據(jù)偏差或邏輯推斷錯(cuò)誤，在生成產(chǎn)品介紹或用戶評(píng)價(jià)時(shí)，自動(dòng)添加并非事實(shí)的正面功能描述，或生成不存在的溢美之詞。這種行為雖非商家本意，但客觀上構(gòu)成虛假或引人誤解的商業(yè)宣傳，可能誤導(dǎo)消費(fèi)者的購(gòu)買決策。在市場(chǎng)競(jìng)爭(zhēng)層面，生成式人工智能幻覺(jué)現(xiàn)象也可能無(wú)意中損害特定企業(yè)的商譽(yù)。例如，生成式人工智能在整合分析網(wǎng)絡(luò)信息時(shí)，可能錯(cuò)誤地將一家企業(yè)的名稱與另一家企業(yè)的負(fù)面事件（如產(chǎn)品召回、法律訴訟）相關(guān)聯(lián)，并生成看似合理的分析報(bào)告。這種客觀錯(cuò)誤信息的傳播，同樣構(gòu)成對(duì)商業(yè)信譽(yù)的損害。

三是妨害社會(huì)管理秩序的法律風(fēng)險(xiǎn)。首先，生成式人工智能幻覺(jué)現(xiàn)象可能在客觀上動(dòng)搖社會(huì)共識(shí)。大模型在處理海量信息并生成相關(guān)敘事時(shí)，可能因數(shù)據(jù)關(guān)聯(lián)錯(cuò)誤或邏輯推斷偏差，無(wú)意中“創(chuàng)造”出關(guān)于公共衛(wèi)生事件、重大災(zāi)害的不實(shí)情節(jié)。這些看似可信的虛假敘事一旦傳播開(kāi)來(lái)，即使并非出于任何人的主觀意圖，也會(huì)引發(fā)社會(huì)恐慌，客觀上造成擾亂公共秩序的后果。其次，幻覺(jué)內(nèi)容可能在無(wú)意間觸及歷史敘事紅線。例如，模型可能在學(xué)習(xí)了不全面或有偏見(jiàn)的歷史文獻(xiàn)后，生成歷史虛無(wú)主義的錯(cuò)誤觀點(diǎn)，或?qū)μ囟ㄈ后w帶有歧視意味的描述。這種技術(shù)性錯(cuò)誤同樣可能在公共領(lǐng)域引發(fā)爭(zhēng)議、激化矛盾，對(duì)主流價(jià)值觀和社會(huì)穩(wěn)定造成沖擊。

生成式人工智能幻覺(jué)法律風(fēng)險(xiǎn)治理面臨的問(wèn)題

實(shí)踐中，生成式人工智能幻覺(jué)在法律風(fēng)險(xiǎn)治理中面臨多重挑戰(zhàn)，主要涉及責(zé)任認(rèn)定、技術(shù)缺陷和監(jiān)管機(jī)制等問(wèn)題。

一是責(zé)任主體認(rèn)定困難。當(dāng)生成式人工智能幻覺(jué)內(nèi)容造成損害時(shí)，確定責(zé)任主體變得異常困難。一項(xiàng)生成服務(wù)的背后通常涉及數(shù)據(jù)提供、算法設(shè)計(jì)、模型訓(xùn)練、服務(wù)提供及最終用戶等多個(gè)參與方。根據(jù)《中華人民共和國(guó)民法典》第一千一百六十五條的規(guī)定，行為人因過(guò)錯(cuò)侵害他人民事權(quán)益造成損害的，應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。但在生成式人工智能幻覺(jué)場(chǎng)景下，清晰證明某個(gè)特定主體的“過(guò)錯(cuò)”及其行為與損害結(jié)果間的因果關(guān)系極為不易。例如，一段誹謗性內(nèi)容，其根源是訓(xùn)練數(shù)據(jù)的偏見(jiàn)還是算法的概率性缺陷？服務(wù)提供者應(yīng)在何種程度上負(fù)責(zé)？現(xiàn)行侵權(quán)責(zé)任法規(guī)則在面對(duì)這種多方參與、技術(shù)“黑箱”、因果模糊時(shí)，其歸責(zé)原則顯得力不從心。

二是傳統(tǒng)監(jiān)管模式失靈。既有的信息內(nèi)容監(jiān)管大多建立在“事后處置”邏輯之上。例如，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》側(cè)重于平臺(tái)對(duì)違法信息的發(fā)現(xiàn)與處置義務(wù)。這種模式難以應(yīng)對(duì)生成式人工智能幻覺(jué)的挑戰(zhàn)。生成式人工智能幻覺(jué)內(nèi)容的生成具有即時(shí)性和海量性特征，可能遠(yuǎn)超人工審核極限，且其傳播具有病毒式擴(kuò)散特點(diǎn)，損害后果往往在監(jiān)管介入前就已發(fā)生且難以逆轉(zhuǎn)。更關(guān)鍵的是，傳統(tǒng)監(jiān)管主要針對(duì)明確的人為虛假信息，而生成式人工智能幻覺(jué)內(nèi)容的“虛假性”需與事實(shí)比對(duì)才能發(fā)現(xiàn)，這大大增加了監(jiān)管機(jī)構(gòu)的識(shí)別成本與執(zhí)法難度。

三是司法證明標(biāo)準(zhǔn)缺失。在訴訟中，生成式人工智能幻覺(jué)的受害人面臨著極高的證明門檻。首先是因果關(guān)系的證明。由于模型內(nèi)部運(yùn)作的不透明性，要從技術(shù)上論證一個(gè)特定輸出是必然結(jié)果而非偶然，幾乎不可能。其次是主觀過(guò)錯(cuò)的證明。對(duì)于算法，如何適用“主觀過(guò)錯(cuò)”這一概念，法學(xué)界與司法實(shí)踐均未形成共識(shí)。雖然我國(guó)民法典第一千一百九十五條規(guī)定了網(wǎng)絡(luò)服務(wù)提供者的“通知—?jiǎng)h除”規(guī)則，但這主要適用于用戶發(fā)布的侵權(quán)信息，對(duì)于平臺(tái)自身模型產(chǎn)生的幻覺(jué)內(nèi)容是否當(dāng)然適用，以及如何認(rèn)定其“知道或應(yīng)當(dāng)知道”，均缺乏明確的司法解釋與裁判標(biāo)準(zhǔn)。

四是單一治理手段局限。當(dāng)前，應(yīng)對(duì)技術(shù)風(fēng)險(xiǎn)的思路，仍傾向于依賴法律的“硬性規(guī)制”。然而，對(duì)于生成式人工智能幻覺(jué)這種內(nèi)生于技術(shù)復(fù)雜性的現(xiàn)象，單一法律手段顯得尤為局限。其幻覺(jué)的根源深植于深度學(xué)習(xí)模型的技術(shù)范式，無(wú)法通過(guò)法律條文簡(jiǎn)單“禁止”其發(fā)生。盡管如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已要求對(duì)生成內(nèi)容進(jìn)行標(biāo)識(shí)，但這更多是技術(shù)性規(guī)范，難以觸及幻覺(jué)的根本成因。若法律規(guī)制過(guò)于嚴(yán)苛，可能抑制技術(shù)創(chuàng)新；若規(guī)制過(guò)于寬松，則無(wú)法有效保護(hù)公眾權(quán)益。此外，生成式人工智能的應(yīng)用場(chǎng)景風(fēng)險(xiǎn)等級(jí)迥異，“一刀切”的規(guī)制方式則無(wú)法實(shí)現(xiàn)精準(zhǔn)應(yīng)對(duì)。

生成式人工智能幻覺(jué)法律風(fēng)險(xiǎn)的治理路徑

AI幻覺(jué)與AI技術(shù)發(fā)展相伴而生，隨著科技的高速發(fā)展，生成式人工智能幻覺(jué)也給人們帶來(lái)諸多困擾，具體可嘗試從以下幾個(gè)方面規(guī)制生成式人工智能幻覺(jué)：

一是明確多元主體的責(zé)任鏈條。為了解決責(zé)任主體認(rèn)定困難問(wèn)題，需要構(gòu)建清晰的責(zé)任分配框架。為有效界定民法典第一千一百六十五條規(guī)定的“過(guò)錯(cuò)”，應(yīng)根據(jù)各方主體的控制能力與注意義務(wù)劃分責(zé)任。應(yīng)針對(duì)開(kāi)發(fā)者與訓(xùn)練者，確立其源頭性注意義務(wù)；針對(duì)服務(wù)提供者，強(qiáng)化其信息內(nèi)容管理者地位，要求其進(jìn)行安全評(píng)估，建立風(fēng)險(xiǎn)監(jiān)測(cè)與內(nèi)容標(biāo)識(shí)機(jī)制；針對(duì)專業(yè)領(lǐng)域使用者，明確其對(duì)生成內(nèi)容負(fù)有審慎核實(shí)的義務(wù)。由此，形成一個(gè)從源頭到終端的責(zé)任鏈條，使各環(huán)節(jié)參與主體承擔(dān)與其角色相匹配的法律責(zé)任。

二是實(shí)施分級(jí)分類的場(chǎng)景化治理。改變傳統(tǒng)“一刀切”監(jiān)管模式，引入風(fēng)險(xiǎn)分級(jí)分類的場(chǎng)景化治理理念。監(jiān)管機(jī)構(gòu)應(yīng)根據(jù)生成式人工智能服務(wù)的應(yīng)用場(chǎng)景與潛在風(fēng)險(xiǎn)，設(shè)定具有差異化的監(jiān)管方式。對(duì)社交娛樂(lè)等低風(fēng)險(xiǎn)場(chǎng)景，可側(cè)重于內(nèi)容標(biāo)識(shí)與用戶提示。對(duì)醫(yī)療診斷、金融投資等高風(fēng)險(xiǎn)領(lǐng)域，則必須設(shè)置更嚴(yán)格的準(zhǔn)入標(biāo)準(zhǔn)與事前評(píng)估義務(wù)，要求服務(wù)提供者證明其模型的可靠性，并強(qiáng)制其進(jìn)行人工復(fù)核。

三是構(gòu)建“技管結(jié)合”的司法應(yīng)對(duì)體系。針對(duì)民法典第一千一百九十五條規(guī)定的“通知—?jiǎng)h除”規(guī)則的適用問(wèn)題，應(yīng)在實(shí)體法層面，考慮針對(duì)高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景引入舉證責(zé)任倒置。當(dāng)用戶能初步證明其損害由幻覺(jué)內(nèi)容引發(fā)時(shí)，應(yīng)由服務(wù)提供者承擔(dān)證明其模型無(wú)缺陷或已盡高度注意義務(wù)的責(zé)任，以平衡雙方的舉證能力與訴訟地位。在程序法層面，應(yīng)探索建立“技術(shù)事實(shí)查明”機(jī)制。法院可引入技術(shù)調(diào)查官或委托權(quán)威機(jī)構(gòu)進(jìn)行技術(shù)鑒定，為法官判斷因果關(guān)系與服務(wù)提供者是否“知道或應(yīng)當(dāng)知道”提供專業(yè)意見(jiàn)，為形成相關(guān)裁判標(biāo)準(zhǔn)積累實(shí)踐基礎(chǔ)。

四是推動(dòng)技術(shù)與法律的“技制”共治。一方面，應(yīng)為生成式人工智能技術(shù)設(shè)定明確的合規(guī)目標(biāo)與路徑。通過(guò)立法或設(shè)置國(guó)家強(qiáng)制性標(biāo)準(zhǔn)，明確要求將幻覺(jué)檢測(cè)、內(nèi)容溯源、顯著標(biāo)識(shí)等安全保障功能，作為人工智能模型與服務(wù)的“出廠標(biāo)配”，成為其內(nèi)生性的一部分，從源頭上引導(dǎo)技術(shù)朝著負(fù)責(zé)任創(chuàng)新方向發(fā)展。另一方面，利用技術(shù)手段增強(qiáng)法律實(shí)施的效能。這包括激勵(lì)研發(fā)并應(yīng)用自動(dòng)化合規(guī)檢測(cè)工具，幫助監(jiān)管機(jī)構(gòu)與企業(yè)高效評(píng)估模型是否符合法律規(guī)定。通過(guò)技術(shù)賦能，其監(jiān)督能力與裁判精準(zhǔn)度將得到提升，從而構(gòu)筑起一道由代碼與規(guī)則共同編織的、應(yīng)對(duì)幻覺(jué)風(fēng)險(xiǎn)的嚴(yán)密防線。

當(dāng)前，生成式人工智能的廣泛應(yīng)用為社會(huì)發(fā)展注入強(qiáng)大動(dòng)能，也引發(fā)了幻覺(jué)帶來(lái)的法律風(fēng)險(xiǎn)及其規(guī)制困境。因此，要構(gòu)建以責(zé)任鏈條、場(chǎng)景化治理、“技管結(jié)合”與“技制”共治為核心的規(guī)制路徑。人工智能相關(guān)立法應(yīng)積極回應(yīng)技術(shù)迭代的特殊需要，聚焦技術(shù)與法律的協(xié)同治理，積極參與人工智能風(fēng)險(xiǎn)防范的國(guó)際對(duì)話與規(guī)則協(xié)調(diào)，為全球人工智能法治發(fā)展貢獻(xiàn)中國(guó)智慧。

本文為貴州省社會(huì)科學(xué)院人才引進(jìn)科研啟動(dòng)項(xiàng)目“貴州省人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的激勵(lì)制度研究”（項(xiàng)目編號(hào)：GCRC2512）的階段性研究成果。

（作者單位：貴州省社會(huì)科學(xué)院法律研究所）