【作者】徐舒浩（上海交通大學(xué)凱原法學(xué)院助理教授、法學(xué)博士，北大法律信息網(wǎng)簽約作者）

【來(lái)源】北大法寶法學(xué)期刊庫(kù)《政治與法律》2026年第2期（文末附本期期刊目錄）。因篇幅較長(zhǎng)，已略去原文注釋。

內(nèi)容提要：在自動(dòng)駕駛語(yǔ)境中，人工智能軟件產(chǎn)品缺陷是指預(yù)測(cè)模型和決策函數(shù)在事故基礎(chǔ)率、預(yù)測(cè)誤差率、假陰性率上沒(méi)有達(dá)到合理的安全標(biāo)準(zhǔn)。但晚近的計(jì)算機(jī)科學(xué)研究已經(jīng)表明，低事故基礎(chǔ)率、低預(yù)測(cè)誤差率以及低假陰性率的“三低”狀態(tài)不具有理論上的可能性，處理其中兩項(xiàng)“缺陷”的過(guò)程，必然伴隨著放大剩下一項(xiàng)“缺陷”。為了保證人工智能的安全性，有理由放棄假陰性率這一指標(biāo)，如此便會(huì)導(dǎo)致“缺陷”這一概念在人工智能致?lián)p責(zé)任分配問(wèn)題上式微。而一旦告別“缺陷”，純粹因自動(dòng)化決策而產(chǎn)生的損害賠償責(zé)任就應(yīng)當(dāng)采納二層次判斷方案。第一層次是“無(wú)過(guò)錯(cuò)責(zé)任”，即只要能夠證明損害發(fā)生時(shí)處于自動(dòng)化決策狀態(tài)，就由人工智能軟件提供者承擔(dān)損害賠償責(zé)任；第二層次是“安全性證明+風(fēng)險(xiǎn)基金補(bǔ)償”，即被告通過(guò)統(tǒng)計(jì)型證據(jù)舉證證明軟件的事故基礎(chǔ)率和預(yù)測(cè)誤差率符合市場(chǎng)準(zhǔn)入門(mén)檻時(shí)，由行業(yè)組織設(shè)立的風(fēng)險(xiǎn)基金承擔(dān)替代責(zé)任。

關(guān)鍵詞：自動(dòng)駕駛；人工智能；統(tǒng)計(jì)型證據(jù)；設(shè)計(jì)缺陷；無(wú)過(guò)錯(cuò)責(zé)任

目次 一、問(wèn)題的提出 二、自動(dòng)駕駛?cè)斯ぶ悄墚a(chǎn)品“缺陷”問(wèn)題的理論與立法 三、人工智能產(chǎn)品“缺陷”的三種概念 四、人工智能產(chǎn)品“缺陷”的理論困境 五、告別“缺陷”后的無(wú)過(guò)錯(cuò)責(zé)任方案 六、結(jié)語(yǔ)

一

問(wèn)題的提出

關(guān)于人工智能侵權(quán)致?lián)p時(shí)，人工智能產(chǎn)品（軟件）提供者的民事責(zé)任承擔(dān)問(wèn)題，存在著過(guò)錯(cuò)責(zé)任與無(wú)過(guò)錯(cuò)責(zé)任的爭(zhēng)議。其中，支持無(wú)過(guò)錯(cuò)責(zé)任有兩種論證思路。第一種是產(chǎn)品責(zé)任思路。如歐盟2024年12月修訂實(shí)施的《關(guān)于缺陷產(chǎn)品責(zé)任與召回責(zé)任的理事會(huì)指令》即“歐盟2024/2853指令”將人工智能軟件歸入產(chǎn)品，并對(duì)其適用無(wú)過(guò)錯(cuò)責(zé)任。國(guó)內(nèi)也有學(xué)者指出“法律應(yīng)對(duì)人工智能所構(gòu)成的終端產(chǎn)品施加產(chǎn)品責(zé)任或嚴(yán)格責(zé)任”。第二種是非產(chǎn)品責(zé)任思路，主要從幾個(gè)方面展開(kāi)：第一，人工智能具有不可控、不可預(yù)測(cè)的致害危險(xiǎn)性，這種過(guò)高的損害風(fēng)險(xiǎn)“超出了與風(fēng)險(xiǎn)程度大致相當(dāng)?shù)陌踩Ｗo(hù)”，從公平角度出發(fā)，不應(yīng)考慮過(guò)錯(cuò)要件，而應(yīng)為被侵權(quán)人提供更充分保護(hù)；第二，無(wú)過(guò)錯(cuò)責(zé)任可督促人工智能軟件產(chǎn)品提供者致力于提供更安全的產(chǎn)品或服務(wù)；第三，在人工智能風(fēng)險(xiǎn)不可控的情況下，無(wú)過(guò)錯(cuò)責(zé)任可以將剩余事故成本全部?jī)?nèi)在化，提升社會(huì)總體福利，因此是一種“有效率”的責(zé)任分擔(dān)方式，同時(shí)亦不會(huì)過(guò)多地抑制企業(yè)創(chuàng)新。

盡管繞開(kāi)產(chǎn)品責(zé)任后，人們有諸多理由支持人工智能致?lián)p的無(wú)過(guò)錯(cuò)責(zé)任，但從產(chǎn)品責(zé)任的內(nèi)部視角看，能否得出無(wú)過(guò)錯(cuò)責(zé)任的結(jié)論，仍存在爭(zhēng)議。過(guò)錯(cuò)責(zé)任的支持者在最近指出，產(chǎn)品責(zé)任主要通過(guò)訴諸產(chǎn)品之缺陷來(lái)證成生產(chǎn)者之責(zé)任，但“缺陷”證明實(shí)乃過(guò)錯(cuò)證明。進(jìn)一步說(shuō)，缺陷判斷主要依賴兩項(xiàng)標(biāo)準(zhǔn)：第一，產(chǎn)品安全性是否符合消費(fèi)者合理期待；第二，產(chǎn)品提供者為預(yù)防事故所付出的成本是否低于事故發(fā)生所可能造成的損害。不滿足消費(fèi)者合理期待的安全程度，或者采取預(yù)防措施的成本較低而未能付諸實(shí)施，即被認(rèn)定為未盡到注意義務(wù)，構(gòu)成缺陷，而此處的缺陷從根本上說(shuō)就是過(guò)錯(cuò)的同義詞。因此，產(chǎn)品責(zé)任“實(shí)質(zhì)上是過(guò)錯(cuò)責(zé)任的輕微修改版本”。

已有學(xué)者主張，考慮到人工智能技術(shù)內(nèi)在不可控，人工智能致害的獨(dú)特危險(xiǎn)可能超出產(chǎn)品缺陷的輻射范圍，對(duì)于超出部分，不宜適用產(chǎn)品缺陷的責(zé)任邏輯，而應(yīng)徑直引入無(wú)過(guò)錯(cuò)責(zé)任。這樣一來(lái)，即便考慮了產(chǎn)品責(zé)任的可能性，無(wú)過(guò)錯(cuò)責(zé)任也必然有其一席之地。但值得注意的是，尚無(wú)學(xué)者提出充分論據(jù)來(lái)證明，人工智能內(nèi)在不可控這一事實(shí)，究竟如何讓其超越產(chǎn)品缺陷的范疇，更直截了當(dāng)?shù)卣f(shuō)，為什么人工智能的決策不能被簡(jiǎn)單地界定為有缺陷或者無(wú)缺陷。這一缺憾為本文的寫(xiě)作提供了必要性。

對(duì)人工智能預(yù)測(cè)方式的理解將使我們認(rèn)識(shí)到，模型決策中歸責(zé)問(wèn)題最獨(dú)特的地方在于，只有允許模型在特定情況下犯錯(cuò)，它才可能避免在其他多得多的情況下犯錯(cuò)，換言之，只有在某種程度上容忍模型在微觀世界的誤差，才能期待它在宏觀世界提高安全性。由此一來(lái)，“缺陷”概念恐怕已不能解釋人工智能致?lián)p問(wèn)題。本文即論證，“缺陷”概念將在人工智能語(yǔ)境中走向消亡，而當(dāng)它消亡后，人工智能致?lián)p的無(wú)過(guò)錯(cuò)責(zé)任立場(chǎng)或許將更加穩(wěn)固。

此外，在正式進(jìn)入話題前，需要進(jìn)行三點(diǎn)澄清：第一，人工智能致?lián)p的侵權(quán)責(zé)任存在多種場(chǎng)景，即便排除生成式人工智能和服務(wù)型人工智能的侵權(quán)問(wèn)題（諸如醫(yī)療人工智能、人形機(jī)器人等人工智能產(chǎn)品的侵權(quán)問(wèn)題），也頻繁存在著侵權(quán)事實(shí)，為形成聚焦，同時(shí)回應(yīng)實(shí)務(wù)關(guān)切，本文只以自動(dòng)駕駛致?lián)p作為研究對(duì)象，但其結(jié)論或可推廣至其他應(yīng)用場(chǎng)景；第二，自動(dòng)駕駛相關(guān)產(chǎn)品有硬件產(chǎn)品與軟件產(chǎn)品之分，硬件產(chǎn)品通常為有形物，納入現(xiàn)有產(chǎn)品責(zé)任體系不存在疑難，故本文討論對(duì)象僅為自動(dòng)駕駛?cè)斯ぶ悄苤械能浖a(chǎn)品，即自動(dòng)駕駛模型；第三，產(chǎn)品責(zé)任在此處指的是人工智能軟件產(chǎn)品提供者承擔(dān)的責(zé)任，不涉及開(kāi)發(fā)者、訓(xùn)練者、測(cè)試者等主體。

二

自動(dòng)駕駛?cè)斯ぶ悄墚a(chǎn)品“缺陷”問(wèn)題的理論與立法

損害責(zé)任是人工智能法律責(zé)任問(wèn)題的一個(gè)焦點(diǎn)。目前的主流觀點(diǎn)是對(duì)（除生成式人工智能與服務(wù)型人工智能之外的）人工智能損害責(zé)任適用產(chǎn)品責(zé)任，主要包括制造缺陷、設(shè)計(jì)缺陷和警示缺陷，其中又有觀點(diǎn)認(rèn)為，純粹由模型本身的決策造成的事故損害適用設(shè)計(jì)缺陷，其核心是判斷人工智能軟件是否造成了“不合理的危險(xiǎn)”，只要其造成“不合理的危險(xiǎn)”，便認(rèn)定模型設(shè)計(jì)者違反其注意義務(wù)，因而存在“過(guò)失”。本文將證明，最近從計(jì)算機(jī)科學(xué)中發(fā)展出來(lái)，并延伸至法學(xué)的理論共識(shí)，已經(jīng)證明這種歸責(zé)原則是對(duì)人工智能算法（預(yù)測(cè)）的不恰當(dāng)想象。為此，需要前置性地解釋什么是人工智能預(yù)測(cè)和決策，這里以自動(dòng)駕駛為切入點(diǎn)。

（一）純粹設(shè)計(jì)缺陷

自動(dòng)駕駛致?lián)p中的歸責(zé)是一個(gè)復(fù)雜問(wèn)題。按照通常的技術(shù)分解，自動(dòng)駕駛中人工智能決策機(jī)制大體包括“感知、預(yù)測(cè)、決策”三個(gè)模塊。其中，“感知”是指通過(guò)傳感器、互聯(lián)網(wǎng)以及駕駛員指令而形成的數(shù)據(jù)輸入，“預(yù)測(cè)”是基于輸入數(shù)據(jù)而輸出可能發(fā)生之事件的條件概率，“決策”是基于輸入與預(yù)測(cè)而輸出行動(dòng)選擇。計(jì)算機(jī)科學(xué)通常會(huì)將預(yù)測(cè)模塊稱(chēng)為預(yù)測(cè)模型（predictive model），而將決策模塊稱(chēng)為決策函數(shù)（decision function）。自動(dòng)駕駛場(chǎng)景中，預(yù)測(cè)模型的輸出可簡(jiǎn)單理解為事故概率的高低，而決策函數(shù)的輸出包括橫向和縱向控制、輔助性提示、發(fā)出警報(bào)和接管請(qǐng)求，接受或拒絕動(dòng)態(tài)駕駛?cè)蝿?wù)后援用戶的接管指令等。其中每個(gè)模塊出現(xiàn)的錯(cuò)誤都存在不同的可能原因，比如，遍布車(chē)身的傳感器未能感知到相關(guān)環(huán)境信息，既可能是因?yàn)槠?chē)自身的制造問(wèn)題，如傳感器的部署位置不合理，其固定方式存在缺陷等，也可能源于外在因素，如異物遮擋、空氣中微粒的反射、外部光線影響等。同樣，自動(dòng)駕駛系統(tǒng)在決策時(shí)的錯(cuò)誤也可能與汽車(chē)其他硬件的故障（如輪胎缺陷、制動(dòng)缺陷、車(chē)身強(qiáng)度缺陷）、車(chē)外人員過(guò)錯(cuò)，或者路面塌陷、雜物等問(wèn)題有關(guān)。

這里不討論上述所有的制造因素和外在因素，并且排除系統(tǒng)死機(jī)、癱瘓、黑客攻擊、后臺(tái)安全員的過(guò)錯(cuò)等因素導(dǎo)致的故障，僅僅關(guān)注自動(dòng)駕駛模型基于其正常的預(yù)測(cè)和決策造成之損害的歸責(zé)問(wèn)題。也就是說(shuō)，本文僅關(guān)注自動(dòng)駕駛汽車(chē)按照人工智能的正常指令行駛，依然發(fā)生事故時(shí)責(zé)任的歸屬問(wèn)題。

此外，自動(dòng)駕駛決策的一個(gè)重要議題分支是碰撞時(shí)的倫理函數(shù)設(shè)計(jì)，也就是人們熟悉的“電車(chē)難題”，學(xué)者們認(rèn)為，既然要研究自動(dòng)駕駛模型決策，就必須明確“碰撞的優(yōu)先性規(guī)則”。這里需要澄清，本文所分析的話題與“電車(chē)難題”議題有明確分工，后者要處理的是，倘若人工智能必須在幾種碰撞后果之間進(jìn)行抉擇，怎么撞才能在道德上被證成；而本文處理一個(gè)邏輯上更靠前的問(wèn)題，即為了激勵(lì)企業(yè)去部署更安全的自動(dòng)駕駛?cè)斯ぶ悄苣Ｐ?，?yīng)當(dāng)如何設(shè)計(jì)歸責(zé)原則。它之所以在邏輯上更靠前，是因?yàn)樗唤鉀Q碰撞對(duì)象之間的損害分配問(wèn)題，而解決如何在總體上減少碰撞的問(wèn)題。

（二）地方性法規(guī)中若隱若現(xiàn)的“缺陷”概念

民事責(zé)任是自動(dòng)駕駛責(zé)任體系中起到示范作用的一部分。但在我國(guó)，無(wú)論是《民法典》還是《道路交通安全法》都沒(méi)有就自動(dòng)駕駛中的侵權(quán)責(zé)任認(rèn)定方式進(jìn)行明確規(guī)定。相關(guān)責(zé)任規(guī)范更多是由這幾年陸續(xù)出臺(tái)的一些地方性法規(guī)來(lái)先行補(bǔ)充。有的地方性法規(guī)明確地把車(chē)輛存在缺陷作為責(zé)任標(biāo)準(zhǔn)，比如，2022年8月1日實(shí)施的《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車(chē)管理?xiàng)l例》第53條分別將有駕駛?cè)撕蜔o(wú)駕駛?cè)藘煞N情況下智能網(wǎng)聯(lián)汽車(chē)一方責(zé)任歸給駕駛?cè)撕蛙?chē)輛所有人、管理人，緊接著，其第54條又規(guī)定，“智能網(wǎng)聯(lián)汽車(chē)發(fā)生交通事故，因智能網(wǎng)聯(lián)汽車(chē)存在缺陷造成損害的，車(chē)輛駕駛?cè)嘶蛘咚腥?、管理人依照本條例第五十三條的規(guī)定賠償后，可以依法向生產(chǎn)者、銷(xiāo)售者請(qǐng)求賠償”。根據(jù)該條例，自動(dòng)駕駛汽車(chē)生產(chǎn)、制造、銷(xiāo)售者、自動(dòng)駕駛系統(tǒng)開(kāi)發(fā)者是第二順位的責(zé)任人，其還額外明確，第二順位責(zé)任人承擔(dān)責(zé)任的依據(jù)是汽車(chē)“存在缺陷”。究竟是什么缺陷，沒(méi)有明確的說(shuō)法，不過(guò)，可以合理推測(cè)其應(yīng)當(dāng)是指汽車(chē)安全設(shè)施設(shè)備、自動(dòng)駕駛系統(tǒng)軟件的缺陷。于是，在交通事故中，導(dǎo)致汽車(chē)安全設(shè)施設(shè)備、自動(dòng)駕駛系統(tǒng)缺陷的行為，就與事故中各方的其他過(guò)錯(cuò)行為一起參與責(zé)任的分配，對(duì)于這一點(diǎn)，2024年5月1日施行的《杭州市智能網(wǎng)聯(lián)車(chē)輛測(cè)試與應(yīng)用促進(jìn)條例》明確規(guī)定，“智能網(wǎng)聯(lián)車(chē)輛發(fā)生交通事故的，應(yīng)當(dāng)根據(jù)事故各方的行為對(duì)事故發(fā)生所起的作用以及過(guò)錯(cuò)嚴(yán)重程度，確定各方的事故責(zé)任”。

這些規(guī)定隱含的是一種過(guò)錯(cuò)的邏輯，其假設(shè)的是，在汽車(chē)及其軟硬件的設(shè)計(jì)、制造中發(fā)現(xiàn)缺陷，可以作為制造者、設(shè)計(jì)者存在過(guò)失的依據(jù)，因此可以成為他們“加入”事故責(zé)任方，按照過(guò)錯(cuò)程度分擔(dān)責(zé)任的依據(jù)。我們稍后討論這種責(zé)任承擔(dān)方式在人工智能責(zé)任問(wèn)題上面臨的困境，先來(lái)看看學(xué)者們通過(guò)哪些途徑來(lái)支持這一過(guò)錯(cuò)的邏輯。

自動(dòng)駕駛軟件缺陷通常被歸類(lèi)為設(shè)計(jì)缺陷。所謂設(shè)計(jì)缺陷，指的是產(chǎn)品在設(shè)計(jì)和策劃時(shí)就存在的方案上的固有缺陷，并且這種缺陷是“比較出來(lái)的”。按照美國(guó)侵權(quán)法第三次重述，設(shè)計(jì)缺陷是指：對(duì)于產(chǎn)品固有的、可預(yù)見(jiàn)的損害風(fēng)險(xiǎn)，產(chǎn)品設(shè)計(jì)者、生產(chǎn)者、商業(yè)分銷(xiāo)鏈中的其他參與者原本可以采取更合理的替代性設(shè)計(jì)方式來(lái)減少或者消除該風(fēng)險(xiǎn)，但因?yàn)樽陨淼氖韬龆茨懿捎锰娲栽O(shè)計(jì)，而需要為其過(guò)失承擔(dān)責(zé)任。也就是說(shuō)，設(shè)計(jì)者和生產(chǎn)者原本可以采取替代性設(shè)計(jì)方案，因“疏忽”未付諸實(shí)施，這一事實(shí)證明了其對(duì)缺陷具有過(guò)失，故成為責(zé)任的依據(jù)。因此有學(xué)者指出，美國(guó)侵權(quán)法第三次重述對(duì)設(shè)計(jì)缺陷的規(guī)定使得設(shè)計(jì)缺陷“不再關(guān)注產(chǎn)品本身，而是轉(zhuǎn)向關(guān)注生產(chǎn)者行為的合理性，從而使其具有了更多可歸責(zé)性和過(guò)失責(zé)任的韻味”，“設(shè)計(jì)缺陷和警示缺陷的認(rèn)定上融入了過(guò)失責(zé)任的因素”。

那么，何種情況下，自動(dòng)駕駛軟件的提供者會(huì)被認(rèn)為具有過(guò)失呢？通常認(rèn)為，“對(duì)于其軟件設(shè)計(jì)中的明顯漏洞，應(yīng)當(dāng)直接認(rèn)定為設(shè)計(jì)缺陷”。也就是說(shuō)，雖然我們并不事先知道自動(dòng)駕駛模型會(huì)在什么場(chǎng)合下產(chǎn)生錯(cuò)誤，但是只要這個(gè)錯(cuò)誤是連人類(lèi)駕駛員都不太會(huì)犯的明顯錯(cuò)誤，就應(yīng)當(dāng)認(rèn)為自動(dòng)駕駛軟件存在設(shè)計(jì)缺陷。在這個(gè)論證中，自動(dòng)駕駛軟件和駕駛者的比較，相當(dāng)于車(chē)輛測(cè)試安全員和普通駕駛?cè)说谋容^，前者雖然會(huì)遭遇事故，但其往往遭遇的是一些不可避免的事故，一些倘若普通駕駛?cè)私庸埽訜o(wú)法躲避的事故。反過(guò)來(lái)說(shuō)，若自動(dòng)駕駛系統(tǒng)因?yàn)槠錄Q策方案的漏洞而犯一些普通駕駛?cè)硕疾粫?huì)犯的錯(cuò)誤，那么它顯然沒(méi)有采用最佳的設(shè)計(jì)思路，也就意味著，一定還有更好的、已經(jīng)應(yīng)用的軟件設(shè)計(jì)可以避免這些錯(cuò)誤，因此不采取這些設(shè)計(jì)就構(gòu)成設(shè)計(jì)者的過(guò)失。

將自動(dòng)駕駛軟件類(lèi)比為車(chē)輛測(cè)試安全員，一個(gè)隱含的想法是：錯(cuò)誤是一個(gè)一個(gè)犯下的，因此，一個(gè)學(xué)習(xí)能力良好的行動(dòng)者可以一個(gè)一個(gè)彌補(bǔ)它們，沒(méi)有達(dá)到這種良好的學(xué)習(xí)能力，本身就是一種過(guò)失。更關(guān)鍵的是，它假設(shè)了宏觀層面的錯(cuò)誤率與個(gè)體層面的錯(cuò)誤程度之間的一致性，即一個(gè)總體上會(huì)犯更少錯(cuò)誤的駕駛者（比如車(chē)輛測(cè)試安全員）大概率會(huì)去避免那些很低級(jí)的錯(cuò)誤，反之亦然，所以，自動(dòng)駕駛模型的性能與設(shè)計(jì)缺陷中的錯(cuò)誤概率呈反比，性能越好，具體場(chǎng)景中就越不可能犯錯(cuò)。這個(gè)設(shè)想和我們當(dāng)下的責(zé)任體系與歸責(zé)原則保持著高度一致，當(dāng)我們基于這個(gè)思路，將責(zé)任歸給自動(dòng)駕駛?cè)斯ぶ悄墚a(chǎn)品的提供者時(shí)，可以沒(méi)有負(fù)擔(dān)，因?yàn)榘凑赵撍悸罚切┍徽J(rèn)定為具有“缺陷”的自動(dòng)駕駛軟件，顯然是性能上不過(guò)關(guān)的瑕疵技術(shù)產(chǎn)品，投放到市場(chǎng)中只會(huì)降低道路交通安全性。

已經(jīng)有學(xué)者反思這一對(duì)自動(dòng)駕駛技術(shù)采取的歸責(zé)模式，可能是對(duì)人工智能領(lǐng)域“缺陷”問(wèn)題的一個(gè)誤解。其指出：“很多情況下，一項(xiàng)孤立的、可以通過(guò)幾行代碼加以糾正的、從一開(kāi)始就能避免的缺陷，將不會(huì)存在或者至少無(wú)法證明。事實(shí)上，不能通過(guò)改寫(xiě)幾行代碼就解決個(gè)別缺陷，因?yàn)樽灾鲗W(xué)習(xí)系統(tǒng)不是這么設(shè)計(jì)的。對(duì)于系統(tǒng)在緊急情況下某種行為的改變，必然會(huì)改變自主系統(tǒng)在其他潛在事故情形中的行為，這會(huì)帶來(lái)不可預(yù)見(jiàn)的結(jié)果。”其潛在含義是，人工智能減少其總體錯(cuò)誤率的過(guò)程，與克服個(gè)別錯(cuò)誤的過(guò)程，是不可直接加以等同的，而這也是“缺陷”這一概念不能被簡(jiǎn)單套用至人工智能領(lǐng)域的原因。

但時(shí)至今日，還沒(méi)有學(xué)者使用一套明確的理論框架來(lái)解釋為什么人工智能系統(tǒng)的性能與它在個(gè)別場(chǎng)景中的錯(cuò)誤率之間存在著比我們所想象的更復(fù)雜的關(guān)系。下面，我將借助計(jì)算機(jī)科學(xué)家以及一部分法學(xué)學(xué)者最近發(fā)展出來(lái)的一套理論來(lái)展示一個(gè)論斷：當(dāng)模型的安全性整體提升時(shí)，它在個(gè)別情況下出現(xiàn)誤判的概率也會(huì)增加，所以，沒(méi)有一種缺陷認(rèn)定標(biāo)準(zhǔn)能夠就宏觀和微觀部分給出統(tǒng)一的安排，法律責(zé)任體系的設(shè)定是在三種不同的“缺陷”概念之間進(jìn)行抉擇。

三

人工智能產(chǎn)品“缺陷”的三種概念

認(rèn)為自動(dòng)駕駛算法（模型）存在設(shè)計(jì)缺陷，狹義上看就是指它可能存在預(yù)測(cè)上的缺陷，比如，倘若某個(gè)駕駛行為事實(shí)上開(kāi)啟了危險(xiǎn)，而人工智能預(yù)測(cè)其很安全，那么基于這一錯(cuò)誤預(yù)測(cè)就可能導(dǎo)致事故，一旦這樣的錯(cuò)誤預(yù)測(cè)大量發(fā)生，就有理由認(rèn)為模型存在設(shè)計(jì)上的失誤。

當(dāng)前的自動(dòng)駕駛技術(shù)還處于人機(jī)協(xié)同駕駛階段，意味著人工智能尚未全面超越人類(lèi)駕駛員，其在預(yù)測(cè)時(shí)最重要的工作是比較某個(gè)緊急場(chǎng)景下自動(dòng)駕駛與人類(lèi)駕駛的風(fēng)險(xiǎn)。如果認(rèn)為自動(dòng)駕駛風(fēng)險(xiǎn)比人類(lèi)駕駛更高，那么它傾向于采取的決策包括發(fā)出警報(bào)、發(fā)出接管請(qǐng)求以及采取危險(xiǎn)最小化駕駛動(dòng)作等；而倘若認(rèn)為自動(dòng)駕駛風(fēng)險(xiǎn)低于人類(lèi)駕駛，則合理的決策是徑直控制車(chē)輛完成規(guī)避動(dòng)作，不發(fā)出警報(bào)，甚至L4及以上自動(dòng)駕駛等級(jí)的車(chē)輛可以選擇暫緩執(zhí)行人類(lèi)駕駛員的接管指令。但既然自動(dòng)駕駛模型是否存在缺陷，取決于其預(yù)測(cè)能力，那么，究竟如何評(píng)價(jià)一款人工智能軟件的預(yù)測(cè)能力呢？要坦承的是，沒(méi)有人知道自動(dòng)駕駛模型的具體預(yù)測(cè)機(jī)制，目前主流自動(dòng)駕駛軟件均采用深度學(xué)習(xí)算法，意味著包括軟件設(shè)計(jì)工程師在內(nèi)的幾乎所有人都無(wú)法知曉模型的預(yù)測(cè)方式。所以問(wèn)題轉(zhuǎn)化為，如何繞過(guò)模型的內(nèi)部機(jī)制來(lái)評(píng)價(jià)它的性能？答案是通過(guò)“統(tǒng)計(jì)”，也就是通過(guò)道路測(cè)試等方式來(lái)統(tǒng)計(jì)和比較模型的各項(xiàng)數(shù)據(jù)；我們可以通過(guò)觀察自動(dòng)駕駛模型預(yù)測(cè)了什么與實(shí)際上發(fā)生了什么之間的統(tǒng)計(jì)關(guān)系，來(lái)判斷人工智能是否存在缺陷。為此，下面引入三個(gè)和統(tǒng)計(jì)學(xué)密切相關(guān)的“缺陷”概念，在人工智能致?lián)p議題上，它們都被法學(xué)學(xué)者主張或討論過(guò)，但尚無(wú)研究來(lái)揭示它們彼此之間的關(guān)系。

（一）假陰（陽(yáng)）性率

“假陰（陽(yáng)）性率”或者“錯(cuò)誤率”，指的是當(dāng)某個(gè)事件或狀態(tài)存在（或不存在）時(shí)，預(yù)測(cè)結(jié)論與實(shí)際情況不符的比率。其包含兩種，一是事件或狀態(tài)實(shí)際上并不存在，但預(yù)測(cè)其存在，稱(chēng)為假陽(yáng)性；二是事件或狀態(tài)實(shí)際上存在，但預(yù)測(cè)其不存在，稱(chēng)為假陰性。在自動(dòng)駕駛建模過(guò)程中，假陽(yáng)性是指，預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)高，但實(shí)際上并非如此，所以車(chē)輛會(huì)錯(cuò)誤地發(fā)出接管請(qǐng)求、警報(bào)等；假陰性是指，預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)低，但實(shí)際上并非如此，這意味著，車(chē)輛可能本應(yīng)當(dāng)發(fā)出警報(bào)而未發(fā)出，或者本應(yīng)當(dāng)請(qǐng)求駕駛員接管，卻選擇由自身完成駕駛行為（甚至抵觸駕駛員主動(dòng)接管的指令）。顯然，錯(cuò)誤地預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)低于人類(lèi)駕駛，是更嚴(yán)重的錯(cuò)誤，原因是，它最終讓駕駛員喪失了規(guī)避事故的機(jī)會(huì)。在責(zé)任體系中，一旦能夠舉證證明自動(dòng)駕駛系統(tǒng)經(jīng)常性地錯(cuò)誤預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)低于人類(lèi)駕駛（也就是說(shuō)，雖然自動(dòng)駕駛事實(shí)上發(fā)生了事故，但它預(yù)測(cè)不會(huì)發(fā)生事故，這就是為什么它被稱(chēng)為假陰性），似乎應(yīng)當(dāng)肯定系統(tǒng)存在缺陷。

倘若將假陰性率作為核心考慮因素，我們可以得到自動(dòng)駕駛軟件設(shè)計(jì)缺陷的第一個(gè)概念?！霸O(shè)計(jì)缺陷”概念I(lǐng)：倘若在所有事實(shí)上發(fā)生事故的情況中，一款自動(dòng)駕駛軟件經(jīng)常性預(yù)測(cè)自動(dòng)駕駛不會(huì)發(fā)生事故（沒(méi)有發(fā)出接管請(qǐng)求、警報(bào)，或者暫緩執(zhí)行駕駛員的主動(dòng)接管指令），因此具有較高的假陰性率，則應(yīng)當(dāng)認(rèn)定該軟件存在設(shè)計(jì)缺陷。

（二）陰（陽(yáng)）性預(yù)測(cè)誤差率

然而，假陰（陽(yáng)）性率只能測(cè)量實(shí)際上發(fā)生某個(gè)結(jié)果時(shí)，模型給出錯(cuò)誤預(yù)測(cè)的概率，它無(wú)法評(píng)價(jià)模型本身的預(yù)測(cè)誤差率或者說(shuō)它的預(yù)測(cè)能力。所謂的預(yù)測(cè)誤差率是指，當(dāng)一個(gè)關(guān)于事件或狀態(tài)存在（或不存在）的預(yù)測(cè)被給出時(shí)，它不符合實(shí)際情況的比率。其同樣包含兩種情況，即陰性預(yù)測(cè)誤差率與陽(yáng)性預(yù)測(cè)誤差率。其中，陰性預(yù)測(cè)誤差率是指預(yù)測(cè)一個(gè)事件或狀態(tài)不存在，但其事實(shí)上存在的比率；陽(yáng)性預(yù)測(cè)誤差率是指預(yù)測(cè)一個(gè)事件或狀態(tài)存在，而其事實(shí)上不存在的比率。為了區(qū)分假陰（陽(yáng)）性率與陰（陽(yáng)）性預(yù)測(cè)誤差率，不妨考察表1，表格中的“＋”代表陽(yáng)性結(jié)果，“—”代表陰性結(jié)果，a、b、c、d各自指代一個(gè)特定數(shù)值。

表1 假陰（陽(yáng)）性率與陰（陽(yáng)）性預(yù)測(cè)誤差率的比較

比如，若要測(cè)量的是假陰性率，則需計(jì)算b除以（a+b）的結(jié)果，也就是說(shuō)，它計(jì)算的是所有實(shí)際上為陽(yáng)性的結(jié)果中，有多少被錯(cuò)誤地預(yù)測(cè)為陰性；而如若所測(cè)量的是陰性預(yù)測(cè)誤差率，要計(jì)算的事項(xiàng)變成b除以（b+d）的結(jié)果，它的含義是，當(dāng)一項(xiàng)陰性預(yù)測(cè)被給出時(shí)，它的失敗概率（預(yù)測(cè)對(duì)象事實(shí)上為陽(yáng)性的概率）是多少。

現(xiàn)在，考慮到自動(dòng)駕駛模型的預(yù)測(cè)準(zhǔn)確性同樣對(duì)自動(dòng)駕駛產(chǎn)品的性能具有關(guān)鍵意義，如將預(yù)測(cè)誤差率作為核心考慮因素，我們可以得到設(shè)計(jì)缺陷的第二個(gè)概念?！霸O(shè)計(jì)缺陷”概念I(lǐng)I：倘若一款自動(dòng)駕駛軟件經(jīng)常性預(yù)測(cè)自動(dòng)駕駛會(huì)（不會(huì)）發(fā)生事故，但事實(shí)上沒(méi)有發(fā)生（發(fā)生了）事故，預(yù)測(cè)能力較差，則應(yīng)當(dāng)認(rèn)定該軟件存在設(shè)計(jì)缺陷。

（三）基礎(chǔ)率

前兩個(gè)概念聚焦于模型的預(yù)測(cè)功能。但我們通常討論自動(dòng)駕駛系統(tǒng)的性能，除了評(píng)價(jià)它的預(yù)測(cè)功能，更常見(jiàn)的是評(píng)價(jià)它在真實(shí)世界的表現(xiàn)。為此，計(jì)算機(jī)科學(xué)家借用統(tǒng)計(jì)學(xué)上的術(shù)語(yǔ)即基礎(chǔ)率（base rate），來(lái)描述模型的性能。所謂基礎(chǔ)率，就是比較自動(dòng)駕駛和人類(lèi)駕駛在事故絕對(duì)數(shù)量上的差異，比如，在全部100個(gè)緊急場(chǎng)景中，自動(dòng)駕駛事實(shí)上避免了其中85起事故，人類(lèi)駕駛員只避免了其中25起事故，則應(yīng)當(dāng)認(rèn)為自動(dòng)駕駛的事故基礎(chǔ)率為0.15，人類(lèi)駕駛為0.75，從基礎(chǔ)率上看，自動(dòng)駕駛比人類(lèi)駕駛更安全。之所以要使用基礎(chǔ)率來(lái)評(píng)價(jià)自動(dòng)駕駛，同樣在于自動(dòng)駕駛的預(yù)測(cè)模型與決策函數(shù)不可知，因此只能通過(guò)其在真實(shí)世界的表現(xiàn)推測(cè)其安全性。學(xué)者們通常會(huì)說(shuō)，由于自動(dòng)駕駛技術(shù)的發(fā)展，開(kāi)車(chē)比過(guò)去更安全了，自動(dòng)駕駛的事故概率比人類(lèi)駕駛更低，其所指的就是自動(dòng)駕駛的事故基礎(chǔ)率低于人類(lèi)駕駛。

可以認(rèn)為，當(dāng)汽車(chē)行業(yè)的總體共識(shí)是，自動(dòng)駕駛旨在提高汽車(chē)的安全性，因此自動(dòng)駕駛風(fēng)險(xiǎn)應(yīng)當(dāng)?shù)陀谌祟?lèi)駕駛，則兩者之間事故基礎(chǔ)率的比較將成為軟件提供者是否存在過(guò)失的依據(jù)。由此，自動(dòng)駕駛?cè)斯ぶ悄苘浖氖褂谜?，可以舉出“該自動(dòng)駕駛軟件的事故基礎(chǔ)率事實(shí)上高于人類(lèi)駕駛”的統(tǒng)計(jì)型證據(jù)（statistical evidence），來(lái)證明其存在設(shè)計(jì)缺陷。我們因此得到了自動(dòng)駕駛系統(tǒng)設(shè)計(jì)缺陷的第三個(gè)概念。“設(shè)計(jì)缺陷”概念I(lǐng)II：倘若一款自動(dòng)駕駛軟件的總體事故基礎(chǔ)率高于人類(lèi)駕駛，或者其在某些駕駛場(chǎng)景中的事故基礎(chǔ)率高于人類(lèi)駕駛，則應(yīng)當(dāng)認(rèn)定該軟件存在設(shè)計(jì)缺陷。

可以發(fā)現(xiàn)，這三種“缺陷”概念都符合我們對(duì)人工智能產(chǎn)品提供者責(zé)任的直覺(jué)認(rèn)識(shí)，似乎都能用以證明其存在某種程度上的“過(guò)失”。更關(guān)鍵的是，我們會(huì)認(rèn)為這些“缺陷”之間存在因果上的聯(lián)系，從人類(lèi)的視角看，具體事故中經(jīng)常犯錯(cuò)的駕駛員，其駕駛技術(shù)的拙劣，在宏觀上一定體現(xiàn)為他缺乏敏銳的預(yù)測(cè)能力，并因此造成了更多交通事故。實(shí)際上，也正是這種思考的慣性，讓我們不假思索、心安理得地將傳統(tǒng)的責(zé)任體系賦予自動(dòng)駕駛，因?yàn)橹灰鞔_自動(dòng)駕駛軟件符合其中一種“缺陷”概念，就能合理地推測(cè)它同時(shí)符合另外兩種“缺陷”概念。

四

人工智能產(chǎn)品“缺陷”的理論困境

然而，最近的一些研究進(jìn)展表明，這三種“缺陷”概念在人工智能致?lián)p責(zé)任問(wèn)題上不僅不存在正向聯(lián)系，而且它們之間實(shí)乃“悖反關(guān)系”，解決其中兩項(xiàng)“缺陷”的過(guò)程，往往伴隨著放大剩下一項(xiàng)“缺陷”。為了解釋何以如此，下面將提出一種描述框架。

（一）自動(dòng)駕駛軟件性能的法律評(píng)價(jià)方式

不妨通過(guò)一個(gè)思想實(shí)驗(yàn)來(lái)說(shuō)明三種“缺陷”的悖反狀態(tài)?，F(xiàn)假設(shè)，智能網(wǎng)聯(lián)車(chē)輛測(cè)試主體針對(duì)道路測(cè)試中事故情況收集的數(shù)據(jù)已能夠幫助其比較自動(dòng)駕駛與人類(lèi)駕駛的事故率。為消除復(fù)雜性，聚焦于最根本的問(wèn)題，假設(shè)該測(cè)試主體目前只比較了某一駕駛場(chǎng)景下自動(dòng)駕駛與人類(lèi)駕駛的事故率，并假設(shè)這些數(shù)據(jù)均具有真實(shí)性和統(tǒng)計(jì)上的科學(xué)性，進(jìn)而形成表2所示的結(jié)果。表格中的全部數(shù)字僅反映“實(shí)際事故情況”，在縱列中體現(xiàn)為“事故”和“無(wú)事故”兩個(gè)分組，橫排則反映了自動(dòng)駕駛模型對(duì)事故的預(yù)測(cè)情況，也就是它對(duì)目前駕駛狀態(tài)下（其中的自動(dòng)駕駛是指最終駕駛狀態(tài)為自動(dòng)駕駛；人類(lèi)駕駛是指最終駕駛狀態(tài)是關(guān)閉自動(dòng)駕駛系統(tǒng)而由人類(lèi)駕駛員控制車(chē)輛）發(fā)生事故概率的預(yù)測(cè)。為簡(jiǎn)化問(wèn)題，這里的預(yù)測(cè)只有二值分類(lèi)（即只有“高”和“低”兩個(gè)風(fēng)險(xiǎn)等級(jí)），而不包含連續(xù)性的風(fēng)險(xiǎn)評(píng)分。

表2 自動(dòng)駕駛狀態(tài)下的事故情況和人類(lèi)駕駛狀態(tài)下的事故情況

表2左側(cè)的數(shù)據(jù)體現(xiàn)的是該場(chǎng)景下自動(dòng)駕駛的事故率。在100個(gè)樣本中，事實(shí)上有71個(gè)樣本未發(fā)生事故，29個(gè)樣本發(fā)生事故，事故基礎(chǔ)率為0.29。若更細(xì)致地分析，會(huì)發(fā)現(xiàn)有69個(gè)樣本的預(yù)測(cè)是“自動(dòng)駕駛風(fēng)險(xiǎn)低”，并且事實(shí)上未發(fā)生事故，有22個(gè)樣本的預(yù)測(cè)是“自動(dòng)駕駛風(fēng)險(xiǎn)低”，但事實(shí)上發(fā)生了事故，由此，可計(jì)算該模型在預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)低時(shí)，其預(yù)測(cè)誤差率為22/（22+69）即0.253。同理，由于模型在預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)高的9個(gè)樣本中有7個(gè)發(fā)生了事故，2個(gè)未發(fā)生事故，可發(fā)現(xiàn)該模型在預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)高時(shí)的預(yù)測(cè)誤差率為2/（2+7）即0.222。

現(xiàn)在將人類(lèi)駕駛的情況納入，以期比較。在表2右側(cè)，100個(gè)樣本中事實(shí)上發(fā)生事故的是66個(gè)樣本，未發(fā)生事故的是34個(gè)樣本，事故基礎(chǔ)率為0.66。其中，有60個(gè)樣本的預(yù)測(cè)是“人類(lèi)駕駛風(fēng)險(xiǎn)高”，且事實(shí)上發(fā)生事故，20個(gè)樣本的預(yù)測(cè)是“人類(lèi)駕駛風(fēng)險(xiǎn)高”但并未發(fā)生事故，可計(jì)算模型在預(yù)測(cè)人類(lèi)駕駛風(fēng)險(xiǎn)高時(shí)的預(yù)測(cè)誤差率為20/（60+20）即0.25。與此同時(shí)，模型在預(yù)測(cè)人類(lèi)駕駛風(fēng)險(xiǎn)低的20個(gè)樣本中，6個(gè)發(fā)生了事故，而14個(gè)未發(fā)生事故，表明模型在預(yù)測(cè)人類(lèi)駕駛風(fēng)險(xiǎn)低時(shí)的預(yù)測(cè)誤差率為6/（6+14）即0.3。

基于這些數(shù)據(jù)，如何評(píng)價(jià)該款自動(dòng)駕駛軟件的性能？第一是預(yù)測(cè)誤差率。我們會(huì)發(fā)現(xiàn)，模型在全部四種情況下的預(yù)測(cè)誤差率均不超過(guò)0.3，可認(rèn)為其有良好的預(yù)測(cè)能力，可以同時(shí)準(zhǔn)確評(píng)估該場(chǎng)景下自動(dòng)駕駛和人類(lèi)駕駛員駕駛的風(fēng)險(xiǎn)。第二是事故基礎(chǔ)率。自動(dòng)駕駛的事故基礎(chǔ)率為0.29，人類(lèi)駕駛的事故基礎(chǔ)率則達(dá)到0.66，為前者的兩倍多。因此，可認(rèn)為該款自動(dòng)駕駛軟件的駕駛能力遠(yuǎn)比平均水平的人類(lèi)駕駛員優(yōu)異。

（二）三種“設(shè)計(jì)缺陷”的不可能三角關(guān)系

考慮到自動(dòng)駕駛模型“設(shè)計(jì)缺陷”的第二個(gè)概念指向糟糕的預(yù)測(cè)準(zhǔn)確性，第三個(gè)概念指向高于人類(lèi)駕駛的事故基礎(chǔ)率，我們似乎可以認(rèn)為，該款軟件同時(shí)規(guī)避了這兩種“缺陷”。其表明，自動(dòng)駕駛軟件設(shè)計(jì)開(kāi)發(fā)和測(cè)試者只要努力在道路測(cè)試（以及在真實(shí)世界）中降低預(yù)測(cè)誤差率，并降低事故基礎(chǔ)率，就可以避免基于產(chǎn)品缺陷的指控。但事實(shí)真的如此嗎？

根本問(wèn)題在于，此處對(duì)預(yù)測(cè)誤差率的理解忽略了訴訟的語(yǔ)境。通常情況下，能夠進(jìn)入訴訟的案件往往是“已經(jīng)發(fā)生事故”的案件，無(wú)論模型對(duì)風(fēng)險(xiǎn)的預(yù)測(cè)有多準(zhǔn)確，那些被準(zhǔn)確預(yù)測(cè)且未發(fā)生事故的樣本都不會(huì)進(jìn)入司法程序，因此只需要考慮，在所有已經(jīng)發(fā)生事故的樣本中，模型的假陰性率是多少。

為此再來(lái)看，表2左側(cè)顯示自動(dòng)駕駛導(dǎo)致了總共29起事故，其中，模型只在7起事故中給出了高風(fēng)險(xiǎn)預(yù)測(cè)，而在22起事故中給出了低風(fēng)險(xiǎn)預(yù)測(cè)，也就是說(shuō)，實(shí)際上發(fā)生事故時(shí)，模型給出錯(cuò)誤預(yù)測(cè)的概率高達(dá)0.759，與之截然相反的是，在總共71個(gè)未發(fā)生事故的樣本中，模型只對(duì)其中2起給出了高風(fēng)險(xiǎn)預(yù)測(cè)，所以當(dāng)實(shí)際上無(wú)事故時(shí)，錯(cuò)誤預(yù)測(cè)的概率反而又低至0.028。反過(guò)來(lái)，我們會(huì)在表2右側(cè)看到與之相反的情形，對(duì)于人類(lèi)駕駛而言，實(shí)際發(fā)生事故的情況下模型給出錯(cuò)誤預(yù)測(cè)的概率僅為0.091，而實(shí)際上無(wú)事故時(shí)，模型的錯(cuò)誤預(yù)測(cè)概率（也就是錯(cuò)誤地預(yù)測(cè)人類(lèi)駕駛員可能造成事故）高達(dá)0.589。

假設(shè)所有發(fā)生事故的案件都進(jìn)入訴訟程序，人們會(huì)驚訝地發(fā)現(xiàn)，這款軟件對(duì)人類(lèi)駕駛發(fā)生事故的預(yù)測(cè)在準(zhǔn)確率上是它對(duì)自動(dòng)駕駛發(fā)生事故的預(yù)測(cè)的八倍。下面用表3呈現(xiàn)所有需要列出的數(shù)據(jù)。

表3 兩種駕駛狀態(tài)下各項(xiàng)指標(biāo)的比較

表3顯示，自動(dòng)駕駛軟件雖呈現(xiàn)出卓越的預(yù)測(cè)能力，但對(duì)于所有進(jìn)入訴訟程序，要求人工智能提供者承擔(dān)產(chǎn)品責(zé)任的當(dāng)事人而言，他們?cè)庥龅氖鹿识伎蓺w咎于軟件預(yù)測(cè)功能在自動(dòng)駕駛狀態(tài)下極高的假陰性率。并且看上去，當(dāng)事人可以合理地認(rèn)為“設(shè)計(jì)缺陷”概念I(lǐng)指的就是這一假陰性率，畢竟，自動(dòng)駕駛車(chē)輛事實(shí)上發(fā)生了事故，模型在此前卻預(yù)測(cè)其不會(huì)發(fā)生事故，因此沒(méi)有發(fā)出接管請(qǐng)求、警報(bào)，或者暫緩執(zhí)行駕駛員的主動(dòng)接管指令。似乎有理由認(rèn)為，當(dāng)這一情況的概率足夠高時(shí)，產(chǎn)品設(shè)計(jì)顯然存在缺陷。若有人懷疑這一假陰性率是否真的很高，就把人類(lèi)駕駛的對(duì)應(yīng)數(shù)據(jù)拿來(lái)比較，在人類(lèi)駕駛時(shí)，若發(fā)生事故，軟件錯(cuò)誤地預(yù)測(cè)其不會(huì)發(fā)生事故的概率僅為0.091，這是一個(gè)不可接受的差異。

也許有人會(huì)說(shuō)，既然較高的假陰性率構(gòu)成自動(dòng)駕駛軟件的產(chǎn)品設(shè)計(jì)缺陷，那么，只要在確保自動(dòng)駕駛模型較低的事故基礎(chǔ)率和合理的預(yù)測(cè)能力的情況下，借助算法的改進(jìn)來(lái)降低假陰性率即可。這也構(gòu)成開(kāi)發(fā)者和產(chǎn)品提供者對(duì)設(shè)計(jì)缺陷存在過(guò)失的依據(jù)，畢竟，在原本能夠避免更多的模型預(yù)測(cè)錯(cuò)誤的情況下，未能這么去做，表明責(zé)任主體違反了其注意義務(wù)。此處的“缺陷”剛好迎合了美國(guó)侵權(quán)法第三次重述以及許多國(guó)內(nèi)學(xué)者所理解的“設(shè)計(jì)缺陷”的規(guī)范內(nèi)容，即當(dāng)更好的設(shè)計(jì)方案具有現(xiàn)實(shí)可行性時(shí)，依舊維持那個(gè)更差的方案而不思改進(jìn)，本身就構(gòu)成過(guò)錯(cuò)。在這里，過(guò)高的假陰性率是那個(gè)需要被“改進(jìn)掉”的更差的設(shè)計(jì)。

與一開(kāi)始的直觀感受相悖，在仔細(xì)考察后，我們轉(zhuǎn)而傾向于認(rèn)為，這款軟件具有缺陷。但這種判斷上的傾向，依舊根植于我們對(duì)人工智能的擬人化想象，我們會(huì)認(rèn)為人工智能模型的改進(jìn)是它逐一將身上的缺陷消除的過(guò)程，好比一個(gè)學(xué)生從初學(xué)者開(kāi)始，一點(diǎn)點(diǎn)讓自身的能力成熟和完善，用具體計(jì)劃和目標(biāo)去克服那些看得見(jiàn)的不足。若人工智能的某個(gè)指標(biāo)難以達(dá)到理想狀態(tài)，那么在不改變其他要求的情況下直接對(duì)其加以改善即可，就好像算法工程師可以徑直命令它改掉這個(gè)毛病。

然而，這種擬人化是對(duì)人工智能的深刻誤解，我們很快會(huì)看到，自動(dòng)駕駛?cè)斯ぶ悄芗夹g(shù)的最獨(dú)特之處，就在于它的進(jìn)步并不是“線性的”“直觀的”，乃至“可理解的”，進(jìn)而體現(xiàn)為較低的事故基礎(chǔ)率、較低的預(yù)測(cè)誤差率以及較低的假陰性率這三者在理論上根本無(wú)法同時(shí)被滿足。

現(xiàn)在，要證明自動(dòng)駕駛軟件存在缺陷，一個(gè)明確的路徑是證明其與市面上的其他同類(lèi)產(chǎn)品相比，不具有目標(biāo)客戶所期望的平均安全性，因?yàn)樗募訇幮月剩词聦?shí)上發(fā)生事故的情況下卻預(yù)測(cè)其不會(huì)發(fā)生事故）畸高，原告可以進(jìn)一步舉證，因?yàn)槿斯ぶ悄茴?lèi)軟件越來(lái)越兼具“產(chǎn)品”和“服務(wù)”的雙重屬性，所以未能及時(shí)更新自動(dòng)駕駛軟件以降低假陰性率，構(gòu)成責(zé)任人的過(guò)失。

問(wèn)題是，如何更新該軟件呢？回到表2左側(cè)，要想降低假陰性率，則必須在實(shí)際發(fā)生事故的樣本中提高高風(fēng)險(xiǎn)預(yù)測(cè)的比例，并同時(shí)降低低風(fēng)險(xiǎn)預(yù)測(cè)的比例。對(duì)此，可行的思路是采取騰挪法，也就是從預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)低且事實(shí)上未發(fā)生事故的樣本中挪出一部分補(bǔ)充至預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)高且事實(shí)上發(fā)生事故的樣本中，同時(shí)，再?gòu)念A(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)低且發(fā)生事故的樣本中挪出一部分填充至預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)高且未發(fā)生事故的樣本中，形成所謂的“交叉騰挪”。它的優(yōu)勢(shì)在于能夠確保自動(dòng)駕駛汽車(chē)維持較低的事故基礎(chǔ)率，保證人工智能的安全性，但它同時(shí)也將顯著提高預(yù)測(cè)誤差率。在完成“騰挪”后呈現(xiàn)的表4中（“↑”代表數(shù)值上升，“↓”代表數(shù)值下降），雖然實(shí)際上發(fā)生事故時(shí)給出錯(cuò)誤預(yù)測(cè)的概率（即假陰性率）從0.759下降至0.333，但預(yù)測(cè)“發(fā)生事故”的誤差率從0.222上升至0.412。

表4 自動(dòng)駕駛模型性能第一次調(diào)整

反過(guò)來(lái)，倘若算法工程師決定讓假陰性率降低，同時(shí)讓預(yù)測(cè)誤差率維持在較低水平，他可以選擇進(jìn)一步調(diào)整表4，大規(guī)模砍去預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)低且事實(shí)上無(wú)事故的樣本數(shù)量，同時(shí)大量增加預(yù)測(cè)自動(dòng)駕駛風(fēng)險(xiǎn)高且發(fā)生事故的樣本數(shù)量，得到表5。的確，這時(shí)候假陰性率進(jìn)一步降低至0.178，同時(shí)，預(yù)測(cè)“發(fā)生事故”的誤差率保持在0.234，看上去是一個(gè)皆大歡喜的結(jié)果。遺憾的是，這一“改進(jìn)”丟失了人工智能帶來(lái)的最大進(jìn)步，它讓自動(dòng)駕駛的事故基礎(chǔ)率從0.29上升到了0.56，幾乎倒退至人類(lèi)駕駛時(shí)的事故基礎(chǔ)率。

表5 自動(dòng)駕駛模型性能第二次調(diào)整

我們還可以將“騰挪”的過(guò)程繼續(xù)進(jìn)行下去，但最終必然只能承認(rèn)，事故基礎(chǔ)率、預(yù)測(cè)誤差率以及假陰性率這三者不可能同時(shí)按照設(shè)計(jì)者的意向去改進(jìn)，總有一項(xiàng)指標(biāo)會(huì)在其他指標(biāo)改善的同時(shí)趨于惡化。晚近的計(jì)算機(jī)科學(xué)已經(jīng)證明，這三者的不可能三角關(guān)系或許無(wú)法通過(guò)任何算法（或模型訓(xùn)練）來(lái)緩和。于是問(wèn)題就演變?yōu)?，倘若必須要犧牲一?xiàng)指標(biāo)以維持自動(dòng)駕駛產(chǎn)品的安全性，究竟應(yīng)當(dāng)如何抉擇？這不僅是一個(gè)技術(shù)問(wèn)題，而且是一個(gè)法律問(wèn)題，因?yàn)橹挥挟?dāng)受克減的指標(biāo)被視為必要的、不得不承受的犧牲時(shí)，才有理由使產(chǎn)品豁免于設(shè)計(jì)缺陷的指控。

我們顯然不能在事故基礎(chǔ)率上讓步，若自動(dòng)駕駛沒(méi)有能夠避免更多的事故，技術(shù)進(jìn)步將失去它最重要的意義。所以，一開(kāi)始所遭遇的局面就是自動(dòng)駕駛與人類(lèi)駕駛的事故基礎(chǔ)率不同，而前面已經(jīng)顯示，只要基礎(chǔ)率不同，降低（或維持）預(yù)測(cè)誤差率與降低假陰性率就是兩項(xiàng)不可能同時(shí)完成的任務(wù)。那么，我們是否有理由為了降低假陰性率而犧牲一定的預(yù)測(cè)準(zhǔn)確性？應(yīng)該說(shuō)，犧牲預(yù)測(cè)準(zhǔn)確性不符合產(chǎn)品目標(biāo)客戶的期待，因?yàn)楸M可能準(zhǔn)確的預(yù)測(cè)同樣包含在人工智能產(chǎn)品（服務(wù)）購(gòu)買(mǎi)者的合理權(quán)利訴求內(nèi)。更重要的是，犧牲預(yù)測(cè)準(zhǔn)確率的結(jié)果可能是更高的安全風(fēng)險(xiǎn)和更多的事故。

如此看來(lái)，可接受的結(jié)論是，在自動(dòng)駕駛技術(shù)趨于完善的情況下，要容忍人工智能模型較高的假陰性率。一旦推進(jìn)到這一步，就可以發(fā)現(xiàn)在自動(dòng)駕駛領(lǐng)域，產(chǎn)品缺陷尤其是其中的設(shè)計(jì)缺陷不再能夠發(fā)揮實(shí)質(zhì)作用，因?yàn)樗谝欢ǔ潭壬吓懦恕邦A(yù)測(cè)錯(cuò)誤”這一乍一看顯而易見(jiàn)的缺陷。后面將說(shuō)明，這意味著人工智能致?lián)p侵權(quán)責(zé)任不能建立在以“缺陷”為核心的產(chǎn)品責(zé)任體系上，而是要在實(shí)體上堅(jiān)持無(wú)過(guò)錯(cuò)責(zé)任，在證明上確保對(duì)統(tǒng)計(jì)型證據(jù)的有效利用。

五

告別“缺陷”后的無(wú)過(guò)錯(cuò)責(zé)任方案

本文開(kāi)篇指出，在人工智能致?lián)p責(zé)任問(wèn)題上，支持過(guò)錯(cuò)責(zé)任的學(xué)者嘗試在產(chǎn)品責(zé)任體系中借助“缺陷”概念來(lái)確立人工智能提供者的注意義務(wù)與過(guò)錯(cuò)根據(jù)。但前面已經(jīng)證明，人工智能領(lǐng)域，產(chǎn)品缺陷似乎無(wú)法涵蓋模型性能指標(biāo)的取舍問(wèn)題。而在一定程度上放棄產(chǎn)品責(zé)任的思路后，無(wú)過(guò)錯(cuò)責(zé)任可能成為較合理的理論選項(xiàng)。

（一）以“傷害”為中心的歸責(zé)

侵權(quán)法最核心的概念是“傷害”（harm），更準(zhǔn)確地說(shuō)是因過(guò)錯(cuò)而導(dǎo)致的傷害?，F(xiàn)代侵權(quán)法“承認(rèn)一系列故意的過(guò)錯(cuò)，但它最為關(guān)注的是意外事故背后的過(guò)錯(cuò)”。但是，基于過(guò)錯(cuò)的傷害預(yù)設(shè)了一個(gè)前提，它必須是責(zé)任主體對(duì)危險(xiǎn)源的具體疏忽，或者退一步說(shuō)，它必須指向風(fēng)險(xiǎn)背后的具體過(guò)錯(cuò)，所以，產(chǎn)品責(zé)任中的缺陷，指的是與致?lián)p的結(jié)果具有因果關(guān)系的具體缺陷。

自動(dòng)駕駛?cè)斯ぶ悄堋叭毕荨钡娜N概念，與具體損害的相關(guān)性程度是依次遞減的。假陰性率的相關(guān)性最高，它涉及人工智能對(duì)本次事故的預(yù)測(cè)可能性；預(yù)測(cè)誤差率次之，它涉及的是人工智能準(zhǔn)確預(yù)測(cè)類(lèi)似事故的概率；事故基礎(chǔ)率最不相關(guān)，因?yàn)樗魂P(guān)注自動(dòng)駕駛軟件在所有情況下的綜合表現(xiàn)。若是完全遵循侵權(quán)法的歸責(zé)原則，第一種“缺陷”理應(yīng)成為歸責(zé)依據(jù)，但前面已經(jīng)指出，倘若我們將畸高的假陰性率視為自動(dòng)駕駛軟件的缺陷，那么合理的替代性設(shè)計(jì)是想盡辦法降低它，但這必然會(huì)影響軟件在預(yù)測(cè)誤差率和事故基礎(chǔ)率方面的表現(xiàn)，讓自動(dòng)駕駛變得更不安全。

考慮到數(shù)字時(shí)代侵權(quán)法的一個(gè)重要轉(zhuǎn)型是“從個(gè)體救濟(jì)轉(zhuǎn)向關(guān)注群體福利的保護(hù)”，為了保證更一般的公共利益，當(dāng)軟件在自動(dòng)駕駛性能上表現(xiàn)優(yōu)越時(shí)，根本不應(yīng)當(dāng)將畸高的假陰性率視為一種缺陷。因此，我們只能將三種“缺陷”（過(guò)錯(cuò)）概念中與事故最可能建立因果關(guān)系的那個(gè)排除，這就構(gòu)成了對(duì)傳統(tǒng)侵權(quán)法原則的突破。它意味著，我們不能苛責(zé)產(chǎn)品提供者未提高系統(tǒng)預(yù)測(cè)本次事故的可能性，即使它的預(yù)測(cè)失敗是一個(gè)大概率事件。換句話說(shuō)，過(guò)錯(cuò)的具體性被放棄，故“缺陷”在自動(dòng)駕駛場(chǎng)景中被取消了?，F(xiàn)在要問(wèn)的是，在形成這一突破后，究竟應(yīng)當(dāng)如何設(shè)計(jì)歸責(zé)原則？

簡(jiǎn)單以“過(guò)錯(cuò)”作為責(zé)任承擔(dān)來(lái)源的思路已經(jīng)難以為繼，前面說(shuō)過(guò)，自動(dòng)駕駛算法在三種指標(biāo)之間的取舍，已經(jīng)難以被簡(jiǎn)單概括為過(guò)錯(cuò)的問(wèn)題，那么緊接著需要處理的便是人工智能侵權(quán)責(zé)任的立法模式是否在當(dāng)前情況下適用。

（二）人工智能產(chǎn)品責(zé)任立法應(yīng)當(dāng)超越“缺陷”

目前，人工智能侵權(quán)責(zé)任較成熟的立法模式來(lái)自歐盟。其主要有兩個(gè)文件。第一個(gè)是歐盟委員會(huì)于2022年9月提出的立法建議稿《關(guān)于使非合同性民事責(zé)任規(guī)則適應(yīng)人工智能的指令》即“歐盟2022/0303指令建議稿”（以下簡(jiǎn)稱(chēng)《人工智能責(zé)任指令》）。第二個(gè)是歐洲議會(huì)和歐盟理事會(huì)新修訂的《關(guān)于缺陷產(chǎn)品責(zé)任與召回責(zé)任的理事會(huì)指令》即“歐盟2024/2853指令”。

先看《人工智能責(zé)任指令》，根據(jù)該建議稿第4條，當(dāng)下列三個(gè)條件滿足時(shí)，應(yīng)當(dāng)推定被告的過(guò)錯(cuò)與人工智能系統(tǒng)產(chǎn)生的輸出或者未能產(chǎn)生輸出之間存在因果關(guān)系：第一，原告已經(jīng)通過(guò)舉證或者推定的方式證明被告存在過(guò)錯(cuò)；第二，根據(jù)案件情節(jié)，可以合理地認(rèn)定該過(guò)錯(cuò)對(duì)人工智能產(chǎn)生特定輸出或者未能產(chǎn)生特定輸出造成了影響；第三，原告已經(jīng)證明，人工智能產(chǎn)生的輸出或者其未能產(chǎn)生之輸出與損害結(jié)果存在因果關(guān)系。

在因果關(guān)系“推定”的前提下，核心任務(wù)是如何證明被告存在“過(guò)錯(cuò)”。在設(shè)計(jì)缺陷中（這里排除制造缺陷、受害者與有過(guò)失或者第三者責(zé)任的情況），被告的“過(guò)錯(cuò)”可通過(guò)幾種方式加以證明。其一，未遵守法律規(guī)定的旨在降低人工智能風(fēng)險(xiǎn)的“注意義務(wù)”，比如，違反了歐盟《人工智能法》第29條“高風(fēng)險(xiǎn)人工智能系統(tǒng)部署者的義務(wù)”。其二，雖沒(méi)有違反法定義務(wù)，但違反了合理的安全保障義務(wù)。然而，評(píng)價(jià)人工智能模型的提供者是否違反了自身的法定義務(wù)或者安全保障義務(wù)，關(guān)鍵在于檢視其是否訓(xùn)練出指標(biāo)上達(dá)到要求的模型，但正如前面所說(shuō)，假陰性率、預(yù)測(cè)誤差率和事故基礎(chǔ)率這三項(xiàng)標(biāo)準(zhǔn)之間存在著數(shù)學(xué)上的悖反關(guān)系，若是將它們均視為注意義務(wù)的內(nèi)容，則根本不存在一款沒(méi)有缺陷的自動(dòng)駕駛軟件。由此，問(wèn)題依然在于如何取舍，或更直截了當(dāng)?shù)卣f(shuō)，在于究竟哪個(gè)標(biāo)準(zhǔn)不被視為“缺陷”。

之前說(shuō)過(guò)，“畸高的假陰性率”不應(yīng)被視為“缺陷”，因?yàn)楦纳扑鸵馕吨艞壍皖A(yù)測(cè)誤差率或者低事故基礎(chǔ)率，帶來(lái)不可接受的結(jié)果。但該判斷仍面臨阻礙。以歐盟《關(guān)于缺陷產(chǎn)品責(zé)任與召回責(zé)任的理事會(huì)指令》為例，該新修訂的指令在第10條第2款規(guī)定了產(chǎn)品缺陷的幾項(xiàng)推定事由，其中（c）項(xiàng)的內(nèi)容是，“索賠人證明，在以合理方式可預(yù)見(jiàn)地使用產(chǎn)品或者在通常情況下使用產(chǎn)品時(shí)，損害由產(chǎn)品的明顯故障（obvious malfunction）造成”。也就是說(shuō)，若駕駛員非常正常地開(kāi)啟自動(dòng)駕駛功能，但沒(méi)有任何預(yù)兆地發(fā)生交通事故，則可認(rèn)為自動(dòng)駕駛軟件存在明顯故障，因?yàn)樗l(fā)生交通事故這件事突破了一位普通駕駛員的能力下限。這種明顯故障恰恰就是畸高的假陰性率會(huì)帶來(lái)的，因?yàn)楫?dāng)預(yù)測(cè)活動(dòng)的假陰性率過(guò)高時(shí)，模型會(huì)大量地將那些事實(shí)上具有事故風(fēng)險(xiǎn)的自動(dòng)駕駛操作誤判為沒(méi)有風(fēng)險(xiǎn)，因此未能發(fā)出預(yù)警或接管請(qǐng)求。難以想象，在上述法條定義中，畸高的假陰性率不被視為“明顯故障”。

可見(jiàn)，無(wú)論是《人工智能責(zé)任指令》還是《關(guān)于缺陷產(chǎn)品責(zé)任與召回責(zé)任的理事會(huì)指令》，都沒(méi)有投入法律資源處理人工智能產(chǎn)品“設(shè)計(jì)缺陷”所遭遇的這一極為特殊的困境。我國(guó)各地試點(diǎn)的地方性法規(guī)中也存在類(lèi)似問(wèn)題，本文在開(kāi)始處已經(jīng)指出，《杭州市智能網(wǎng)聯(lián)車(chē)輛測(cè)試與應(yīng)用促進(jìn)條例》將“缺陷”納入“過(guò)錯(cuò)”這一更大的概念，但自動(dòng)駕駛軟件的訓(xùn)練過(guò)程本身就意味著取舍，不能認(rèn)為算法工程師保護(hù)其中一些指標(biāo)（以保障群體福利）而犧牲另外一些指標(biāo)就構(gòu)成所謂的過(guò)錯(cuò)，必須引入一個(gè)新的框架，來(lái)重新布置人工智能致?lián)p的責(zé)任分配體系。

（三）責(zé)任認(rèn)定的二層次方案

可以明確的是，對(duì)于自動(dòng)駕駛?cè)斯ぶ悄芟到y(tǒng)而言，將總體性能作為評(píng)價(jià)基礎(chǔ)是合理的，這就意味著，一個(gè)模型只要足夠安全，那么就應(yīng)當(dāng)認(rèn)為其不具有侵權(quán)法意義上的設(shè)計(jì)缺陷。但“安全”不是一個(gè)個(gè)別事實(shí)，它是一個(gè)有關(guān)能力和傾向的事實(shí)，它指的是，在大多數(shù)緊急場(chǎng)景中，模型都比人類(lèi)駕駛員更安全。所以，為了測(cè)量它的安全性，我們應(yīng)當(dāng)關(guān)注事故基礎(chǔ)率和預(yù)測(cè)誤差率，只要自動(dòng)駕駛的事故基礎(chǔ)率足夠低，它對(duì)危險(xiǎn)的預(yù)測(cè)足夠準(zhǔn)確，就可以認(rèn)定其具有安全性。這樣一來(lái)，取舍就明確了，我們應(yīng)當(dāng)放棄把假陰性率作為“過(guò)錯(cuò)”和“缺陷”的依據(jù)。必須承認(rèn)，一旦將焦點(diǎn)放在事故基礎(chǔ)率和預(yù)測(cè)誤差率上，我們對(duì)模型安全性的判斷就大體上脫離了本案的具體情境，而需要求助那些看上去無(wú)關(guān)的統(tǒng)計(jì)性事實(shí)。但這一有意的“超脫”是必要的，它尊重了人工智能與人的巨大差異：對(duì)于人而言，總體性的改善可以被理解為大量個(gè)別改善的加總，所以，對(duì)其在個(gè)別情況下的錯(cuò)誤施加罰則是合理的。但對(duì)于人工智能而言，總體性改善與個(gè)別改善之間的關(guān)聯(lián)是一個(gè)黑箱，強(qiáng)制其對(duì)個(gè)別情況進(jìn)行調(diào)整，不僅不一定改善總體，而且有可能貽害總體，這一點(diǎn)已經(jīng)被事故基礎(chǔ)率、預(yù)測(cè)誤差率和假陰性率之間的不可能三角關(guān)系揭示出來(lái)了。

于是，對(duì)于自動(dòng)駕駛?cè)斯ぶ悄芮謾?quán)的歸責(zé)，就存在實(shí)體和證據(jù)兩個(gè)維度。

不符合風(fēng)險(xiǎn)基準(zhǔn)或市場(chǎng)準(zhǔn)入門(mén)檻的自動(dòng)駕駛軟件必須具備兩個(gè)特點(diǎn)：第一，與人類(lèi)駕駛員相比，它在統(tǒng)計(jì)意義上造成了更多事故，或者沒(méi)能夠避免更多事故的發(fā)生；第二，它不具備良好的事故預(yù)測(cè)能力。這些缺陷表明一款自動(dòng)駕駛軟件沒(méi)有經(jīng)過(guò)良好訓(xùn)練，因此將其投放于市場(chǎng)本身就構(gòu)成一種過(guò)錯(cuò)。但平心而論，這種過(guò)錯(cuò)并不會(huì)與具體案件中的損害結(jié)果建立因果關(guān)系，實(shí)際上，與損害結(jié)果建立因果關(guān)系的是畸高的假陰性率，即“對(duì)于實(shí)際上發(fā)生的事故而言，自動(dòng)駕駛模型極可能預(yù)測(cè)其不會(huì)發(fā)生事故”，因此導(dǎo)致了事故。但因?yàn)槲覀円褜⒓訇幮月逝懦?，所以?shí)際上，純粹因設(shè)計(jì)缺陷造成的侵權(quán)中，過(guò)錯(cuò)與結(jié)果之間的因果關(guān)系被排除了，這就意味著在自動(dòng)駕駛侵權(quán)之訴中，此類(lèi)問(wèn)題永遠(yuǎn)無(wú)法滿足過(guò)錯(cuò)要件。

這一特點(diǎn)在證據(jù)維度上體現(xiàn)為一種證據(jù)排除規(guī)則，即當(dāng)事人舉證證明自動(dòng)駕駛模型存在設(shè)計(jì)缺陷時(shí)，若有統(tǒng)計(jì)型證據(jù)已確證該模型具有低事故基礎(chǔ)率和低預(yù)測(cè)誤差率，則任何證明該模型的假陰性率高（因此，事實(shí)上所發(fā)生的事故大概率無(wú)法在自動(dòng)駕駛狀態(tài)下避免）的證據(jù)將不具有可采性。在此情況下，唯一具有相關(guān)性的證據(jù)被排除，繼而沒(méi)有任何渠道能夠證明人工智能提供者的過(guò)錯(cuò)與損害結(jié)果之間具有因果關(guān)系。前已述及，“設(shè)計(jì)缺陷”概念I(lǐng)是最接近法律條文和司法裁判中所使用的“設(shè)計(jì)缺陷”概念的，但由于證據(jù)排除規(guī)則的存在，該概念就被取消了，也就是說(shuō)，不再存在真正意義上的“缺陷”。

然而，這是否意味著，純粹與軟件設(shè)計(jì)缺陷相關(guān)的事故中，只要能夠通過(guò)統(tǒng)計(jì)性事實(shí)證明自動(dòng)駕駛軟件的性能過(guò)關(guān)，便可免除被告責(zé)任，而只得由受害人自行承擔(dān)后果？也并非如此，可以明確的是，既然損害是由自動(dòng)駕駛造成的，由受害人承擔(dān)損害后果，顯然不公允。法諺云：“當(dāng)兩個(gè)人中必須有人承受損失時(shí)，應(yīng)由造成損失的一方承擔(dān)?！彼晕覀兛梢圆扇〉牧?chǎng)是一個(gè)二層次判斷方案。

第一層次是“無(wú)過(guò)錯(cuò)責(zé)任”，即只要能夠證明在事故發(fā)生時(shí)處于自動(dòng)駕駛狀態(tài)，事故是由自動(dòng)駕駛模型的決策造成的（即存在行為與結(jié)果的因果關(guān)系），以及存在損害結(jié)果，即由人工智能產(chǎn)品提供者承擔(dān)損失。這是由受害人權(quán)利受損的事實(shí)、利益的流動(dòng)方向，以及產(chǎn)品經(jīng)營(yíng)者對(duì)風(fēng)險(xiǎn)的控制力所決定的，但這并不是說(shuō)提供者必須獨(dú)自承擔(dān)全部損失，而是說(shuō)，必須由生產(chǎn)、設(shè)計(jì)一方“接手”修復(fù)、救濟(jì)損害的責(zé)任，但它同時(shí)也允許接手之后責(zé)任的分?jǐn)?，這就進(jìn)入了第二層次。

第二層次是“安全性證明+風(fēng)險(xiǎn)基金補(bǔ)償”。目前，已經(jīng)有一些地方性法規(guī)鼓勵(lì)企業(yè)設(shè)立自動(dòng)駕駛社會(huì)風(fēng)險(xiǎn)基金，如《蘇州市智能車(chē)聯(lián)網(wǎng)發(fā)展促進(jìn)條例》第42條規(guī)定，“鼓勵(lì)智能車(chē)聯(lián)網(wǎng)相關(guān)主體聯(lián)合設(shè)立智能車(chē)聯(lián)網(wǎng)社會(huì)風(fēng)險(xiǎn)基金，對(duì)因相關(guān)事故遭受人身、財(cái)產(chǎn)損失的受害者，因責(zé)任無(wú)法認(rèn)定等原因不能及時(shí)得到賠償時(shí)，先予補(bǔ)償”；《上海市浦東新區(qū)促進(jìn)無(wú)駕駛?cè)酥悄芫W(wǎng)聯(lián)汽車(chē)創(chuàng)新應(yīng)用規(guī)定》第30條規(guī)定，“鼓勵(lì)相關(guān)行業(yè)組織、企業(yè)等聯(lián)合設(shè)立風(fēng)險(xiǎn)基金”。目前所設(shè)立的風(fēng)險(xiǎn)補(bǔ)償基金在承擔(dān)補(bǔ)償責(zé)任時(shí)均需滿足附加條件，即“責(zé)任無(wú)法認(rèn)定等原因無(wú)法及時(shí)得到賠償”，實(shí)際上是將風(fēng)險(xiǎn)補(bǔ)償基金定位為無(wú)責(zé)任人時(shí)的替代性補(bǔ)償機(jī)制。但本文認(rèn)為，當(dāng)測(cè)試合格的自動(dòng)駕駛軟件僅僅因?yàn)檫^(guò)高的假陰性率而發(fā)生事故時(shí)，依然應(yīng)當(dāng)由風(fēng)險(xiǎn)補(bǔ)償基金承擔(dān)替代責(zé)任以救濟(jì)受害者，原因在于，這種風(fēng)險(xiǎn)是與自動(dòng)駕駛這項(xiàng)集體性事業(yè)的特征相適應(yīng)的一種風(fēng)險(xiǎn)，一種其成本需要被整個(gè)行業(yè)所消化的風(fēng)險(xiǎn)。換句話說(shuō)，倘若汽車(chē)行業(yè)乃至整個(gè)社會(huì)都從事故基礎(chǔ)率更低、預(yù)測(cè)誤差率更低的自動(dòng)駕駛技術(shù)那里獲得了收益，那么這項(xiàng)技術(shù)產(chǎn)生的不可避免的成本就應(yīng)當(dāng)由整個(gè)行業(yè)乃至全社會(huì)來(lái)消化，風(fēng)險(xiǎn)基金實(shí)際上就是這種“集體責(zé)任觀”的落實(shí)——它允許合格自動(dòng)駕駛軟件的生產(chǎn)者通過(guò)購(gòu)買(mǎi)風(fēng)險(xiǎn)基金將剩余風(fēng)險(xiǎn)成本分?jǐn)偨o行業(yè)，而購(gòu)買(mǎi)風(fēng)險(xiǎn)基金的成本又可以通過(guò)定價(jià)機(jī)制等方式轉(zhuǎn)嫁給上下游供應(yīng)商、消費(fèi)者、企業(yè)員工以及股東等主體。

只不過(guò)，風(fēng)險(xiǎn)基金補(bǔ)償不是在所有情況下都適用，只有當(dāng)被告通過(guò)統(tǒng)計(jì)型證據(jù)舉證證明軟件的事故基礎(chǔ)率和預(yù)測(cè)誤差率符合行業(yè)要求（也稱(chēng)為“達(dá)到自動(dòng)駕駛算法的安全門(mén)檻”，或者“產(chǎn)品的風(fēng)險(xiǎn)基準(zhǔn)和市場(chǎng)準(zhǔn)入門(mén)檻”），因此已盡可能避免可預(yù)見(jiàn)的風(fēng)險(xiǎn)時(shí)，才由風(fēng)險(xiǎn)基金承擔(dān)“剩余風(fēng)險(xiǎn)”，對(duì)原告的損失予以補(bǔ)償。若被告不能證明軟件具有合格的性能，或者統(tǒng)計(jì)型證據(jù)指向的結(jié)論是，該款自動(dòng)駕駛軟件與人類(lèi)駕駛相比并未更安全（或者在性能上遠(yuǎn)不如同類(lèi)產(chǎn)品），則仍應(yīng)由其承擔(dān)損害責(zé)任，原因有兩個(gè)：第一，這一做法可驅(qū)使人工智能提供者開(kāi)發(fā)更安全的人工智能軟件；第二，考慮到風(fēng)險(xiǎn)基金由相關(guān)企業(yè)聯(lián)合設(shè)立，若某一企業(yè)“懈怠”的后果最終由其他企業(yè)共同分擔(dān)，對(duì)其他企業(yè)不公允。

六

結(jié)語(yǔ)

人工智能對(duì)法律責(zé)任尤其是侵權(quán)責(zé)任體系帶來(lái)的重大挑戰(zhàn)是，我們無(wú)法將“過(guò)錯(cuò)”“缺陷”等法律概念不加變動(dòng)地遷移至諸如自動(dòng)駕駛這樣的場(chǎng)景，由于模型決策函數(shù)的不透明性，必須借助自動(dòng)駕駛軟件在真實(shí)世界的長(zhǎng)期表現(xiàn)來(lái)評(píng)估其安全性，體現(xiàn)為低事故基礎(chǔ)率、低預(yù)測(cè)誤差率以及低假陰性率的“三低”狀態(tài)，但三者實(shí)則無(wú)法同時(shí)得到實(shí)現(xiàn)，為了讓事故基礎(chǔ)率和預(yù)測(cè)誤差率達(dá)標(biāo)以保障公共安全，必須容忍模型較高的假陰性率，在司法上表現(xiàn)為排除假陰性率與損害之間的因果關(guān)系。由此，在人工智能領(lǐng)域，我們不再能夠有意義地談?wù)摷兇獾摹叭毕荨?。?wèn)題是，在“缺陷”概念缺席的情況下，如何能夠合理地設(shè)計(jì)責(zé)任規(guī)則？有兩個(gè)考量因素：第一，人工智能安全事故中的受害者實(shí)際上應(yīng)被視為智能技術(shù)普及進(jìn)程中的犧牲者，從無(wú)過(guò)錯(cuò)責(zé)任中“獲利者承擔(dān)風(fēng)險(xiǎn)”的原理看，應(yīng)當(dāng)由該事業(yè)的直接受益者，即人工智能相關(guān)行業(yè)，作為責(zé)任主體填補(bǔ)其損失；第二，對(duì)于人工智能模型而言，個(gè)例中的改進(jìn)與整體中的改進(jìn)之間的連接機(jī)制是不透明的，倘若我們將整體改進(jìn)視為更重要的事情，就必須在兩者沖突時(shí)，將模型的整體性能表現(xiàn)作為開(kāi)發(fā)者、提供者的免責(zé)事由。為此若要設(shè)計(jì)責(zé)任規(guī)則，一方面，不得讓受害者（使用者）承擔(dān)損失，無(wú)過(guò)錯(cuò)責(zé)任因此成為唯一的制度選項(xiàng)；另一方面，評(píng)估提供者責(zé)任時(shí)，應(yīng)當(dāng)區(qū)別對(duì)待，對(duì)于履行模型整體安全性證明義務(wù)的被告人，可通過(guò)風(fēng)險(xiǎn)基金補(bǔ)償機(jī)制免除其責(zé)任，未履行該義務(wù)的，則須使其自行承擔(dān)責(zé)任。

-向上滑動(dòng)，查看完整目錄-

《政治與法律》2026年第2期目錄

【習(xí)近平法治思想研究】

1.構(gòu)建中國(guó)自主的法學(xué)知識(shí)體系的“自主性”特征考察

莫紀(jì)宏

【主題研討——刑法功能主義趨勢(shì)下“義務(wù)”理論的發(fā)展】

2.刑法學(xué)論爭(zhēng)的緩和與刑法功能主義

周光權(quán)

3.刑法歸責(zé)中的支配、能力與義務(wù)

陳璇

4.義務(wù)犯理論的規(guī)范基礎(chǔ)與功能界限

何慶仁

【專(zhuān)論】

5.浮動(dòng)抵押的“空置”困境與物聯(lián)網(wǎng)監(jiān)管轉(zhuǎn)型

趙申豪

6.存在超部門(mén)法的一般性法理學(xué)嗎

——反思法學(xué)知識(shí)一般化的限度

張峰銘

【爭(zhēng)鳴園地】

7.AI聲音權(quán)益的法律性質(zhì)與保護(hù)路徑

汪倪杰

【實(shí)務(wù)研究】

8.告別“缺陷”：人工智能致?lián)p無(wú)過(guò)錯(cuò)責(zé)任的法理根據(jù)

徐舒浩

9.論變通規(guī)定的制定規(guī)則

陳舒筠

【史論】

10.中國(guó)古代強(qiáng)奸罪的構(gòu)成及認(rèn)定

殷嘯虎

11.被法律型塑的日常生活：以南京國(guó)民政府和根據(jù)地政權(quán)為中心

侯欣一

《政治與法律》是上海社會(huì)科學(xué)院主管、上海社會(huì)科學(xué)院法學(xué)研究所主辦的，把政治學(xué)和法學(xué)融于一爐、以法學(xué)為主的理論刊物?！墩闻c法律》恪守“研究政法理論，推動(dòng)法制建設(shè)”的編輯方針，設(shè)有“熱點(diǎn)問(wèn)題”、“法學(xué)專(zhuān)論”、“經(jīng)濟(jì)刑法”、“立法研究”、“學(xué)術(shù)爭(zhēng)鳴”、“案例研究”等欄目；積極推出國(guó)內(nèi)外法學(xué)研究的最新成果。

點(diǎn)擊進(jìn)入下方小程序

獲取專(zhuān)屬解決方案~

責(zé)任編輯 | 郭晴晴

審核人員 | 張文碩 張科

本文聲明 | 本文章僅限學(xué)習(xí)交流使用，如遇侵權(quán)，我們會(huì)及時(shí)刪除。本文章不代表北大法律信息網(wǎng)（北大法寶）和北京北大英華科技有限公司的法律意見(jiàn)或?qū)ο嚓P(guān)法規(guī)/案件/事件等的解讀。