走出去智庫(kù)（CGGT）觀察

由走出去智庫(kù)（CGGT）提供學(xué)術(shù)資源支持的《深圳法治評(píng)論》2025年第二期《專論》欄目聚焦“創(chuàng)新自動(dòng)駕駛汽車管理制度體系”，約請(qǐng)法律專家建言獻(xiàn)策。

北京科技創(chuàng)新中心研究基地副主任趙精武的文章《科技倫理嵌入人工智能治理體系嵌入路徑研究——以自動(dòng)駕駛應(yīng)用場(chǎng)景為例》對(duì)科技倫理嵌入人工智能治理體系嵌入路徑進(jìn)行了研究，提出應(yīng)當(dāng)對(duì)自動(dòng)駕駛汽車面臨的各種風(fēng)險(xiǎn)進(jìn)行一體式評(píng)估，并根據(jù)確認(rèn)的不同風(fēng)險(xiǎn)的情形，采取針對(duì)性的治理機(jī)制。

《深圳法治評(píng)論》由中共深圳市委全面依法治市委員會(huì)辦公室、深圳市司法局主辦，定位于高端領(lǐng)導(dǎo)決策讀物，聚焦深圳法治建設(shè)，刊發(fā)高水平、可實(shí)操的應(yīng)用性政策研究，輔助市領(lǐng)導(dǎo)及本市黨政機(jī)關(guān)領(lǐng)導(dǎo)干部法治建設(shè)方面決策，為支持深圳建設(shè)中國(guó)特色社會(huì)主義法治先行示范城市建言獻(xiàn)策。《深圳法治評(píng)論》在2020-2024年連續(xù)五年榮膺深圳內(nèi)刊傳媒獎(jiǎng)之“優(yōu)秀城市內(nèi)刊獎(jiǎng)”。自2020年創(chuàng)刊起，走出去智庫(kù)（CGGT）即為該高端決策讀物提供學(xué)術(shù)資源支持。

今天，走出去智庫(kù)（CGGT）微信公眾號(hào)刊發(fā)北京科技創(chuàng)新中心研究基地副主任趙精武的文章，供關(guān)注自動(dòng)駕駛汽車法規(guī)的讀者參考。

要點(diǎn)

1、人工智能技術(shù)治理的核心目標(biāo)是統(tǒng)籌兼顧科技創(chuàng)新和科技安全，因?yàn)檫@兩種治理目標(biāo)的權(quán)衡狀態(tài)并沒(méi)有唯一正解，所以才需要通過(guò)科技倫理治理機(jī)制所形成的倫理協(xié)商空間，推動(dòng)不同主體對(duì)這兩類目標(biāo)的實(shí)現(xiàn)方式達(dá)成最大化共識(shí)。

2、人工智能技術(shù)風(fēng)險(xiǎn)的解決需要政府機(jī)構(gòu)與非政府機(jī)構(gòu)共同自由參與技術(shù)治理活動(dòng)，通過(guò)事前細(xì)分具體的風(fēng)險(xiǎn)類型，并借由不同的治理工具及其銜接路徑發(fā)揮各自的治理效用，實(shí)現(xiàn)一致性的技術(shù)治理目標(biāo)。

3、在自動(dòng)駕駛領(lǐng)域中，科技倫理治理機(jī)制需要與其他治理機(jī)制協(xié)同工作，以識(shí)別、評(píng)估、預(yù)防和控制安全風(fēng)險(xiǎn)。

正文

科技倫理嵌入人工智能治理體系嵌入路徑研究

——以自動(dòng)駕駛應(yīng)用場(chǎng)景為例

文/趙精武

北京科技創(chuàng)新中心研究基地副主任

在當(dāng)下，以 Deepseek 為代表的人工智能技術(shù)最為熱門(mén)的核心研究議題是如何充分實(shí)現(xiàn)人工智能技術(shù)的社會(huì)效益并控制潛在技術(shù)風(fēng)險(xiǎn)。同時(shí)，法律風(fēng)險(xiǎn)、科技倫理風(fēng)險(xiǎn)等多元化風(fēng)險(xiǎn)類型相互交織，使得技術(shù)治理實(shí)踐需要采取一種更為綜合性的治理模式，全局性地解決技術(shù)應(yīng)用的風(fēng)險(xiǎn)多元化問(wèn)題。然而，人工智能治理框架下的多元治理機(jī)制之間彼此如何有效銜接、如何明確機(jī)制差異等問(wèn)題尚未得到很好地解決。因此，有必要重新審視科技倫理治理機(jī)制如何嵌入人工智能技術(shù)治理體系，并協(xié)調(diào)其與法律、市場(chǎng)、技術(shù)等其他治理機(jī)制之間的銜接。

人工智能科技倫理治理的理論基礎(chǔ)與常見(jiàn)范式

科技倫理治理的治理目標(biāo)與治理理論

科技倫理治理實(shí)質(zhì)上是一種方向性、目標(biāo)性治理，表現(xiàn)為“以倫理為原則為指導(dǎo)，解決科技發(fā)展面臨的倫理問(wèn)題和社會(huì)問(wèn)題、增進(jìn)科學(xué)技術(shù)為人的福祉而發(fā)展的各種方式的總和”。在多元文化背景下，形成統(tǒng)一的科技倫理共識(shí)存在難度，為此，科技倫理治理通過(guò)采取倫理原則與審查的方式，將抽象的倫理價(jià)值聚焦于具體的技術(shù)應(yīng)用方式，促成概括性倫理規(guī)范向可視化應(yīng)用標(biāo)準(zhǔn)的轉(zhuǎn)變。

人工智能科技倫理的治理功能

科技倫理治理模式的最終治理目標(biāo)是在盡可能不影響科研自由和科技創(chuàng)新空間的情況下提供倫理方向的“優(yōu)化建議”。人工智能技術(shù)治理的核心目標(biāo)是統(tǒng)籌兼顧科技創(chuàng)新和科技安全，因?yàn)檫@兩種治理目標(biāo)的權(quán)衡狀態(tài)并沒(méi)有唯一正解，所以才需要通過(guò)科技倫理治理機(jī)制所形成的倫理協(xié)商空間，推動(dòng)不同主體對(duì)這兩類目標(biāo)的實(shí)現(xiàn)方式達(dá)成最大化共識(shí)?？偨Y(jié)而言，科技倫理治理功能的實(shí)現(xiàn)方式是以開(kāi)放式的科技倫理吸納社會(huì)群體意見(jiàn)，使得科技創(chuàng)新活動(dòng)無(wú)限趨近于理想狀態(tài)。

人工智能科技倫理治理功能包括引導(dǎo)、協(xié)商、識(shí)別和反饋四項(xiàng)功能，它們能夠發(fā)揮有別于其他治理機(jī)制的規(guī)范性作用。其中，引導(dǎo)功能強(qiáng)調(diào)科技創(chuàng)新活動(dòng)應(yīng)遵循社會(huì)共識(shí)性的科技倫理原則；協(xié)商功能通過(guò)開(kāi)放式的公共對(duì)話尋求科技倫理共識(shí)；識(shí)別功能用于判斷科技創(chuàng)新活動(dòng)的合理性并發(fā)現(xiàn)潛在倫理風(fēng)險(xiǎn)；反饋功能則通過(guò)評(píng)價(jià)結(jié)果促使科技創(chuàng)新活動(dòng)自我調(diào)整，避免出現(xiàn)重復(fù)倫理問(wèn)題。

人工智能科技倫理治理的常見(jiàn)機(jī)制

科技倫理治理的引導(dǎo)、協(xié)商、識(shí)別和反饋四項(xiàng)功能對(duì)應(yīng)了四類科技倫理治理機(jī)制：其一，引導(dǎo)功能延伸出行業(yè)指引性治理機(jī)制，包括監(jiān)管機(jī)構(gòu)事前制定科技創(chuàng)新產(chǎn)業(yè)規(guī)劃、最佳實(shí)踐范例等。其二，協(xié)商功能延伸出科技倫理治理公眾參與機(jī)制，通過(guò)征求社會(huì)公眾意見(jiàn)等方式，探討并達(dá)成共識(shí)性的倫理原則。其三，識(shí)別機(jī)制延伸出科技倫理審查機(jī)制、科技倫理研判機(jī)制等治理機(jī)制。其四，反饋功能延伸出科技倫理管理監(jiān)督機(jī)制、科技倫理整改督促機(jī)制等優(yōu)化改良型治理機(jī)制。

上述四項(xiàng)功能彼此之間存在銜接關(guān)系，也使得相應(yīng)的科技倫理治理機(jī)制呈現(xiàn)體系化銜接關(guān)系。此外，在反饋功能所確立的治理機(jī)制作用下，科技倫理審查所作出的道德判斷以及專家建議又會(huì)反饋至被審查對(duì)象，再次實(shí)現(xiàn)具體技術(shù)應(yīng)用領(lǐng)域的科技倫理引導(dǎo)功能，進(jìn)而達(dá)成科技倫理治理的功能循環(huán)。

由于科技倫理治理機(jī)制會(huì)隨著倫理規(guī)范的內(nèi)容創(chuàng)新而有所變化，因此科技倫理治理嵌入人工智能治理體系過(guò)程中的核心問(wèn)題在于如何明確科技倫理治理功能可以與哪些治理機(jī)制進(jìn)行銜接。

人工智能科技倫理治理的嵌入路徑

科技倫理嵌入的理論前提：風(fēng)險(xiǎn)識(shí)別

在人工智能治理體系中，風(fēng)險(xiǎn)識(shí)別既是確保技術(shù)安全的重要保障，也是促進(jìn)科技高質(zhì)量創(chuàng)新的基礎(chǔ)要件。人工智能技術(shù)風(fēng)險(xiǎn)的解決需要政府機(jī)構(gòu)與非政府機(jī)構(gòu)共同自由參與技術(shù)治理活動(dòng)，通過(guò)事前細(xì)分具體的風(fēng)險(xiǎn)類型，并借由不同的治理工具及其銜接路徑發(fā)揮各自的治理效用，實(shí)現(xiàn)一致性的技術(shù)治理目標(biāo)。

在科技倫理風(fēng)險(xiǎn)層面，廣義社會(huì)風(fēng)險(xiǎn)論與狹義倫理風(fēng)險(xiǎn)論在具體風(fēng)險(xiǎn)樣態(tài)的涵蓋范圍上存在分歧，無(wú)法有效銜接科技倫理治理與法律治理。對(duì)此，科技倫理風(fēng)險(xiǎn)的核心樣態(tài)應(yīng)當(dāng)是科技發(fā)展與人類倫理觀念的不適配狀態(tài)，人工智能科技倫理風(fēng)險(xiǎn)的發(fā)現(xiàn)、識(shí)別和確認(rèn)應(yīng)當(dāng)是以科技倫理觀念為基礎(chǔ)，而不是以法律意義上的權(quán)益保障為中心 。

科技倫理治理機(jī)制的個(gè)體化嵌入

在單一面向科技倫理風(fēng)險(xiǎn)時(shí)，科技倫理治理機(jī)制的嵌入方式應(yīng)當(dāng)是完成單一風(fēng)險(xiǎn)治理的內(nèi)在邏輯體系銜接，即建構(gòu)科技倫理風(fēng)險(xiǎn)研判管理機(jī)制、科技倫理風(fēng)險(xiǎn)識(shí)別評(píng)估機(jī)制和科技倫理風(fēng)險(xiǎn)反饋應(yīng)對(duì)機(jī)制三個(gè)部分。

科技倫理風(fēng)險(xiǎn)研判管理機(jī)制屬于預(yù)期性治理機(jī)制。在法學(xué)領(lǐng)域，當(dāng)前人工智能科技倫理研究聚焦于諸如歧視偏見(jiàn)等倫理問(wèn)題。面對(duì)超出可預(yù)見(jiàn)范圍的各類技術(shù)風(fēng)險(xiǎn)，在難以準(zhǔn)確預(yù)測(cè)潛在風(fēng)險(xiǎn)的情況下，需要采取靈活的科技倫理規(guī)范，引導(dǎo)科技創(chuàng)新活動(dòng)自覺(jué)采取有利于社會(huì)公共利益的方式進(jìn)行。

科技倫理風(fēng)險(xiǎn)識(shí)別評(píng)估機(jī)制屬于風(fēng)險(xiǎn)確認(rèn)型治理機(jī)制，核心在于確認(rèn)科技倫理風(fēng)險(xiǎn)的范圍。并且，風(fēng)險(xiǎn)識(shí)別評(píng)估機(jī)制的內(nèi)容設(shè)置強(qiáng)調(diào)多元知識(shí)背景的行為主體共同參與，盡可能避免評(píng)估的個(gè)人主觀性和專業(yè)導(dǎo)向性。此外，該機(jī)制的主要功能是發(fā)現(xiàn)和確認(rèn)科技倫理風(fēng)險(xiǎn)的基本類型。

科技倫理風(fēng)險(xiǎn)反饋應(yīng)對(duì)機(jī)制屬于風(fēng)險(xiǎn)應(yīng)對(duì)型治理機(jī)制，主要將風(fēng)險(xiǎn)識(shí)別評(píng)估機(jī)制所作出的道德判斷反饋至科技創(chuàng)新機(jī)構(gòu)與人員。這種應(yīng)對(duì)機(jī)制既包括將倫理風(fēng)險(xiǎn)識(shí)別結(jié)果和專家建議反饋至被審查對(duì)象的即時(shí)性反饋，也包括監(jiān)管機(jī)構(gòu)結(jié)合科技倫理治理實(shí)踐，以禁止性清單形式反饋具有高風(fēng)險(xiǎn)水平的特定科技創(chuàng)新活動(dòng)的群體性反饋。

科技倫理治理機(jī)制的銜接式嵌入

在明確科技倫理治理機(jī)制在人工智能治理體系中的單向嵌入路徑后，還需要考量該治理機(jī)制如何與法律、技術(shù)、市場(chǎng)等其他治理機(jī)制進(jìn)行銜接。科技倫理治理與其他治理機(jī)制的銜接方式表現(xiàn)為：倫理與法律的銜接方式是建構(gòu)科技倫理審查制度，將敏感研究領(lǐng)域的科技創(chuàng)新活動(dòng)納入審查活動(dòng)中，并在區(qū)分強(qiáng)制審查和自愿審查的前提下，將是否依法進(jìn)行強(qiáng)制審查以及審查結(jié)果作為判斷科技創(chuàng)新主體對(duì)損害事實(shí)是否存在主觀過(guò)錯(cuò)的標(biāo)準(zhǔn)。

在倫理與技術(shù)層面，面對(duì)人工智能技術(shù)未來(lái)發(fā)展的不確定性，在治理體系中需要發(fā)揮科技倫理治理的引導(dǎo)功能，將工程倫理、職業(yè)道德培訓(xùn)嵌入至科技創(chuàng)新活動(dòng)。

倫理與市場(chǎng)的銜接主要是通過(guò)行業(yè)自律規(guī)范實(shí)現(xiàn)，具體表現(xiàn)為制定共識(shí)性的自律規(guī)范與將科技倫理規(guī)范融入行業(yè)自律規(guī)范的范疇兩個(gè)方面。

人工智能科技倫理治理嵌入式建構(gòu)實(shí)例：以自動(dòng)駕駛應(yīng)用為例

在前述治理機(jī)制的嵌入建構(gòu)框架下，自動(dòng)駕駛技術(shù)的倫理治理規(guī)則可劃分為以下三個(gè)步驟逐步建構(gòu)。

第一步：自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)的分析識(shí)別

自動(dòng)駕駛技術(shù)的應(yīng)用涉及安全價(jià)值保護(hù)位階的問(wèn)題。在行車遭遇緊急情況時(shí)，自動(dòng)駕駛系統(tǒng)是應(yīng)優(yōu)先保護(hù)車內(nèi)駕駛?cè)耍€是在權(quán)衡車內(nèi)外實(shí)際損害結(jié)果后再行選擇，成為自動(dòng)駕駛普及應(yīng)用的一大倫理難題。行車安全的倫理價(jià)值觀念是由制造商、信息系統(tǒng)開(kāi)發(fā)者還是倫理學(xué)或法學(xué)專家決定也存在爭(zhēng)議。另外，自動(dòng)駕駛技術(shù)應(yīng)用引發(fā)的失業(yè)風(fēng)險(xiǎn)問(wèn)題應(yīng)歸屬于就業(yè)公共政策范疇，而非科技倫理風(fēng)險(xiǎn)領(lǐng)域。

基于人工智能治理目標(biāo)，科技倫理風(fēng)險(xiǎn)的判斷標(biāo)準(zhǔn)應(yīng)是科技創(chuàng)新是否合理以及不合理的科技創(chuàng)新活動(dòng)是否造成人類主體尊嚴(yán)的貶損。在自動(dòng)駕駛應(yīng)用場(chǎng)景中，科技倫理風(fēng)險(xiǎn)側(cè)重科技創(chuàng)新活動(dòng)、科研人員是否符合特定技術(shù)領(lǐng)域的倫理規(guī)范，故相應(yīng)的治理機(jī)制嵌入建構(gòu)則需要圍繞特定場(chǎng)景的科技倫理風(fēng)險(xiǎn)予以展開(kāi)。

第二步：自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)的單一式治理

為應(yīng)對(duì)行車路況決策不符合科技倫理規(guī)范的問(wèn)題，結(jié)合“風(fēng)險(xiǎn)研判—風(fēng)險(xiǎn)發(fā)現(xiàn)、識(shí)別、評(píng)估—風(fēng)險(xiǎn)應(yīng)對(duì)”的治理方式，科技倫理治理的個(gè)體嵌入方式應(yīng)包括自動(dòng)駕駛科技倫理研判管理機(jī)制、自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)發(fā)現(xiàn)識(shí)別機(jī)制和自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)反饋應(yīng)對(duì)機(jī)制。

自動(dòng)駕駛科技倫理研判管理機(jī)制主要根據(jù)產(chǎn)業(yè)實(shí)踐發(fā)展?fàn)顩r，結(jié)合產(chǎn)業(yè)發(fā)展政策和科技創(chuàng)新規(guī)劃，明確科技倫理風(fēng)險(xiǎn)的表現(xiàn)樣態(tài)與應(yīng)當(dāng)遵守的科技倫理規(guī)范。同時(shí)，針對(duì)自動(dòng)駕駛應(yīng)用可能面臨的復(fù)雜交通路況，監(jiān)管機(jī)構(gòu)和科技倫理委員會(huì)可以采取行業(yè)指導(dǎo)規(guī)范、技術(shù)應(yīng)用實(shí)踐范例等方式聯(lián)合發(fā)布技術(shù)應(yīng)用指導(dǎo)文件，列舉在車輛交會(huì)、高速公路、窄道行車等常見(jiàn)行車情形下，符合科技倫理標(biāo)準(zhǔn)的行車路線和行車方式。

自動(dòng)駕駛科技倫理識(shí)別評(píng)估機(jī)制主要是根據(jù)自動(dòng)駕駛的行車路線、行車方式等具體應(yīng)用場(chǎng)景因素，發(fā)現(xiàn)、識(shí)別和確認(rèn)具體的科技倫理風(fēng)險(xiǎn)。同時(shí)，這一環(huán)節(jié)的科技倫理治理還包括倫理嵌入創(chuàng)新活動(dòng)等其他形式的治理機(jī)制。

自動(dòng)駕駛科技倫理反饋應(yīng)對(duì)機(jī)制是根據(jù)自動(dòng)駕駛科技存在的科技倫理風(fēng)險(xiǎn)樣態(tài)以及上一個(gè)治理環(huán)節(jié)所作出的道德判斷與技術(shù)整改建議，對(duì)自動(dòng)駕駛技術(shù)方案進(jìn)行調(diào)整和優(yōu)化。在自愿科技倫理審查的情形下，相應(yīng)的審查結(jié)果和優(yōu)化建議僅需反饋至科技創(chuàng)新主體，由其結(jié)合自身狀況判斷是否應(yīng)當(dāng)按照優(yōu)化建議調(diào)整相應(yīng)的技術(shù)方案。

第三步：自動(dòng)駕駛科技倫理風(fēng)險(xiǎn)的銜接式治理

在自動(dòng)駕駛領(lǐng)域中，科技倫理治理機(jī)制需要與其他治理機(jī)制協(xié)同工作，以識(shí)別、評(píng)估、預(yù)防和控制安全風(fēng)險(xiǎn)。其中，法律治理機(jī)制側(cè)重防范義務(wù)主體未能履行安全保障義務(wù)導(dǎo)致的人身?yè)p害風(fēng)險(xiǎn)；技術(shù)治理機(jī)制側(cè)重防范因技術(shù)漏洞或系統(tǒng)設(shè)計(jì)缺陷導(dǎo)致的自動(dòng)駕駛系統(tǒng)不可靠風(fēng)險(xiǎn)；市場(chǎng)治理機(jī)制則側(cè)重預(yù)防行業(yè)競(jìng)爭(zhēng)失序風(fēng)險(xiǎn)，該風(fēng)險(xiǎn)源于企業(yè)因過(guò)分追求技術(shù)領(lǐng)先而簡(jiǎn)化安全管理流程或過(guò)早投入實(shí)踐試點(diǎn)應(yīng)用。

科技倫理治理機(jī)制通過(guò)自動(dòng)駕駛安全風(fēng)險(xiǎn)的一體化評(píng)估，將安全風(fēng)險(xiǎn)因素統(tǒng)一納入技術(shù)治理框架中，并遵循三個(gè)原則：其一，業(yè)已評(píng)估的安全風(fēng)險(xiǎn)類型不再重新評(píng)估，可以直接作為其他安全風(fēng)險(xiǎn)評(píng)估的結(jié)論。其二，各類治理機(jī)制所延伸出的安全風(fēng)險(xiǎn)評(píng)估不就同一事項(xiàng)進(jìn)行多次評(píng)估。其三，定期安全風(fēng)險(xiǎn)評(píng)估為主，不定期安全風(fēng)險(xiǎn)評(píng)估為輔。此外，事前區(qū)分倫理風(fēng)險(xiǎn)、技術(shù)風(fēng)險(xiǎn)等風(fēng)險(xiǎn)類型是為了更好地確認(rèn)各類安全風(fēng)險(xiǎn)的輕重緩急，進(jìn)而為科技創(chuàng)新主體、監(jiān)管機(jī)構(gòu)等治理主體的后續(xù)行動(dòng)提供相應(yīng)的規(guī)范指引。在實(shí)踐中，《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例》確立了智能網(wǎng)聯(lián)汽車的監(jiān)管平臺(tái)，旨在實(shí)現(xiàn)車路云一體化監(jiān)管，保障交通安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全，為自動(dòng)駕駛的風(fēng)險(xiǎn)評(píng)估制度提供了范例與模板。

科技倫理治理的核心治理效果是引導(dǎo)科技創(chuàng)新活動(dòng)的良性健康發(fā)展，督促科研人員自覺(jué)地遵守科技倫理規(guī)范。所以，科技倫理治理的嵌入路徑更需要探索更加多元化的倫理觀念引導(dǎo)模式，而不是僅僅限于科技倫理審查機(jī)制，以實(shí)現(xiàn)風(fēng)險(xiǎn)治理邏輯層面的制度協(xié)調(diào)性。

（原文《科技倫理嵌入人工智能治理體系的路徑展開(kāi)——以自動(dòng)駕駛應(yīng)用場(chǎng)景為例》發(fā)表于《法治社會(huì)》2024 年第 5 期，經(jīng)作者修改后在《深圳法治評(píng)論》刊發(fā)。）

免責(zé)聲明

本文僅代表原作者觀點(diǎn)，不代表走出去智庫(kù)立場(chǎng)。

延展閱讀

▌地緣政治風(fēng)險(xiǎn):

▌出口管制與制裁:

▌跨境數(shù)據(jù)監(jiān)管:

▌全球科技競(jìng)爭(zhēng):

▌品牌聲譽(yù)管理:

走出去智庫(kù)（CGGT）為《深圳法治評(píng)論》提供學(xué)術(shù)資源支持。