人類如何與AI智能體共處

編者按

新質(zhì)策源導(dǎo)刊的第二期，我們聚焦AI智能體（AI Agent），不僅僅因為它當(dāng)下的熱度，更因為我們看到了它對未來的影響。我們深度訪談行業(yè)頂級專家、資深研究人員、國內(nèi)外知名企業(yè)，盡力描繪當(dāng)下AI時代的真實圖景，展望未來的各種可能性，在不確定性中尋找確定性。

這個領(lǐng)域創(chuàng)新不斷，猶如科幻即將照入現(xiàn)實。我們想知道的不只是近在咫尺的明天會怎樣，更想知道今天我們做的一切，會對不遠的未來產(chǎn)生什么樣的影響，誠邀您和我們一起，探索新AI時代。敬請關(guān)注本期策劃——“人類如何與AI智能體共處”。

——訪中國政法大學(xué)法學(xué)院教授、中國法學(xué)會法理學(xué)研究會理事鄭玉雙

■中國經(jīng)濟時報見習(xí)記者 姚俊臣

作為人工智能（AI）技術(shù)迭代的最新產(chǎn)物，AI智能體正實現(xiàn)從理解能力向行動能力的關(guān)鍵突破。這一突破也帶來了深刻的治理挑戰(zhàn)：如何理解AI智能體的主體性？如何界定其法律責(zé)任？如何優(yōu)化治理能力？中國經(jīng)濟時報記者日前就上述問題專訪了中國政法大學(xué)法學(xué)院教授、中國法學(xué)會法理學(xué)研究會理事鄭玉雙。

AI智能體引發(fā)主體性的躍升

中國經(jīng)濟時報：從目前來看，您認為AI智能體是否具有主體性？

鄭玉雙：這是一個比較難的問題，關(guān)鍵在于我們?nèi)绾卫斫狻爸黧w性”。在哲學(xué)意義上，主體性通常以“人”為參考，具有理性判斷、自主決策與獨立意志等特征。無論是生成式人工智能還是AI智能體，雖然在技術(shù)層面已經(jīng)具備了一定程度的理解、決策和執(zhí)行能力，但從法律層面來說，還是很難將其認定為真正的權(quán)利主體。

不過，AI確實引發(fā)了主體性的躍升。在AI出現(xiàn)之前，人類之外并不存在真正意義上的智能主體。但隨著算法能力和算力規(guī)模的提升，AI智能體也呈現(xiàn)出類似主體的功能和外觀，不能僅僅視為簡單的“工具”，否則可能會低估其在現(xiàn)實場景中產(chǎn)生的復(fù)雜影響。

尤其是在責(zé)任分配的問題上，AI智能體的決策鏈條往往涉及算法開發(fā)者、系統(tǒng)部署者、數(shù)據(jù)提供方以及實際使用者等多方主體，其運行結(jié)果又可能在一定程度上脫離具體個人的直接控制。在這種情況下，傳統(tǒng)以“工具使用者”為核心的責(zé)任框架，是很難完全覆蓋新的風(fēng)險結(jié)構(gòu)的。

圖片來源/新華社

現(xiàn)有法律框架對于AI智能體還相對滯后

中國經(jīng)濟時報：從法律層面來說，不同類型的AI智能體是不是也有不同的主體責(zé)任？

鄭玉雙：從當(dāng)前的技術(shù)實踐來看，AI智能體確實出現(xiàn)了分化的趨勢，既有以移動端應(yīng)用為代表的“軟件型智能體”，如嵌入手機或各類智能設(shè)備的應(yīng)用程序，也有與實體設(shè)備深度結(jié)合的“硬件型智能體”，如各類醫(yī)療機器人、養(yǎng)老機器人以及工業(yè)場景中的自動化系統(tǒng)等。

在法律適用上，這兩者也存在明顯差異。總體而言，現(xiàn)有法律制度仍將人工智能及各類AI智能體納入“產(chǎn)品”范疇，主要適用產(chǎn)品責(zé)任相關(guān)規(guī)定。這一框架雖然可以在一定程度上覆蓋軟件類智能體的部分風(fēng)險分配問題，但對于具備實體行動能力的智能體，責(zé)任究竟應(yīng)由生產(chǎn)者、算法提供者、系統(tǒng)運營者還是使用者承擔(dān)，現(xiàn)有法律仍然在不斷完善之中，存在一定的滯后性。

一般來說，法律責(zé)任涉及兩個層面：一是民事責(zé)任，主要與產(chǎn)品緊密相關(guān)；二是刑事責(zé)任，主要是在AI智能體造成嚴(yán)重危害時如何認定責(zé)任主體并確定刑責(zé)。但是目前民事責(zé)任和刑事責(zé)任的認定都還相對傳統(tǒng)，也就是說針對AI智能體，尤其是可以在一定程度上脫離人類控制的AI智能體，還缺乏明確的法律依據(jù)。

在鼓勵創(chuàng)新的同時要動態(tài)治理

中國經(jīng)濟時報：當(dāng)前，法律相對滯后這個問題應(yīng)該如何解決？

鄭玉雙：在我看來，人工智能治理面臨的法律滯后性，并不是簡單的制度失靈。新技術(shù)發(fā)展具有高度的不確定性和多樣性，立法程序很難在前期就對所有可能情形作出詳細的規(guī)定。而且，如果在技術(shù)沒有成熟的時候就進行過度前瞻性的立法，反而可能導(dǎo)致規(guī)范失準(zhǔn)，甚至抑制創(chuàng)新活力，破壞法律制度的穩(wěn)定性。

因此，更行之有效的方式還是在發(fā)展中治理，在應(yīng)用中完善，在鼓勵創(chuàng)新的同時要動態(tài)治理。一方面，在問題出現(xiàn)時及時回應(yīng)，進行制度性的修正；另一方面，可以更多地運用“多元參與、多元治理”的軟法機制，通過部門協(xié)同以及政產(chǎn)學(xué)研之間的有效溝通，形成更加靈活的治理結(jié)構(gòu)。

必須確立不可突破的治理底線

中國經(jīng)濟時報：AI智能體治理的底線應(yīng)該如何確定？

鄭玉雙：人類社會發(fā)展至今，技術(shù)不斷取得突破。我們從技術(shù)中受益，也不能讓技術(shù)失控。因此，必須確立不可突破的底線，這個底線一般來說是“倫理的底線”。這可以從廣義和狹義兩個方面加以理解。

從廣義來看，技術(shù)不能對人類的整體安全構(gòu)成威脅，也不能突破人類社會的基本秩序，這是一種生存性、價值性的底線，就是要維護人的主體地位。從狹義來看，主要是一些與AI智能體的技術(shù)特性緊密相關(guān)的問題。一是AI智能體的運行高度依賴數(shù)據(jù)支撐，要劃定數(shù)據(jù)收集和處理的邊界，保障數(shù)據(jù)被合法、正當(dāng)、必要地使用；二是AI智能體的運算過程具有不可控和不透明的特征，要盡可能實現(xiàn)決策過程的透明、可控。

總 監(jiān) 制丨王列軍車海剛

監(jiān) 制丨陳 波 王 彧 楊玉洋

主 編丨毛晶慧 編 輯丨蔣 帥