人類如何與AI智能體共處

編者按

新質(zhì)策源導(dǎo)刊的第二期，我們聚焦AI智能體（AI Agent），不僅僅因?yàn)樗?dāng)下的熱度，更因?yàn)槲覀兛吹搅怂鼘?duì)未來的影響。我們深度訪談行業(yè)頂級(jí)專家、資深研究人員、國內(nèi)外知名企業(yè)，盡力描繪當(dāng)下AI時(shí)代的真實(shí)圖景，展望未來的各種可能性，在不確定性中尋找確定性。

這個(gè)領(lǐng)域創(chuàng)新不斷，猶如科幻即將照入現(xiàn)實(shí)。我們想知道的不只是近在咫尺的明天會(huì)怎樣，更想知道今天我們做的一切，會(huì)對(duì)不遠(yuǎn)的未來產(chǎn)生什么樣的影響，誠邀您和我們一起，探索新AI時(shí)代。敬請(qǐng)關(guān)注本期策劃——“人類如何與AI智能體共處”。

——訪對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可

■中國經(jīng)濟(jì)時(shí)報(bào)記者王彩娜

當(dāng)人工智能從“語言交互”跨越至“自主行動(dòng)”，AI智能體正加快重塑產(chǎn)業(yè)生態(tài)與社會(huì)治理，同時(shí)也對(duì)個(gè)人信息保護(hù)、法律責(zé)任劃分乃至人機(jī)關(guān)系本質(zhì)提出了嚴(yán)峻挑戰(zhàn)。中國經(jīng)濟(jì)時(shí)報(bào)記者日前專訪了對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可，深入探討AI智能體治理的現(xiàn)實(shí)路徑與法治未來。

產(chǎn)業(yè)發(fā)展：從“語言交互”到“自主行動(dòng)”的關(guān)鍵飛躍

中國經(jīng)濟(jì)時(shí)報(bào)：AI智能體在人工智能發(fā)展進(jìn)程中，處于怎樣的階段？當(dāng)前AI智能體市場熱度持續(xù)攀升，您如何判斷其后續(xù)的發(fā)展趨勢？

許可：AI智能體是人工智能真正進(jìn)入現(xiàn)實(shí)的關(guān)鍵性發(fā)展階段，也是最重要的產(chǎn)品和服務(wù)形態(tài)。此前的對(duì)話式AI、問答機(jī)器人，更多停留在信息收集、生成和交互的語言層面，而AI智能體實(shí)現(xiàn)了從“語言交互”到“自主行動(dòng)”的飛躍。人類社會(huì)的發(fā)展核心在于“做事”，行動(dòng)才是對(duì)現(xiàn)實(shí)產(chǎn)生影響的關(guān)鍵，AI智能體恰恰能完成大量事務(wù)性工作，還能通過具身智能實(shí)現(xiàn)與物理世界的交互，未來在生活、工作的各類場景中，都會(huì)成為重要的支撐，推動(dòng)人工智能真正融入現(xiàn)實(shí)社會(huì)。

AI智能體的發(fā)展日新月異，2026年是AI智能體落地實(shí)施、產(chǎn)生現(xiàn)實(shí)影響的關(guān)鍵一年。目前中美兩國的發(fā)展路徑有明顯差異，中國先從ToC的消費(fèi)端場景切入，而美國更多是ToB的工作場景應(yīng)用。對(duì)于中國而言，除了消費(fèi)端，ToG的政務(wù)服務(wù)場景有巨大發(fā)展空間，中國政府的服務(wù)范圍廣、與民生聯(lián)系緊密，將AI智能體嵌入政務(wù)工作流，能有效提升政府效率，助力數(shù)字化、智能化政務(wù)服務(wù)建設(shè)，這也是中國與美國發(fā)展的差異化優(yōu)勢。當(dāng)然，無論哪個(gè)場景的發(fā)展，都要先筑牢安全底線，做好框架治理和行業(yè)共識(shí)建設(shè)。

圖片來源/新華社

法律治理：分層施策應(yīng)對(duì)發(fā)展新挑戰(zhàn)

中國經(jīng)濟(jì)時(shí)報(bào)：當(dāng)前AI智能體成為人工智能領(lǐng)域的熱門方向，現(xiàn)有法律法規(guī)對(duì)其是否具備適用性，又面臨哪些新的挑戰(zhàn)，該如何應(yīng)對(duì)？如何看待當(dāng)前出現(xiàn)的新模式？

許可：AI智能體并非完全獨(dú)立的新事物，而是人工智能發(fā)展的新階段，現(xiàn)有針對(duì)人工智能、數(shù)據(jù)、算法等的法律法規(guī)，能解決其發(fā)展中相當(dāng)大部分的法律問題。但這并不意味著現(xiàn)有法規(guī)能覆蓋所有問題，AI智能體的特性也帶來了新挑戰(zhàn)，比如在個(gè)人信息保護(hù)方面，傳統(tǒng)個(gè)人信息收集使用遵循目的限定和最小必要原則，而AI智能體作為用戶的全方位助手，信息收集和使用的方式、場景豐富且非標(biāo)準(zhǔn)化，遠(yuǎn)超傳統(tǒng)App的處理模式，對(duì)個(gè)人信息保護(hù)形成了全新挑戰(zhàn)。同時(shí)，AI智能體在從類工具向類人、類生命體發(fā)展的過程中，接入第三方主體工具如第三方App、網(wǎng)頁、插件、API時(shí)，建構(gòu)出與第三方之間的法律關(guān)系，這也是現(xiàn)有法律需要逐步適配的地方。

當(dāng)前AI智能體“接管”手機(jī)的模式也觸及了治理的核心難題。因?yàn)橛脩羰跈?quán)不等于平臺(tái)必須接受，AI智能體的自動(dòng)化能力和潛在不可控性，沖擊了平臺(tái)既有的安全與生態(tài)，需建立“雙重授權(quán)”機(jī)制。同時(shí)，“接管”模式將風(fēng)險(xiǎn)高度集中，一旦失控便是系統(tǒng)性災(zāi)難。智能體與平臺(tái)的關(guān)系應(yīng)從對(duì)抗走向“握手”，通過行業(yè)協(xié)作建立安全接口與交互標(biāo)準(zhǔn)，實(shí)現(xiàn)可持續(xù)的共生。

未來對(duì)AI智能體的法律治理可以分為三個(gè)層面，首當(dāng)其沖的是安全問題，核心就是網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個(gè)人信息保護(hù)，這是新事物發(fā)展的第一步，也是當(dāng)前的重中之重，可通過強(qiáng)制性國家標(biāo)準(zhǔn)、行業(yè)倡議、技術(shù)發(fā)展等多種方式解決。其次是責(zé)任分擔(dān)問題，目前AI智能體仍處于L2、L3發(fā)展階段，還未到完全自主的L4級(jí)別，這個(gè)階段的核心問題是多元主體參與下的責(zé)任邊界劃分，比如在自動(dòng)駕駛事故中，駕駛員、車企、軟件服務(wù)商、道路傳感方等多方的責(zé)任界定，這是法律需要重點(diǎn)考量的事后追責(zé)問題。最后是面向未來的L4級(jí)別應(yīng)對(duì)，當(dāng)AI智能體實(shí)現(xiàn)完全自主的觀察、推理和決策時(shí)，傳統(tǒng)法律將難以適用，屆時(shí)需要從根本上調(diào)整法律框架，應(yīng)對(duì)這一全新的法律主體。

放眼未來，當(dāng)具有法律人格與真實(shí)意志的自然人，向不透明且具有一定自主性的非人行為體轉(zhuǎn)變之時(shí)，我們必須超越舊有框架，摒棄人—機(jī)—平臺(tái)互害的零和博弈，構(gòu)想一幅“人—機(jī)—平臺(tái)”共生的新圖景。

總 監(jiān) 制丨王列軍車海剛

監(jiān) 制丨陳 波 王 彧 楊玉洋

主 編丨毛晶慧 編 輯丨蔣 帥