人類如何與AI智能體共處

編者按

新質(zhì)策源導(dǎo)刊的第二期，我們聚焦AI智能體（AI Agent），不僅僅因?yàn)樗?dāng)下的熱度，更因?yàn)槲覀兛吹搅怂鼘?duì)未來的影響。我們深度訪談行業(yè)頂級(jí)專家、資深研究人員、國內(nèi)外知名企業(yè)，盡力描繪當(dāng)下AI時(shí)代的真實(shí)圖景，展望未來的各種可能性，在不確定性中尋找確定性。

這個(gè)領(lǐng)域創(chuàng)新不斷，猶如科幻即將照入現(xiàn)實(shí)。我們想知道的不只是近在咫尺的明天會(huì)怎樣，更想知道今天我們做的一切，會(huì)對(duì)不遠(yuǎn)的未來產(chǎn)生什么樣的影響，誠邀您和我們一起，探索新AI時(shí)代。敬請(qǐng)關(guān)注本期策劃——“人類如何與AI智能體共處”。

——訪國務(wù)院發(fā)展研究中心創(chuàng)新發(fā)展研究部第三研究室主任熊鴻儒

■中國經(jīng)濟(jì)時(shí)報(bào)記者王彩娜

從ChatGPT到Manus，再到近期引發(fā)熱議的OpenClaw，AI智能體（AI Agent）正以超乎想象的速度融入我們的生活。人類在與AI智能體共處的過程中如何平衡其創(chuàng)新發(fā)展與潛在風(fēng)險(xiǎn)？中國經(jīng)濟(jì)時(shí)報(bào)記者日前就此專訪了國務(wù)院發(fā)展研究中心創(chuàng)新發(fā)展研究部第三研究室主任熊鴻儒。

AI智能體：從“信息理解者”到“任務(wù)執(zhí)行者”的生產(chǎn)力革命

中國經(jīng)濟(jì)時(shí)報(bào)：AI智能體與傳統(tǒng)AI相比有何差異，它的核心價(jià)值是什么？

熊鴻儒：AI智能體可以說是人工智能發(fā)展的新階段，核心在于它超越了傳統(tǒng)大語言模型的對(duì)話功能，成為了代理式的AI。傳統(tǒng)對(duì)話式AI以一問一答為核心，而AI智能體具備自主調(diào)用工具、推理和完成任務(wù)閉環(huán)的能力，能按照人類的要求自主完成一系列關(guān)聯(lián)任務(wù)，這是質(zhì)的升級(jí)。從能力支撐來看，AI智能體的落地應(yīng)用核心依賴于推理決策和執(zhí)行能力的突破，它能理解人類意圖，結(jié)合上下文長文本理解能力找到適配工具，再通過自主執(zhí)行形成任務(wù)閉環(huán)。這種能力讓AI從單純的“信息理解者”變成了“任務(wù)執(zhí)行者”，也讓其在標(biāo)準(zhǔn)化、流程化的場景中大幅提升效率。

目前AI智能體仍在快速發(fā)展中，已經(jīng)出現(xiàn)多種類型。從適用場景來看，大致可分為通用型與專用型（垂類）智能體；從服務(wù)對(duì)象和層級(jí)劃分，還有面向個(gè)人級(jí)、組織級(jí)、行業(yè)級(jí)的不同形態(tài)，比如智能工廠的自主調(diào)度系統(tǒng)，就是典型的組織級(jí)智能體。其中，個(gè)人智能體是當(dāng)下市場的熱點(diǎn)，比如OpenClaw這類產(chǎn)品，支持本地化運(yùn)行與多工具調(diào)用，讓用戶的使用體驗(yàn)感大幅提升。

可以說，AI智能體的核心價(jià)值是成為人的新的生產(chǎn)工具，它能提升生產(chǎn)、學(xué)習(xí)效率，乃至改變?nèi)藱C(jī)交互方式，改變我們生產(chǎn)生活方式，這是AI領(lǐng)域里的生產(chǎn)力革命，也必然會(huì)影響到其他更多領(lǐng)域。

圖片來源/新華社

構(gòu)建權(quán)責(zé)清晰、價(jià)值對(duì)齊的AI智能體安全發(fā)展新范式

中國經(jīng)濟(jì)時(shí)報(bào)：如何平衡AI智能體的使用便利與風(fēng)險(xiǎn)防范，守住人類與AI智能體共處的底線？

熊鴻儒：隱私安全和數(shù)據(jù)泄露，是學(xué)術(shù)界和政策界重點(diǎn)討論的AI智能體負(fù)外部性問題。AI智能體要更好滿足人類需求，必須獲得用戶授權(quán)，這就難免接觸到個(gè)人數(shù)據(jù)，若AI智能體僅在本地設(shè)備運(yùn)行，風(fēng)險(xiǎn)相對(duì)可控，但要實(shí)現(xiàn)高效運(yùn)行，其算力、數(shù)據(jù)往往還需依托云端，這就讓風(fēng)險(xiǎn)防控變得復(fù)雜。想要平衡便利與風(fēng)險(xiǎn)，首先要通過用戶授權(quán)機(jī)制明確數(shù)據(jù)使用邊界，其次需加快建立技術(shù)標(biāo)準(zhǔn)與安全規(guī)范體系，同時(shí)采取包容審慎的監(jiān)管原則。中國的敏捷治理模式在這方面尤為適合，在發(fā)展與安全間尋求動(dòng)態(tài)平衡，劃定技術(shù)紅線，建立透明且動(dòng)態(tài)調(diào)整的規(guī)則體系，既不預(yù)設(shè)過多風(fēng)險(xiǎn)限制技術(shù)迭代，也能對(duì)負(fù)外部性快速識(shí)別、及時(shí)響應(yīng)。

另一方面是防范倫理風(fēng)險(xiǎn)，核心是做好責(zé)任界定和價(jià)值觀對(duì)齊。與其單純給AI設(shè)置“護(hù)欄”，不如明確AI生態(tài)圈中不同角色的責(zé)任，讓開發(fā)者、使用者、運(yùn)營者各負(fù)其責(zé)。同時(shí)，要將人類的底線價(jià)值觀融入AI的開發(fā)和訓(xùn)練中，通過技術(shù)手段實(shí)現(xiàn)價(jià)值觀對(duì)齊，讓AI的行為不會(huì)破壞人類社會(huì)的公序良俗，這也是當(dāng)前很多AI實(shí)驗(yàn)室和頭部科技企業(yè)的重要研發(fā)方向。

從AI智能體到具身智能，以新的人機(jī)協(xié)作促進(jìn)新質(zhì)生產(chǎn)力發(fā)展

中國經(jīng)濟(jì)時(shí)報(bào)：AI智能體終極發(fā)展方向會(huì)指向哪里？

熊鴻儒：智能體或許是AI發(fā)展的一個(gè)過渡形態(tài)，也可被視為一個(gè)關(guān)鍵的轉(zhuǎn)折點(diǎn)，目前業(yè)內(nèi)對(duì)AGI（通用人工智能）甚至是ASI（超級(jí)人工智能）的終極形態(tài)尚無統(tǒng)一答案，圖靈獎(jiǎng)得主約瑟夫·希發(fā)基思（Joseph Sifakis）提出的自主式AI，OpenAI提出的從代理式到合作式再到?jīng)Q策式的AI發(fā)展階段，這些都是基于對(duì)當(dāng)前技術(shù)的預(yù)測。從發(fā)展趨勢來看，今年拉斯維加斯消費(fèi)電子展的核心主題“物理AI（具身智能）”可能成為下一代AI入口，它不只是人形機(jī)器人，還包括無人駕駛、各類能與物理環(huán)境交互的智能設(shè)備，背后依托強(qiáng)大的AI大腦，實(shí)現(xiàn)從處理信息到實(shí)際執(zhí)行、與物理世界互動(dòng)的跨越，這也是AI未來的重要發(fā)展方向。

但無論AI技術(shù)如何發(fā)展，有一點(diǎn)是確定的：技術(shù)發(fā)展最終要服務(wù)于人類對(duì)美好生活的追求，人類的好奇心和想象力是機(jī)器難以替代的核心價(jià)值。我期待并且相信，AI智能體乃至未來更先進(jìn)階段的AI，會(huì)成為人類的賦能工具，而非簡單替代人類腦力和體力的新主體。未來，隨著技術(shù)的不斷升級(jí)、治理體系的不斷完善、人才培養(yǎng)的不斷適配，AI智能體將在更多領(lǐng)域釋放生產(chǎn)力，成為推動(dòng)經(jīng)濟(jì)高質(zhì)量發(fā)展和人類社會(huì)進(jìn)步的重要力量，而人類與AI的關(guān)系，也將朝著更深度的共生、互補(bǔ)、共贏方向發(fā)展。

總 監(jiān) 制丨王列軍車海剛

監(jiān) 制丨陳 波 王 彧 楊玉洋

主 編丨毛晶慧 編 輯丨蔣 帥