開春以來，人工智能領(lǐng)域刮起了一場破壁跨圈的“養(yǎng)龍蝦”熱潮。開源智能體“OpenClaw”，因其能協(xié)助用戶處理文件管理等復(fù)雜任務(wù)而迅速走紅。但熱潮來得快，去得也快。相關(guān)話題“第一批養(yǎng)蝦人已經(jīng)開始卸載了”登上熱搜，引發(fā)網(wǎng)友熱議。

此類自治智能體的強(qiáng)執(zhí)行能力在給人帶來諸多便利的同時(shí)也給用戶帶來了嚴(yán)峻的安全挑戰(zhàn)。以“OpenClaw”為例，它在運(yùn)行時(shí)需要獲取多個(gè)平臺(tái)的賬號權(quán)限，用以完成具體操作。如果權(quán)限設(shè)置不夠清晰，就有可能導(dǎo)致賬戶資金異常轉(zhuǎn)移、遠(yuǎn)程控制、工作文件被清空等實(shí)際安全事件。此外，自治智能體跨應(yīng)用運(yùn)行特征明顯，任務(wù)執(zhí)行涉及多方主體，增加了監(jiān)管協(xié)調(diào)難度，若責(zé)任劃分機(jī)制不清晰，出現(xiàn)數(shù)據(jù)濫用或異常調(diào)用時(shí)追責(zé)界定復(fù)雜。

針對這些潛在風(fēng)險(xiǎn)，部分學(xué)者指出，自治智能體技術(shù)正從“被動(dòng)工具”向“自主實(shí)體”轉(zhuǎn)型升級，這一發(fā)展態(tài)勢帶來了涵蓋認(rèn)知完整性、執(zhí)行交互以及系統(tǒng)級協(xié)同等多個(gè)層次的安全風(fēng)險(xiǎn)。然而，現(xiàn)有的安全防護(hù)框架尚難以實(shí)現(xiàn)全面覆蓋，因此，必須構(gòu)建更為完善的多層次防護(hù)架構(gòu)，以此實(shí)現(xiàn)智能體系統(tǒng)的可信可靠運(yùn)行。

工信部提出了一系列具有指導(dǎo)性的建議，包括堅(jiān)持最小權(quán)限原則，按需授予必要權(quán)限，并針對關(guān)鍵操作增設(shè)二次確認(rèn)環(huán)節(jié)；謹(jǐn)慎使用技能插件，僅從官方渠道進(jìn)行下載并嚴(yán)格審查代碼；建立長效防護(hù)機(jī)制，定期修補(bǔ)漏洞、啟用日志審計(jì)并密切關(guān)注安全預(yù)警。這些建議為技術(shù)的規(guī)范應(yīng)用劃定了具有可操作性的安全底線。

推動(dòng)人工智能健康發(fā)展，關(guān)鍵在于兼顧創(chuàng)新和安全?！耙盐杖斯ぶ悄馨l(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，構(gòu)建技術(shù)監(jiān)測、風(fēng)險(xiǎn)預(yù)警、應(yīng)急響應(yīng)體系，確保人工智能安全、可靠、可控?！甭鋵?shí)好這一重要要求，才能平衡技術(shù)發(fā)展與安全，推動(dòng)人工智能更好造福社會(huì)。

而對于我們絕大多數(shù)普通人而言，在新技術(shù)面前，保持觀察和學(xué)習(xí)的耐心，遠(yuǎn)比“搶先入場”險(xiǎn)更為重要，無論技術(shù)如何發(fā)展，人才應(yīng)該是工具最終的主人。這不僅是技術(shù)理性的選擇，更是人文精神的堅(jiān)守——當(dāng)算法日益自主，人對價(jià)值的判斷、對邊界的守護(hù)、對責(zé)任的擔(dān)當(dāng)，才真正構(gòu)成智能時(shí)代的“不可替代性”。（作者：楊詠霖）