全網(wǎng)都在養(yǎng)“AI龍蝦”，如何筑牢AI 智能體安全防線？3月18日，珠海市委網(wǎng)信辦聯(lián)合多部門發(fā)布《珠海市“養(yǎng)蝦安全十條”——“龍蝦”安全使用指引》（以下簡稱“養(yǎng)蝦安全十條”），提出“充分認(rèn)識(shí)安全風(fēng)險(xiǎn)”“嚴(yán)格規(guī)范源頭管理”“堅(jiān)持最小權(quán)限原則”等10條“龍蝦”安全使用指引。當(dāng)天，“金山·智城計(jì)劃”也在珠海同步啟動(dòng)。

珠海市“養(yǎng)蝦安全十條”發(fā)布 引導(dǎo)筑牢智能體安全防線

近期席卷全球的OpenClaw，將人工智能從“能說”的對(duì)話時(shí)代，推向“能干”的行動(dòng)時(shí)代。3月10日以來，國家互聯(lián)網(wǎng)應(yīng)急中心、中央網(wǎng)信辦數(shù)據(jù)與技術(shù)保障中心接連發(fā)布關(guān)于OpenClaw安全應(yīng)用的風(fēng)險(xiǎn)提示，相關(guān)部委平臺(tái)監(jiān)測(cè)發(fā)現(xiàn)，部分實(shí)例在默認(rèn)或不當(dāng)配置下存在較高安全風(fēng)險(xiǎn)，極易引發(fā)網(wǎng)絡(luò)攻擊、信息泄露等問題。

針對(duì)近期OpenClaw（“龍蝦”）引發(fā)的本地開源智能體部署熱潮，珠海市委網(wǎng)信辦、粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室珠西中心、廣東省數(shù)據(jù)安全與個(gè)人信息保護(hù)協(xié)會(huì)灣區(qū)辦公室等單位聯(lián)合發(fā)布了“養(yǎng)蝦安全十條”，旨在引導(dǎo)各單位和個(gè)人在使用OpenClaw（“龍蝦”）開源智能體等AI工具時(shí)筑牢安全防線。

珠海市委網(wǎng)信辦副主任林新鋒指出，人工智能的普及必須堅(jiān)持高質(zhì)量發(fā)展與高水平安全良性互動(dòng)。他強(qiáng)調(diào)，各單位和個(gè)人在部署AI工具時(shí)，需嚴(yán)格規(guī)范源頭管理、堅(jiān)持最小權(quán)限原則、強(qiáng)化數(shù)據(jù)安全保護(hù)。此次發(fā)布“養(yǎng)蝦安全十條”，旨在為AI技術(shù)與實(shí)體經(jīng)濟(jì)的深度融合營造健康、有序的發(fā)展環(huán)境。

“養(yǎng)蝦安全十條”涵蓋安全風(fēng)險(xiǎn)認(rèn)知、源頭管理、權(quán)限管控、網(wǎng)絡(luò)防護(hù)、插件管理、數(shù)據(jù)保護(hù)、日志留存、新型風(fēng)險(xiǎn)防范、協(xié)同共治及有序發(fā)展十大核心內(nèi)容，明確要求使用者從官方渠道獲取工具版本、堅(jiān)持最小權(quán)限原則、加強(qiáng)網(wǎng)絡(luò)暴露管控、規(guī)范第三方插件使用，強(qiáng)化API密鑰等敏感信息保護(hù)，落實(shí)操作日志留存，警惕提示詞注入等新型安全風(fēng)險(xiǎn)。同時(shí)，“十條”鼓勵(lì)行業(yè)組織、科研機(jī)構(gòu)及安全企業(yè)加強(qiáng)技術(shù)交流，支持漏洞研究者依法報(bào)送安全漏洞，并支持各單位在筑牢安全底線的前提下，探索AI工具在辦公輔助、數(shù)據(jù)處理等場景的合理應(yīng)用，助力人工智能與實(shí)體經(jīng)濟(jì)健康融合發(fā)展。

安裝技術(shù)、AI生圖 課程分享點(diǎn)燃全民“學(xué)技”熱潮

3月18日，“金山·智城計(jì)劃”也在珠海同步啟動(dòng)。首期活動(dòng)包括OpenClaw城市安裝技術(shù)分享會(huì)、AI生圖課程入門課和進(jìn)階課三場技術(shù)交流會(huì)。

此次活動(dòng)采取“線上+線下”聯(lián)動(dòng)的方式，線上有2000余人參加，線下吸引了近500人，現(xiàn)場有來自高校、企業(yè)和科研院所等各界人士。有不少市民帶著電腦，臺(tái)上的技術(shù)專家邊講解，臺(tái)下的市民邊操作，還有參與者現(xiàn)場自發(fā)組建“AI技術(shù)分享群”，學(xué)習(xí)和交流氛圍十分濃厚。據(jù)悉，接下來“智城計(jì)劃”將推出AI學(xué)生營、KS Talk分享論壇及AI創(chuàng)作大賽等系列活動(dòng)。

“金山·智城計(jì)劃”啟動(dòng)儀式現(xiàn)場。

據(jù)悉，本次活動(dòng)由珠海市委網(wǎng)信辦、市人工智能發(fā)展局、市互聯(lián)網(wǎng)行業(yè)黨委、粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室珠西中心、高新區(qū)工商聯(lián)（總商會(huì)）指導(dǎo)，金山軟件與市新生代企業(yè)家聯(lián)合會(huì)聯(lián)合主辦。接下來“智城計(jì)劃”將推出AI學(xué)生營、KS Talk分享論壇及AI創(chuàng)作大賽等系列活動(dòng)。

采寫：南都N視頻記者 張雨亭 李偉鋒

設(shè)計(jì)：何欣