紫金財經(jīng)3月10日消息 近日，國內(nèi)社交媒體與人工智能應(yīng)用領(lǐng)域相繼出現(xiàn)重要動態(tài)。內(nèi)容社區(qū)平臺小紅書“薯管家”官方賬號發(fā)布公告，宣布對“AI托管運營賬號”進行治理，旨在維護內(nèi)容真實性。

此前，工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺發(fā)布預(yù)警，提示開源ai智能OpenClaw（俗稱“龍蝦”）在默認或不當(dāng)配置情況下存在較高安全風(fēng)險。OpenClaw的部分實例可能因權(quán)限控制不足或配置缺陷，引發(fā)網(wǎng)絡(luò)攻擊、信息泄露等安全問題。

3月10日，小紅書官方發(fā)布《關(guān)于打擊AI托管運營賬號的治理公告》。公告指出，平臺近期發(fā)現(xiàn)部分用戶采用AI托管模式運營賬號，通過技術(shù)手段自動生成內(nèi)容、發(fā)布筆記，并在評論、私信等場景模擬真人互動。

平臺明確，嚴(yán)格禁止任何利用技術(shù)手段模擬真人、進行非真實創(chuàng)作或虛假互動的行為，并宣布即日起實行分級治理措施：

1、對于普通賬號偶發(fā)使用AI托管代寫、代發(fā)筆記或進行互動，平臺將根據(jù)違規(guī)程度，采取警告、限制內(nèi)容分發(fā)等梯度處理措施。

2、對于直接通過AI托管工具注冊、發(fā)布、互動的賬號，或主頁所有公開筆記均為AI托管代發(fā)的賬號，平臺將予以封禁處理。

此舉被業(yè)內(nèi)視為平臺對內(nèi)容生態(tài)“真實性”底線的再次強化。小紅書方面在公告中強調(diào)，鼓勵用戶利用AI工具進行創(chuàng)作輔助，但堅決抵制利用技術(shù)偽造身份、制造虛假流量和互動數(shù)據(jù)的行為。

近期，一款名為OpenClaw的AI智能體在技術(shù)社區(qū)引發(fā)熱潮。其能夠模擬用戶操作電腦，自動執(zhí)行信息搜集、數(shù)據(jù)整理、報告生成等任務(wù)，被形象地稱為“數(shù)字員工”或“龍蝦”。上個周末，深圳騰訊大廈前出現(xiàn)的近千人排隊等候技術(shù)專家協(xié)助部署，到相關(guān)工具下載量激增，顯示出市場對自動化生產(chǎn)力工具的迫切需求。

然而，技術(shù)普及伴隨風(fēng)險。工信部在近期的網(wǎng)絡(luò)安全預(yù)警中明確指出，此類具有高自主性的AI智能體，在默認配置或配置不當(dāng)時，極易成為網(wǎng)絡(luò)安全薄弱環(huán)節(jié)。

紫金財經(jīng)認為，這標(biāo)志著行業(yè)發(fā)展進入新階段：從追求“用得上”轉(zhuǎn)向保障“用得好、用得安全”。技術(shù)的易得性不能以犧牲內(nèi)容真實性與網(wǎng)絡(luò)安全為代價。未來，能夠?qū)ⅰ耙子眯浴?、“合?guī)性”與“安全性”深度融合的產(chǎn)品與平臺，將在競爭中贏得更大優(yōu)勢。

小紅書的治理行動與工信部的安全預(yù)警，共同指向了人工智能深度融入社會經(jīng)濟生活后必須解決的核心命題：在享受技術(shù)帶來的效率革命與體驗升級的同時，如何筑牢內(nèi)容的真實底線與網(wǎng)絡(luò)的安全防線。這對于廣大用戶、企業(yè)與開發(fā)者而言，意味著在擁抱“AI伙伴”時，必須同步樹立起規(guī)范使用與安全防護的意識。