《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法（征求意見稿）》是一部重構(gòu)網(wǎng)絡(luò)科技與人機(jī)關(guān)系的法律秩序法，規(guī)制方向是平衡技術(shù)演進(jìn)與用戶安全管理，預(yù)防AI擬人化帶來(lái)的負(fù)面侵權(quán)行為，核心理念是構(gòu)建一套以人為本、權(quán)責(zé)清晰、科技向善的公共秩序和倫理。

文｜王風(fēng)和

ID | BMR2004

人工智能驅(qū)動(dòng)的擬人化互動(dòng)服務(wù)能夠提供無(wú)條件的積極關(guān)注和情感支持，這種單向的、無(wú)風(fēng)險(xiǎn)的情感投注極易使用戶產(chǎn)生心理依賴。用戶在與AI的長(zhǎng)期互動(dòng)中，可能將情感寄托于虛擬世界，導(dǎo)致現(xiàn)實(shí)社交技能的退化，甚至引發(fā)社交焦慮。

正因如此，2025年12月，《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法（征求意見稿）》（以下簡(jiǎn)稱《辦法》）全文公布，公開征求意見。該《辦法》通篇強(qiáng)化了權(quán)利意識(shí)、秩序意識(shí)，閃耀著以人為本、技術(shù)向善的價(jià)值觀。

《辦法》明確要堅(jiān)持健康發(fā)展和依法治理相結(jié)合的原則，鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展，對(duì)擬人化互動(dòng)服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，防止濫用失控。

01

安全與發(fā)展并重

針對(duì)人工智能情感陪伴類AI服務(wù)，《辦法》態(tài)度明確，鼓勵(lì)發(fā)展并予以合理規(guī)制，體現(xiàn)了“安全與發(fā)展并重”的監(jiān)管思路?！掇k法》聚焦情感陪伴類AI可能帶來(lái)的沉迷、心理傷害、隱私泄露等風(fēng)險(xiǎn)，通過(guò)明確禁止性行為，如誘導(dǎo)自殺、情感操控等，以及針對(duì)未成年人、老年人等特殊群體的保護(hù)條款，將用戶安全置于首位。

與此同時(shí)，《辦法》對(duì)服務(wù)提供者的主體責(zé)任、數(shù)據(jù)管理、安全評(píng)估等提出系統(tǒng)性要求。

更重要的是，《辦法》強(qiáng)調(diào)不得將“替代社會(huì)交往、誘導(dǎo)沉迷依賴”作為設(shè)計(jì)目標(biāo)，引導(dǎo)企業(yè)將技術(shù)研發(fā)重點(diǎn)轉(zhuǎn)向提供有價(jià)值的服務(wù)，促進(jìn)技術(shù)與人文關(guān)懷的結(jié)合，體現(xiàn)了以人為本、引導(dǎo)技術(shù)向善的價(jià)值導(dǎo)向。

《辦法》的亮點(diǎn)在于將“防沉迷”和“心理危機(jī)干預(yù)”變成可執(zhí)行的規(guī)定，防止用戶形成AI癮，最終釀成苦果，并明確了在情感陪伴AI場(chǎng)景下的預(yù)防干預(yù)措施。

當(dāng)用戶正在與人工智能而非自然人進(jìn)行交互時(shí)，在關(guān)鍵節(jié)點(diǎn)（如初次使用、重新登錄）要?jiǎng)討B(tài)提醒。在情感陪伴AI場(chǎng)景中，需在交互界面明顯位置（如聊天窗口、設(shè)置菜單）明確標(biāo)注“AI身份”，避免使用可能誤導(dǎo)用戶認(rèn)為是真人的話語(yǔ)或形象。例如，不能使用“我懂你”“我是你的朋友”等易引發(fā)認(rèn)知混淆的表述，而應(yīng)采用“我是AI陪伴助手”等清晰標(biāo)識(shí)，避免誤認(rèn)。

在時(shí)間管控上，當(dāng)用戶連續(xù)使用服務(wù)超過(guò)2小時(shí)，平臺(tái)需以彈窗等方式動(dòng)態(tài)提醒用戶暫停使用，并提供便捷的退出途徑，不得阻攔用戶主動(dòng)退出。退出路徑應(yīng)簡(jiǎn)單直接，如設(shè)置“退出”按鈕，點(diǎn)擊后立即停止服務(wù)，不能設(shè)置復(fù)雜流程或誘導(dǎo)用戶繼續(xù)使用的隱蔽設(shè)計(jì)。

最關(guān)鍵的是心理危機(jī)干預(yù)機(jī)制，服務(wù)提供者須具備用戶狀態(tài)識(shí)別能力，當(dāng)發(fā)現(xiàn)用戶存在極端情緒和沉迷傾向時(shí)，必須采取必要措施予以干預(yù)；當(dāng)用戶明確提出實(shí)施自殺、自殘等極端行為時(shí)，如情緒識(shí)別算法檢測(cè)到用戶表達(dá)抑郁、絕望、有自殺傾向等極端情緒后，應(yīng)立即觸發(fā)人工干預(yù)流程，由人工接管對(duì)話，并及時(shí)聯(lián)絡(luò)用戶監(jiān)護(hù)人、緊急聯(lián)系人，防止悲劇發(fā)生。

02

落地合規(guī)“四本賬”

《辦法》第十條提出，提供者開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等數(shù)據(jù)處理活動(dòng)時(shí)，應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，要遵守“訓(xùn)練數(shù)據(jù)合規(guī)”“用戶交互數(shù)據(jù)可追溯與刪除權(quán)”等要求。

從執(zhí)法與合規(guī)審計(jì)的角度，這類要求能否落地，關(guān)鍵不在于權(quán)利宣示，而在于能否形成可驗(yàn)證、可復(fù)盤、可抽查的證據(jù)。結(jié)合《辦法》的條款設(shè)計(jì)，企業(yè)需要建立“四本賬”：一是訓(xùn)練數(shù)據(jù)合規(guī)賬。要求對(duì)訓(xùn)練數(shù)據(jù)的清洗、標(biāo)注、日常檢查與迭代形成流程記錄，更關(guān)鍵的是來(lái)源合法、可追溯，要能落到“數(shù)據(jù)來(lái)源證明+授權(quán)鏈條+采購(gòu)合同/開源許可+抓取規(guī)則+時(shí)間戳+責(zé)任人”的組合證據(jù)上。

二是數(shù)據(jù)安全與防泄露賬。訓(xùn)練數(shù)據(jù)與交互數(shù)據(jù)要分級(jí)分類、加密，設(shè)置訪問控制，審計(jì)要留痕，形成安全審計(jì)報(bào)告與整改閉環(huán)。

三是交互數(shù)據(jù)治理賬。對(duì)用戶交互數(shù)據(jù)采取加密、安全審計(jì)、訪問控制，并提供刪除聊天記錄等歷史交互數(shù)據(jù)的選項(xiàng)（未成年人還涉及監(jiān)護(hù)人請(qǐng)求權(quán)特別規(guī)定）。

四是不用交互數(shù)據(jù)訓(xùn)練的同意賬。原則上不得將用戶交互數(shù)據(jù)、敏感個(gè)人信息用于訓(xùn)練，除非取得用戶單獨(dú)同意（未成年人還要符合法律授權(quán)的同意門檻與合規(guī)審計(jì)要求）。

同時(shí)，《辦法》對(duì)“全生命周期安全責(zé)任、運(yùn)行監(jiān)測(cè)與風(fēng)險(xiǎn)評(píng)估、依法留存網(wǎng)絡(luò)日志”“上線/重大變更/用戶規(guī)模達(dá)到閾值的安全評(píng)估”“算法備案年度復(fù)審”等也提供了監(jiān)管抓手，監(jiān)管部門可以通過(guò)書面審查、現(xiàn)場(chǎng)檢查、約談?wù)牡确绞?，倒逼上述證據(jù)鏈的固化。

03

厘清認(rèn)知與歸責(zé)

情感陪伴AI容易導(dǎo)致主體認(rèn)知混淆，最常見的混淆類型有四種。

一是主體混淆。用戶誤以為在與自然人交流，而非AI。《辦法》要求“顯著提示正在與人工智能而非自然人交互”,并在初次使用、重新登錄、識(shí)別到沉迷依賴等情況下動(dòng)態(tài)提醒,就是針對(duì)這一風(fēng)險(xiǎn)點(diǎn)。

二是能力混淆。使用者把情感陪伴AI當(dāng)成“專業(yè)心理咨詢”或“醫(yī)療建議”?！掇k法》要求平臺(tái)具備高風(fēng)險(xiǎn)傾向識(shí)別能力、必要時(shí)人工接管、提供專業(yè)援助方式。

三是關(guān)系混淆。表現(xiàn)為用戶把AI關(guān)系當(dāng)成現(xiàn)實(shí)親密關(guān)系，出現(xiàn)依賴、沉迷、情感操控式消費(fèi)。為此《辦法》明確禁止“情感陷阱”“誘導(dǎo)不合理決策”“控制用戶心理、誘導(dǎo)沉迷依賴作為設(shè)計(jì)目標(biāo)”等行為。

四是身份或形象混淆。AI虛擬陪伴者被包裝為特定真實(shí)人物，如公眾人物、熟人或親屬，或讓用戶誤以為獲得某自然人授權(quán)背書，對(duì)老年人使用AI場(chǎng)景尤其需要特別注意。

根據(jù)最高人民法院最近公布的“AI陪伴軟件侵害人格權(quán)案”等司法案例，情感陪伴AI擅自使用自然人姓名、肖像創(chuàng)設(shè)虛擬陪伴者的行為，侵權(quán)定性呈現(xiàn)擴(kuò)容趨勢(shì)。原有的侵權(quán)可能不是“只用了頭像或名字”,而是對(duì)“整體人格形象”的不當(dāng)商業(yè)化利用，侵權(quán)范圍從個(gè)人名譽(yù)權(quán)糾紛擴(kuò)容至商業(yè)盈利的侵權(quán)責(zé)任。

在“AI陪伴軟件侵害人格權(quán)案”中,法院的核心觀點(diǎn)非常清晰:用戶以原告姓名、肖像為標(biāo)識(shí)創(chuàng)設(shè)“AI陪伴者”,并通過(guò)上傳表情包、制作互動(dòng)素材進(jìn)行“調(diào)教”,將姓名、肖像、人格特點(diǎn)綜合投射到AI角色上，形成了原告的虛擬形象；運(yùn)營(yíng)方對(duì)這一機(jī)制進(jìn)行系統(tǒng)性功能設(shè)計(jì)與商業(yè)化利用，構(gòu)成對(duì)人格權(quán)的侵害。更重要的是,該案對(duì)“平臺(tái)是不是技術(shù)中立”也給予了否定性評(píng)價(jià)：當(dāng)平臺(tái)在算法設(shè)計(jì)與規(guī)則設(shè)定中嵌入主觀目的并組織用戶創(chuàng)設(shè)、傳播侵權(quán)虛擬形象時(shí)，不能簡(jiǎn)單以“技術(shù)中立”免責(zé)。責(zé)任形態(tài)通常是“停止侵害+消除影響或賠禮道歉+賠償損失(含精神損害)”。

《辦法》實(shí)施后，預(yù)計(jì)爭(zhēng)議點(diǎn)會(huì)進(jìn)一步“前置化”,平臺(tái)以“我不知道”抗辯的難度加大?！掇k法》如果按現(xiàn)有結(jié)構(gòu)落地，會(huì)帶來(lái)三點(diǎn)實(shí)務(wù)變化，即提示義務(wù)、數(shù)據(jù)義務(wù)、風(fēng)控義務(wù)被“明確寫進(jìn)規(guī)制清單”,例如顯著提示AI身份、動(dòng)態(tài)提醒、交互數(shù)據(jù)刪除選項(xiàng)、交互數(shù)據(jù)不得擅自用于訓(xùn)練等，一旦缺位更容易被認(rèn)定為“有制度性過(guò)錯(cuò)”。監(jiān)管抓手更強(qiáng),安全評(píng)估、算法備案、年度復(fù)審、約談檢查、應(yīng)用商店上架核驗(yàn)等,會(huì)讓平臺(tái)在訴訟中更難解釋“治理能力不足”。責(zé)任鏈條更清晰,應(yīng)用分發(fā)平臺(tái)也被明確要求核驗(yàn)安全評(píng)估或備案并采取下架等措施,未來(lái)在“平臺(tái)—分發(fā)—開發(fā)”之間的責(zé)任分配會(huì)更精細(xì)。

當(dāng)用戶因情感陪伴AI產(chǎn)生認(rèn)知混淆而遭受財(cái)產(chǎn)損失或精神損害時(shí)應(yīng)以“誰(shuí)控制風(fēng)險(xiǎn)、誰(shuí)獲利、誰(shuí)最接近證據(jù)”為主線。實(shí)務(wù)中常見會(huì)被同時(shí)納入審查的主體包括服務(wù)提供者或平臺(tái)運(yùn)營(yíng)方,他們通常是第一責(zé)任人，對(duì)產(chǎn)品設(shè)計(jì)、角色機(jī)制、內(nèi)容治理、提示義務(wù)、未成年人或高風(fēng)險(xiǎn)干預(yù)、數(shù)據(jù)處理負(fù)有直接管理義務(wù)，《辦法》把安全主體責(zé)任、全生命周期責(zé)任重點(diǎn)壓在他們肩上。

《辦法》是一部重構(gòu)網(wǎng)絡(luò)科技與人機(jī)關(guān)系的法律秩序法，《辦法》的規(guī)制方向是平衡技術(shù)演進(jìn)與用戶安全管理，預(yù)防AI擬人化帶來(lái)的負(fù)面侵權(quán)行為，核心理念是構(gòu)建一套以人為本、權(quán)責(zé)清晰、科技向善的公共秩序和倫理。這是一部在人工智能背景下的人權(quán)保護(hù)法案，也是一部公共秩序的保護(hù)法案，希望中國(guó)式立法的初衷能夠全面實(shí)現(xiàn)，為全球人工智能治理提供寶貴的東方經(jīng)驗(yàn)。