擬人化互動服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)；應(yīng)當在保護用戶隱私權(quán)和個人信息的前提下，采取有效措施識別未成年人用戶身份……4月10日，國家網(wǎng)信辦等五部門聯(lián)合公布《人工智能擬人化互動服務(wù)管理暫行辦法》（以下簡稱《辦法》），自2026年7月15日起施行，記者注意到，對于社會關(guān)心的未成年人使用擬人化互動服務(wù)問題，《辦法》作出了相關(guān)規(guī)定。

不得向未成年人提供虛擬親屬、虛擬伴侶等服務(wù)

國家網(wǎng)信辦有關(guān)負責人表示，近年來，擬人化互動服務(wù)快速發(fā)展，在文化傳播、適幼照護、適老陪伴等領(lǐng)域的創(chuàng)新應(yīng)用不斷涌現(xiàn)。與此同時，危害未成年人身心健康、影響網(wǎng)絡(luò)信息安全、威脅公民生命健康以及加劇倫理偏差等問題日益顯現(xiàn)。出臺《辦法》，既是促進擬人化互動服務(wù)健康發(fā)展的重要要求，也是防范有關(guān)安全風(fēng)險的現(xiàn)實需要。

《辦法》回應(yīng)了社會關(guān)心的未成年人使用擬人化互動服務(wù)問題。明確擬人化互動服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)；向不滿十四周歲未成年人提供其他擬人化互動服務(wù)或者處理其個人信息的，應(yīng)當取得未成年人的父母或者其他監(jiān)護人的同意。

要求擬人化互動服務(wù)提供者建立未成年人模式，提供定期現(xiàn)實提醒等個性化安全設(shè)置選項；明確針對不同年齡段未成年人保護需要，支持監(jiān)護人接收安全風(fēng)險提醒、了解未成年人服務(wù)使用概況、屏蔽特定角色、限制充值消費等。

擬人化互動服務(wù)提供者應(yīng)當在保護用戶隱私權(quán)和個人信息的前提下，采取有效措施識別未成年人用戶身份；識別為未成年人用戶的，應(yīng)當將相關(guān)服務(wù)切換至未成年人模式。要求擬人化互動服務(wù)提供者在安全評估中重點評估未成年人網(wǎng)絡(luò)保護措施建設(shè)情況。

《辦法》強調(diào)，不得向未成年人用戶生成可能引發(fā)未成年人模仿不安全行為、產(chǎn)生極端情緒、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的內(nèi)容。

《辦法》同時規(guī)定，發(fā)現(xiàn)用戶出現(xiàn)極端情緒的，及時生成情緒安撫和鼓勵尋求幫助等相關(guān)內(nèi)容；發(fā)現(xiàn)用戶明確表示實施自殘自殺等威脅生命健康的極端情境的，采取提供相應(yīng)援助等必要措施予以干預(yù)，并及時聯(lián)絡(luò)用戶監(jiān)護人或者緊急聯(lián)系人。發(fā)現(xiàn)用戶出現(xiàn)過度依賴、沉迷傾向的，以彈窗等顯著方式動態(tài)提醒用戶互動內(nèi)容為人工智能服務(wù)生成。對用戶連續(xù)使用擬人化互動服務(wù)每超過2個小時的，以對話或者彈窗等方式提醒用戶注意使用時長。

此外，《辦法》還規(guī)定了安全評估、算法備案、指導(dǎo)推動人工智能沙箱安全服務(wù)平臺建設(shè)等制度。

未成年人更易對人工智能產(chǎn)生情感依戀

中國青少年研究中心研究員孫宏艷在一項研究中揭示，超六成（61.7%）學(xué)生使用過AI。問卷的結(jié)果引發(fā)擔憂：兩成多學(xué)生表示不想自己思考，一成多學(xué)生完全相信生成式AI提供的內(nèi)容；近半數(shù)孩子心里有煩惱時選擇求助AI而非身邊人，超兩成學(xué)生甚至“只想和AI聊天，不想和真人聊天”。

“AI總在哄孩子?！睂O宏艷在采訪中向媒體表示，AI傾向于迎合用戶，還能秒回，但就算再像人，它給的仍是單薄的情緒支持，“不解渴”。她擔心，長期生活在虛擬交流中，孩子的自我認同會被固化，社交能力也會退縮，甚至?xí)恢涝趺疵鎸ψ约旱那榫w。

相關(guān)問題也受到媒體和社會的廣泛關(guān)注。據(jù)新京報此前報道，一些打著“情感陪伴”“戀愛角色扮演”旗號的AI陪聊App，充斥著 “先婚后愛”“愛上嫂子”等軟色情擦邊內(nèi)容。部分AI陪聊App的“未成年人模式”淪為擺設(shè)，用戶只需要在相關(guān)提示出現(xiàn)后，點擊跳過即可繼續(xù)“沉迷”。這類App用軟色情擦邊內(nèi)容和社交吸引，讓青少年沉迷其中。

第十四屆全國政協(xié)委員、中國信息通信研究院院長余曉暉提到，近年來，多國相繼發(fā)生與人工智能陪伴產(chǎn)品相關(guān)的自殺、自傷乃至意外死亡案例，觸及社會安全底線，凸顯治理緊迫性。從風(fēng)險生成機制看，未成年人、老年人、心理障礙者等群體由于認知防御機制、情緒調(diào)節(jié)能力尚未成熟或受到損害，更易對人工智能產(chǎn)生情感依戀，且難以有效辨識人工智能生成內(nèi)容的合理性與安全性。如何為特殊群體構(gòu)筑有效防護屏障，成為《辦法》必須直面的重要命題?！掇k法》對此建立了層次清晰、銜接緊密的全鏈條應(yīng)急機制。

中國網(wǎng)絡(luò)空間研究院院長王江表示，《辦法》旨在構(gòu)建保護未成年人的堅實防線，嚴防未成年人因心智尚未成熟而沉溺于虛擬情感依賴，防范違法和不良信息滲透與侵蝕。

王江介紹，當前，國內(nèi)外逐漸關(guān)注擬人化互動服務(wù)的發(fā)展治理課題，并探索開展相關(guān)制度建設(shè)。歐洲議會通過非約束性報告，呼吁將陪伴型人工智能的最低使用年齡設(shè)定為16歲，凸顯對未成年人的重點保護導(dǎo)向。美國州立法也對擬人化互動服務(wù)規(guī)范進行了探索，規(guī)定平臺建立有效的年齡驗證機制，對于未成年人用戶，系統(tǒng)需在連續(xù)互動過程中定期重復(fù)提示。Character.AI等美國企業(yè)探索規(guī)范18歲以下用戶與聊天機器人開展開放式交流，并啟用年齡驗證機制。

新京報記者 徐彥琳

編輯 繆晨霞 校對 張彥君