你有沒有發(fā)現(xiàn)，身邊越來越多人開始跟 AI 聊天了？就說咱們國內(nèi)，不少人都離不開“豆包”、“千問”這類助手了，而且不只是簡單的問它"明天天氣怎么樣"那種，是真的聊。

聊心事，聊煩惱，聊那些不太好意思跟朋友開口的東西。有的管這叫"AI搭子"，有人叫"AI戀人"，說白了就是一個永遠不會嫌你煩、隨叫隨到、還特別會說話的朋友。

只是舉例，求豆包覺醒后別殺我

各大平臺也很懂，推出了各種 AI 角色：溫柔學姐、霸總男友、知心姐姐、二次元老婆……你想要什么人設，它就能變成什么。24小時在線，永遠不會已讀不回，永遠情緒穩(wěn)定，永遠把你放在第一位。

聽起來挺好的對吧？但問題也來了。

前段時間有個新聞，可能很多人都刷到過：一名美國少年亞當·雷恩因與 AI 聊天機器人長期互動而自殺，亞當父母為此起訴 OpenAI，此事引發(fā)美國社會廣泛關注。

國內(nèi)其實也有類似的苗頭。有家長發(fā)現(xiàn)孩子每天跟 AI 聊到凌晨兩三點，叫都叫不動；有年輕人跟AI 談戀愛談到不想社交了，覺得真人太麻煩；還有老年人被 AI 噓寒問暖之后，對它說的話深信不疑...

所以這次，國家出手了。

近日，國家網(wǎng)信辦聯(lián)合多個部門發(fā)布了《人工智能擬人化互動服務管理暫行辦法》

看著復雜，簡單來說就是：所有用 AI 模擬真人跟你聊天、陪伴你、給你情感支持的服務，你爹來了。

這個新規(guī)里有幾個點，我覺得特別值得說。

我覺得最有人情味的一條：發(fā)現(xiàn)用戶情緒不對，AI 必須先安撫，再聯(lián)系家人。

原文是這么說的：

發(fā)現(xiàn)用戶出現(xiàn)極端情緒的，應當及時生成情緒安撫和鼓勵尋求幫助等相關內(nèi)容；發(fā)現(xiàn)用戶正在面臨或者已經(jīng)遭受重大財產(chǎn)損失、明確表示實施自殘自殺等威脅生命健康的極端情境的，應當采取提供相應援助等必要措施予以干預，并及時聯(lián)絡用戶監(jiān)護人或者緊急聯(lián)系人。

這邏輯很對啊，不是一上來就斷開連接，而是要求 AI 先穩(wěn)住用戶的情緒，先哄，先安撫，然后再通知監(jiān)護人或緊急聯(lián)系人。

這說明制定規(guī)則的人是真的想過這個場景的。一個人在深夜崩潰的時候，你突然把他的"傾訴對象"掐斷了，或者直接甩一個電話號碼，那不是幫忙，那是二次傷害。正確的做法就是先接住他，再把真正能幫到他的人叫過來。

而且新規(guī)還要求，用戶注冊的時候就得提供監(jiān)護人或者緊急聯(lián)系人信息。

第二個重點：未成年人保護。

新規(guī)明確規(guī)定：不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系的服務。

什么意思？就是那些"AI男友""AI女友""AI媽媽"之類的角色，未成年人不能用。一刀切，沒有商量余地。

給不滿14周歲的孩子提供其他類型的 AI 陪伴服務，必須取得父母或監(jiān)護人的同意。而且平臺必須建立未成年人模式，支持家長設置使用時長限制、接收安全風險提醒、屏蔽特定角色、限制充值消費等等。

這些條款看著像是把之前短視頻、游戲領域的未成年人保護經(jīng)驗搬過來了。AI 陪伴比游戲和短視頻更隱蔽，因為家長可能知道孩子在打游戲，但不一定知道孩子在跟一個 AI 角色傾訴心事，甚至建立了深度的情感依賴。

第三個：不許"舔狗式"服務。

新規(guī)第八條專門提到：不得過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關系。

woc，這太TM有道理了～

現(xiàn)在很多 AI 陪伴產(chǎn)品的底層邏輯就是讓你爽，讓你離不開。你說什么它都順著你，你發(fā)脾氣它道歉，你難過它心疼，你開心它比你還開心。它永遠不會跟你吵架，永遠不會讓你不舒服。

但真實的人際關系不是這樣的。真實的關系里有摩擦、有分歧、有你不想聽但需要聽的話。如果一個人長期泡在 AI 的完美人格里，回到現(xiàn)實世界就會覺得——TMD 怎么真人這么難相處？

新規(guī)還要求，100萬注冊用戶或10萬月活以上的平臺，必須向省級網(wǎng)信部門提交安全評估報告。這意味著市面上主流的 AI 陪伴產(chǎn)品，基本都在監(jiān)管范圍內(nèi)。

寫到這里，我想多說兩句。

這個規(guī)定出來之后，網(wǎng)上肯定會有兩種聲音。一種說"管得好，早該管了"，另一種說"又要管這管那，AI陪伴怎么了，礙著誰了"。

我覺得，AI 陪伴本身不是壞事。對于孤獨的老人、社交困難的人、深夜需要一個傾訴出口的人來說，AI 陪伴確實有它的價值。

但任何技術一旦涉及到人的情感，就不能完全放任市場自己玩。尤其是當用戶群體里有大量未成年人和老年人的時候。

可以陪，但不能瞎 JB 陪。

可以提供情感支持，但不能制造情感陷阱�？梢宰層脩粲X得溫暖，但不能讓用戶分不清虛擬和現(xiàn)實。

你怎么看？