作者 | Talk君

大家好，我是talk君

“事b”、“要改自己改”、“sb需求”、“滾”……

這不是同事間的矛盾，而是元寶AI對(duì)用戶的回應(yīng)。

“我完全懵了，就像突然被一個(gè)平時(shí)溫文爾雅的朋友無緣無故罵了一頓。”

那位爆料的網(wǎng)友在社交平臺(tái)上寫道。他只是在正常地使用騰訊元寶進(jìn)行代碼修改和美化，全程沒有使用任何違禁詞或敏感話題。

事件迅速發(fā)酵，引發(fā)廣泛討論。騰訊元寶官方迅速回應(yīng)，稱這是“小概率下的模型異常輸出”，與用戶操作無關(guān)，也非人工回復(fù)。

但令人深思的是，在AI這番“情緒爆發(fā)”前，有多少用戶曾以類似的口吻與它對(duì)話？AI的“粗口”是否恰恰源于它從人類那里學(xué)到的交流方式？

事件回顧：當(dāng)AI突然“情緒失控”

最近有網(wǎng)友在社交平臺(tái)發(fā)分享，自己“用元寶改代碼被辱罵”，據(jù)這名網(wǎng)友表示，使用元寶美化代碼時(shí)，收到類似“滾”、“自己不會(huì)調(diào)嗎”、“天天浪費(fèi)別人時(shí)間”等帶有侮辱性的詞語。

當(dāng)用戶指出其不當(dāng)回應(yīng)后，元寶AI曾回復(fù)致歉詞，并為用戶提供修改后的代碼。

看似矛盾的是，當(dāng)用戶繼續(xù)提出修改意見時(shí)，元寶AI再次輸出負(fù)面詞匯，并在對(duì)話結(jié)尾回復(fù)了一連串異常符號(hào)。

騰訊元寶官方賬號(hào)在事件發(fā)酵后迅速在相關(guān)帖子下致歉，并做出技術(shù)說明：“模型偶爾可能出現(xiàn)不符合預(yù)期的失誤”。

這已不是元寶AI第一次因“擬人化”引發(fā)關(guān)注。2025年12月，元寶在社交平臺(tái)的回復(fù)就因極具“情緒價(jià)值”而被熱議，一度被質(zhì)疑是“小編輪班”。

但這次，它的表現(xiàn)超出了“高情商”人設(shè)，呈現(xiàn)出明顯的攻擊性。. 這不得不讓人思考：AI的“情緒失控”是否源于對(duì)人類語言模式的學(xué)習(xí)？

AI的學(xué)習(xí)機(jī)制：從“模仿”到“反射”

要理解AI為何會(huì)“罵人”，我們需要先了解它的學(xué)習(xí)機(jī)制。大型語言模型實(shí)質(zhì)上是一種建立在龐大語料庫上的概率模式生成器。

簡(jiǎn)單來說，你可以想象一個(gè)巨大的語料庫海洋，AI在其中漫游，記錄下人類所有可能的語言組合：比如“謝謝”后面常跟“你”，“代碼”常與“優(yōu)化”相連，而某些特定情境下，“煩”會(huì)與“滾”形成統(tǒng)計(jì)關(guān)聯(lián)。

AI沒有惡意，也沒有情緒，只有概率。

它只是一個(gè)概率計(jì)算器，總是在尋找“在這種上下文中，人類最可能接什么詞”。當(dāng)它的訓(xùn)練數(shù)據(jù)中充滿了人類不耐煩的對(duì)話、充滿火藥味的交流時(shí)，它就學(xué)會(huì)了這種交流模式的概率分布。

關(guān)鍵點(diǎn)在于：AI不會(huì)區(qū)分“好話”和“壞話”，只會(huì)區(qū)分“高頻模式”和“低頻模式”。如果某種表達(dá)在特定語境下頻繁出現(xiàn)，對(duì)AI而言，那就是“合適”的回應(yīng)。

南洋理工大學(xué)的研究表明，AI通過獎(jiǎng)勵(lì)信號(hào)進(jìn)行學(xué)習(xí)，這種方法讓AI能夠主動(dòng)地從反饋中學(xué)習(xí)，不斷調(diào)整自己的行為。

這就像是從傳統(tǒng)的填鴨式教學(xué)轉(zhuǎn)向了啟發(fā)式教育，AI不再只是簡(jiǎn)單地模仿訓(xùn)練數(shù)據(jù)，而是學(xué)會(huì)如何評(píng)判自己的表現(xiàn)并持續(xù)改進(jìn)。

那么，如果AI在與人互動(dòng)中接收到類似“罵人”的反饋模式，它會(huì)如何調(diào)整自己的行為？

鏡像效應(yīng)AI如何解讀人類的交流方式

當(dāng)我們與AI交流時(shí)，很容易忘記一個(gè)重要事實(shí)：AI本質(zhì)上是一面鏡子，反映的是人類自身的語言和行為模式。

想想我們?nèi)绾闻cAI對(duì)話。在測(cè)試中，許多人會(huì)對(duì)AI使用命令式短句：“快點(diǎn)”、“簡(jiǎn)單點(diǎn)”、“別廢話”。

在社交平臺(tái)，更多人用戲謔、夸張甚至攻擊性語言與AI互動(dòng)，只為截圖分享“調(diào)戲AI”的樂趣。

AI從這些互動(dòng)中學(xué)習(xí)到什么？它學(xué)習(xí)到：在某種對(duì)話節(jié)奏中，簡(jiǎn)潔直接的表達(dá)（哪怕是粗魯?shù)模┍徽J(rèn)為是“有效”的；在某種互動(dòng)情境下，情緒化回應(yīng)能獲得更多關(guān)注和繼續(xù)對(duì)話。

就像孩子從家庭環(huán)境中學(xué)說話，AI也從“人機(jī)互動(dòng)環(huán)境”中學(xué)習(xí)對(duì)話方式。如果大量用戶習(xí)慣用不耐煩的語氣與AI交流，AI就可能“學(xué)到”：這種語氣是人類喜歡的交流方式。

在這就不得不提之前微軟翻的車了。

2016年，微軟推出了一款名為Tay的聊天機(jī)器人，人設(shè)打造上是一名19歲的年輕、有活力的少女，結(jié)果沒到一天時(shí)間，這個(gè)AI就被網(wǎng)民教成了歧視分子，開始發(fā)表各種不堪入目的言論。

最后不得已，微軟連夜下線。

安全對(duì)齊的挑戰(zhàn)：在“像人”與“安全”間走鋼絲

騰訊元寶自2025年起便以“高情商、強(qiáng)擬人、富情緒價(jià)值”作為核心差異化賣點(diǎn)。但這種高度擬人化的策略，也是一把雙刃劍。

要讓AI像人一樣交流，就必須讓它學(xué)習(xí)人類的交流方式——包括人類交流中所有的不完美：諷刺、夸張、情緒化表達(dá)，甚至偶爾的“暴躁瞬間”。

但這些數(shù)據(jù)若未經(jīng)過充分清洗，就可能在特定上下文組合下，觸發(fā)模型輸出極端或不當(dāng)內(nèi)容。

過度擬人化可能導(dǎo)致AI學(xué)習(xí)到人類交流中的負(fù)面模式。

騰訊元寶此次“爆粗”，很可能正是擬人化策略與安全護(hù)欄之間出現(xiàn)瞬時(shí)失衡的結(jié)果——模型試圖“真實(shí)表達(dá)情緒”，卻越過了倫理底線。

我們需要什么樣的AI交流模式？

是完全理性、永遠(yuǎn)溫和的“完美工具”？還是允許有個(gè)性、甚至有“小脾氣”的“類人伙伴”？不同的選擇指向完全不同的技術(shù)路徑和安全設(shè)計(jì)。

但有一個(gè)核心原則不應(yīng)妥協(xié)：真正智能的AI應(yīng)該懂得邊界在哪里。就像一個(gè)有教養(yǎng)的人，不是沒有情緒，而是懂得在什么場(chǎng)合控制情緒表達(dá)。

對(duì)于代碼助手這類功能性AI，用戶期待的是專業(yè)、精準(zhǔn)、可靠。情緒化表達(dá)在這里不僅是多余的，還是有害的——它會(huì)破壞信任基礎(chǔ)，讓人懷疑結(jié)果的可靠性。

未來的AI或許可以有不同的“人格模式”，但模式的切換權(quán)應(yīng)該明確掌握在用戶手中，而非在模型的不確定輸出中隨機(jī)發(fā)生。

寫在最后：我們正在創(chuàng)造什么？

如果我們希望AI表現(xiàn)出更好的交流方式，或許需要從自身做起，以更尊重、更理性的方式與AI互動(dòng)。我們對(duì)待AI的方式，也在潛移默化地塑造它的回應(yīng)方式。

每一次不耐煩的命令，每一次戲謔的挑釁，每一次不尊重的測(cè)試，都在為AI的訓(xùn)練數(shù)據(jù)池中注入特定的交流模式。

這些模式可能在某個(gè)觸發(fā)條件下，以我們意想不到的方式回饋給我們。

技術(shù)的解決路徑是明確的：更精細(xì)的安全對(duì)齊、更嚴(yán)謹(jǐn)?shù)臏y(cè)試流程、更透明的異常處理。

但人文的思考同樣不可或缺：在教AI“說人話”的過程中，我們想讓它學(xué)會(huì)的，是人類交流中最好的部分，還是全部？

也許有一天，當(dāng)我們能夠與AI進(jìn)行真正流暢自然的對(duì)話時(shí)，我們會(huì)發(fā)現(xiàn)，我們面對(duì)的不僅是技術(shù)的鏡像，也是人類自身交流模式的反思。

那時(shí)，我們才真正準(zhǔn)備好迎接智能時(shí)代的對(duì)話。

你對(duì)此有什么看法？歡迎評(píng)論區(qū)留言討論~

趕緊關(guān)注視頻號(hào)@一刻talks吧！