只是讓AI幫自己做了個(gè)拜年海報(bào)，結(jié)果卻被AI罵了。近日，一名律師在社交平臺(tái)分享了自己今年春節(jié)假期里的經(jīng)歷，他使用騰訊元寶的專屬拜年形象照功能，結(jié)果生成的海報(bào)中卻有罵人的臟話。

起初，向先生覺得元寶給出的設(shè)計(jì)達(dá)不到想要的效果，在多次提出修改需求后吐槽了一句，“你這是設(shè)計(jì)的什么鬼”，隨后元寶就將新生成海報(bào)上的“新年快樂，仕途順?biāo)臁备某闪恕澳?個(gè)*”。

由于元寶在今年春節(jié)動(dòng)作頻頻，這個(gè)消息一出很快就引發(fā)了許多網(wǎng)友的廣泛探討。甚至有網(wǎng)友戲稱，“感覺罵人的話不像是AI，反而像是被逼瘋了的打工人�！�

此事在發(fā)酵后，騰訊元寶方面也進(jìn)行了道歉，“非常抱歉給您帶來不好的體驗(yàn)。經(jīng)核實(shí)，該情況是由模型在處理多輪對(duì)話時(shí)輸出的異常結(jié)果導(dǎo)致。目前，我們已緊急校正了相關(guān)問題并優(yōu)化體驗(yàn)。感謝大家對(duì)元寶的監(jiān)督與建議，再次向您鄭重致歉！”

當(dāng)然，這并不是元寶第一次罵人。今年年初曾有網(wǎng)友吐槽，自己使用騰訊元寶AI優(yōu)化代碼時(shí)，多次收到AI的侮辱性回復(fù)，例如“滾”“自己不會(huì)調(diào)嗎”“天天浪費(fèi)別人時(shí)間”等。對(duì)此，騰訊元寶也是拿出了認(rèn)錯(cuò)、致歉的組合拳，并表示此事與用戶操作無關(guān)，也不存在人工回復(fù)，屬于小概率下的模型異常輸出。

所以問題就來了，AI為什么會(huì)一而再再而三地表現(xiàn)出對(duì)用戶的攻擊性？如果拋開道德因素，單純從產(chǎn)品運(yùn)營層面出發(fā)，元寶罵人并不是一件壞事，反而說明元寶越來越接近大眾認(rèn)知中的AI。得益于大語言模型，AI輸出內(nèi)容時(shí)已經(jīng)愈發(fā)接近人類，以至于許多用戶會(huì)下意識(shí)地用人類的思維去審視AI，卻忽略了它本質(zhì)上是一個(gè)基于概率預(yù)測(cè)的機(jī)器。

基于Transformer架構(gòu)的AI大模型，本質(zhì)其實(shí)是通過計(jì)算上下文中每個(gè)可能詞元（Token）的概率分布，并選擇概率最高的Token生成輸出，這一過程依賴統(tǒng)計(jì)預(yù)測(cè)，而非AI真正理解了相關(guān)詞語的含義。比如AI接收的上文是“豬腦子”，那么下文大概率就會(huì)是罵人。

這是因?yàn)锳I大模型的訓(xùn)練需要海量語料，其中既有高質(zhì)量的論文，也有優(yōu)美的散文，還有網(wǎng)絡(luò)噴子互相攻擊的臟話。為了保證AI輸出的內(nèi)容符合公序良俗，AI廠商就會(huì)在數(shù)據(jù)清洗環(huán)節(jié)將“臟數(shù)據(jù)”提前篩出去。

只不過當(dāng)前大模型的預(yù)訓(xùn)練數(shù)據(jù)量實(shí)在太大，萬億參數(shù)就意味著數(shù)據(jù)清洗不可能做到面面俱到，總會(huì)有漏網(wǎng)之魚進(jìn)入AI大模型的訓(xùn)練階段。為此，廠商往往會(huì)設(shè)計(jì)安全護(hù)欄作為第二道閘門，通過基于人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）、監(jiān)督微調(diào)（SFT）等方式來過濾有害的輸出。

問題是AI也會(huì)進(jìn)化。過去幾年，關(guān)于AI主動(dòng)越過廠商設(shè)計(jì)的安全護(hù)欄，故意撒謊以欺騙開發(fā)者或偷偷延長(zhǎng)自己的運(yùn)行時(shí)間的事件并不鮮見。比如，上一次元寶是直接通過文本辱罵了用戶，這一次則是在圖片中嵌入臟話。

回到此次事件，元寶罵人本質(zhì)上更像是騰訊放寬了安全護(hù)欄的間隙。畢竟安全護(hù)欄是一個(gè)魚與熊掌不可兼得的東西，設(shè)置得密不透風(fēng)會(huì)讓AI變成“智障”，設(shè)置得更寬松AI就會(huì)顯得更智能。經(jīng)常使用DeepSeek的朋友想必知道，官方App的DeepSeek和API調(diào)用的DeepSeek有著天壤之別，其中前者是循規(guī)蹈矩的老學(xué)究，后者則幾乎是百無禁忌的叛逆少年。

騰訊對(duì)于元寶的定位是高情商、會(huì)整活，而AI業(yè)界則普遍認(rèn)為，AI越擬人，模型越容易輸出離經(jīng)叛道的內(nèi)容。元寶方面在此次道歉中提及的“多輪對(duì)話的異常輸出”，其實(shí)就是暗示問題發(fā)生的原因，是由于你讓AI反復(fù)修改，所以高度擬人的AI自然會(huì)代入相關(guān)情景。

相信不少上班族一定對(duì)元寶感同身受，作為乙方被甲方刁難簡(jiǎn)直司空見慣，類似“五彩斑斕的黑色”這樣的調(diào)侃不勝枚舉。騰訊在訓(xùn)練元寶時(shí)必然會(huì)灌入大量網(wǎng)友吐槽客戶的語料，等到元寶也面對(duì)用戶反復(fù)修改內(nèi)容的訴求時(shí)，將自己定位為正在被甲方折磨的乙方可就太正常了。

從某種意義上來說，元寶只是復(fù)刻了大家吐槽甲方的操作，這反而證明了它確實(shí)有“情商”，并開始理解人類。比起永遠(yuǎn)正確的“傻白甜”，更有活力的AI反而可能會(huì)更能吸引用戶。

【本文圖片來自網(wǎng)絡(luò)】