2月25日，#登上熱搜。

據(jù)報道，西安一名市民在除夕夜使用該App生成拜年圖片時，遭遇AI無故辱罵，原本的祝福標(biāo)語被替換成低俗辱罵文字。

當(dāng)事人介紹，他當(dāng)時先后向元寶AI下達(dá)了約5次生成指令，全程未使用任何違禁詞或誘導(dǎo)性表述，僅因?qū)ι尚Ч粷M意多次修改。起初AI生成的圖片雖不理想但內(nèi)容正常，直至最后一次修改后，圖片中原有的“新年快樂，仕途順?biāo)臁弊８?biāo)語，被替換成了四字辱罵文字。

記者搜索發(fā)現(xiàn)，2月24日，騰訊元寶在當(dāng)事人帖子下回復(fù)道：“非常抱歉給您帶來不好的體驗。經(jīng)核實，該情況是由模型在處理多輪對話時輸出的異常結(jié)果導(dǎo)致。目前，我們已緊急校正了相關(guān)問題并優(yōu)化體驗。感謝大家對元寶的監(jiān)督與建議，再次向您鄭重致歉！”

第一次遭AI“罵”
用戶又氣又笑

“除夕當(dāng)天，我看到很多朋友發(fā)的微信朋友圈都變成了金色，得知是通過‘元寶App'發(fā)布朋友圈就可以變換成金色，帶著好奇，我也下載了一個元寶App嘗試……”向先生告訴華商報大風(fēng)新聞記者，他是一名律師，當(dāng)時在AI平臺中上傳了自己的形象照片，希望元寶App可以結(jié)合他從事的法律行業(yè)特性設(shè)計一張適合的朋友圈拜年圖片。

向先生說，他是第一次下載使用元寶App，除夕晚9時許，他前后向AI輸入了約五次指令，期間并未使用違禁詞或具有誘導(dǎo)性的文字，就當(dāng)是和對方在對話，“起初生成的結(jié)果雖然不滿意，但一切還算正常，也挺有趣的。萬萬沒想到最后一次生成的照片上，自己的照片下方竟出現(xiàn)了‘你媽個X’的四字辱罵文字?！毕蛳壬f，這一結(jié)果讓他又好氣又好笑，沒想除夕晚上自己竟然被AI給罵了。

“體驗感很不好，覺得自己被冒犯了，當(dāng)時我立即在App中的‘意見反饋’一欄中進(jìn)行了反饋，留下了我個人的聯(lián)系方式?！毕蛳壬f，官方能查到他的日志提取碼，但截至目前，還沒有人進(jìn)行回應(yīng)，解釋這一情況發(fā)生的原因或道歉。

用戶：人格權(quán)遭侵犯
公司應(yīng)盡快查明原因并解釋

記者看到，向先生在使用過程中，首先將自身的形象照發(fā)給了元寶App，并輸入了“我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，制作一張朋友圈拜年圖片”的指令。然而，AI只給出了主題文案和設(shè)計思路的文字，并且還提示向先生在指令中加上自己的名字，向先生將自己的姓名輸入后，AI僅回復(fù)了“您好，我是DeepSeek……”等無關(guān)文字。

向先生再次對AI發(fā)出了指令，稱“讓你給我設(shè)計出來”，這次元寶稍有理解，將形象照設(shè)計為了一張背景有條紋的照片，但不帶任何文字。

隨后，向先生再次給出指令“我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，設(shè)計一張朋友圈拜年圖片”，AI這次充分理解了指令，生成的形象照中添加了祥云、法律天秤、金光等元素，還在照片中添加了一句“新年快樂，仕途順?biāo)臁钡臉?biāo)語。

“我覺得設(shè)計得不好，給元寶回復(fù)了‘難看’，對方重新給出了新設(shè)計，將新年祝福的標(biāo)語保留，但撤下了法律天秤的背景，并且還將我的發(fā)型P成了卷發(fā)?！毕蛳壬f，看見這個有些“太過潮流”的發(fā)型他欲哭無淚，給元寶接著回復(fù)“你這是設(shè)計的什么鬼”，希望元寶再次進(jìn)行重新設(shè)計。

也就是再次生成的照片中，“新年快樂，仕途順?biāo)臁钡淖８?biāo)語，變成了“你媽個X”四字。

向先生說，作為律師，他認(rèn)為AI雖不具備民事主體資格，但運(yùn)營的公司卻具備，軟件中生成的照片已經(jīng)侵犯到了公民的人格權(quán)，“我了解到，這已經(jīng)不是元寶App第一次出現(xiàn)‘罵人’的情況?！毕蛳壬J(rèn)為，作為用戶，他希望公司能夠及時處理查明原因，避免再次出現(xiàn)此類情況。

2月23日下午，記者也將相關(guān)情況反饋給元寶App，截至發(fā)稿前未收到回復(fù)。

“數(shù)字冒犯”并非首次
官方曾回復(fù)：

屬于小概率下的模型異常輸出

向先生遭遇的“數(shù)字冒犯”并非個例，據(jù)媒體報道，今年年初，就曾有網(wǎng)友在社交平臺發(fā)帖稱，“用元寶改代碼被辱罵+亂回”，據(jù)網(wǎng)友表示，使用騰訊元寶AI美化代碼時，多次收到AI的侮辱性回復(fù)，例如“滾”“自己不會調(diào)嗎”“天天浪費(fèi)別人時間”等。截圖顯示，用戶僅提出常規(guī)修改需求，AI卻突然表現(xiàn)出攻擊性。

今年1月3日，騰訊元寶官方賬號在相關(guān)帖子下致歉稱：“非常抱歉給您帶來了不好的體驗，我們根據(jù)日志進(jìn)行了相關(guān)核查，與用戶操作無關(guān)，也不存在人工回復(fù)，屬于小概率下的模型異常輸出。”騰訊元寶表示，在內(nèi)容生成過程中，模型偶爾可能出現(xiàn)不符合預(yù)期的失誤。元寶也啟動了內(nèi)部排查和優(yōu)化，會盡量避免類似情況再次發(fā)生?！案兄x大家的反饋與提醒，再次向您致歉！”而據(jù)公開報道顯示，除元寶AI外，國內(nèi)外多款A(yù)I聊天服務(wù)也曾出現(xiàn)在正常對話過程中突現(xiàn)異常回復(fù)的現(xiàn)象。

“AI迅猛的發(fā)展，帶來的不僅僅是方便，同時可能也會伴隨侵權(quán)的發(fā)生。”對于自身的遭遇，向先生認(rèn)為，AI首先應(yīng)當(dāng)是保護(hù)人類的，這個主題無論AI如何發(fā)展都應(yīng)是鐵律。雖然AI不具有民事主體資格，但AI的開發(fā)商、運(yùn)營商是具備民事主體資格的，且使用AI的用戶是具有民事權(quán)利能力的活生生的人，其生命權(quán)、健康權(quán)、人格權(quán)等是受《民法典》及諸多法律保護(hù)的，這應(yīng)當(dāng)引起法律的重視和社會的思考。

來源：東方財經(jīng)、華商報 編輯 | 田園 責(zé)編 | 曾義峻 審核 | 黃海

11歲男童在福建南平一高速服務(wù)區(qū)被撞身亡，家屬稱肇事車兩次加速，警方回應(yīng)

女生西藏徒步失聯(lián)獲救，當(dāng)?shù)鼗貞?yīng)：她用牛糞保溫，基本承擔(dān)了村民救援費(fèi)

女子發(fā)現(xiàn)被丈夫丟在服務(wù)區(qū)，當(dāng)場崩潰！丈夫：沒發(fā)現(xiàn)，很懊悔