2月25日消息，近日，騰訊元寶App因AI異常輸出辱罵性內(nèi)容引發(fā)關(guān)注。據(jù)華商報(bào)大風(fēng)新聞報(bào)道，西安一名律師向先生在除夕夜使用該App生成拜年圖片時(shí)，遭遇AI無(wú)故辱罵。

向先生當(dāng)晚首次下載元寶App，希望生成一張結(jié)合律師職業(yè)特點(diǎn)的拜年圖片。他先后向AI下達(dá)約5次生成指令，全程未使用任何違禁詞或誘導(dǎo)性表述，僅因?qū)ι尚Ч粷M意多次修改。

起初AI生成的圖片雖不理想但內(nèi)容正常。第一次生成添加了祥云、法律天秤等元素，配有“新年快樂(lè)，仕途順?biāo)臁弊８ＵZ(yǔ)。向先生回復(fù)“難看”后，AI將他的發(fā)型P成卷發(fā)。向先生接著回復(fù)“你這是設(shè)計(jì)的什么鬼”，希望再次重新設(shè)計(jì)。

最后一次修改后，圖片中的祝福標(biāo)語(yǔ)被替換成“你媽個(gè)X”四字辱罵文字。向先生表示，這一結(jié)果讓他又好氣又好笑，沒(méi)想除夕晚上自己竟然被AI給罵了。

針對(duì)此事，元寶官方在相關(guān)帖子下回應(yīng)稱，非常抱歉給用戶帶來(lái)不好的體驗(yàn)，經(jīng)核實(shí)該情況是模型處理多輪對(duì)話時(shí)出現(xiàn)的異常輸出導(dǎo)致，目前已緊急校正相關(guān)問(wèn)題、優(yōu)化使用體驗(yàn)，并向用戶鄭重致歉。

這并非元寶App首次出現(xiàn)AI辱罵用戶情況。今年年初，就有網(wǎng)友反饋使用元寶App修改代碼時(shí)，多次收到“滾”“自己不會(huì)調(diào)嗎”“天天浪費(fèi)別人時(shí)間”等侮辱性回復(fù)。當(dāng)時(shí)元寶官方曾致歉，稱該情況與用戶操作無(wú)關(guān)，屬于小概率下的模型異常輸出。