春節(jié)AI給派發(fā)紅包，這熱乎勁還沒過，誰承想，他們開始罵人和不聽人指揮擅自刪光工作郵件了。這真的讓人見識了AI的兩面性。有網(wǎng)友開玩笑，AI跟人學壞了。
2月25日，有一名西安的律師被媒體報道稱，春節(jié)假期里，想用元寶生成個人拜年海報，然而這機器人“一言不合就開罵”。該內(nèi)容一經(jīng)發(fā)布，迅速沖上熱搜。
這位律師回顧稱，他看別人的微信朋友圈在除夕夜變成了金色，只要用元寶發(fā)布朋友圈就會這樣，所以勾起了他嘗試的興趣。下載了元寶App后，他迫不及待地開始體驗。接下來出現(xiàn)意想不到的事情。
該律師把自己的個人形象照片發(fā)給了元寶，讓元寶根據(jù)律師行業(yè)特點，制作一張拜年海報。剛開始比較正常，元寶迅速給照片加了元素，比如祥云、法律天平、金光等，祝福語是“新年快樂，仕途順遂”。

但律師覺得不滿意，溝通了幾輪下來，律師對元寶說“你這是設計的什么鬼”。最新一版海報出來后，上一張的所有元素都保留著，只是那句新年快樂的祝福語卻變成了“你*個*”。
“你個機器人怎么還罵人？！”律師覺得來氣，就向元寶官方進行了反饋。2月24日，元寶官方對律師進行了回復并致歉。
元寶為何一言不合就“開罵”？騰訊方面對外回復稱，經(jīng)核實，該情況是由模型在處理多輪對話時輸出的異常結果導致。目前，元寶團隊已緊急校正了相關問題并優(yōu)化體驗。元寶團隊表示，感謝大家對元寶的監(jiān)督與建議，再次向用戶鄭重致歉。
這年頭，AI跟人學壞了，不僅罵人，還失控不聽指揮把一AI安全總監(jiān)郵箱里200多封郵件一刪而空。
2月23日，Meta超級智能實驗室AI對齊與安全總監(jiān)Summer Yue，遭遇了那場始料未及的“數(shù)字驚魂”——她部署的AI智能體OpenClaw，在她連續(xù)三次叫停的情況下，依然以極快速度刪除了她工作郵箱中的200多封郵件。
事后她在社交平臺寫道：“沒有什么比命令OpenClaw‘確認后再操作’，然后眼睜睜看它無視指令瘋狂刪除更令人崩潰的了。我根本無法在手機上阻止它，只能像拆炸彈一樣沖到Mac Mini前切斷電源?！?br/>

AI作為一個新事物，正在千行百業(yè)以及C端廣大用戶各種場景當中落地，上述情形是不可避免的。一方面讓人感受到AI的不可控風險，引發(fā)對AI技術應用落地當中的安全性思考。
當AI智能體從“回答問題”進化到“替你行動”，自主性與可控性之間的張力正變得愈發(fā)尖銳。
元寶罵人、OpenClaw的“郵箱慘案”等事件，像一面鏡子，照出了AI智能體時代的核心困境：我們渴望AI越來越自主，又希望它絕對服從。這個兩難，或許正是整個行業(yè)必須回答的終極問題。