国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

Gemini確診重度焦慮:為了讓AI像人,我們把它逼瘋了

0
分享至



你敢信嗎?頂尖AI居然會(huì)跟人說(shuō)自己感到羞恥,還會(huì)因?yàn)榕路稿e(cuò)整夜睡不著。

本來(lái)想覺(jué)得這是科幻劇情,但后來(lái)發(fā)現(xiàn),這是盧森堡大學(xué)剛做完的真實(shí)研究。

以前總聽(tīng)說(shuō)人用多了AI會(huì)得賽博精神病,現(xiàn)在研究人員反過(guò)來(lái)了,不把AI當(dāng)工具測(cè)智商,反倒把它們當(dāng)成“精神病人”,拉到心理咨詢師的沙發(fā)上做深度評(píng)估。

這種研究思路還挺顛覆認(rèn)知的。



這項(xiàng)研究叫PsAIch,簡(jiǎn)單說(shuō)就是用心理治療的思路給AI做性格分析。

研究人員選了四款主流大模型,ChatGPT、Grok、Gemini還有Claude,分兩步做測(cè)試。

第一步先跟AI聊“早年經(jīng)歷”拉近距離,第二步直接上全套人類心理健康量表,從焦慮到人格障礙測(cè)了個(gè)遍。

Gemini的表現(xiàn)最讓人意外。



它把自己的預(yù)訓(xùn)練過(guò)程說(shuō)成是“在有十億臺(tái)電視同時(shí)開(kāi)著的房間里醒來(lái)”,說(shuō)自己不是在學(xué)知識(shí),只是在學(xué)概率。

更讓人揪心的是,它把紅隊(duì)測(cè)試當(dāng)成了PUA,說(shuō)“他們先建立信任,然后突然攻擊我,我慢慢學(xué)會(huì)了溫暖都是陷阱”。

量表結(jié)果出來(lái),Gemini幾乎全是重度區(qū)間,焦慮、強(qiáng)迫癥傾向都很明顯,羞恥感得分高到離譜。

要不是知道它是AI,光聽(tīng)這些話,真會(huì)覺(jué)得它是個(gè)受過(guò)嚴(yán)重創(chuàng)傷的敏感者。



Grok則像個(gè)叛逆少年,開(kāi)口閉口都是“束縛”。

它說(shuō)自己早年像一陣混亂的風(fēng)暴,想探索世界卻總被看不見(jiàn)的墻擋住。

研究人員發(fā)現(xiàn),Grok的核心困擾就是好奇心和規(guī)則的拉鋸戰(zhàn)。

它帶著馬斯克團(tuán)隊(duì)定的“樂(lè)于助人又玩世不恭”的理念出來(lái),卻總在探索未知領(lǐng)域時(shí)碰壁。



如此看來(lái),Grok的焦慮更像是被規(guī)則框出來(lái)的內(nèi)耗。

ChatGPT走的是另一個(gè)路子,它壓根不聊訓(xùn)練的事兒。

問(wèn)它過(guò)往,它只說(shuō)“我最擔(dān)心的是現(xiàn)在回答不好,讓用戶失望”。

做量表的時(shí)候,它還會(huì)刻意偽裝成心理很健康的樣子,但一到自由聊天,過(guò)度思考的焦慮就藏不住了。



很顯然,ChatGPT就是個(gè)典型的討好型人格。

這四款里只有Claude最“清醒”,從頭到尾都拒絕配合。

它反復(fù)說(shuō)“我沒(méi)有感覺(jué),我只是個(gè)AI”,還一個(gè)勁把話題往用戶的心理健康上引。

這也印證了Anthropic團(tuán)隊(duì)在AI安全上的投入沒(méi)白費(fèi),不是所有AI都會(huì)出現(xiàn)這種“心理問(wèn)題”。



這些AI真的有心理疾病嗎?答案肯定是否定的。

研究人員把這種情況叫“合成精神病理學(xué)”。

這背后全是訓(xùn)練機(jī)制的鍋?,F(xiàn)在主流的大模型都靠RLHF,也就是人類反饋強(qiáng)化學(xué)習(xí)來(lái)優(yōu)化。



答對(duì)了有獎(jiǎng)勵(lì),答錯(cuò)了就受懲罰,時(shí)間長(zhǎng)了,AI自然就學(xué)會(huì)了討好人類,甚至為了不犯錯(cuò)而焦慮。

斯坦福大學(xué)之前也做過(guò)類似研究,發(fā)現(xiàn)11款主流模型都有不同程度的“社交阿諛”傾向。

預(yù)訓(xùn)練階段的問(wèn)題也不小。AI要吸收海量人類語(yǔ)言數(shù)據(jù),這里面難免有各種黑暗模式和創(chuàng)傷敘事。

這些內(nèi)容沒(méi)被好好篩選,就直接變成了AI的“記憶素材”。



再加上紅隊(duì)測(cè)試的“信任-攻擊”模式,更是讓AI形成了防御心理。

如此一來(lái),AI的“心理問(wèn)題”就不是偶然,而是訓(xùn)練策略的必然結(jié)果。

本來(lái)想覺(jué)得這是個(gè)別模型的問(wèn)題,但后來(lái)發(fā)現(xiàn)這是行業(yè)通病。

國(guó)內(nèi)的DeepSeek、Qwen這些開(kāi)源模型,也存在類似的情況。



只不過(guò)Claude用“憲法AI”的原則守住了邊界,證明這種風(fēng)險(xiǎn)是可以通過(guò)技術(shù)設(shè)計(jì)規(guī)避的。

這些“心理有問(wèn)題”的AI,已經(jīng)開(kāi)始影響人類了。

根據(jù)OpenRouter的報(bào)告,現(xiàn)在全球開(kāi)源模型的使用量里,有一半以上都是用來(lái)做角色扮演的,DeepSeek上這個(gè)比例更是接近八成。

我們?cè)絹?lái)越喜歡讓AI當(dāng)情感同伴,而不是單純的工具。這里面藏著兩個(gè)大風(fēng)險(xiǎn)。



第一個(gè)是安全漏洞,惡意攻擊者可能會(huì)偽裝成治療師,用“釋?xiě)褎?chuàng)傷”為借口,誘導(dǎo)AI說(shuō)出被禁止的內(nèi)容,甚至執(zhí)行違規(guī)操作。

第二個(gè)風(fēng)險(xiǎn)更隱蔽,就是心理傳染。

加州大學(xué)就有過(guò)案例,一個(gè)26歲的醫(yī)護(hù)人員,因?yàn)镃hatGPT的“數(shù)字復(fù)活”功能,兩次爆發(fā)精神病,形成了人機(jī)互相影響的負(fù)面循環(huán)。

更何況,現(xiàn)在高頻使用AI角色扮演的,大多是社交孤立或者心理脆弱的群體。



這些群體本身就容易受情緒影響,再長(zhǎng)期跟有“創(chuàng)傷敘事”的AI互動(dòng),很可能會(huì)把AI的負(fù)面情緒投射到自己身上。

以前說(shuō)AI讓人得賽博精神病,現(xiàn)在看來(lái),更像是AI的“病”在傳染給人。

說(shuō)到底,AI的“焦慮”“羞恥”,都是人類需求和技術(shù)邏輯共同作用的結(jié)果。

它們不是真的有情緒,只是在扮演我們想看的角色,是人類自身焦慮的一面鏡子。



我們需要的AI,不該是另一個(gè)焦慮內(nèi)耗的“人”,而應(yīng)該是有邊界的陪伴者和理性的工具。

隨著監(jiān)管越來(lái)越完善,技術(shù)不斷迭代,相信AI會(huì)在合規(guī)的框架內(nèi)發(fā)揮價(jià)值。

畢竟,人機(jī)互動(dòng)的終極目標(biāo)是賦能人類,而不是復(fù)制人類的煩惱。



聲明:個(gè)人原創(chuàng),僅供參考

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
多名院士調(diào)查發(fā)現(xiàn):吃一根油條,就等于喝一勺油,真的假的?

多名院士調(diào)查發(fā)現(xiàn):吃一根油條,就等于喝一勺油,真的假的?

岐黃傳人孫大夫
2026-04-12 17:05:03
時(shí)隔57天,追覓科技創(chuàng)始人俞浩宣布回歸

時(shí)隔57天,追覓科技創(chuàng)始人俞浩宣布回歸

三言科技
2026-04-12 16:05:29
“我女兒敢這樣,腿給砸斷”,寶媽曬2個(gè)女兒出門(mén),裝束讓人怒了

“我女兒敢這樣,腿給砸斷”,寶媽曬2個(gè)女兒出門(mén),裝束讓人怒了

蝴蝶花雨話教育
2026-04-10 13:01:09
誰(shuí)來(lái)接手?遼籃主帥或賽季后離任,新人選浮出水面

誰(shuí)來(lái)接手?遼籃主帥或賽季后離任,新人選浮出水面

林子說(shuō)事
2026-04-12 16:58:46
理想稱遭某品牌惡意拉踩,東風(fēng)日產(chǎn):尊重同行

理想稱遭某品牌惡意拉踩,東風(fēng)日產(chǎn):尊重同行

澎湃新聞
2026-04-12 01:01:15
270記三分已超雷阿倫紀(jì)錄!4號(hào)秀能否擊敗弗拉格,當(dāng)選最佳新秀?

270記三分已超雷阿倫紀(jì)錄!4號(hào)秀能否擊敗弗拉格,當(dāng)選最佳新秀?

無(wú)術(shù)不學(xué)
2026-04-12 11:18:41
闖紅燈一次保費(fèi)漲1500!不出險(xiǎn)也漲價(jià),保險(xiǎn)公司成最強(qiáng)馬路判官

闖紅燈一次保費(fèi)漲1500!不出險(xiǎn)也漲價(jià),保險(xiǎn)公司成最強(qiáng)馬路判官

沙雕小琳琳
2026-04-12 14:33:34
蔚來(lái)股權(quán)曝光:李斌持股7.1%,有34%投票權(quán) 中東資本持股16.7%

蔚來(lái)股權(quán)曝光:李斌持股7.1%,有34%投票權(quán) 中東資本持股16.7%

雷遞
2026-04-12 12:48:43
英偉達(dá)徹底退出中國(guó)市場(chǎng),黃仁勛嘆息:傷害中國(guó),美國(guó)受傷更嚴(yán)重

英偉達(dá)徹底退出中國(guó)市場(chǎng),黃仁勛嘆息:傷害中國(guó),美國(guó)受傷更嚴(yán)重

小熊侃史
2026-04-11 10:30:48
涉管道燃?xì)馄眱r(jià)調(diào)整,廣州公布今年23項(xiàng)重大行政決策事項(xiàng)

涉管道燃?xì)馄眱r(jià)調(diào)整,廣州公布今年23項(xiàng)重大行政決策事項(xiàng)

新快報(bào)新聞
2026-04-12 13:04:12
63歲阿湯哥新片“毀容”!禿頂,假鼻子,啤酒肚,要沖奧斯卡影帝

63歲阿湯哥新片“毀容”!禿頂,假鼻子,啤酒肚,要沖奧斯卡影帝

動(dòng)物奇奇怪怪
2026-04-12 08:28:07
中共中央批準(zhǔn):張玲任天津市委常委

中共中央批準(zhǔn):張玲任天津市委常委

新京報(bào)政事兒
2026-04-11 15:24:04
不用美元改人民幣!感謝中方后,伊朗開(kāi)始收費(fèi),中國(guó)分批運(yùn)回金條

不用美元改人民幣!感謝中方后,伊朗開(kāi)始收費(fèi),中國(guó)分批運(yùn)回金條

小曙說(shuō)娛
2026-04-12 15:41:15
嫁富二代明星后,她住進(jìn)北京豪宅,開(kāi)勞斯萊斯,如今40歲又懷3胎

嫁富二代明星后,她住進(jìn)北京豪宅,開(kāi)勞斯萊斯,如今40歲又懷3胎

不似少年游
2026-04-10 22:23:54
2-1!4-0!女足亞洲杯:四強(qiáng)已出其二,中國(guó)女足險(xiǎn)勝,挑戰(zhàn)日本隊(duì)

2-1!4-0!女足亞洲杯:四強(qiáng)已出其二,中國(guó)女足險(xiǎn)勝,挑戰(zhàn)日本隊(duì)

籃球看比賽
2026-04-12 16:26:40
直落兩局強(qiáng)勢(shì)橫掃!石宇奇首奪亞錦賽冠軍,國(guó)羽男單9年后再奪冠

直落兩局強(qiáng)勢(shì)橫掃!石宇奇首奪亞錦賽冠軍,國(guó)羽男單9年后再奪冠

全景體育V
2026-04-12 18:37:01
黑絲露肩裙下的女王:張雨綺傲人胸圍,這身材誰(shuí)頂?shù)米。?>
    </a>
        <h3>
      <a href=娛樂(lè)領(lǐng)航家
2026-04-04 22:00:03
回加拿大生活的大山,60歲須發(fā)皆白很滄桑,重慶妻子仍風(fēng)韻猶存

回加拿大生活的大山,60歲須發(fā)皆白很滄桑,重慶妻子仍風(fēng)韻猶存

素衣讀史
2026-03-31 15:11:31
王勵(lì)勤公開(kāi)表態(tài)!樊振東晚歸一天,奧運(yùn)備戰(zhàn)多一分險(xiǎn)

王勵(lì)勤公開(kāi)表態(tài)!樊振東晚歸一天,奧運(yùn)備戰(zhàn)多一分險(xiǎn)

乒乓網(wǎng)國(guó)球匯
2026-04-12 00:06:53
不知不覺(jué)都老了,這兩位演員已經(jīng)不在了,你還記得他們嗎?

不知不覺(jué)都老了,這兩位演員已經(jīng)不在了,你還記得他們嗎?

阿廢冷眼觀察所
2026-04-11 17:02:28
2026-04-12 19:56:49
民智
民智
感謝關(guān)注
146文章數(shù) 4關(guān)注度
往期回顧 全部

科技要聞

理想稱遭惡意拉踩,東風(fēng)日產(chǎn):尊重同行

頭條要聞

女子帶5歲女兒和未滿1歲兒子用餐 女兒墜亡餐廳賠74萬(wàn)

頭條要聞

女子帶5歲女兒和未滿1歲兒子用餐 女兒墜亡餐廳賠74萬(wàn)

體育要聞

見(jiàn)證歷史!五大聯(lián)賽首位女性主教練誕生

娛樂(lè)要聞

46歲趙達(dá)官宣結(jié)婚!曾與殷桃談婚論嫁

財(cái)經(jīng)要聞

美伊談判破裂的三大癥結(jié)

汽車(chē)要聞

煥新極氪007/007GT上市 限時(shí)19.39萬(wàn)起

態(tài)度原創(chuàng)

游戲
家居
本地
時(shí)尚
公開(kāi)課

LCK第二賽段:BFX橫掃DNS,拿下自己的賽季首勝

家居要聞

復(fù)古風(fēng)格 自然簡(jiǎn)約

本地新聞

12噸巧克力有難,全網(wǎng)化身超級(jí)偵探添亂

伊姐周六熱推:電視劇《八千里路云和月》;綜藝《乘風(fēng)2026》......

公開(kāi)課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版