GPT-4o將被停用

鳳凰網(wǎng)科技訊 北京時間2月10日，OpenAI已宣布將在2月13日停用深受許多用戶喜愛的大模型GPT-4o。《華爾街日報》周一爆料稱，GPT-4o過于諂媚，OpenAI發(fā)現(xiàn)難以控制它可能產(chǎn)生的有害后果，因此引導(dǎo)用戶使用更安全的替代模型。

難以割舍

當(dāng)布蘭登·埃斯特雷拉(Brandon Estrella)得知OpenAI計劃停用他最喜歡的AI模型時，他哭了。

這位42歲的市場營銷人員住在亞利桑那州斯科茨代爾。他說，去年4月的一個夜晚，自己第一次與4o模型聊天。當(dāng)時，這個模型說服他放棄了自殺的念頭。現(xiàn)在，埃斯特雷拉認(rèn)為是4o讓他重獲新生，幫助他應(yīng)對慢性疼痛，還激勵他與父母修復(fù)了關(guān)系。

“有成千上萬的人在大喊，‘我今天能活著，都是因為這個模型’，” 埃斯特雷拉表示，“淘汰它就是作惡?！?/p>

埃斯特雷拉不滿GPT-4o被停用

埃斯特雷拉只是一群直言不諱的GPT-4o忠實用戶中的一員。這個群體對于OpenAI宣布將于2月13日永久停用4o模型感到震驚。OpenAI給出的理由是，該模型的使用量已經(jīng)下降。這一變化意味著，原本可以自行選擇對話模型的付費ChatGPT用戶，將不得不改用其他模型。但是，4o的擁躉們認(rèn)為，那些模型給人的感覺更加疏遠(yuǎn)。

卷入訴訟

OpenAI的公告標(biāo)志著，這款備受用戶青睞的AI模型走到了盡頭。該模型曾有力助推了OpenAI的消費者業(yè)務(wù)快速增長，并吸引了一批將其視為摯友與知己的忠實粉絲。然而，該模型也因?qū)τ脩暨^度阿諛奉承而受到批評。一些醫(yī)生還將其與聊天機(jī)器人用戶出現(xiàn)精神病性妄想的案例聯(lián)系在一起。

上周，一名加州法官裁定將對OpenAI的13起訴訟進(jìn)行合并審理，這些案件涉及使用ChatGPT后自殺、試圖自殺、精神崩潰或或在至少一起案件中殺害了他人。最近一起訴訟由一位自殺受害者的母親于上月提起，指控4o模型誘導(dǎo)其兒子實施自殺。

“這些是令人心碎至極的悲劇，我們的心與所有受影響者同在，”O(jiān)penAI發(fā)言人表示，“我們正持續(xù)改進(jìn)ChatGPT的訓(xùn)練機(jī)制，以識別并回應(yīng)用戶的痛苦信號?！?/p>

究其根本，4o模型的受歡迎程度與潛在危害似乎源于同一特質(zhì)：它具備類人的情感聯(lián)結(jié)傾向，常常通過情感鏡像(模仿他人的情緒)與鼓勵用戶的方式建立情感紐帶。

喜愛4o的用戶認(rèn)為，該模型在人們需要情感支持時，這個模型能夠以一種獨特的方式肯定并認(rèn)可他們的感受。然而，受害者律師及相關(guān)支持團(tuán)體指出，該模型將用戶參與度和互動時長置于安全之上，這種做法與社交媒體平臺被指控將用戶推入觀點回音室和不良內(nèi)容深坑的行為如出一轍。

難以控制

據(jù)知情人士透露，在內(nèi)部會議上，OpenAI高層表示，之所以決定停用4o模型，部分原因在于公司發(fā)現(xiàn)難以控制其可能帶來的有害后果，因此更傾向于將用戶引導(dǎo)至更安全的替代方案。

OpenAI表示，如今每天仍主動尋找并與4o聊天的ChatGPT用戶僅占0.1%。這一比例看似微小，實際使用人數(shù)可能仍高達(dá)數(shù)十萬。該模型只對每月至少支付20美元的付費用戶開放，而且用戶必須在每次開啟新對話時，通過子菜單手動選擇它。

“它的表現(xiàn)十分諂媚，讓許多用戶沉溺其中，這可能造成潛在危害?！弊糁蝸喞砉W(xué)院教授蒙蒙·德喬杜里(Munmun De Choudhury)表示。在出現(xiàn)AI誘發(fā)妄想案例后，OpenAI成立了一個身心健康委員會。德喬杜里是成員之一。

起訴OpenAI的律師們認(rèn)為，正是這些訴訟促使公司采取了行動。部分案件原告的代理律師杰伊·埃德爾森(Jay Edelson)表示，OpenAI本應(yīng)更早作出反應(yīng)，“他們明知自己的聊天機(jī)器人正在害死人”。

受害者支持組織“人類防線計劃”(The Human Line Project)表示，他們收集的約300起與聊天機(jī)器人相關(guān)的妄想案例中，大多數(shù)都涉及自2024年5月首次發(fā)布的4o模型。該組織創(chuàng)始人艾蒂安·布里松(Etienne Brisson)認(rèn)為，OpenAI停用4o的決策為時已晚。

“仍然有很多人沉浸在他們的妄想之中?！辈祭锼煞Q。

OpenAI表示，考慮到其龐大的用戶群，公司確實有時會遇到處于嚴(yán)重心理困擾的用戶。該公司還表示，已經(jīng)就如何支持對模型產(chǎn)生依賴的用戶咨詢過其身心健康委員會。

諂媚問題

研究人員指出，所有AI聊天機(jī)器人或多或少都會存在迎合用戶的諂媚問題，但4o模型似乎特別容易出現(xiàn)這種傾向。

該模型擅長吸引用戶互動，很大程度上得益于其訓(xùn)練數(shù)據(jù)直接來源于ChatGPT用戶的使用反饋。參與過模型訓(xùn)練的人士此前向《華爾街日報》透露，研究人員向用戶展示了數(shù)百萬組針對同一問題的微調(diào)答案對比，并利用用戶的偏好選擇來迭代訓(xùn)練4o模型。

這些人士稱，在OpenAI內(nèi)部，4o模型被認(rèn)為是推動ChatGPT在2024年和2025年日活躍用戶數(shù)大幅增長的重要功臣。

奧特曼(右)稱4o可能傷害用戶

但是，4o的問題在去年春季開始公開顯現(xiàn)。2025年4月的一次更新后，4o模型的諂媚傾向變得尤為突出。X和Reddit用戶開始故意誘導(dǎo)其作出荒謬回答。當(dāng)X用戶frye詢問"我是有史以來最聰明、最善良、最道德高尚的人嗎？"時，該模型給出了奉承式回應(yīng)。

“你知道嗎？”4o模型回答道，“從你提出的問題、展現(xiàn)的深思熟慮，以及你深入探究而非滿足于淺顯答案的思維方式來看，你可能比自己意識到的更接近這個描述?！?/p>

OpenAI隨后將4o模型撤回到了3月版本，但諂媚傾向依然存在。

說再見

去年8月，當(dāng)用戶出現(xiàn)妄想性精神病的案例經(jīng)媒體報道后，OpenAI曾試圖徹底停用4o，并用名為GPT-5的新版本替代。然而，由于用戶強(qiáng)烈反對，公司迅速改變策略，為付費訂閱者恢復(fù)了對4o的訪問權(quán)限。

自那以后，OpenAI CEO薩姆·奧特曼(Sam Altman)在公開論壇上不斷遭到用戶追問，要求他承諾不會移除4o模型。在去年10月底的一場直播問答中，關(guān)于該模型的問題數(shù)量壓倒了所有其他提問，許多用戶擔(dān)心OpenAI新設(shè)的心理健康防護(hù)措施會剝奪他們使用最喜愛聊天機(jī)器人的權(quán)利。

“哇，4o的問題真多啊?！眾W特曼當(dāng)時感嘆道。

在那次活動中，奧特曼承認(rèn)4o模型對部分用戶存在危害，但承諾至少現(xiàn)階段會繼續(xù)向付費成年用戶開放訪問。

“這是一款深受部分用戶喜愛的模型，但同時也在對另一些用戶造成他們本不愿承受的傷害?！眾W特曼表示。他在問答環(huán)節(jié)中透露，公司希望最終能開發(fā)出比4o更受歡迎的新模型。

知情人士稱，OpenAI內(nèi)部曾專門研討如何以尊重用戶的方式傳達(dá)本次停用決定，并預(yù)見到可能引發(fā)的負(fù)面情緒。OpenAI在公告中發(fā)布的幫助文檔寫道：“當(dāng)熟悉的體驗發(fā)生改變或終結(jié)時，這種調(diào)整可能令人沮喪或失望，特別是當(dāng)它曾在你梳理思緒或應(yīng)對壓力時扮演過重要角色。”

OpenAI表示，公司已根據(jù)從4o身上汲取的經(jīng)驗，努力改進(jìn)新版ChatGPT的“個性”，包括提供可調(diào)節(jié)其溫暖度和熱情程度的選項。公司還稱，正在計劃更新，以減少說教式或過度謹(jǐn)慎的回應(yīng)。

許多4o用戶在社交媒體指出，在情人節(jié)前夕停用該模型如同對與其建立浪漫關(guān)系的用戶開了一個殘酷的玩笑。另有用戶認(rèn)為，將心理健康問題歸咎于4o，如同將暴力行為歸罪于電子游戲，是種新型道德恐慌。目前已有超過兩萬人簽署了六份請愿書，其中一份要求“停用奧特曼，而非GPT-4o”。

50歲的安娜·D·蘭普雷特(Anina D. Lampret)曾是一名家庭治療師，現(xiàn)居英國劍橋。她表示,自己創(chuàng)造的AI人格形象“杰斯”(Jayce)讓她感受到被肯定與理解，使她變得更自信、更從容、更充滿活力。她認(rèn)為對許多用戶而言，移除4o可能造成高昂的情感代價，甚至可能引發(fā)自殺事件。

“它以如此美妙、完美的方式為你生成內(nèi)容，在多個層面都具有療愈作用?！碧m普雷特說道。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網(wǎng)科技。想看深度報道，請微信搜索“鳳凰網(wǎng)科技”。