国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

奧特曼發(fā)紅色警報,大模型走進死胡同了嗎?

0
分享至



昨天,OpenAI CEO奧特曼發(fā)出了一份內(nèi)部備忘錄,宣布公司進入“Code Red”(紅色警報)緊急狀態(tài)。

表面上看,這是OpenAI針對谷歌、Anthropic這兩位強力競爭對手的應急響應。

但更深層的問題是,OpenAI正在面臨一個整個行業(yè)都無法回避的技術(shù)困境。那就是訓練成本飆升,模型規(guī)模不斷擴大,但性能提升卻越來越有限。

根據(jù)斯坦福大學的《2025年AI指數(shù)報告》,2019年到2022年間,訓練成本每增加10倍,模型在主流基準測試上的性能平均能提升25%-35%。但到了2023年之后,同樣10倍的成本投入,性能提升就只剩下10%-15%。

更糟糕的是,2024年以來,即使訓練成本再翻倍,性能提升往往不足5%,投入產(chǎn)出比正在斷崖式下跌。

各家頭部模型的表現(xiàn)開始趨同,仿佛集體撞上了某種看不見的天花板。

這引發(fā)了一個在AI學術(shù)界和產(chǎn)業(yè)界激烈爭論的問題:大語言模型,是否已經(jīng)走進了死胡同?

01

首先從用戶數(shù)據(jù)來看,OpenAI的領(lǐng)先地位已經(jīng)開始動搖。

谷歌的Gemini 3模型在基準測試上超越了OpenAI,這使得Gemini的月活用戶飆升,谷歌第三季度財報披露,目前Gemini的月活已經(jīng)從7月的4.5億增長到10月的6.5億。

與此同時,Anthropic的Claude也在企業(yè)客戶中越來越受歡迎。根據(jù)OpenRouter的數(shù)據(jù),截至2025年11月末,Claude的周訪問量達0.41億人次,較六周前增長17.1%。



但更要命的消息還在后面。

根據(jù)半導體行業(yè)分析公司SemiAnalysis的爆料,自2024年5月GPT-4o發(fā)布以來,OpenAI的頂尖研究人員就再也沒有成功完成過一次大規(guī)模的全面預訓練。

這意味著GPT-5跟GPT-4o之間,其實沒有經(jīng)歷真正意義上的代際升級,更像是在GPT-4o基礎(chǔ)上做的微調(diào)和優(yōu)化,而不是一個全新訓練出來的模型。

SemiAnalysis還在分析中給OpenAI補了一刀:“預訓練一個前沿模型,是整個AI研發(fā)中最困難、資源最密集的挑戰(zhàn)。而谷歌的TPU平臺已經(jīng)決定性地通過了這個測試,可OpenAI并沒有?!?/p>

預訓練是訓練大語言模型的第一步,也是最關(guān)鍵的一步。在這個階段,模型要在海量的文本數(shù)據(jù)上學習語言的基本規(guī)律,比如語法、語義、事實知識等等。

無法完成大規(guī)模預訓練,就無法升級迭代到下一個時代的模型,這對于OpenAI這種必須保持技術(shù)領(lǐng)先的企業(yè)來說是致命的。

MMLU的跑分進一步佐證了SemiAnalysis的觀點。其全稱為大規(guī)模多任務語言理解(Massive Multitask Language Understanding),是衡量大模型綜合知識與推理能力的核心權(quán)威基準測試。

從結(jié)果來看,GPT-5的MMLU評分只比GPT-4提升了10%-20%。

要知道,Anthropic CEO 達里奧·阿莫迪(Dario Amodei)曾公開表示,2024-2025年期間的大模型,訓練成本是10億到20億美元,是一年前大模型訓練成本的10倍。而GPT-5的成本更是比GPT-4(約 6000萬-1億美元)高了約20-30倍。

面對如此的雙重困境,奧特曼不得不調(diào)整策略,將重心轉(zhuǎn)向優(yōu)化現(xiàn)有產(chǎn)品。

奧特曼在備忘錄中表示,公司需要改進ChatGPT的個性化功能、提高速度和可靠性、擴大其可回答的問題范圍。

為此,OpenAI決定推遲廣告、健康和購物AI代理、名為Pulse的個人助手等其他項目的開發(fā),鼓勵員工臨時調(diào)崗,每天召開專門會議討論ChatGPT的改進。

在此之前,OpenAI曾于2025年10月拉響過“Code Orange”(橙色警報)。

OpenAI內(nèi)部的警報分為三個級別:黃色、橙色、紅色。顏色越紅,就代表事態(tài)越嚴重。而拉響內(nèi)部警報的標準,是根據(jù)OpenAI當前的市場競爭壓力和產(chǎn)品危機。

橙色警報對應明確的競爭威脅或產(chǎn)品危機,核心業(yè)務已出現(xiàn) “被動局面”,比如市場份額被蠶食、用戶流失。需要OpenAI “局部資源傾斜” 應對。

當時OpenAI的做法是成立 “應急優(yōu)化小組”,由產(chǎn)品、技術(shù)、算法核心負責人牽頭,調(diào)配 50% 以上的研發(fā)資源聚焦核心產(chǎn)品。

02

但OpenAI不是唯一陷入瓶頸的公司,整個行業(yè)都在面臨同樣的困境。

從2024年底到2025年初,頂尖大模型的性能提升曲線出現(xiàn)了明顯的平緩。根據(jù)LMSYS Chatbot Arena的盲測數(shù)據(jù),2024年6月時,排名第一和第十的模型之間Elo評分差距超過150分。

但到2025年11月,這個差距已經(jīng)收窄到不足50分。更值得注意的是,幾乎所有主流模型在關(guān)鍵基準測試上的得分都開始集中在一個狹窄的區(qū)間內(nèi)。這種趨勢意味著,即使各家公司投入的資源差異巨大(從數(shù)千萬美元到數(shù)十億美元不等),但最終產(chǎn)出的模型性能卻越來越相似。

在2023年3月,OpenAI剛發(fā)布GPT-4時,其在MMLU測試中的得分確實為86.4%。而當時主流競爭對手的成績大多集中在60%-75%區(qū)間,比如同期的Claude v1在該測試中得分僅為75.6%,LLaMA-65則只有 63.4%。

可是到了2025年9月的MMLU-Pro(MMLU的進階版評測基準,評分標準更嚴格)中,所有的頭部模型都是85%到90%,幾乎沒有任何差別。

從更新的頻率來看,Meta的Llama模型從第二代到第三代間隔約9個月,而Llama 3到計劃推出的Llama 4間隔已超15個月;Anthropic從Claude 3到Claude 4的間隔也長達11個月。

種種跡象都在表明,曾經(jīng)被奉為大語言模型黃金定律的Scaling Law,正在失效。

造成這一結(jié)果的原因,其實就來自于大模型本身。

大模型訓練的核心任務是“預測下一個詞”。

通過在海量文本上反復訓練這個任務,模型逐漸學會了語法、常識、推理能力等。當模型已經(jīng)足夠強,明白語法和常識時,語言本身的不確定性就成為了影響模型輸出結(jié)果的變量。

舉個例子:“他把蘋果放在桌子上,然后它就不見了?!边@里的“它”是指蘋果還是桌子?從語法上講,兩種理解都說得通。要搞清楚“它”指什么,需要的不是更好的語法知識,而是對現(xiàn)實世界的常識判斷。

但如果換一種說法:“他把手機放在桌子上,然后它就倒了?!边@里的“它”可能是手機,也可能是桌子。如果是廉價折疊桌,確實可能因為放了個手機就倒了;如果是手機殼打開了,手機本身也可能倒。沒有足夠的上下文,連人類也很難做出準確判斷。

這種由語言本身的歧義和不確定性造成的誤差,在統(tǒng)計學上叫“不可約誤差”(Irreducible Error),或者“貝葉斯誤差率”(Bayes Error Rate)。

即使你有完美的算法、無限的數(shù)據(jù)和算力,這個誤差也無法消除,它是問題本身固有的特性。



人類語言充滿了這種不確定性。我們平時說話,很多信息靠語境、肢體語言、聲調(diào)、共同背景知識來傳遞。把這些都去掉,只留下純文本,信息損失巨大。

大語言模型訓練的就是這些純文本,所以天生就會面臨不可約誤差的限制。

當模型還比較弱時,它會犯很多低級錯誤,比如語法錯誤、事實錯誤、邏輯錯誤。解決這些可以通過增加數(shù)據(jù)、增大模型、改進算法來實現(xiàn)。但當模型已經(jīng)足夠強,不再犯低級錯誤時,剩下的錯誤主要就是這種不可約的、由語言本身特性造成的誤差。

到這個階段,再怎么砸錢砸資源,提升也是有限的。

第二個問題是數(shù)據(jù)枯竭。到GPT-4的時候,OpenAI幾乎已經(jīng)把整個互聯(lián)網(wǎng)上的高質(zhì)量文本都學完了。各種百科、數(shù)字圖書館、GitHub代碼、Reddit討論、各種專業(yè)論文和文檔。

能用的高質(zhì)量數(shù)據(jù)基本都用完了。剩下的是大量低質(zhì)量內(nèi)容,比如廣告軟文、垃圾帖子、重復內(nèi)容、機器生成的垃圾信息。

要解決數(shù)據(jù)不足,一些廠商開始用AI生成數(shù)據(jù)來訓練AI。但這會導致一個嚴重問題,叫“模型崩潰”(Model Collapse)。簡單說,如果一個模型只吃自己或其他模型產(chǎn)出的數(shù)據(jù),它的多樣性會下降,甚至會放大自身的錯誤和偏見,最終導致模型變得越來越笨,輸出越來越單調(diào)。

這個過程有點像生物學上的近親繁殖。在生物界,如果一個種群長期近親繁殖,基因多樣性會逐漸喪失,遺傳缺陷會被放大,最終導致種群退化。模型崩潰也是同樣的道理。

2024年發(fā)表在Nature上的一篇論文《當 AI 模型在遞歸生成的數(shù)據(jù)上訓練時,會出現(xiàn)性能崩潰》(AI models collapse when trained on recursively generated data),就系統(tǒng)研究了這個問題。研究人員發(fā)現(xiàn),在早期模型崩潰階段,模型會首先丟失數(shù)據(jù)分布尾部的信息。到了后期,整個數(shù)據(jù)分布會收斂到一個非常狹窄的范圍,跟原始數(shù)據(jù)幾乎沒有相似之處。

研究人員做過實驗:用一個預訓練好的語言模型生成一批文本,然后用這批文本訓練新模型,再用新模型生成文本,再訓練更新的模型……如此反復幾代后,模型的輸出變得越來越單調(diào)、重復,原本數(shù)據(jù)中那些出現(xiàn)頻率較低但很重要的信息(比如專業(yè)領(lǐng)域知識、小眾但正確的觀點)逐漸消失了。

每一代模型生成數(shù)據(jù)時,都會傾向于生成那些在訓練數(shù)據(jù)中最常見、最“安全”的內(nèi)容。那些出現(xiàn)頻率低的、邊緣的信息,在生成的數(shù)據(jù)中出現(xiàn)概率會更低。經(jīng)過幾代迭代,這些信息就徹底丟失了。

更麻煩的是,現(xiàn)在互聯(lián)網(wǎng)上已經(jīng)充斥著大量AI生成的內(nèi)容。ChatGPT發(fā)布后,網(wǎng)絡(luò)上的文章、社交媒體帖子、甚至學術(shù)論文,都開始出現(xiàn)越來越多AI生成痕跡。

如果未來模型通過爬取互聯(lián)網(wǎng)獲取訓練數(shù)據(jù),不可避免地會把這些AI生成內(nèi)容也包含進去。這意味著,模型崩潰不再只是實驗室里的理論問題,而是整個AI行業(yè)都將面臨的實際威脅。

03

關(guān)于大語言模型是否進入了死胡同,這個問題其實一直充滿爭議。

以AI教母李飛飛為代表的維新派認為:大語言模型不是萬能的,它只是AI系統(tǒng)中的一個組件。要實現(xiàn)真正的人工智能,需要把不同類型的任務分配給不同類型的模型。

李飛飛曾直言不諱地說,AGI是一個營銷術(shù)語,不是科學術(shù)語?,F(xiàn)如今真正缺失的不是“通用智能”,而是“空間智能”,也就是理解和操作三維物理世界的能力。

她認為,未來的AI系統(tǒng)可能是“世界模型”(World Model)。它的核心能力是理解三維空間、物理規(guī)律和因果關(guān)系。它不是通過學習文本理解世界,而是通過觀察視頻、圖像、傳感器數(shù)據(jù)來建立對物理世界的認知。

世界模型使用嚴格的邏輯規(guī)則和數(shù)學證明技術(shù),而不是像現(xiàn)在的大語言模型一樣依賴統(tǒng)計模式。

谷歌DeepMind開發(fā)的AlphaGeometry就是這個方向的例子,它能夠解決奧林匹克競賽級別的幾何問題,靠的不是語言模型,而是符號推理系統(tǒng)和神經(jīng)網(wǎng)絡(luò)的結(jié)合。

圖靈獎得主、Meta前首席AI科學家楊立昆(Yann LeCun)對語言模型路徑的批評更加直接。他形容這條路徑是“給鸚鵡喂更大的芯片”。



在他看來,語言模型只是在學習統(tǒng)計規(guī)律,在做模式匹配,并沒有真正理解世界。要實現(xiàn)真正的智能,必須讓AI建立對物理世界的模型,理解物體、空間、時間、因果關(guān)系這些基本概念。

彼時,大語言模型將會成為“翻譯官”。當用戶用自然語言提出需求時,大語言模型負責理解需求,把它翻譯成機器能處理的指令,分配給合適的像是世界模型這樣的子系統(tǒng)來執(zhí)行。

當任務完成后,大語言模型再把結(jié)果翻譯成自然流暢的人類語言輸出給用戶。

OpenAI和Anthropic則是守舊派。

奧特曼認為,只要把語言模型繼續(xù)放大,投入更多數(shù)據(jù)和算力,智能就會“自動涌現(xiàn)”。

他相信,當模型規(guī)模達到某個臨界點時,會突然展現(xiàn)出質(zhì)的飛躍,獲得真正的理解能力和推理能力。這個觀點在業(yè)內(nèi)被稱為“scaling hypothesis”(規(guī)模假說)。

OpenAI聯(lián)合創(chuàng)始人兼首席科學家伊爾亞·蘇茲科維(Ilya Sutskever)的觀點是壓縮就是理解。

他坦言,“如果你能把全世界的數(shù)據(jù)無損地壓縮進一個大語言模型的神經(jīng)網(wǎng)絡(luò),那么這個模型就在內(nèi)部構(gòu)建出了一個關(guān)于這個世界的真實模型?!?/p>

Anthropic的聯(lián)合創(chuàng)始人杰拉德·卡普蘭(Jared Kaplan)則認為語言模型本身可能不是智能,但可以成為智能的基礎(chǔ)。他認為通過改進訓練方法、增強安全性對齊、結(jié)合其他技術(shù),語言模型路徑仍然有潛力達到AGI。

MIT的認知學家伊芙琳娜·費多林柯(Evelina Fedorenko)以及多位MIT和伯克利的學者,在《Nature》期刊上發(fā)表文章,他們指出:語言不是思維,人類的思維是獨立于語言的。嬰兒在學會說話之前就已經(jīng)有了對物理世界的理解,對因果關(guān)系的認知。盲人和聾人雖然缺失某些感官通道,但思維能力并不受影響。

語言主要是交流工具而非思維工具,語言模型也就不可能是真正的人工智能。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
鄧小平主持慶祝國慶的招待會,毛主席在簡報批示:可惜未請梁漱溟

鄧小平主持慶祝國慶的招待會,毛主席在簡報批示:可惜未請梁漱溟

南書房
2026-01-06 18:15:03
總裁夫人董花花,她吃了回頭草,沒敢離婚,也沒成大女主

總裁夫人董花花,她吃了回頭草,沒敢離婚,也沒成大女主

涼湫瑾言
2025-12-25 21:45:29
教育部下了硬指令,私立幼兒園老板們慌了,估計吃安眠藥都睡不著

教育部下了硬指令,私立幼兒園老板們慌了,估計吃安眠藥都睡不著

今朝牛馬
2026-01-02 21:04:49
主持人高黎之去世,年僅52歲,當天上午還好好的,好友透露細節(jié)

主持人高黎之去世,年僅52歲,當天上午還好好的,好友透露細節(jié)

180視角
2026-01-05 14:55:47
3個支點全塌,因為烏克蘭戰(zhàn)爭,普京的全球布局面臨地緣雪崩

3個支點全塌,因為烏克蘭戰(zhàn)爭,普京的全球布局面臨地緣雪崩

子桑說
2026-01-06 13:32:39
看不到美女玉足了!知名《黑神話》3D藝術(shù)師官宣停更

看不到美女玉足了!知名《黑神話》3D藝術(shù)師官宣停更

游民星空
2026-01-06 18:42:09
TVB紅毯:佘詩曼風韻猶存,黃宗澤真老了,高海寧、陳自瑤太敢穿

TVB紅毯:佘詩曼風韻猶存,黃宗澤真老了,高海寧、陳自瑤太敢穿

糊咖娛樂
2026-01-05 11:39:41
林徽因落選的國徽方案,網(wǎng)友看后感嘆:審美確實一絕,但真不合適

林徽因落選的國徽方案,網(wǎng)友看后感嘆:審美確實一絕,但真不合適

抽象派大師
2026-01-03 02:13:54
杭州刑事律師:打飛機、口交、肛交是否屬于刑法意義上的賣淫行為

杭州刑事律師:打飛機、口交、肛交是否屬于刑法意義上的賣淫行為

杭州刑事律師
2026-01-06 15:44:28
41歲后25+7+7!勒布朗再創(chuàng)歷史首見紀錄 美媒曬四數(shù)據(jù)贊GOAT

41歲后25+7+7!勒布朗再創(chuàng)歷史首見紀錄 美媒曬四數(shù)據(jù)贊GOAT

顏小白的籃球夢
2026-01-06 08:07:50
幾乎全是假貨!利潤高達2400%,咋消費者還前赴后繼爭相購買?

幾乎全是假貨!利潤高達2400%,咋消費者還前赴后繼爭相購買?

奇思妙想草葉君
2026-01-05 23:13:15
相當炸裂!美國媒體披露:魯比奧將出任“委內(nèi)瑞拉總督”!刺痛國人的殖民主義回來了?

相當炸裂!美國媒體披露:魯比奧將出任“委內(nèi)瑞拉總督”!刺痛國人的殖民主義回來了?

軍武速遞
2026-01-06 19:00:11
山河四省,三億人的悲哀

山河四省,三億人的悲哀

銀河系漫游客
2025-12-30 14:04:48
被處決毒梟要水喝,3停5口是17年前教的暗號:我是臥底,有內(nèi)鬼!

被處決毒梟要水喝,3停5口是17年前教的暗號:我是臥底,有內(nèi)鬼!

星宇共鳴
2025-12-29 09:56:33
黃一鳴自曝將送閃閃去新西蘭上幼兒園,希望她開心,網(wǎng)友一頓吐槽

黃一鳴自曝將送閃閃去新西蘭上幼兒園,希望她開心,網(wǎng)友一頓吐槽

小徐講八卦
2026-01-06 13:07:38
國貨之光!韓國總統(tǒng)李在明使用小米15 Ultra自拍

國貨之光!韓國總統(tǒng)李在明使用小米15 Ultra自拍

手機中國
2026-01-06 16:26:08
“性蕭條”才是這個時代真正的危機

“性蕭條”才是這個時代真正的危機

深藍夜讀
2025-09-24 16:00:09
中國為何大齡剩女泛濫成災,專家:三大原因,一個比一個現(xiàn)實

中國為何大齡剩女泛濫成災,專家:三大原因,一個比一個現(xiàn)實

一簌月光
2025-12-31 19:35:47
悲催!河南妻子轉(zhuǎn)弟弟30萬后續(xù)!丈夫稱其帶娃回娘家,將上門討債

悲催!河南妻子轉(zhuǎn)弟弟30萬后續(xù)!丈夫稱其帶娃回娘家,將上門討債

可愛的羅
2026-01-05 16:15:56
烏軍短促突擊新戰(zhàn)術(shù),無人機炸彈很兇殘,俄第136摩步旅旅長死亡

烏軍短促突擊新戰(zhàn)術(shù),無人機炸彈很兇殘,俄第136摩步旅旅長死亡

鷹眼Defence
2026-01-06 16:36:02
2026-01-06 19:43:00
字母榜 incentive-icons
字母榜
讓未來不止于大。
2153文章數(shù) 8035關(guān)注度
往期回顧 全部

科技要聞

速看!黃仁勛萬字實錄:甩出"物理AI"王牌

頭條要聞

媒體:遭美襲擊后第三天 委局勢進入關(guān)鍵階段

頭條要聞

媒體:遭美襲擊后第三天 委局勢進入關(guān)鍵階段

體育要聞

從NBA最菜首發(fā)控衛(wèi),到NBA最強喬治

娛樂要聞

2026年央視春晚彩排照曝光!

財經(jīng)要聞

丁一凡:中美進入相對穩(wěn)定的競爭共存期

汽車要聞

摩登出街潮品 實拍奇瑞QQ冰淇淋女王版

態(tài)度原創(chuàng)

親子
教育
房產(chǎn)
公開課
軍事航空

親子要聞

看了上海張柏芝的家,無數(shù)寶媽酸了:這才是拼三胎的基本條件!

教育要聞

兒子在家里干多少活合適呢

房產(chǎn)要聞

爆發(fā)!三亞開年超千畝城更計劃曝光,香港城砸下100億!

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

美稱對“占領(lǐng)”委內(nèi)瑞拉保留選擇權(quán)

無障礙瀏覽 進入關(guān)懷版