編輯｜Panda

路透社最新消息，Meta 新成立的 AI 團(tuán)隊(duì)本月已在內(nèi)部交付了首批關(guān)鍵模型。據(jù)悉，該消息來(lái)自 Meta 公司的 CTO Andrew Bosworth，他表示該團(tuán)隊(duì)的 AI 模型「非常好」（very good）。

媒體在去年 12 月報(bào)道稱，Meta 公司正在開發(fā)一款代號(hào)為Avocado的文本 AI 模型，計(jì)劃于第一季度發(fā)布；同時(shí)還在開發(fā)一款代號(hào)為Mango的圖像和視頻 AI 模型。Bosworth 并未透露哪些模型已交付內(nèi)部使用。

有意思的是，就在這篇報(bào)道的前些天，一篇技術(shù)報(bào)告《Llama 4 家族：架構(gòu)、訓(xùn)練、評(píng)估和部署說(shuō)明》在 arXiv 悄然上線，其中全面回顧了 Meta Llama 4 系列模型宣稱的數(shù)據(jù)和技術(shù)成就。

• 報(bào)告標(biāo)題：The Llama 4 Herd: Architecture, Training, Evaluation, and Deployment Notes
• 報(bào)告地址：https://arxiv.org/abs/2601.11659v1

需要說(shuō)明，上傳這篇報(bào)告的作者是 Meta 一位機(jī)器學(xué)習(xí)工程師 Arthur Hinsvark，但這篇報(bào)告卻并未明確標(biāo)識(shí)來(lái)自 Meta。

盡管如此，這篇報(bào)告還是將 Llama 4 項(xiàng)目的所有參與者都加入到了作者名單中 —— 超過(guò) 1300 名，足足 5 頁(yè)！因此，我們可以大體上認(rèn)為這份報(bào)告就是來(lái)自 Llama 4 團(tuán)隊(duì)，盡管其中不少人現(xiàn)在已經(jīng)從 Meta 離職，比如前 Meta FAIR 團(tuán)隊(duì)研究總監(jiān)田淵棟。

值得注意的是，這篇報(bào)告的引言有一段明確說(shuō)明：「本文檔是對(duì)公開材料的獨(dú)立調(diào)查。報(bào)告的基準(zhǔn)數(shù)值歸因于模型卡，除非另有說(shuō)明；應(yīng)將它們視為開發(fā)者報(bào)告的結(jié)果，并對(duì)評(píng)估工具、提示工程和后處理持通常的保留態(tài)度�！�

也就是說(shuō)，這篇報(bào)告整體回顧了 Meta 公布的各種 Llama 4 相關(guān)材料，尤其是其宣稱的一些數(shù)據(jù)。但沒(méi)有明確解釋其在實(shí)際應(yīng)用中表現(xiàn)明顯不及預(yù)期的原因。想要了解相關(guān)背景的讀者可參閱：

• Meta Llama 4 被疑考試「作弊」：在競(jìng)技場(chǎng)刷高分，但實(shí)戰(zhàn)中頻頻翻車
• Llama 4 在測(cè)試集上訓(xùn)練？?jī)?nèi)部員工、官方下場(chǎng)澄清，LeCun 轉(zhuǎn)發(fā)

不過(guò)，該報(bào)告也不是完全沒(méi)有提到相關(guān)原因，仔細(xì)閱讀的話，我們能在行文中看到一些端倪，其中主要的討論點(diǎn)集中在部署限制和榜單爭(zhēng)議上：

• 架構(gòu)能力與實(shí)際部署的差距（尤其是上下文長(zhǎng)度）：論文反復(fù)強(qiáng)調(diào)了一個(gè)「經(jīng)常出現(xiàn)的操作主題」：模型的架構(gòu)支持能力與實(shí)際服務(wù)中提供的能力之間存在差距。雖然 Scout 在架構(gòu)上設(shè)計(jì)為支持 10M 上下文長(zhǎng)度，但在實(shí)際部署中（如 Cloudflare 或 AWS），由于顯存和 KV 緩存的硬件成本限制，服務(wù)商往往將可用上下文限制在 128K 或 1M。這意味著用戶在實(shí)際使用托管服務(wù)時(shí)，可能無(wú)法體驗(yàn)到模型宣稱的全部長(zhǎng)上下文能力。
• 榜單成績(jī)與發(fā)布版本的差異：論文提到了關(guān)于 LMArena 排行榜的爭(zhēng)議。Meta 在榜單上提交的 Maverick「實(shí)驗(yàn)性聊天」變體與公開發(fā)布的版本不完全相同。這導(dǎo)致了外界批評(píng)其「操縱基準(zhǔn)測(cè)試」（gaming AI benchmarks）。這也解釋了為什么用戶使用公開發(fā)布版本時(shí)的體驗(yàn)可能與某些榜單上的高分表現(xiàn)不一致。
• 營(yíng)銷話術(shù)與技術(shù)指標(biāo)的區(qū)別：論文明確指出，發(fā)布公告中的某些聲稱（例如 Scout 是「同類最佳」或強(qiáng)調(diào)性價(jià)比）屬于「面向營(yíng)銷的主張」（marketing-facing claims），應(yīng)當(dāng)與嚴(yán)謹(jǐn)?shù)哪Ｐ涂ɑ鶞?zhǔn)測(cè)試結(jié)果分開解讀。

這些細(xì)節(jié)似乎暗示了這份報(bào)告是 Meta Llama 團(tuán)隊(duì)對(duì)于 Llama 4 系列模型備受社區(qū)廣泛批評(píng)（數(shù)據(jù)亮眼但能力很差）的最終回應(yīng)。

對(duì)于這些說(shuō)明，不知道你怎么看？

具體到內(nèi)容上，這篇技術(shù)報(bào)告的內(nèi)容僅有 15 頁(yè)，其中 1300 多位作者的名單就足足占了 5 頁(yè)，再去掉一頁(yè)參考文獻(xiàn)，實(shí)際內(nèi)容僅有 9 頁(yè)。其中，Meta Llama 團(tuán)隊(duì)總結(jié)了：

• 已發(fā)布的模型變體（Scout 和 Maverick）以及更廣泛的系列模型背景，包括預(yù)覽版的 Behemoth 教師模型；

• 超越高級(jí) MoE 描述的架構(gòu)特征，涵蓋路由 / 共享專家結(jié)構(gòu)、早期融合多模態(tài)，以及針對(duì) Scout 報(bào)告的長(zhǎng)上下文設(shè)計(jì)元素（iROPE 和長(zhǎng)度泛化策略）；
• 訓(xùn)練披露，跨越預(yù)訓(xùn)練、用于長(zhǎng)上下文擴(kuò)展的中期訓(xùn)練（mid-training），以及發(fā)布材料中描述的后訓(xùn)練方法（輕量級(jí) SFT、在線 RL 和輕量級(jí) DPO）；
• 開發(fā)者報(bào)告的基礎(chǔ)和指令微調(diào)檢查點(diǎn)的基準(zhǔn)測(cè)試結(jié)果；
• 在主要服務(wù)環(huán)境中觀察到的實(shí)際部署限制，包括特定于提供商的上下文限制和量化打包。

此外，這份報(bào)告還總結(jié)了「與再分發(fā)和衍生命名相關(guān)的許可義務(wù)，并回顧了公開描述的安全措施和評(píng)估實(shí)踐。其目的是為需要關(guān)于 Llama 4 精確、有來(lái)源依據(jù)事實(shí)的研究人員和從業(yè)者提供一份緊湊的技術(shù)參考�！�

更多詳情請(qǐng)參閱原報(bào)告。

https://www.reuters.com/technology/metas-new-ai-team-has-delivered-first-key-models-internally-this-month-cto-says-2026-01-21/