国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

Cloudflare第13代服務(wù)器上線:砍掉3/4緩存

0
分享至


Cloudflare的全球邊緣網(wǎng)絡(luò)正在經(jīng)歷一場(chǎng)靜默的硬件革命。兩年前,他們押注AMD的3D V-Cache技術(shù),用96核處理器堆出了當(dāng)時(shí)最強(qiáng)的緩存密集型架構(gòu)?,F(xiàn)在,第13代服務(wù)器直接砍掉83%的每核緩存,卻把邊緣計(jì)算性能推到了兩倍——這聽(tīng)起來(lái)像自殺式升級(jí),直到你看清他們手里還藏著一張牌。

這張牌叫FL2,一個(gè)用Rust重寫(xiě)的核心請(qǐng)求處理層。

沒(méi)有它,Turin處理器的高核心數(shù)只會(huì)變成一場(chǎng)災(zāi)難。192個(gè)核心搶食384MB三級(jí)緩存,每核2MB的配額是上一代的六分之一。傳統(tǒng)軟件棧在這種架構(gòu)下會(huì)窒息:緩存未命中率飆升,內(nèi)存延遲吃掉所有吞吐量增益。Cloudflare的工程師們沒(méi)有硬扛,而是選擇把軟件推倒重來(lái)。

從緩存依賴到核心 scaling:一場(chǎng)被迫的架構(gòu)遷徙

2023年部署的Gen 12服務(wù)器,AMD EPYC Genoa-X處理器帶著3D V-Cache的堆疊緩存,完美契合當(dāng)時(shí)的FL1架構(gòu)。NGINX加LuaJIT的組合吃緩存吃得兇,大緩存掩蓋了腳本語(yǔ)言的性能短板。但硬件演進(jìn)的方向變了——AMD的Turin路線選擇了吞吐量?jī)?yōu)先,用緩存換核心數(shù)。

Cloudflare的硬件團(tuán)隊(duì)在評(píng)估階段就嗅到了危險(xiǎn)。他們用AMD uProf工具抓性能計(jì)數(shù)器,數(shù)據(jù)直白得刺眼:L3緩存未命中率相比Gen 12暴漲,內(nèi)存取數(shù)延遲開(kāi)始主導(dǎo)請(qǐng)求處理時(shí)間。更糟的是,CPU利用率越高,緩存爭(zhēng)搶越慘烈,延遲懲罰呈非線性放大。

L3命中的代價(jià)約50個(gè)時(shí)鐘周期,未命中則要跋涉到DRAM——這個(gè)差距在邊緣計(jì)算場(chǎng)景里會(huì)被用戶感知。FL1的軟件棧把太多狀態(tài)塞在緩存里,Turin的縮水緩存根本喂不飽它。

要么放棄這代硬件的性能紅利,要么重寫(xiě)核心代碼。

Cloudflare選了后者。FL2項(xiàng)目啟動(dòng),目標(biāo)很明確:解除軟件對(duì)超大緩存的依賴,讓性能隨核心數(shù)線性擴(kuò)展,同時(shí)守住服務(wù)等級(jí)協(xié)議(SLA)的承諾。

Rust 重寫(xiě)的技術(shù)賭注:為什么不是 C++

FL1的LuaJIT代碼在運(yùn)行時(shí)編譯,靈活性高,但內(nèi)存布局不可預(yù)測(cè)。緩存友好性全靠運(yùn)氣和調(diào)優(yōu),Turin的2MB每核緩存容不下這種任性。FL2團(tuán)隊(duì)的決定是激進(jìn)的:用Rust重寫(xiě)請(qǐng)求處理層,編譯期確定內(nèi)存結(jié)構(gòu),把緩存未命中控制在可預(yù)測(cè)范圍內(nèi)。

Rust的所有權(quán)模型在這里成了性能工具。零成本抽象不是口號(hào),而是實(shí)實(shí)在在的緩存行優(yōu)化。FL2的代碼在編譯時(shí)就排布好了數(shù)據(jù)局部性,運(yùn)行時(shí)不需要垃圾回收的干擾,也沒(méi)有JIT編譯的預(yù)熱開(kāi)銷。

更關(guān)鍵的是,Rust的并發(fā)原語(yǔ)讓192核的并行度真正可用。FL1的架構(gòu)誕生于多核時(shí)代早期,鎖的粒度偏粗,核心數(shù)翻倍時(shí)爭(zhēng)用開(kāi)銷會(huì)吃掉增益。FL2從頭設(shè)計(jì)了無(wú)鎖數(shù)據(jù)結(jié)構(gòu),讓Turin的384個(gè)線程各跑各的,只在必要時(shí)同步。

這個(gè)選擇的風(fēng)險(xiǎn)在于工程成本。重寫(xiě)核心網(wǎng)絡(luò)棧不是重構(gòu),是移植手術(shù)——每一行LuaJIT邏輯都要重新表達(dá)為Rust,每一個(gè)邊緣 case 都要重新驗(yàn)證。Cloudflare沒(méi)有公布具體人月投入,但從Gen 12部署到Gen 13上線的時(shí)間窗口推算,F(xiàn)L2的開(kāi)發(fā)周期大約在18到24個(gè)月。

代價(jià)是延遲的,收益也是延遲的。Turin的硬件紅利被鎖在FL2的交付時(shí)間表里。

性能數(shù)字背后:2x 是怎么算出來(lái)的

Cloudflare公布的官方數(shù)據(jù)是「2x edge compute performance」。拆解這個(gè)倍數(shù)需要看幾個(gè)維度:核心數(shù)從96到192是2x,IPC(每時(shí)鐘周期指令數(shù))因Zen 5架構(gòu)提升約15%,內(nèi)存帶寬因DDR5-6400升級(jí)而增加。但簡(jiǎn)單的乘法不會(huì)兌現(xiàn)為真實(shí)吞吐,除非軟件能喂飽所有核心。


FL2的價(jià)值在這里顯現(xiàn)。它讓Turin的192核不再互相爭(zhēng)搶緩存,每個(gè)核心都能維持穩(wěn)定的指令流。功耗數(shù)據(jù)同樣關(guān)鍵:Turin每核功耗比Genoa-X低32%,192核系統(tǒng)的總功耗沒(méi)有隨核心數(shù)等比例膨脹。這意味著Cloudflare可以在同樣的機(jī)柜功率密度下塞進(jìn)雙倍算力,或者把省下的電力預(yù)算投向其他維度。

但「2x」是一個(gè)綜合指標(biāo),不是單一基準(zhǔn)測(cè)試。Cloudflare的邊緣工作負(fù)載多樣:HTTP請(qǐng)求處理、WAF規(guī)則匹配、Bot檢測(cè)、緩存查找、TLS握手。不同場(chǎng)景對(duì)緩存和核心的敏感度不同,F(xiàn)L2的統(tǒng)一優(yōu)化策略在某些子任務(wù)上可能超額完成,在另一些上只是勉強(qiáng)及格。

一個(gè)未被強(qiáng)調(diào)的細(xì)節(jié)是SMT(同步多線程)的啟用。384線程對(duì)調(diào)度器是壓力測(cè)試,F(xiàn)L2的線程池設(shè)計(jì)必須避免偽共享和緩存行乒乓。Rust的類型系統(tǒng)在這里幫了忙——編譯期就能檢測(cè)出跨線程的數(shù)據(jù)競(jìng)爭(zhēng),把運(yùn)行時(shí)調(diào)試轉(zhuǎn)化為構(gòu)建期錯(cuò)誤。

行業(yè)隱喻:邊緣計(jì)算的「緩存墻」正在倒塌

Cloudflare的遷移路徑給整個(gè)行業(yè)打了個(gè)樣。過(guò)去十年,服務(wù)器CPU的演進(jìn)有兩條主線:Intel和AMD都曾用堆緩存來(lái)喂飽單線程性能,用更大的L3掩蓋內(nèi)存延遲。但晶體管預(yù)算有限,緩存和核心數(shù)是零和博弈。

Turin的選擇代表風(fēng)向轉(zhuǎn)變:核心密度優(yōu)先,緩存靠軟件優(yōu)化補(bǔ)救。這個(gè)邏輯在數(shù)據(jù)中心已經(jīng)成立——云廠商的工作負(fù)載高度優(yōu)化,緩存未命中可以通過(guò)請(qǐng)求分片和流水線隱藏。但邊緣計(jì)算更苛刻,延遲敏感、請(qǐng)求突發(fā)、代碼路徑復(fù)雜,一直是緩存重度的堡壘。

FL2的突破在于證明:邊緣也可以走「核心scaling」路線,前提是軟件棧愿意付重寫(xiě)代價(jià)。這不是Cloudflare獨(dú)有的困境。任何依賴NGINX/OpenResty架構(gòu)的邊緣服務(wù)商,面對(duì)Turin類處理器都會(huì)遇到同樣的緩存瓶頸。區(qū)別在于,Cloudflare有工程資源押注Rust重寫(xiě),而多數(shù)廠商會(huì)被鎖定在遺留代碼里。

硬件紅利正在從「誰(shuí)買得起大緩存」轉(zhuǎn)向「誰(shuí)付得起軟件重構(gòu)」。

AMD的路線圖印證了這一點(diǎn)。3D V-Cache技術(shù)仍在,但主要留給桌面游戲市場(chǎng)和特定數(shù)據(jù)中心SKU。主流EPYC的緩存配置在縮水,核心數(shù)在膨脹。軟件廠商要么跟進(jìn)FL2式的架構(gòu)升級(jí),要么接受硬件代際更迭中的性能停滯。

未回答的問(wèn)題:FL2 的代價(jià)與邊界

Cloudflare的博客刻意回避了幾個(gè)話題。FL2的開(kāi)發(fā)成本沒(méi)有披露,但Rust重寫(xiě)核心網(wǎng)絡(luò)棧的工程風(fēng)險(xiǎn)是真實(shí)的——內(nèi)存安全不代表邏輯正確,生產(chǎn)環(huán)境的邊緣 case 需要長(zhǎng)時(shí)間打磨。FL1到FL2的遷移是熱升級(jí)還是分批切流?灰度過(guò)程中的回滾策略是什么?這些運(yùn)營(yíng)細(xì)節(jié)決定了「2x」是紙面數(shù)字還是真實(shí)用戶體驗(yàn)。

另一個(gè)懸念是FL2的通用性。Cloudflare的邊緣網(wǎng)絡(luò)高度同質(zhì)化,請(qǐng)求處理邏輯相對(duì)標(biāo)準(zhǔn)。這套R(shí)ust棧能否適應(yīng)更復(fù)雜的產(chǎn)品線——比如Workers的V8隔離、R2的對(duì)象存儲(chǔ)網(wǎng)關(guān)、D1的數(shù)據(jù)庫(kù)查詢?FL2目前是FL1的替代者,還是整個(gè)邊緣軟件棧的基石,博客沒(méi)有明說(shuō)。

功耗數(shù)字同樣值得追問(wèn)。32%的每核功耗下降是在什么負(fù)載下測(cè)得?idle、典型負(fù)載還是峰值?192核系統(tǒng)的散熱設(shè)計(jì)功率(TDP)總和是否突破了現(xiàn)有服務(wù)器的供電和散熱極限?Cloudflare提到「same rack power density」,暗示他們通過(guò)功耗優(yōu)化抵消了核心數(shù)翻倍,但具體機(jī)柜配置未公開(kāi)。

最后,Turin的緩存縮減對(duì)特定工作負(fù)載的懲罰沒(méi)有量化。博客承認(rèn)「cache reduction posed a serious challenge」,但FL2的優(yōu)化是否完全抹平了差距,還是只是讓「可接受」的延遲覆蓋了更多場(chǎng)景?某些極端緩存密集型的客戶工作負(fù)載,可能在Gen 13上反而退步。

Cloudflare的工程師在博客結(jié)尾留下了一句技術(shù)樂(lè)觀主義的注腳:FL2讓性能隨核心數(shù)擴(kuò)展,SLA得以維持,Turin的潛力被完整釋放。但真正的考驗(yàn)是接下來(lái)的12到18個(gè)月——當(dāng)192核服務(wù)器承載真實(shí)的流量洪峰,當(dāng)Rust代碼暴露在邊緣網(wǎng)絡(luò)的混沌現(xiàn)實(shí)中,F(xiàn)L2的架構(gòu)假設(shè)是否依然成立?

如果FL2的可靠性被驗(yàn)證,這將是一次教科書(shū)級(jí)的軟硬件協(xié)同設(shè)計(jì)。如果某些假設(shè)崩塌,Cloudflare手里還有Gen 12的庫(kù)存可以回退,但Turin的訂單已經(jīng)發(fā)出,硬件迭代沒(méi)有后悔藥。

邊緣計(jì)算的軍備競(jìng)賽進(jìn)入新階段:緩存不再是護(hù)城河,軟件工程能力才是。Cloudflare用FL2押注了這個(gè)判斷,現(xiàn)在輪到流量來(lái)投票了——當(dāng)192個(gè)Rust驅(qū)動(dòng)的核心同時(shí)處理你的下一個(gè)HTTP請(qǐng)求時(shí),延遲數(shù)字會(huì)告訴你是真突破還是紙面勝利。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
伊朗重要人事任命,釋放強(qiáng)烈信號(hào)!

伊朗重要人事任命,釋放強(qiáng)烈信號(hào)!

斐君觀點(diǎn)
2026-03-25 21:08:16
經(jīng)濟(jì)學(xué)歷巴曙松被帶走調(diào)查

經(jīng)濟(jì)學(xué)歷巴曙松被帶走調(diào)查

地產(chǎn)微資訊
2026-03-25 20:49:47
張雪峰員工:辦公室已拆掉紅色錦旗,員工徹夜難眠,家長(zhǎng)電話打爆

張雪峰員工:辦公室已拆掉紅色錦旗,員工徹夜難眠,家長(zhǎng)電話打爆

每日人物
2026-03-26 13:34:51
我有一個(gè)朋友在張雪峰公司上班他說(shuō)張雪峰根本不是大家看到的樣子

我有一個(gè)朋友在張雪峰公司上班他說(shuō)張雪峰根本不是大家看到的樣子

樂(lè)悠悠娛樂(lè)
2026-03-26 10:27:07
張雪峰離世!北京蘇州房產(chǎn)不在名下,1400名員工等安撫,好友停工

張雪峰離世!北京蘇州房產(chǎn)不在名下,1400名員工等安撫,好友停工

阿纂看事
2026-03-25 21:31:59
特朗普?qǐng)?jiān)稱正在與伊朗談判:伊朗不敢認(rèn),其領(lǐng)導(dǎo)人“害怕被自己人干掉,也害怕被美國(guó)干掉”,美國(guó)在伊朗贏麻了

特朗普?qǐng)?jiān)稱正在與伊朗談判:伊朗不敢認(rèn),其領(lǐng)導(dǎo)人“害怕被自己人干掉,也害怕被美國(guó)干掉”,美國(guó)在伊朗贏麻了

極目新聞
2026-03-26 08:57:45
張雪峰家人首發(fā)聲:不設(shè)追思會(huì)喪事從簡(jiǎn),謝絕所有人去家中慰問(wèn)

張雪峰家人首發(fā)聲:不設(shè)追思會(huì)喪事從簡(jiǎn),謝絕所有人去家中慰問(wèn)

娛樂(lè)圈圈圓
2026-03-26 11:08:26
張雪峰去世真相!網(wǎng)友:偌大的公司靠他個(gè)人ip養(yǎng)活,早死是必然的

張雪峰去世真相!網(wǎng)友:偌大的公司靠他個(gè)人ip養(yǎng)活,早死是必然的

火山詩(shī)話
2026-03-25 09:18:58
我就不信張一山?jīng)]有后悔過(guò)嗎?這么美的前任拱手讓出去了

我就不信張一山?jīng)]有后悔過(guò)嗎?這么美的前任拱手讓出去了

喜歡歷史的阿繁
2026-03-26 09:20:58
封鎖霍爾木茲海峽,伊朗丟掉的不只是底牌

封鎖霍爾木茲海峽,伊朗丟掉的不只是底牌

冰川思想庫(kù)
2026-03-26 00:05:12
萬(wàn)科高管被要求退還薪酬

萬(wàn)科高管被要求退還薪酬

地產(chǎn)微資訊
2026-03-26 12:22:04
吃餃子沒(méi)蘸醬油進(jìn)監(jiān)獄了,這是真的

吃餃子沒(méi)蘸醬油進(jìn)監(jiān)獄了,這是真的

深度報(bào)
2026-03-25 22:55:01
伊朗官媒發(fā)布《為眾人復(fù)仇》AI短片:一枚伊朗導(dǎo)彈在哈梅內(nèi)伊等人注視下,精準(zhǔn)炸毀幻化成羊頭惡魔的美國(guó)自由女神像

伊朗官媒發(fā)布《為眾人復(fù)仇》AI短片:一枚伊朗導(dǎo)彈在哈梅內(nèi)伊等人注視下,精準(zhǔn)炸毀幻化成羊頭惡魔的美國(guó)自由女神像

大象新聞
2026-03-26 09:45:03
伊朗議長(zhǎng)和外長(zhǎng)被移出美以清除名單,“時(shí)限4到5天”!專家:若達(dá)成協(xié)議最慌的是以色列!特朗普:油價(jià)漲、股市跌,我無(wú)所謂

伊朗議長(zhǎng)和外長(zhǎng)被移出美以清除名單,“時(shí)限4到5天”!專家:若達(dá)成協(xié)議最慌的是以色列!特朗普:油價(jià)漲、股市跌,我無(wú)所謂

每日經(jīng)濟(jì)新聞
2026-03-26 12:20:14
張雪峰去世事件升級(jí)!很多人連夜下單AED,有店鋪一天銷售100多臺(tái)

張雪峰去世事件升級(jí)!很多人連夜下單AED,有店鋪一天銷售100多臺(tái)

火山詩(shī)話
2026-03-26 07:32:38
快訊!美軍拒絕為以色列作戰(zhàn)!

快訊!美軍拒絕為以色列作戰(zhàn)!

達(dá)文西看世界
2026-03-26 09:54:51
跟著黃仁勛下注:如今的token可能就是20年的房子

跟著黃仁勛下注:如今的token可能就是20年的房子

夢(mèng)大明白
2026-03-24 11:05:49
二戰(zhàn)后首次!日自衛(wèi)隊(duì)將登陸菲律賓

二戰(zhàn)后首次!日自衛(wèi)隊(duì)將登陸菲律賓

環(huán)球時(shí)報(bào)國(guó)際
2026-03-26 08:59:28
這就是徐志摩愛(ài)而不得的林徽因中年時(shí)的真實(shí)長(zhǎng)相,大家看看吧!

這就是徐志摩愛(ài)而不得的林徽因中年時(shí)的真實(shí)長(zhǎng)相,大家看看吧!

小椰的奶奶
2026-03-26 09:50:43
突發(fā)心梗,吃丹參滴丸有用嗎?醫(yī)生:這2種藥才是心梗急救藥!

突發(fā)心梗,吃丹參滴丸有用嗎?醫(yī)生:這2種藥才是心梗急救藥!

健康科普365
2026-03-26 09:57:24
2026-03-26 14:24:49
字節(jié)漫游指南
字節(jié)漫游指南
有態(tài)度網(wǎng)友ytd
452文章數(shù) 3關(guān)注度
往期回顧 全部

科技要聞

Meta高管狂分百億期權(quán),700名員工卻下崗

頭條要聞

伊朗議長(zhǎng)和外長(zhǎng)暫被移出美以清除名單 時(shí)限4到5天

頭條要聞

伊朗議長(zhǎng)和外長(zhǎng)暫被移出美以清除名單 時(shí)限4到5天

體育要聞

35歲替補(bǔ)門(mén)將,憑什么入選英格蘭隊(duì)?

娛樂(lè)要聞

張雪峰家人首發(fā)聲 不設(shè)追思會(huì)喪事從簡(jiǎn)

財(cái)經(jīng)要聞

黃仁勛:芯片公司的時(shí)代已經(jīng)結(jié)束了

汽車要聞

一汽奧迪A6L e-tron開(kāi)啟預(yù)售 CLTC最大續(xù)航815km

態(tài)度原創(chuàng)

時(shí)尚
房產(chǎn)
親子
游戲
公開(kāi)課

2026年了,最好看的還是“這件針織”!

房產(chǎn)要聞

質(zhì)價(jià)比標(biāo)桿!三亞首創(chuàng)浮島全景艙亮相,還得是萬(wàn)科!

親子要聞

躺平的孩子意外覺(jué)醒了,在父母學(xué)會(huì)當(dāng)“烏龜”!

IGN認(rèn)為Xbox機(jī)會(huì)來(lái)了!新主機(jī)要轉(zhuǎn)守為攻 重塑自我

公開(kāi)課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版