2026年3月，Cloudflare工程師博客扔出一組數(shù)據(jù)：用傳統(tǒng)容器跑AI生成的代碼，冷啟動(dòng)動(dòng)輒數(shù)秒；換成他們新推出的Dynamic Workers，延遲直接壓到個(gè)位數(shù)毫秒。這不是優(yōu)化，是換了一條賽道——把Linux容器換成V8隔離沙箱，讓AI自己寫執(zhí)行腳本，而不是反復(fù)調(diào)用工具。

80%的推理成本就這么省下來的。

但省錢只是副產(chǎn)品。真正讓開發(fā)者興奮的是，這套架構(gòu)終于解決了AI Agent的"便秘式交互"——以前LLM每執(zhí)行一個(gè)工具就要停下來等網(wǎng)絡(luò)往返，現(xiàn)在它一次性寫完整個(gè)執(zhí)行計(jì)劃，代碼在邊緣節(jié)點(diǎn)直接跑完。

ReAct為什么成了瓶頸

現(xiàn)在的AI Agent大多跑在ReAct（推理-行動(dòng)）循環(huán)里。LLM發(fā)現(xiàn)需要查天氣，停下來發(fā)請求；后端執(zhí)行完把結(jié)果塞回上下文窗口；LLM讀完再?zèng)Q定下一步。每一步都是一次完整的網(wǎng)絡(luò)往返加Token計(jì)費(fèi)。

Cloudflare算過賬：一個(gè)復(fù)雜任務(wù)可能需要20輪交互，每輪都要把越來越長的對話歷史重新喂給模型。Token費(fèi)用指數(shù)級膨脹，用戶盯著加載圈的時(shí)間也指數(shù)級膨脹。

研究人員想了個(gè)狠招——讓LLM直接生成TypeScript函數(shù)。給它API文檔，它輸出一段代碼把查詢、過濾、計(jì)算全打包。這叫"Code Mode"，LLM只介入一次：寫計(jì)劃，不監(jiān)督執(zhí)行。

Token消耗砍掉八成，延遲從秒級壓到毫秒級。

但這里卡著一個(gè)死結(jié)：AI寫的代碼能隨便跑嗎？

容器的冷啟動(dòng)是原罪

傳統(tǒng)解法是用Linux容器或microVM做沙箱。安全是安全了，代價(jià)是每次啟動(dòng)都要拉鏡像、初始化環(huán)境。對于需要即時(shí)響應(yīng)的AI場景，這相當(dāng)于讓賽車手等紅綠燈。

Cloudflare的Dynamic Workers換了個(gè)思路：不跑完整OS，只起V8隔離（Isolate）。每個(gè)Worker是輕量級JavaScript運(yùn)行時(shí)，從代碼推送到全球邊緣節(jié)點(diǎn)執(zhí)行，中間沒有容器啟動(dòng)的卡頓。

關(guān)鍵數(shù)據(jù)：V8 Isolate的創(chuàng)建時(shí)間以毫秒計(jì)，內(nèi)存占用以兆字節(jié)計(jì)。對比之下，一個(gè)最小化的Linux容器也需要數(shù)百毫秒啟動(dòng)，內(nèi)存開銷上百兆。

Cloudflare把這套能力開放給動(dòng)態(tài)代碼場景——LLM生成的腳本可以即時(shí)編譯、即時(shí)執(zhí)行、即時(shí)銷毀。用完即走，沒有殘留。

安全沙箱怎么不拖后腿

執(zhí)行不可信代碼需要三層防護(hù)：網(wǎng)絡(luò)隔離、資源限制、代碼審查。容器方案把這三層做得太重，Dynamic Workers則利用V8的內(nèi)置機(jī)制重新設(shè)計(jì)。

網(wǎng)絡(luò)層面，每個(gè)Isolate只能訪問顯式聲明的API端點(diǎn)，默認(rèn)零外聯(lián)。資源層面，CPU時(shí)間和內(nèi)存硬封頂，超時(shí)自動(dòng)終止。代碼層面，TypeScript在編譯期就能攔截危險(xiǎn)調(diào)用。

Cloudflare的工程師在博客中強(qiáng)調(diào)：Isolate的 attack surface 比完整OS小兩個(gè)數(shù)量級。沒有shell、沒有文件系統(tǒng)、沒有系統(tǒng)調(diào)用接口，能泄露的東西本身就少。

這意味著開發(fā)者可以把AI生成的代碼直接丟給邊緣節(jié)點(diǎn)，不用預(yù)審核，不用人工過一遍。

實(shí)際測試?yán)?，一段調(diào)用3個(gè)外部API、做數(shù)據(jù)聚合的腳本，從LLM生成到執(zhí)行完畢返回結(jié)果，全程控制在200毫秒內(nèi)。同樣邏輯用傳統(tǒng)ReAct跑，網(wǎng)絡(luò)延遲 alone 就能吃掉2秒。

動(dòng)手：搭一個(gè)最小可用的Agent

Cloudflare提供了完整的TypeScript模板。核心就三步：定義API Schema、讓LLM生成函數(shù)、把函數(shù)塞進(jìn)Dynamic Worker。

Schema用JSON描述可用工具，包括端點(diǎn)、參數(shù)、返回值類型。LLM（Claude或GPT-4級別）讀取后輸出符合類型的TypeScript函數(shù)，內(nèi)部用fetch串行或并行調(diào)用。

生成的代碼通過Cloudflare的API推送，平臺(tái)自動(dòng)完成編譯、分發(fā)、執(zhí)行。開發(fā)者拿到的是執(zhí)行結(jié)果，中間過程全托管。

一個(gè)典型場景：用戶問"對比過去7天北京和上海的氣溫趨勢"。傳統(tǒng)做法需要4輪LLM調(diào)用（拆任務(wù)→查北京→查上?！鷮懡Y(jié)論），Code Mode下一輪生成函數(shù)，內(nèi)部并發(fā)兩個(gè)請求，聚合后直接返回。

Cloudflare的實(shí)測案例顯示，這類查詢的端到端延遲從4.2秒降到180毫秒，Token消耗從12k降到2.1k。

目前Dynamic Workers處于Beta階段，免費(fèi)額度包含每月10萬次調(diào)用。Cloudflare沒有公布正式定價(jià)，但按Workers的歷來策略，邊緣計(jì)算的費(fèi)用會(huì)比中心化推理低一個(gè)數(shù)量級。

開源社區(qū)已經(jīng)開始適配。LangChain團(tuán)隊(duì)實(shí)驗(yàn)了Code Mode的集成，發(fā)現(xiàn)復(fù)雜Agent的響應(yīng)速度提升后，用戶完成率顯著提高——沒人喜歡等。

Cloudflare在博客結(jié)尾埋了個(gè)問題：當(dāng)AI能自己寫執(zhí)行代碼，我們還需要那么多預(yù)置的工具鏈嗎？