近日，DeepSpeed正式發(fā)布了v0.18.6版本（2026年2月13日），這一版本以穩(wěn)定性優(yōu)化為核心，同時(shí)兼顧性能與兼容性，為深度學(xué)習(xí)分布式訓(xùn)練帶來(lái)更高可靠性與靈活度。下面我們來(lái)詳細(xì)解析此次更新內(nèi)容。

? 版本號(hào)更新

版本文件已同步到0.18.6，確保用戶可以準(zhǔn)確獲取最新版本信息，版本管理更加規(guī)范。

?? 并發(fā)與模塊優(yōu)化

本次更新修復(fù)了leaf 模塊的競(jìng)態(tài)條件問(wèn)題，進(jìn)一步提升了模型在高并發(fā)環(huán)境下的穩(wěn)定性。同時(shí)，這意味著在分布式訓(xùn)練過(guò)程中，模塊之間的同步與數(shù)據(jù)安全性得到了更好保障。

推理階段優(yōu)化

在模型評(píng)估（eval）階段，系統(tǒng)將跳過(guò)序列并行操作，顯著減少無(wú)效計(jì)算，進(jìn)一步優(yōu)化了推理效率。這一改動(dòng)對(duì)大模型推理特別友好，尤其是資源有限的推理部署場(chǎng)景。

AutoTP智能分區(qū)增強(qiáng)

此次版本還新增了AutoTP的自定義分區(qū)模式支持，并修復(fù)了AutoTP自定義模式中未正確遵循use_default_specs參數(shù)的問(wèn)題。
這讓用戶能夠更加靈活地定義Tensor分區(qū)策略，從而在不同硬件架構(gòu)下獲得最優(yōu)性能表現(xiàn)。

訓(xùn)練穩(wěn)定性改進(jìn)

修復(fù)了Gradient is ready with z2 的梯度計(jì)算問(wèn)題，并修正了在ZeRO stage 0配置下，bf16梯度范數(shù)發(fā)散的問(wèn)題，顯著提升了混合精度訓(xùn)練的收斂穩(wěn)定性。
這對(duì)使用ZeRO優(yōu)化的超大模型訓(xùn)練尤為關(guān)鍵。

Python 3.14兼容性更新

DeepSpeed v0.18.6全面支持Python 3.14的新注解處理機(jī)制，為未來(lái)Python版本的適配鋪平道路，開(kāi)發(fā)者可放心升級(jí)Python環(huán)境。

函數(shù)庫(kù)更新

用math.gcd替代了已棄用的fractions.gcd，保持代碼兼容性與標(biāo)準(zhǔn)化，確保長(zhǎng)遠(yuǎn)維護(hù)更輕松。

? 性能改進(jìn)：JIT替換為編譯模式

本次更新將torch.jit.script替換為torch.compile，充分利用PyTorch新一代的編譯優(yōu)化能力，提升執(zhí)行效率的同時(shí)簡(jiǎn)化模型編譯部署流程。

總結(jié)

代碼地址：github.com/deepspeedai/DeepSpeed

DeepSpeed v0.18.6 是一個(gè)以“穩(wěn)定與兼容”為關(guān)鍵詞的精進(jìn)版本。

• ? 解決了訓(xùn)練中的競(jìng)態(tài)與梯度穩(wěn)定性問(wèn)題；

• ? 提升了AutoTP與ZeRO階段的靈活性；

• ? 完善了對(duì)最新Python版本與PyTorch編譯機(jī)制的支持。

我們相信人工智能為普通人提供了一種“增強(qiáng)工具”，并致力于分享全方位的AI知識(shí)。在這里，您可以找到最新的AI科普文章、工具評(píng)測(cè)、提升效率的秘籍以及行業(yè)洞察。 歡迎關(guān)注“福大大架構(gòu)師每日一題”，發(fā)消息可獲得面試資料，讓AI助力您的未來(lái)發(fā)展。