【科技明說 ｜ 科技熱點關(guān)注】

大家可能還記得5月7日那天的事情，DeepSeek公開致謝騰訊技術(shù)團隊。

我看了一下，騰訊對開源DeepSeek的DeepEP通信框架進(jìn)行了深度優(yōu)化，顯著提升了該框架在多種網(wǎng)絡(luò)環(huán)境下的性能表現(xiàn)，解決了此前在低成本RoCE網(wǎng)絡(luò)中的瓶頸問題，并推動其更廣泛的應(yīng)用。

按道理，這樣的優(yōu)化本來就是DeepSeek自己的事情，反而讓騰訊技術(shù)團隊搶了先，這是為什么呢？

可能，不少人和我一樣百思不得解中。

騰訊技術(shù)團隊還是真給力的，在RoCE網(wǎng)絡(luò)環(huán)境中，優(yōu)化后的DeepEP通信框架性能提升了100%，而在InfiniBand（IB）網(wǎng)絡(luò)環(huán)境中，性能也提升了30%。這一優(yōu)化大幅降低了AI大模型訓(xùn)練的通信成本，為企業(yè)提供了更高效的解決方案。

從而，騰訊技術(shù)團隊為DeepSeek解決了原有技術(shù)痛點。

這里需要明確一下DeepEP框架，最初是在MoE架構(gòu)大模型中通過突破性方法實現(xiàn)了300%的通信效率提升，減少對英偉達(dá)NCCL的依賴，但是這在成本更低的RoCE網(wǎng)絡(luò)中表現(xiàn)不佳，帶寬利用率低且存在CPU控制面延遲問題，限制了實際應(yīng)用。

騰訊星脈網(wǎng)絡(luò)團隊針對兩大關(guān)鍵瓶頸展開攻關(guān)，也是令人刮目相看。

一是，針對雙端口網(wǎng)卡帶寬利用率不足，通過拓?fù)涓兄亩郠P建鏈技術(shù)的智能分配數(shù)據(jù)流，實現(xiàn)最大化利用帶寬。

二是，針對CPU控制面交互延遲的挑戰(zhàn)，采用基于IBGDA技術(shù)的優(yōu)化，繞過CPU中轉(zhuǎn)，降低延遲和能耗。
可見，兩個方面的技術(shù)攻關(guān)都基本很到位了。

就此，騰訊還提出了QP內(nèi)時序鎖機制，解決GPU數(shù)據(jù)傳輸順序混亂問題，即使同時處理上千任務(wù)也能保證順序精準(zhǔn)。

值得一提的是，近水樓臺先得月。優(yōu)化后的代碼已全面開源，并成功應(yīng)用于騰訊混元大模型的訓(xùn)練與推理，驗證了其在高性能計算環(huán)境，如騰訊星脈網(wǎng)絡(luò)與H20服務(wù)器中的通用性。
在公開致謝中，DeepSeek稱騰訊這次優(yōu)化是“huge speedup”，標(biāo)志著開源社區(qū)協(xié)作的重要成果，也為AI大模型的分布式訓(xùn)練提供了更優(yōu)選擇。
再次為騰訊技術(shù)團隊點贊。

因此，通過解決DeepEP在RoCE網(wǎng)絡(luò)中的性能瓶頸并顯著提升效率，推動了該框架的廣泛應(yīng)用，這是DeepSeek致謝的核心原因。

由此可見，開源大模型的技術(shù)創(chuàng)新迭代不僅要靠DeepSeek這樣的創(chuàng)新公司，也需要騰訊等技術(shù)生態(tài)伙伴的共同努力。

眾人拾柴火焰高，AI創(chuàng)新助力靠大家。期待開源大模型迎來更大的技術(shù)突破。

阿明書法：眾人拾柴火焰高

你怎么看？

歡迎文末評論補充！

【科技明說｜全球存儲觀察 ｜全球云觀察｜阿明觀察】專注科技公司分析，用數(shù)據(jù)說話，帶你看懂科技。本文和作者回復(fù)僅代表個人觀點，不構(gòu)成任何投資建議。