哈嘍，大家好，今天小睿這篇評論，主要來分析智算基礎(chǔ)設(shè)施交付標準，用好算力的核心門道

最近這倆月，不管是互聯(lián)網(wǎng)公司還是制造企業(yè)，都在扎堆搞大模型，不少企業(yè)一口氣買了幾百上千張 GPU，結(jié)果訓(xùn)練到一半就崩了。

后來才發(fā)現(xiàn)，不是算力不夠，是沒搞懂智算基礎(chǔ)設(shè)施的交付標準，白白浪費了錢和時間。

之前大家都把注意力放在模型算法上，很少有人關(guān)注智算基礎(chǔ)設(shè)施的交付問題，現(xiàn)在這個問題已經(jīng)成了企業(yè)智能化轉(zhuǎn)型的卡點。

傳統(tǒng) IT 基礎(chǔ)設(shè)施的核心是穩(wěn)定兼容，而智算基礎(chǔ)設(shè)施的核心是性能與效率，這是 IBM 人工智能基礎(chǔ)設(shè)施報告里提到的內(nèi)容。

12 月 15 日，工信部發(fā)布《算力互聯(lián)互通行動計劃》，明確提到智算基礎(chǔ)設(shè)施是算力生命體，是一套算力網(wǎng)絡(luò)體系，不是簡單的服務(wù)器堆疊。

12 月 8 日，“疆算入渝” 工程的中國移動 — 阿里云智算中心項目開工，同時中國移動和阿里云聯(lián)合向重慶數(shù)字資源集團、重慶長安汽車交付了國產(chǎn)算力 2000 卡集群。

這個集群在搭建時，沒有直接堆疊服務(wù)器，而是先做了算力節(jié)點的均衡規(guī)劃，避免了單節(jié)點性能失衡的問題。

智算集群的交付，是保障后續(xù)穩(wěn)定運行的關(guān)鍵，需要從硬件到性能逐項驗證。12 月 3 日，中國信通院發(fā)布《智算集群交付驗收白皮書》，明確了三類核心驗收標準。

第一類是硬件一致性與健康性，驗收時要核對 CPU 的型號、核心數(shù)，GPU 的型號、顯存、驅(qū)動版本，存儲的讀寫帶寬，以及網(wǎng)絡(luò)的光模塊狀態(tài)。

攀枝花川滇智算中心在交付前，核對了所有 GPU 的驅(qū)動版本，確保所有節(jié)點的 GPU 驅(qū)動統(tǒng)一。

第二類是性能與穩(wěn)定性驗證，需要進行 72 小時的連續(xù)壓力測試，比如用 NVIDIA DCGM 做 GPU 穩(wěn)定性測試。

這個智算中心在交付前，用NVIDIA Air 數(shù)字孿生仿真工具，搭建了和實際集群一致的數(shù)字模型，提前發(fā)現(xiàn)了 12 個光模塊的光功率衰減問題，更換光模塊后，后續(xù)的測試沒有出現(xiàn)網(wǎng)絡(luò)故障。

第三類是通信網(wǎng)絡(luò)驗證，需要運行 all-to-all 測試，檢查鏈路的誤碼率、丟包率?！敖闳胗濉?交付的 2000 卡集群，在驗收時運行了 all-to-all 測試，確保服務(wù)器之間的協(xié)同通信穩(wěn)定。

隨著大模型的參數(shù)越來越大，算力需求持續(xù)增長，智算基礎(chǔ)設(shè)施的交付標準也在不斷更新。

工信部的《算力互聯(lián)互通行動計劃》提出，2025 年要完成算力互聯(lián)互通的試驗驗證，實現(xiàn)公共算力資源標準化互聯(lián)。

12 月 15 日，攀枝花川滇智算中心點亮，這個智算中心采用了液冷系統(tǒng)，PUE 降至 1.2 以下，符合綠色智算中心的交付要求。

同時，這個智算中心搭建了算力池化平臺，將 GPU 利用率從傳統(tǒng)的 18% 提升至 62%。

另外，跨區(qū)域的算力交付也成了新的方向，“疆算入渝” 的 2000 卡集群，就是跨區(qū)域交付的算力資源，后續(xù)可以通過算力互聯(lián)互通平臺，實現(xiàn)重慶和新疆的算力調(diào)度。

智算基礎(chǔ)設(shè)施的交付標準，是用好算力的核心前提。隨著相關(guān)規(guī)范的不斷完善，以及跨區(qū)域算力協(xié)同的推進，企業(yè)能更順暢地搭建智算集群，推動大模型和人工智能應(yīng)用的落地。