編者按：

寧暢的“全局智算”戰(zhàn)略，以其前瞻的洞察力與強(qiáng)大的執(zhí)行力，為企業(yè)鋪就了一條直達(dá)人工智能核心價(jià)值的高速通道，顯著提升數(shù)據(jù)利用效率，精準(zhǔn)驅(qū)動(dòng)業(yè)務(wù)創(chuàng)新，有力支撐戰(zhàn)略決策，確保企業(yè)在數(shù)字化轉(zhuǎn)型和打造新質(zhì)生產(chǎn)力的浪潮中穩(wěn)立潮頭，實(shí)現(xiàn)智慧化運(yùn)營的全方位升級(jí)與可持續(xù)競爭優(yōu)勢的確立。

大模型落地千行百業(yè)的蓬勃發(fā)展，不僅是技術(shù)進(jìn)步的象征，更代表著數(shù)字化時(shí)代產(chǎn)業(yè)變革的新高度與新視野。

大模型的廣泛應(yīng)用，不僅提升了各行業(yè)的決策精度和運(yùn)營效率，更在催生新業(yè)態(tài)、新模式，引領(lǐng)著新一輪的產(chǎn)業(yè)革命。

但是，正如硬幣有兩面，大模型落地各行業(yè)同時(shí)面臨著新的挑戰(zhàn)。

在算力、算效、精度、能耗之外，挑戰(zhàn)還有許多……但是，“木桶”缺不了任何“短板”。

寧暢全局智算能力圖

為大模型落地指明方向

“在大模型的閃耀在聚光燈下，百花齊放的背后，是不同的發(fā)展階段的客戶涌現(xiàn)出來的對(duì)于AI支撐能力體系愈發(fā)復(fù)雜的需求?！睂帟晨偛们貢詫幈硎?。

寧暢總裁秦曉寧

在大模型的發(fā)展之路上，如何建立起一套全面的AI的支撐能力體系？這是當(dāng)下急需要解決的問題。

寧暢的答案是：“全局智算”。

“全局智算”戰(zhàn)略可以看作是寧暢用系統(tǒng)性對(duì)抗不確定性的邏輯能力圖譜，一共分了六個(gè)層面。

寧暢全局智算能力圖，呈現(xiàn)了一個(gè)自下而上、層層遞進(jìn)的AI系統(tǒng)架構(gòu)。這一架構(gòu)全面覆蓋了從應(yīng)用實(shí)現(xiàn)到硬件支撐的所有關(guān)鍵環(huán)節(jié)，體現(xiàn)了各層次之間的緊密協(xié)作與相互依賴，共同構(gòu)筑了一個(gè)高效、穩(wěn)定和易于擴(kuò)展的AI生態(tài)。

首先，作為整個(gè)架構(gòu)基石的AI硬件資源層，提供了堅(jiān)實(shí)的硬件支撐。算力服務(wù)器、高速存儲(chǔ)、先進(jìn)的并行文件系統(tǒng)，以及Infiniband、ROCE等高性能網(wǎng)絡(luò)技術(shù)的融入，不僅確保了數(shù)據(jù)的高速處理和傳輸，也為AI系統(tǒng)的性能發(fā)揮設(shè)定了高標(biāo)準(zhǔn)的上限。

AI集群設(shè)計(jì)層著眼于AI集群的精細(xì)構(gòu)造。這包括了微架構(gòu)級(jí)的深入解析、AI集群網(wǎng)絡(luò)及存儲(chǔ)架構(gòu)的優(yōu)化設(shè)計(jì)，以及針對(duì)AI模型特性的細(xì)致分析等。這些設(shè)計(jì)上的考量，確保AI集群能夠在高效運(yùn)行的同時(shí)，也具備良好的可擴(kuò)展性。

進(jìn)入到AI算子優(yōu)化層，專注于系統(tǒng)工程層面的優(yōu)化。涵蓋了資產(chǎn)及集群方案的設(shè)計(jì)管理、監(jiān)控體系的建立，以及基于模型性能的精細(xì)化優(yōu)化等。這些工作為AI系統(tǒng)的穩(wěn)定性和可靠性提供了有力的保障。

AI中臺(tái)層則為上層應(yīng)用提供了強(qiáng)大的平臺(tái)和運(yùn)營管理支持。NVAIE AI平臺(tái)與Nettrix Al Operation & Management服務(wù)便是其中的佼佼者。這些服務(wù)不僅優(yōu)化了基礎(chǔ)算子的深度，還為AI基礎(chǔ)運(yùn)行時(shí)提供了堅(jiān)實(shí)的支撐，有效地充當(dāng)了AI應(yīng)用與底層硬件之間的橋梁。

接下來的AI業(yè)務(wù)層，聚焦于AI系統(tǒng)性能的調(diào)優(yōu)及模型的研發(fā)。Nettrix通過與業(yè)內(nèi)領(lǐng)先公司的緊密合作，實(shí)施了包括全面性能分析、大規(guī)模模型并行優(yōu)化在內(nèi)的多項(xiàng)措施。這些舉措的核心目的在于，通過不斷精進(jìn)的算法和模型，提升AI系統(tǒng)的整體運(yùn)行效能。

最后，AI場景層代表了人工智能技術(shù)的多元應(yīng)用領(lǐng)域。這些領(lǐng)域包括數(shù)字金融、智能駕駛、智能制造、智慧科研、生物醫(yī)療、智慧通信及智慧政務(wù)等。每一個(gè)場景都根據(jù)自身的業(yè)務(wù)特性和需求，對(duì)AI算力提出了不同的性能、響應(yīng)時(shí)間和數(shù)據(jù)處理要求。

總結(jié)來說，寧暢全局智算能力圖揭示了一個(gè)層次清晰、結(jié)構(gòu)嚴(yán)謹(jǐn)?shù)腁I系統(tǒng)架構(gòu)。每一層次都承載著特定的功能和任務(wù)，相互之間的協(xié)同作用，使得整個(gè)系統(tǒng)能夠在不同應(yīng)用場景中靈活應(yīng)對(duì)，同時(shí)保持著卓越的性能和穩(wěn)固的可靠性。

這是業(yè)內(nèi)首次有算力廠商發(fā)布全局智能算力布局圖。

在復(fù)雜的需求面前，寧暢將以全面AI支撐能力覆蓋大模型發(fā)展的全生命周期的需求，從而可以解決客戶復(fù)雜系統(tǒng)性的大模型落地問題。不僅深刻展現(xiàn)了寧暢對(duì)智算行業(yè)發(fā)展的全面理解，更為產(chǎn)業(yè)的持續(xù)創(chuàng)新和進(jìn)步指明了方向，注入了新的動(dòng)力，加速了業(yè)務(wù)創(chuàng)新。

“六全”算力棧打樣

業(yè)務(wù)創(chuàng)新可觸摸

如果用最簡練最直接的詞匯來總結(jié)這張智能算力布局圖，那就是，全體系、全液冷、全服務(wù)、全場景、全行業(yè)、全階段。

通過了軟硬件兼?zhèn)涞娜w系以及業(yè)界領(lǐng)先的液冷全產(chǎn)品家族，可以提供從咨詢、測試、運(yùn)維、售后的全服務(wù)場景，滿足客戶從大模型的開發(fā)、適配、部署、全場景的全行業(yè)的需求，并且根據(jù)客戶發(fā)展不同階段，提供寧暢定制化服務(wù)，在“全局智算”的階段，寧暢會(huì)提供專業(yè)的極具性價(jià)比定制化智算部署的方案。

這里以車企自動(dòng)化駕駛案例可以參考。

首先，寧暢在構(gòu)建算力系統(tǒng)時(shí)，實(shí)施了千節(jié)點(diǎn)互聯(lián)的解決方案，并配備了液冷整機(jī)柜產(chǎn)品。這種設(shè)計(jì)極大地方便了系統(tǒng)的運(yùn)維和部署工作，因?yàn)槠渲С蛛娨好げ骞δ堋?/p>

在軟件層面，考慮到自動(dòng)駕駛對(duì)實(shí)時(shí)性和低延遲的極高要求，寧暢的AI軟件棧為自動(dòng)駕駛特有算法和模型提供了優(yōu)化后的深度學(xué)習(xí)框架和加速庫，這些優(yōu)化措施涵蓋了為自動(dòng)駕駛場景定制的預(yù)訓(xùn)練模型、模型壓縮技術(shù)、加速技術(shù)，以及對(duì)車輛專用硬件平臺(tái)進(jìn)行深度優(yōu)化的學(xué)習(xí)庫。

為了保障自動(dòng)駕駛系統(tǒng)的安全性，汽車制造商需要進(jìn)行大量的模擬測試。寧暢的AI軟件棧中包含了功能強(qiáng)大的模擬和測試工具，這些工具能夠支持虛擬環(huán)境的創(chuàng)建、場景再現(xiàn)，以及測試用例的自動(dòng)生成和執(zhí)行。

此外，針對(duì)自動(dòng)駕駛企業(yè)需要處理和標(biāo)注海量數(shù)據(jù)的問題，寧暢提供了數(shù)據(jù)預(yù)處理和自動(dòng)標(biāo)注等支持，從而有效提高了數(shù)據(jù)利用效率，并加速了模型訓(xùn)練過程。

在這個(gè)案例中，當(dāng)復(fù)雜的客戶的需求不斷涌現(xiàn)，涉及到了算法、算力、數(shù)據(jù)三個(gè)維度，算效、精度和服務(wù)等俱多方面。寧暢希望在“全局智算”戰(zhàn)略指引下提供具備六個(gè)“全”特點(diǎn)的能力矩陣，向上去解決極致算效、精度增強(qiáng)、高效穩(wěn)定三個(gè)復(fù)雜的客戶問題，向下去賦能客戶的千行百業(yè)，讓大模型真的落地成為各行各業(yè)的新質(zhì)生產(chǎn)力。

作為“全局戰(zhàn)略”落地的重要組成部分，國內(nèi)首個(gè)AI算力棧——寧暢NEX AI Lab（Nettrix AI Open Lab）已在桐鄉(xiāng)市成功落地并開放預(yù)約試用，用以展現(xiàn)應(yīng)用場景優(yōu)化、行業(yè)智算定制解決方案，通過免費(fèi)提供軟、硬件服務(wù)，帶來大模型、數(shù)據(jù)科學(xué)、推薦系統(tǒng)等解決方案工作流的先進(jìn)體驗(yàn)。

具體來說，寧暢的AI算力棧集成了其在AI計(jì)算領(lǐng)域的軟硬件能力，包括計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、建設(shè)、管理、應(yīng)用及液冷等全方位需求。這樣的設(shè)計(jì)使得AI算力棧能夠?yàn)榇竽Ｐ偷拈_發(fā)、適配、部署等全場景需求提供有力支持，并幫助用戶極速推進(jìn)AI應(yīng)用開發(fā)及管理。

算力棧其實(shí)是為用戶提供業(yè)務(wù)創(chuàng)新的實(shí)驗(yàn)場。它就像一個(gè)強(qiáng)大的“智能廚房”，為用戶提供了豐富的“食材”和“廚具”。用戶可以根據(jù)自己的需求和創(chuàng)意，在這個(gè)實(shí)驗(yàn)場中烹飪出各種美味的“創(chuàng)新大餐”。真正做到可定制、可量化、可觸摸、可觀測。

結(jié) 語

寧暢提出的“全局智算”戰(zhàn)略：

以全棧協(xié)同強(qiáng)調(diào)軟硬件全體系的深度融合，顯著提升了AI系統(tǒng)的整體效能與響應(yīng)速度。

以全液冷賦能持續(xù)深化液冷技術(shù)的應(yīng)用，全為大規(guī)模AI訓(xùn)練與推理作業(yè)提供了堅(jiān)實(shí)的支撐。

以全場景覆蓋瞄準(zhǔn)全行業(yè)用戶的全場景需求提供定制化的解決方案，助力各領(lǐng)域企業(yè)跨越AI技術(shù)門檻，快速實(shí)現(xiàn)業(yè)務(wù)智能化升級(jí)。

以全流程服務(wù)從咨詢規(guī)劃到運(yùn)維管理的全流程服務(wù)體系確保AI項(xiàng)目的成功落地與持續(xù)優(yōu)化。

寧暢的“全局智算”戰(zhàn)略憑借全局視野與創(chuàng)新領(lǐng)導(dǎo)力，成功塑造了一個(gè)立體、完整且具有高度前瞻性的AI計(jì)算解決方案框架，為行業(yè)樹立了智能計(jì)算的新標(biāo)桿，為大模型落地千行百業(yè)指了條明路。