ROBOT INDUSTRY

AI大模型正從聚焦技術(shù)迭代向深耕場(chǎng)景應(yīng)用轉(zhuǎn)變，而立之年的中科曙光不止于技術(shù)深耕，同時(shí)在智能算力與場(chǎng)景適配方面發(fā)力，為大模型從“能用”向“好用”邁進(jìn)提供“好算力”。

當(dāng)前，AI大模型進(jìn)入商用階段，Qwen、豆包、Kimi、文心一言等國(guó)產(chǎn)大模型表現(xiàn)亮眼，現(xiàn)象級(jí)產(chǎn)品DeepSeek更以破竹之勢(shì)攪動(dòng)全球AI產(chǎn)業(yè)格局。

從大模型發(fā)展路徑來(lái)看，建設(shè)千卡、萬(wàn)卡以至十萬(wàn)卡規(guī)模的算力集群成為行業(yè)認(rèn)知中的發(fā)展關(guān)鍵。但實(shí)際輸出的算力水平卻并不如意，算力利用率低、成本高昂，基礎(chǔ)模型與應(yīng)用場(chǎng)景脫鉤，大模型從預(yù)想中的“好用”僅發(fā)展為了堆砌參數(shù)的“能用”。

中科曙光智能計(jì)算產(chǎn)品事業(yè)部副總經(jīng)理胡曉東認(rèn)為，大模型的發(fā)展要關(guān)注軟硬件協(xié)同、算力算法調(diào)優(yōu)等技術(shù)能力，而非單純依賴硬件堆砌的“疊卡模式”。

1

“好算力”的核心不只是加速卡

ChatGPT發(fā)布后，產(chǎn)業(yè)界逐漸形成“堆算卡、算卡即算力、算力即AI”等認(rèn)知。目前公認(rèn)的“好卡”就是英偉達(dá)的GPU卡，但其存在成本高昂、獲取困難的問(wèn)題。

對(duì)大模型而言，加速卡并非決定性能的唯一指標(biāo)，根本原因在于大模型需要面向應(yīng)用，而算力也是一樣，參數(shù)、規(guī)模只是階段性的評(píng)價(jià)指標(biāo)，軟硬件適配、調(diào)度、介入等每一個(gè)環(huán)節(jié)的能耗、效率、成本亦是影響大模型應(yīng)用效果的關(guān)鍵因素。

圖1 中科曙光智能計(jì)算產(chǎn)品事業(yè)部副總經(jīng)理 胡曉東

胡曉東認(rèn)為，算力產(chǎn)業(yè)的核心是應(yīng)用，大模型及算力產(chǎn)業(yè)是一項(xiàng)復(fù)雜的系統(tǒng)性工程，不僅是芯片的設(shè)計(jì)，還包括算法優(yōu)化、軟硬件調(diào)優(yōu)、面向場(chǎng)景的應(yīng)用等。在談到場(chǎng)景應(yīng)用中什么樣的算力才是“好算力”時(shí)，他表示“好算力”需要滿足“三匹配一協(xié)同”，即精度匹配、效率匹配、場(chǎng)景匹配、算存運(yùn)協(xié)同。

胡曉東指出，產(chǎn)業(yè)發(fā)展應(yīng)遵循效率優(yōu)先原則，聚焦有效算力價(jià)值挖掘，規(guī)避資源錯(cuò)配風(fēng)險(xiǎn)，構(gòu)建算存運(yùn)協(xié)同的三位一體架構(gòu)，升級(jí)存儲(chǔ)性能以減少數(shù)據(jù)搬運(yùn)損耗，支撐高頻實(shí)時(shí)場(chǎng)景，同步提升光通信速率并構(gòu)建邊緣算力節(jié)點(diǎn)，為工業(yè)互聯(lián)網(wǎng)、自動(dòng)駕駛等低時(shí)延場(chǎng)景提供應(yīng)用基礎(chǔ)。而“東數(shù)西算”工程的建設(shè)，解決了區(qū)域算力不平衡問(wèn)題，為產(chǎn)業(yè)的健康發(fā)展打下了堅(jiān)實(shí)“地基”。

他強(qiáng)調(diào)，好算力不是絕對(duì)性能的競(jìng)賽，而是“效率夠高、協(xié)同夠穩(wěn)、場(chǎng)景夠準(zhǔn)、能耗夠低”的系統(tǒng)工程，最終目標(biāo)是以最小資源代價(jià)解決實(shí)際問(wèn)題。

2

大模型落地的關(guān)鍵是軟硬件協(xié)同

隨著AI大模型的廣泛應(yīng)用，原有通用算力已無(wú)法滿足高端、復(fù)雜應(yīng)用場(chǎng)景的需求，智能算力等先進(jìn)算力成為新的需求熱點(diǎn)。“海外做智算、做大模型的思路是硬件驅(qū)動(dòng)，但不代表我們也要走一樣的路，軟件層面的開(kāi)發(fā)和推進(jìn)行業(yè)應(yīng)用也許是一條能夠超車(chē)的彎道?！焙鷷詵|提到，從中科曙光的視角來(lái)看，大模型落地應(yīng)用的關(guān)鍵在于軟硬件的協(xié)同設(shè)計(jì)優(yōu)化和“芯片-算法-模型”的深度耦合。

圖2 曙光AI基礎(chǔ)設(shè)施全景圖

發(fā)展國(guó)產(chǎn)算力，硬件是基礎(chǔ)，軟件是靈魂。硬件是否適用、好用，硬件性能有沒(méi)有得到極致釋放，硬件資源利用率能不能提高，相當(dāng)大程度上取決于軟件，包括基礎(chǔ)軟件、管理軟件、應(yīng)用軟件。

DeepSeek的出現(xiàn)打破了市場(chǎng)對(duì)進(jìn)口高算力GPU的路徑依賴，為國(guó)產(chǎn)GPU加速卡帶來(lái)重要機(jī)遇的同時(shí)，軟件短板更加突顯。因此，針對(duì)GPU加速卡進(jìn)行軟硬件協(xié)同設(shè)計(jì)優(yōu)化，實(shí)現(xiàn)“芯片-算法-模型”深度耦合，已成為AI基礎(chǔ)設(shè)施的重要?jiǎng)?chuàng)新方向。

中科曙光圍繞算力的生產(chǎn)、聚集、釋放、調(diào)用、服務(wù)各環(huán)節(jié)，形成了相對(duì)完整的AI基礎(chǔ)設(shè)施方案，從核心基礎(chǔ)層的國(guó)產(chǎn)AI部件，到系統(tǒng)設(shè)施層的智算中心、全閃存儲(chǔ)、AI服務(wù)器、浸沒(méi)式相變液冷等，再到服務(wù)平臺(tái)層的曙光云、全國(guó)一體化算力服務(wù)平臺(tái)等，貫穿AI算力全鏈條，從而降低使用成本、高效賦能場(chǎng)景。

3

DeepAI深算智能引擎讓大模型更易用

“客戶想用最火的DeepSeek實(shí)現(xiàn)業(yè)務(wù)應(yīng)用”，胡曉東表示，客戶在意的是用“最好”的大模型來(lái)實(shí)現(xiàn)業(yè)務(wù)目標(biāo)，能夠根據(jù)自己的實(shí)際需求，自行配置參數(shù)，快速搭建，并且不需要很深的編程基礎(chǔ)。

2024年以前，大模型一直以前沿技術(shù)形式出現(xiàn)，在產(chǎn)品規(guī)劃層面做得較少，雖然很熱，但真正落地應(yīng)用的案例并不多。“去年是大模型的繁榮期，但也是大模型落地前的思考期、冷靜期，大家都開(kāi)始關(guān)注行業(yè)應(yīng)用，從之前‘卷’通用大模型參數(shù)，轉(zhuǎn)為開(kāi)發(fā)行業(yè)大模型、場(chǎng)景應(yīng)用大模型，思考如何從硬件、軟件等層面解決用戶業(yè)務(wù)層面的真實(shí)問(wèn)題”。

圍繞產(chǎn)業(yè)和客戶的實(shí)際需求，中科曙光針對(duì)國(guó)產(chǎn)GPU加速卡先后研發(fā)從底層的編程開(kāi)發(fā)軟件棧AI Toolkit，到中間的人工智能基礎(chǔ)軟件系統(tǒng)DAS，再到靠近上層的人工智能應(yīng)用平臺(tái)DAP，共同構(gòu)成了端到端全棧AI加速套件——DeepAI深算智能引擎。

圖3 DeepAI深算智能引擎

胡曉東介紹，基于DeepAI深算智能引擎，客戶能夠直接簡(jiǎn)化部署流程，無(wú)需配置環(huán)境，直接根據(jù)自身的業(yè)務(wù)知識(shí)，選擇想要的大模型，就可以形成最符合業(yè)務(wù)一線的專用大模型或Agent，在國(guó)產(chǎn)AI算力底座上跑通DeepSeek、通義QwQ等大模型應(yīng)用，解決了以往由技術(shù)團(tuán)隊(duì)主導(dǎo)的開(kāi)發(fā)模式存在業(yè)務(wù)脫鉤的問(wèn)題。

目前，以DeepAI深算智能引擎為核心的相關(guān)產(chǎn)品方案，已經(jīng)進(jìn)入眾多關(guān)鍵行業(yè)，支撐國(guó)家稅務(wù)總局、中國(guó)海關(guān)、中國(guó)氣象局、深圳紀(jì)委、中國(guó)電信天翼云、PICC人保財(cái)險(xiǎn)、中石化物探院、上海市皮膚病醫(yī)院等客戶實(shí)現(xiàn)應(yīng)用落地。

步入“而立之年”的中科曙光，經(jīng)過(guò)三十年的AI行業(yè)打拼與產(chǎn)業(yè)實(shí)踐，站在了核心基礎(chǔ)、系統(tǒng)設(shè)施、服務(wù)平臺(tái)的行業(yè)前沿。胡曉東表示，中科曙光將持續(xù)聚焦AI基礎(chǔ)設(shè)施領(lǐng)域，以“軟硬協(xié)同、從芯到云”的全棧AI產(chǎn)品布局，和“向下扎根、向上生長(zhǎng)”的生態(tài)合作策略，賦能千行萬(wàn)業(yè)智能化轉(zhuǎn)型。

閱讀更多內(nèi)容，歡迎訂購(gòu)《機(jī)器人產(chǎn)業(yè)》雜志。

點(diǎn)擊跳轉(zhuǎn)！圈內(nèi)人都在看的專家觀點(diǎn)