在大洋彼岸的互聯(lián)網(wǎng)科技巨頭狂堆算力大煉模型之際，行業(yè)化落地被認(rèn)為是中國(guó)人工智能產(chǎn)業(yè)發(fā)展的重要特色。通過(guò)將大模型與千行百業(yè)場(chǎng)景結(jié)合，AI已成為我國(guó)數(shù)字經(jīng)濟(jì)發(fā)展的核心驅(qū)動(dòng)力。打造強(qiáng)大、自主的AI技術(shù)底座與構(gòu)建繁榮、創(chuàng)新的AI應(yīng)用生態(tài)，已因此成為產(chǎn)業(yè)發(fā)展的關(guān)鍵。

業(yè)界在行動(dòng)！近日，昇騰“淬火行動(dòng)”伙伴能力提升專項(xiàng)行動(dòng)——廣深專場(chǎng)圓滿落幕，來(lái)自全國(guó)各地的昇騰行業(yè)伙伴及其AI技術(shù)開發(fā)者匯聚一堂，通過(guò)這場(chǎng)為期三天的深度技術(shù)賦能活動(dòng)學(xué)習(xí)昇騰軟硬件技術(shù)，補(bǔ)齊技術(shù)斷點(diǎn)，強(qiáng)化實(shí)戰(zhàn)能力，共同開啟了以“技術(shù)自閉環(huán)”推動(dòng)AI項(xiàng)目落地的“加速度”。

01．從調(diào)用API到深入技術(shù)棧，加速項(xiàng)目落地進(jìn)程

當(dāng)AI大模型成為行業(yè)智慧升級(jí)的核心驅(qū)動(dòng)力，傳統(tǒng)數(shù)智服務(wù)提供商也站在了新的十字路口，機(jī)會(huì)與挑戰(zhàn)并存。

廣州力麒智能科技有限公司（以下簡(jiǎn)稱“力麒智能”）作為智慧政務(wù)解決方案提供商，成立20多年以來(lái)一直為數(shù)字政府建設(shè)提供專業(yè)的軟硬件全套服務(wù)。隨著AI時(shí)代呼嘯而來(lái)，力麒智能也開啟了國(guó)產(chǎn)化大模型應(yīng)用開發(fā)的新征程。

在力麒智能技術(shù)總監(jiān)陳勁全看來(lái)，公司在應(yīng)用開發(fā)中面臨的核心難點(diǎn)在于對(duì)算力、對(duì)知識(shí)庫(kù)、對(duì)底層國(guó)產(chǎn)環(huán)境的適配；在項(xiàng)目推進(jìn)中，需要融入技術(shù)生態(tài)，將上層應(yīng)用與底層算力支撐層相結(jié)合，若技術(shù)鏈整合不順暢，將導(dǎo)致項(xiàng)目推進(jìn)受阻。

廣州力麒智能科技有限公司技術(shù)總監(jiān)陳勁全

毫無(wú)疑問(wèn)，這需要生態(tài)方提供更適配的技術(shù)支持。昇騰“淬火行動(dòng)”正為此而生，三天的培訓(xùn)活動(dòng)通過(guò)RAG應(yīng)用開發(fā)、小模型推理部署、大模型訓(xùn)推加速、算子開發(fā)等課程，為伙伴開發(fā)者構(gòu)建了所需的技術(shù)認(rèn)知與實(shí)操能力。

以時(shí)下火熱的RAG應(yīng)用開發(fā)為例，培訓(xùn)首日便聚焦RAG技術(shù)應(yīng)用如何通過(guò)知識(shí)庫(kù)解決大模型知識(shí)更新滯后與內(nèi)容幻覺問(wèn)題，并結(jié)合昇騰RAG SDK的實(shí)操演練，指導(dǎo)開發(fā)者快速構(gòu)建企業(yè)級(jí)智能問(wèn)答應(yīng)用，為技術(shù)落地產(chǎn)業(yè)場(chǎng)景提供有效路徑。

“此前團(tuán)隊(duì)主要是調(diào)用API，不熟悉推理部署、調(diào)優(yōu)及底層技術(shù)棧構(gòu)建，”陳勁全表示，通過(guò)“淬火行動(dòng)”實(shí)操培訓(xùn)積累技術(shù)經(jīng)驗(yàn)，團(tuán)隊(duì)未來(lái)不僅可以快速解決內(nèi)部項(xiàng)目問(wèn)題，還能協(xié)助客戶處理昇騰大模型應(yīng)用部署難題，推動(dòng)項(xiàng)目合作。

02．從“黑盒子”到可管可優(yōu)，推動(dòng)安防AI高效落地

深圳市未來(lái)清研智能科技有限公司（以下簡(jiǎn)稱“未來(lái)清研”）Java研發(fā)工程師林晨，在負(fù)責(zé)公司特定行業(yè)AI應(yīng)用落地時(shí)同樣面臨諸多難題。

深圳市未來(lái)清研智能科技有限公司Java研發(fā)工程師林晨

一方面，客戶的需求高度定制化且動(dòng)態(tài)變化，傳統(tǒng)研發(fā)方式響應(yīng)慢，需要AI驅(qū)動(dòng)的流程化方式提升需求交付效率。另一方面，團(tuán)隊(duì)此前使用的開源推理框架難以適應(yīng)特定生態(tài)的硬件系統(tǒng)和相應(yīng)的技術(shù)運(yùn)維支持，同時(shí)，無(wú)法把控真實(shí)有效的調(diào)優(yōu)過(guò)程。

于是2024年公司將目光投向了更系統(tǒng)化、更加可控的昇騰技術(shù)方案，林晨此番參加昇騰“淬火行動(dòng)”，正希望進(jìn)一步借助昇騰生態(tài)的系統(tǒng)化培訓(xùn)與技術(shù)支持，在模型調(diào)優(yōu)、算法優(yōu)化、算力挖掘等方面實(shí)現(xiàn)進(jìn)階，更好地滿足安防客戶對(duì)定制化功能與本地?cái)?shù)據(jù)安全的訴求。

林晨指出，尤其是RAG SDK對(duì)本地?cái)?shù)據(jù)集測(cè)試、Milvus向量庫(kù)對(duì)接的支持，為業(yè)務(wù)高效落地提供了相關(guān)參考，“培訓(xùn)老師認(rèn)真負(fù)責(zé)、文檔詳實(shí)，幫助明確了模型調(diào)優(yōu)、框架適配的方向。”

03．從跨架構(gòu)遷移到端到端實(shí)戰(zhàn)，提升問(wèn)題解決效率

深圳市法本信息技術(shù)股份有限公司（以下簡(jiǎn)稱“法本信息”）作為一家長(zhǎng)期深耕AI與信創(chuàng)領(lǐng)域的老牌信息技術(shù)服務(wù)商，與昇騰合作已久，是昇騰ISV大模型應(yīng)用軟件合作伙伴。目前，法本信息已形成階段性成果——旗下在昇騰AI開發(fā)者創(chuàng)享日·廣東站重磅發(fā)布的FarAI GPT系列一體機(jī)，基于昇騰和DeepSeek構(gòu)建企業(yè)級(jí)AI生態(tài)架構(gòu)，內(nèi)嵌三大核心垂直模型與智能體，覆蓋人才獲取與管理（智能招聘GPTRecruit）、知識(shí)管理（知識(shí)大腦GPTBrain：銀行監(jiān)管、汽車維修等）、研發(fā)效能（輔助編碼GPTCoder）等關(guān)鍵業(yè)務(wù)場(chǎng)景，可賦能金融、汽車等行業(yè)，全面滿足企業(yè)AI時(shí)代戰(zhàn)略轉(zhuǎn)型需求。

法本信息新生代算法工程師鄭帥在交流中提到，目前團(tuán)隊(duì)在昇騰技術(shù)應(yīng)用領(lǐng)域已積累了一定的經(jīng)驗(yàn)，尤其在跨架構(gòu)遷移（從英偉達(dá)平臺(tái)到昇騰）、基于昇騰的端到端大模型實(shí)戰(zhàn)等核心能力上，已通過(guò)產(chǎn)品適配與項(xiàng)目實(shí)踐形成了相關(guān)的技術(shù)路徑。目前個(gè)人在昇騰技術(shù)的深入應(yīng)用上也處于持續(xù)精進(jìn)階段，主要在算子開發(fā)等進(jìn)階技術(shù)領(lǐng)域仍在積累突破，希望通過(guò)更多實(shí)踐與交流進(jìn)一步提升專業(yè)能力。同時(shí)他提到，部分客戶對(duì)自主技術(shù)生態(tài)的穩(wěn)定性仍存顧慮，而法本信息基于昇騰在知識(shí)問(wèn)答、金融監(jiān)管、汽車人員培訓(xùn)和智能招聘等場(chǎng)景落地的經(jīng)典案例，充分展現(xiàn)了公司在昇騰生態(tài)下的AI創(chuàng)新實(shí)踐成果與技術(shù)積淀，這些正成為增強(qiáng)客戶信心的重要支撐。

深圳市法本信息技術(shù)股份有限公司算法工程師鄭帥

為此，生態(tài)層面的持續(xù)支持仍顯得尤為關(guān)鍵。昇騰“淬火行動(dòng)”恰好回應(yīng)了這一需求。在培訓(xùn)中，昇騰AI技術(shù)專家將理論與實(shí)戰(zhàn)相結(jié)合，系統(tǒng)指導(dǎo)開發(fā)者完成MindIE大模型推理與調(diào)試調(diào)優(yōu)，并帶領(lǐng)參訓(xùn)者完整實(shí)操了MindSpeed LLM大模型預(yù)訓(xùn)練、微調(diào)及后訓(xùn)練的全流程。此外，昇騰AI框架布道師還現(xiàn)場(chǎng)演示了MindSpore昇思動(dòng)態(tài)圖能力及其兼容方案，通過(guò)創(chuàng)新的適配層設(shè)計(jì)，使主流PyTorch訓(xùn)練代碼能夠平滑遷移至?xí)N騰平臺(tái)，顯著降低生態(tài)切換成本，保障開發(fā)體驗(yàn)的一致性。

鄭帥表示：“‘淬火行動(dòng)’是我深入昇騰技術(shù)體系的重要一步，它幫助我在既有積累的基礎(chǔ)上，進(jìn)一步系統(tǒng)加深了在算子開發(fā)等方面的認(rèn)知，為后續(xù)FarAI GPT系列一體機(jī)等類似產(chǎn)品的迭代與新場(chǎng)景拓展奠定了扎實(shí)基礎(chǔ)?！彼财诖鷳B(tài)方能提供持續(xù)的支持渠道，如專家交流與專項(xiàng)指導(dǎo)，助力個(gè)人及團(tuán)隊(duì)進(jìn)一步攻克模型訓(xùn)練加速、算子開發(fā)等進(jìn)階技術(shù)。

04．從模型訓(xùn)推到算子開發(fā)，充分發(fā)揮昇騰硬件性能

廣電運(yùn)通集團(tuán)股份有限公司（以下簡(jiǎn)稱“廣電運(yùn)通”）算法研發(fā)部的高級(jí)算法工程師胡一征博士，也從模型訓(xùn)推、算法優(yōu)化、算子開發(fā)等層面分享了與昇騰生態(tài)的交集。

廣電運(yùn)通集團(tuán)股份有限公司算法研發(fā)部高級(jí)算法工程師胡一征

他介紹，廣電運(yùn)通團(tuán)隊(duì)自2024年開始使用昇騰，見證了其大模型生態(tài)從初始起步到逐步完善的過(guò)程。比如在前期MindIE功能不足時(shí)，廣電運(yùn)通團(tuán)隊(duì)自主編寫推理接口，支撐了內(nèi)外部的大模型落地項(xiàng)目；隨著MindIE持續(xù)迭代，到當(dāng)年底新版本發(fā)布時(shí)，團(tuán)隊(duì)就轉(zhuǎn)向使用MindIE自帶接口了。

本次參加昇騰“淬火行動(dòng)”，胡一征博士表示正是沖著“自己不太熟悉”的底層算子來(lái)的。他高度認(rèn)可昇騰CANN底層開源的價(jià)值，認(rèn)為這樣的舉措能夠降低開發(fā)者參與門檻，降低適配成本，并希望昇騰持續(xù)完善算子生態(tài)，逐步實(shí)現(xiàn)與主流框架的全面對(duì)齊，進(jìn)一步降低跨架構(gòu)開發(fā)與遷移的工作量。

活動(dòng)第三日的培訓(xùn)，也正圍繞最底層的CANN算子編程能力展開，包括可以幫助開發(fā)者打造與硬件架構(gòu)高度契合的AscendC算子開發(fā)，以及可實(shí)現(xiàn)算子快速開發(fā)和跨平臺(tái)高效遷移的Triton算子開發(fā)，助力開發(fā)者從理論掌握到實(shí)操上手，并顯著提高開發(fā)與遷移的效率。

通過(guò)開源和開放的創(chuàng)新模式，胡一征博士期待能夠充分發(fā)揮昇騰硬件性能，實(shí)現(xiàn)PyTorch所有算子的支持與精度對(duì)齊，最終達(dá)成開發(fā)者希望看到的“一套代碼在英偉達(dá)與華為算力設(shè)備無(wú)縫切換”的目標(biāo)。

毋庸諱言，AI的行業(yè)化落地，既離不開堅(jiān)實(shí)的AI技術(shù)底座，也離不開繁茂AI的應(yīng)用生態(tài)——而貫穿這其中的，正是開發(fā)者這一決定性力量！此番廣深兩地的開發(fā)者因昇騰“淬火行動(dòng)”而集結(jié)，完成從“璞玉”到“利刃”的蛻變，料定將帶著淬火后的硬核實(shí)力，共同為本地乃至全國(guó)的AI行業(yè)落地按下“加速鍵”，讓創(chuàng)新鋒芒在這片產(chǎn)業(yè)沃土上破開荊棘、一往無(wú)前！