作者：大頭

轉(zhuǎn)載請聯(lián)系本公眾號獲得授權(quán)，并標(biāo)明來源

2025 Meet AI Compiler 第 8 期技術(shù)沙龍將于 12 月 27 日在上海創(chuàng)智學(xué)院舉辦。

一直以來，由 HyperAI超神經(jīng)主辦的 Meet AI Complier 技術(shù)沙龍，匯聚科研機(jī)構(gòu)、企業(yè)內(nèi)的專家學(xué)者與一線工程師，從技術(shù)創(chuàng)新聊到應(yīng)用攻堅(jiān)，為大家搭建了交流平臺。今年 7 月，北京站的第 7 期 Meet AI Compiler 技術(shù)沙龍圓滿落幕，現(xiàn)場熱烈討論不斷，技術(shù)干貨引發(fā)持續(xù)互動！

12 月 27 日，第 8 期 Meet AI Compiler 如約而至。本期我們邀請了來自上海創(chuàng)智學(xué)院、TileAI 社區(qū)、華為海思、先進(jìn)編譯實(shí)驗(yàn)室、AI9Stars 社區(qū)的多位專家，他們將帶來從軟件棧設(shè)計(jì)、算子開發(fā)到性能優(yōu)化的全鏈路分享，內(nèi)容涵蓋 TVM 的跨生態(tài)互操作、PyPTO 的融合算子優(yōu)化、TileRT 的低延遲系統(tǒng)、Triton 面向多架構(gòu)的關(guān)鍵優(yōu)化技術(shù)以及 AutoTriton 的算子優(yōu)化，呈現(xiàn)從理論到落地的完整技術(shù)路徑。

報(bào)名已開啟，席位有限～快來現(xiàn)場蹭干貨，我們在上海等你！

活動詳情

? 時(shí)間：12 月 27 日（周六）13:30-17:30

地點(diǎn)：上海市徐匯區(qū)華發(fā)路 699 弄 3 號上海創(chuàng)智學(xué)院

人數(shù)：150（現(xiàn)場座位有限，請盡早報(bào)名）

報(bào)名：點(diǎn)擊下方小程序報(bào)名

掃碼備注「AI 編譯器」加入活動群：

嘉賓及議程

分享嘉賓

13:40-17:20

13:40-14:20

馮思遠(yuǎn)

上海創(chuàng)智學(xué)院助理教授

Apache TVM PMC

分享主題：TVM FFI: Open ABI and FFI for Machine Learning Systems

內(nèi)容簡介：TVM FFI 旨在解決機(jī)器學(xué)習(xí)系統(tǒng)生態(tài)割裂與互操作性難題。通過定義開放的 ABI 和 FFI 標(biāo)準(zhǔn)，該項(xiàng)目利用穩(wěn)定的 C ABI 及 DLPack 實(shí)現(xiàn)零拷貝數(shù)據(jù)傳遞，打通了 PyTorch 等框架與底層編譯器的連接。它支持跨語言高效調(diào)用，顯著降低了多平臺適配的工程成本。

觀看本場分享，你將了解：

1. 學(xué)習(xí) TVM-FFI 通用標(biāo)準(zhǔn)，大幅降低跨語言 Mlsys 開發(fā)維護(hù)成本

2. 了解并構(gòu)建兼容未來的模塊化 ML 生態(tài)

14:20-15:00

薛繼龍

Tile-AI 社區(qū)

創(chuàng)始成員

分享主題：TileRT：面向低延遲大模型推理的軟硬件探索

內(nèi)容簡介：隨著大模型跨入萬億參數(shù)，處理序列跨過百萬 token，模型能力正在不斷打破各項(xiàng)記錄。然而，人們對模型極致計(jì)算速度的追求從未停止。一方面許多低延遲場景需要在秒級甚至毫秒級得到響應(yīng)，如實(shí)時(shí)決策、博弈等場景；另一方面大模型訓(xùn)練進(jìn)入 Agent 時(shí)代，超長序列的 rollout 時(shí)間成為主要瓶頸。

本報(bào)告介紹 TileRT 項(xiàng)目，從 AI 編譯器、runtime、到架構(gòu)設(shè)計(jì)的角度，思考如何構(gòu)建針對極低延遲的大模型計(jì)算軟件棧。

觀看本場分享，你將了解：

1. 了解大模型低延遲推理場景背景、重要性和未來展望

2. TileRT 的技術(shù)挑戰(zhàn)與實(shí)踐分享

15:20-16:00

汪超

華為海思

軟件工程師

分享主題：PyPTO：基于白盒編譯的融合算子開發(fā)框架

內(nèi)容簡介：本次分享聚焦華為新推出的融合算子開發(fā)框架 PyPTO。它基于 Tensor/Tile 編程范式，通過聚焦核內(nèi) SRAM 管理、跨平臺 PTO 指令集和 MPMD 運(yùn)行時(shí)等技術(shù)，結(jié)合 Human-In-The-Loop 調(diào)優(yōu)，以白盒編譯方式實(shí)現(xiàn)高性能與易用性的統(tǒng)一。

觀看本場分享，你將了解：

1. 掌握原生為 SIMD 架構(gòu)設(shè)計(jì)的融合算子開發(fā)框架PyPTO的設(shè)計(jì)理念與核心架構(gòu)

2. 掌握 PyPTO 聚焦于發(fā)揮用戶的專家經(jīng)驗(yàn)的白盒編譯思想與 Human-In-The-Loop 調(diào)優(yōu)精髓

3. 掌握 利用 PyPTO 提供的可視化工具，快速在昇騰平臺開發(fā)出高性能融合算子的完整流程

16:00-16:40

李嘉楠

先進(jìn)編譯實(shí)驗(yàn)室

研究員

分享主題：面向 Triton 編譯器的編譯優(yōu)化實(shí)踐

內(nèi)容簡介：本次分享聚焦面向 Triton 編譯器的優(yōu)化實(shí)踐，系統(tǒng)介紹 Triton 的語言與編譯器結(jié)構(gòu)、生態(tài)演進(jìn)與算子庫開發(fā)方法，并深入覆蓋 CPU、NPU、GPU 等多架構(gòu)的關(guān)鍵優(yōu)化技巧，展示構(gòu)建高性能統(tǒng)一算子體系的完整路徑。

觀看本場分享，你將了解：

1. Triton 生態(tài)的最新進(jìn)展

2. Triton 編譯器在多架構(gòu)（CPU/NPU/GPU）上的關(guān)鍵優(yōu)化技術(shù)

16:40-17:20

施琦

AI9Stars 社區(qū)

研究員

分享主題：AutoTriton：強(qiáng)化學(xué)習(xí)驅(qū)動的大模型 Triton 算子優(yōu)化技術(shù)探索

內(nèi)容簡介：利用 CUDA 等語言編寫高效內(nèi)核是性能工程師的專屬領(lǐng)域，隨著 Triton 等編程框架的出現(xiàn)，內(nèi)核可編程性有著重大飛躍。但開發(fā)人員仍然需要手動配置關(guān)鍵參數(shù)，限制了性能可移植性和廣泛應(yīng)用。本報(bào)告將介紹在大模型算子生成評價(jià)基準(zhǔn)與模型方面的探索，并展望大模型在算子優(yōu)化方面的巨大潛力。

觀看本場分享，你將了解：

1. 大模型賦能算子優(yōu)化的相關(guān)工作及最新進(jìn)展

2. 大模型在算子優(yōu)化領(lǐng)域的關(guān)鍵技術(shù)

主辦方及合作伙伴

HyperAI超神經(jīng)（hyper.ai）作為國際領(lǐng)先的人工智能及高性能計(jì)算社區(qū)，旨在通過提供行業(yè)資訊報(bào)道、數(shù)據(jù)集加速下載、在線教程演示、熱門模型性能評測、前沿論文推薦、高價(jià)值成果解讀、頂會日歷集成等一系列服務(wù)，助力全球數(shù)據(jù)科學(xué)及??智能?業(yè)的開發(fā)者及愛好者學(xué)習(xí)、理解、實(shí)踐，與社區(qū)?起構(gòu)建??智能的未來。

訪問官網(wǎng)：

https://hyper.ai/

OpenBayes貝式計(jì)算是國內(nèi)領(lǐng)先的高性能計(jì)算服務(wù)提供商，通過為新一代異構(gòu)芯片嫁接經(jīng)典軟件生態(tài)及機(jī)器學(xué)習(xí)模型，進(jìn)而為工業(yè)企業(yè)及高校科研提供更加快速、易用的數(shù)據(jù)科學(xué)計(jì)算產(chǎn)品，其產(chǎn)品已被數(shù)十家大型工業(yè)場景或頭部科研院所所采用。

訪問官網(wǎng)：https://openbayes.com/

MLC.AI 社區(qū)成立于 2022 年 6 月，并由 Apache TVM 主要發(fā)明者、機(jī)器學(xué)習(xí)領(lǐng)域著名的青年學(xué)者陳天奇，帶領(lǐng)團(tuán)隊(duì)上線了 MLC 線上課程，系統(tǒng)介紹了機(jī)器學(xué)習(xí)編譯的關(guān)鍵元素以及核心概念。

2022 年 11 月，在 MLC.AI 社區(qū)志愿者的共同努力下，首個(gè)完整的 TVM 中文文檔上線，并成功托管至 HyperAI超神經(jīng)官網(wǎng)，進(jìn)一步為對機(jī)器學(xué)習(xí)編譯感興趣的國內(nèi)開發(fā)者，提供了接觸并學(xué)習(xí)一門新技術(shù)的基礎(chǔ)設(shè)置——文檔。

MLC 線上課程：https://mlc.ai/

TVM 中文文檔：https://tvm.hyper.ai/

上海創(chuàng)智學(xué)院是匯聚頂尖大學(xué)、頭部企業(yè)和科研機(jī)構(gòu)聯(lián)袂建設(shè)的新型人才培養(yǎng)機(jī)構(gòu)。學(xué)院堅(jiān)持「以學(xué)生為中心、以前沿為牽引」的培養(yǎng)理念，通過超高規(guī)格的師資、超常措施的培養(yǎng)、超凡條件的保障，探索具有中國特色的 AI 領(lǐng)軍人才培養(yǎng)方案，致力于培養(yǎng)中國 AI 領(lǐng)軍人才，打造世界人工智能創(chuàng)新高地。

活動支持

活動行：掃碼跳轉(zhuǎn)至活動行報(bào)名

掃碼備注「AI 編譯器」加入活動群

考慮到本場活動的場地空間情況，我們僅開放了 150 個(gè)到場名額，建議大家盡早報(bào)名鎖定席位。

12 月 27 日 13:30-17:30，我們不見不散！