英偉達(dá)推出 CUDA 軟件棧最大規(guī)模升級(jí)之一，芯片架構(gòu)傳奇人物吉姆?凱勒認(rèn)為，此舉或宣告該軟件的獨(dú)家壟斷時(shí)代走向終結(jié)。

英偉達(dá)CUDA 全新升級(jí)：人人皆可輕松上手 GPU 編程

毫無(wú)疑問(wèn)，在當(dāng)下人工智能熱潮席卷的背景下，面向開(kāi)發(fā)者打造生成式 AI 工作流所需的專(zhuān)屬函數(shù)庫(kù)與框架時(shí)，CUDA 堪稱(chēng)英偉達(dá)的 “定海神針”。迄今為止，尚無(wú)任何企業(yè)成功復(fù)刻出同等級(jí)別的軟件棧。在此基礎(chǔ)上，英偉達(dá)對(duì) CUDA 進(jìn)行重大更新，推出CUDA Tile功能，將傳統(tǒng)的單指令多線(xiàn)程（SIMT）架構(gòu)，轉(zhuǎn)向基于分塊（tile-based）的全新編程范式。下文將深入解析此次更新，而芯片架構(gòu)大師吉姆?凱勒則指出，這一變革或?qū)⒋蚱?CUDA 的壁壘優(yōu)勢(shì)。

在本次更新之前，程序員需手動(dòng)微調(diào)各類(lèi)參數(shù)—— 包括分塊尺寸、共享內(nèi)存數(shù)據(jù)加載量，以及 GPU 執(zhí)行任務(wù)所需的計(jì)算資源分配；而 CUDA Tile 的問(wèn)世，徹底顛覆了這一格局。英偉達(dá)不僅引入分塊化編程模型，還打造出全新的底層虛擬機(jī)Tile IR，將 GPU 視作分塊處理器運(yùn)行。這一設(shè)計(jì)讓程序員得以聚焦核心邏輯，無(wú)需再為 GPU 底層復(fù)雜架構(gòu)耗費(fèi)心力。

通過(guò)分塊化方案，英偉達(dá)大幅減少了人工優(yōu)化的工作量，轉(zhuǎn)而將重心放在高規(guī)整度運(yùn)算上，例如結(jié)構(gòu)化矩陣運(yùn)算與卷積運(yùn)算。該功能的核心優(yōu)勢(shì)在于，大幅降低 GPU 編程門(mén)檻，使其受眾范圍得到空前拓展。由于算法以抽象化形式呈現(xiàn)，GPU 的各項(xiàng)參數(shù)將由內(nèi)置編譯器自動(dòng)決策。當(dāng)然，相較于底層代碼直接實(shí)現(xiàn)，CUDA Tile 的性能表現(xiàn)略遜一籌，但它卻是英偉達(dá)推動(dòng) AI 技術(shù)普及的關(guān)鍵舉措。

吉姆?凱勒認(rèn)為，CUDA Tile 將顯著降低代碼向 AMD 等其他廠商 GPU 移植的難度，背后存在兩大核心原因：其一，分塊化技術(shù)早已是行業(yè)通用方案，被 Triton 等主流框架廣泛采用。這意味著，代碼從 CUDA 遷移至 Triton，再進(jìn)一步適配 AMD AI 芯片的可行性將大幅提升；其二，抽象層級(jí)的提升，讓開(kāi)發(fā)者無(wú)需再編寫(xiě)針對(duì)特定架構(gòu)的 CUDA 代碼，從理論上極大簡(jiǎn)化了跨平臺(tái)移植流程。

但也有分析師認(rèn)為，上述觀點(diǎn)恰恰相反——CUDA Tile 非但沒(méi)有削弱，反而加固了英偉達(dá)的護(hù)城河。究其根本，Tile IR 等核心底層技術(shù)均針對(duì)英偉達(dá)硬件語(yǔ)義深度優(yōu)化。因此，盡管代碼移植的門(mén)檻有所降低，實(shí)際落地適配的復(fù)雜度依然居高不下。歸根結(jié)底，英偉達(dá)通過(guò)降低 CUDA 編程門(mén)檻，實(shí)則進(jìn)一步鞏固了自身在 CUDA 軟件棧生態(tài)的主導(dǎo)地位。這也是此次更新被業(yè)界譽(yù)為GPU 編程領(lǐng)域革命性突破的核心原因。

50份好禮！