NVIDIA 在 KubeCon Europe 大會(huì)上宣布推出適用于 GPU 加速工作負(fù)載的機(jī)密容器解決方案、NVIDIA KAI Scheduler 更新，以及用于實(shí)現(xiàn)大規(guī)模 AI 工作負(fù)載的全新開(kāi)源項(xiàng)目。

對(duì)于絕大多數(shù)企業(yè)來(lái)說(shuō)，AI 工作負(fù)載在 Kubernetes 上運(yùn)行——一個(gè)可實(shí)現(xiàn)容器化應(yīng)用的部署、擴(kuò)縮容與管理自動(dòng)化的開(kāi)源平臺(tái)。

為了使全球開(kāi)發(fā)者社區(qū)能夠更高效透明地管理高性能 AI 基礎(chǔ)設(shè)施，NVIDIA 將向云原生計(jì)算基金會(huì) (Cloud Native Computing Foundation, CNCF) 捐贈(zèng)關(guān)鍵軟件—— NVIDIA 動(dòng)態(tài)資源分配 (DRA) GPU 驅(qū)動(dòng)程序。CNCF 是一個(gè)供應(yīng)商中立組織，致力于促進(jìn)和維護(hù)云原生生態(tài)系統(tǒng)。

• 簡(jiǎn)化 AI 基礎(chǔ)設(shè)施：在過(guò)去，管理數(shù)據(jù)中心內(nèi)為 AI 提供動(dòng)力的強(qiáng)大 GPU 需要付出巨大努力。

這一貢獻(xiàn)旨在使高性能計(jì)算更易于使用。開(kāi)發(fā)者的受益點(diǎn)包括：

1. 提高效率：該驅(qū)動(dòng)程序支持 NVIDIA Multi-Process Service 和 NVIDIA Multi-Instance GPU 技術(shù)，可實(shí)現(xiàn)更智能的 GPU 資源共享，從而有效利用計(jì)算能力。
2. 大規(guī)模擴(kuò)展：提供原生支持，可將系統(tǒng)連接在一起，兼容 NVIDIA 多節(jié)點(diǎn) NVLink 互聯(lián)技術(shù)。這對(duì)于在 NVIDIA Grace Blackwell 系統(tǒng)和下一代 AI 基礎(chǔ)設(shè)施上訓(xùn)練大型 AI 模型至關(guān)重要
3. 靈活性：開(kāi)發(fā)者可以根據(jù)需要?jiǎng)討B(tài)重新配置硬件，隨時(shí)更改資源分配方式。
4. 精度：該軟件支持微調(diào)請(qǐng)求，允許用戶(hù)根據(jù)其應(yīng)用需求指定特定的算力、顯存設(shè)置或互連配置。

• 全行業(yè)協(xié)作：NVIDIA 正在與行業(yè)領(lǐng)導(dǎo)者合作，包括亞馬遜云科技、博通、Canonical、Google Cloud、微軟、Nutanix、紅帽和 SUSE，共同推動(dòng)這些功能的發(fā)展，造福整個(gè)云原生生態(tài)系統(tǒng)。

• 擴(kuò)展開(kāi)源視野：這一項(xiàng)捐贈(zèng)只是 NVIDIA 支持開(kāi)源社區(qū)的更廣泛舉措的一部分。其他舉措還包括在 GTC 大會(huì)上發(fā)布的 NVSentinel（GPU 故障修復(fù)系統(tǒng)）以及 AI Cluster Runtime（智能體 AI 框架）。

以上為摘要內(nèi)容，點(diǎn)擊鏈接閱讀完整內(nèi)容：NVIDIA 向 Kubernetes 社區(qū)捐贈(zèng)動(dòng)態(tài)資源分配 GPU 驅(qū)動(dòng)程序，推動(dòng)開(kāi)源 AI 發(fā)展 | NVIDIA 英偉達(dá)博客