文档中心

容器服务

请输入

NVIDIA GPU

配置 NVIDIA GPU 调度

NVIDIA GPU 调度为容器服务中的基础 GPU 调度方式，允许容器占用一块或多块 GPU 整卡，并使用这些 GPU 卡的所有算力和显存。本文主要介绍在集群中使用 NVIDIA GPU 调度的配置方法。

前提条件

已安装 nvidia-device-plugin 组件。详情请参见安装组件。

操作步骤

步骤一：创建 GPU 节点池

（可选）在高级配置中，单击添加节点标签，为节点池添加 GPU 调度标签。本例中配置标签键为vke.node.gpu.schedule，标签值为nvidia。表示在该节点池中的节点上，开启 NVIDIA GPU 调度能力。

说明

GPU 调度使用的更多标签相关说明，请参见 GPU 调度概述。

步骤二：配置工作负载

本文以创建无状态负载（Deployment）为例进行介绍，详细创建步骤参见创建无状态负载。

通过控制台配置

配置项	说明
GPU 资源类型	本文中选择 Nvidia。
GPU 算力	配置 Pod 申请使用的 GPU 整卡数量，正整数形式。例如配置为 1 时，表示申请 1 块 GPU 整卡。
显卡类型	配置 Pod 需要调度的 GPU 节点。默认不限制型号，配置型号后将按照所选型号指定 GPU 节点。

说明

根据工作负载所在的集群是否安装 mgpu 组件，控制台有如下不同显示：

已安装 mgpu 组件：系统显示 GPU 算力和 GPU 显存配置项。在 NVIDIA GPU 调度场景中，GPU 算力必须输入大等于 1 的整数，此时 GPU 显存会变为显卡类型，且系统会显示启用 nvidia 调度按钮。

NVIDIA GPU 调度场景，需要勾选启用 nvidia 调度按钮；若不勾选，表示不使用 NVIDIA GPU 调度，转为使用 mGPU 调度。mGPU 调度和 mgpu 组件目前是均为公测功能。

通过 kubectl 命令行配置

通过 YAML 创建工作负载，并实现 NVIDIA GPU 调度示例，如下所示：

结果验证

查看 GPU 状态

执行以下命令，登录容器查看容器被分配显存总量。

预期结果如下，可以看到 Pod 使用的 GPU 卡类型、驱动等信息。

查看 GPU 监控

使用 NVIDIA GPU 调度后，支持通过云原生观测中的 AI 资源观测，查看 GPU 资源看板。详情请参见 AI 资源观测。

最近更新时间：2026.03.19 12:11:11

这个页面对您有帮助吗？

有用

无用