文档中心

容器服务

请输入

异构计算

GPU 调度概述

NVIDIA GPU 设备广泛应用于科学计算、图形渲染等场景，可为各类计算应用提供加速能力。容器服务集群支持对不同型号的 GPU 资源进行统一调度与运维管理，能够显著提升 GPU 集群的资源利用率。本文主要介绍集群中的 GPU 调度方式和使用说明。

背景信息

随着机器学习与深度学习技术的快速发展，科技企业持续加大相关领域的投入。然而，从零构建一套完整的 AI 系统面临较高门槛与复杂度。以深度学习场景为例，算力是支撑模型训练与推理的核心基础。为了利用海量数据训练出更高性能的模型，并加速整体业务流程，企业 IT 系统需具备高效调度与统一管理大规模 GPU 资源的能力。

针对上述需求，容器服务提供了多种集群 GPU 资源调度方案。基于 Kubernetes 云原生架构构建，融合了主流云原生技术与最佳实践，可无缝支持模型训练、深度学习等场景在集群上的落地，并提升 GPU 资源利用率，实现成本优化。

调度方式	说明	参考文档
NVIDIA GPU 调度	Kubernetes 原生 GPU 调度方案。在该方案下，容器服务中的容器可以占用一块或多块 GPU 整卡，允许使用这些 GPU 卡的所有算力和显存。	配置 NVIDIA GPU 调度
DRA GPU 调度	Kubernetes 提供的一种声明式的资源管理机制，用于解决 GPU 等高性能硬件在细粒度分配、拓扑感知调度及跨节点共享等场景下的复杂资源管控问题。	使用 DRA 实现 NVIDIA GPU 调度
容器共享 GPU 调度	基于内核虚拟化隔离 GPU 并结合自研调度框架提供的容器共享 GPU 方案，简称为 mGPU（multi-container GPU）。在保证性能和故障隔离的前提下，mGPU 支持多个容器共享一张 GPU 显卡，支持算力与显存的灵活调度和严格隔离，降低 GPU 使用成本，为充分利用 GPU 硬件资源进行训练和推理提供有效保障。	配置 mGPU 调度

调度标签

GPU 调度方案基于节点标签，指定不同的调度方式、资源分配策略等信息，实现资源精细化管理与高效调度。

标签	说明
vke.node.gpu.schedule=nvidia	在 GPU 节点上开启 NVIDIA GPU 调度。
vke.node.gpu.schedule=nvidia-dra	在 GPU 节点上开启 DRA GPU 调度。
vke.node.gpu.schedule=mgpu	在 GPU 节点上开启容器共享 GPU 调度和 GPU 显存隔离。

说明

若 GPU 节点未设置节点标签，即节点不存在 Key 为vke.node.gpu.schedule标签时，默认使用 NVIDIA 调度。

若vke.node.gpu.schedule赋值错误，则系统会判定该节点无法实现 GPU 调度。

调度方式切换

容器服务支持在节点上切换 GPU 调度标签，实现 GPU 调度能力的切换。但必须要保证该节点上申请 GPU 资源的 Pod 已经运行完成。

例如，节点的标签从vke.node.gpu.schedule=nvidia切换到vke.node.gpu.schedule=mgpu，实现将 NVIDIA GPU 调度切换为容器共享 GPU 调度。那么必须保证该节点上申请了 GPU 资源（算力/显存）的 Pod 全部运行完成后，才可以切换节点标签，否则原有的 NVIDIA GPU 调度任务将失败。

最近更新时间：2026.04.21 19:41:38

这个页面对您有帮助吗？

有用

无用