You need to enable JavaScript to run this app.
文档中心
E-MapReduce

E-MapReduce

复制全文
下载 pdf
YARN 增强功能
YARN 资源池管理
复制全文
下载 pdf
YARN 资源池管理

EMR 支持您对 YARN 集群开启 Node Label,将节点资源和队列关联,划分为资源池,并对资源池进行可视化管理。

说明

  • 该功能属于 YARN 组件在 EMR 的增强能力,所有配置都能以手动修改 YARN 配置文件的方式实现。
  • 创建资源池后,仅本资源池关联的队列可使用资源池节点的计算资源,其他队列不可使用。

使用限制
  1. 只支持 YARN label 创建一个层级,如:pool1。
  2. 只支持 YARN Capacity Scheduler 调度器。
  3. 未被绑定的节点资源,归属于 default 资源池,default资源池与队列关联关系请在服务列表> YARN >队列管理中配置,详细信息请参见YARN 队列管理。

开启资源池功能
  1. 开启 NodeLabels。

方式一

在服务列表 > YARN >服务参数页面中,搜索yarn.node-labels.enabled,并更改参数值为ture,点击右上角保存并提交,开启功能。

方式二

在服务列表 > YARN 页面,点击右上角服务操作> EnableNodeLabels,

  1. 重启服务,使配置生效。
    Image

创建资源池

服务重启后,点击服务列表 > YARN >资源池按钮,进入创建资源池页面。
Image

参数

说明

资源池标签

资源池的唯一标识,资源池标签等价于 Node-Label 名。可关联节点组和队列。

关联队列

选择需要使用该资源池资源的 YARN 队列。勾选后可配置该队列在本资源池中的资源百分比和最大资源百分比。支持多选,支持子队列单独配置。

资源百分比

该队列在本资源池节点上的最低资源保障比例。

注意

每级资源百分比之和必须为 100%。

最大资源百分比

该队列在本资源池节点上能使用的资源比例上限。

注意

最大资源百分比必须大于资源百分比。

节点组

选择加入该资源池的节点。所选节点将被打上资源池标签,其资源按上方配置分配给关联队列独占使用。

说明

  • 例如,集群中10个Core节点,每个节点 32 核,10个节点都关联到资源池pool1,pool1关联队列test1和 test2,设置test1资源占比为 25%,test2 资源占比为 75%,最大资源占比都是100%,则在队列test1和 test2有任务竞争时,test1可使用80核,test2可使用240核;仅单队列提交任务时,可使用资源上限为320核。
  • 在极少数情况下,同一队列可能在多个资源池中分别设置资源占比。此时,该队列可保障使用的总资源为各资源池分配量之和。

管理资源池

自建资源池

已关联的资源池,将会在资源池列表中显示资源汇总、实例明细、已关联队列等信息。

  • 支持编辑资源池,修改队列参数或实例关联。
  • 支持删除资源池,资源池及其对应关系将被删除

Image

Default 资源池

开启了资源池管理后,未分配到资源池的资源,归属于default 资源池,default 资源池与队列关联关系请在服务列表> YARN >队列管理中配置,详细信息请参见YARN 队列管理。

最近更新时间:2026.09.14 15:48:50
这个页面对您有帮助吗?
有用
有用
无用
无用