EMR 支持您对 YARN 集群开启 Node Label,将节点资源和队列关联,划分为资源池,并对资源池进行可视化管理。
说明
pool1。Capacity Scheduler 调度器。default资源池与队列关联关系请在服务列表> YARN >队列管理中配置,详细信息请参见YARN 队列管理。 NodeLabels。方式一 | 在服务列表 > YARN >服务参数页面中,搜索 |
|---|---|
方式二 | 在服务列表 > YARN 页面,点击右上角服务操作> EnableNodeLabels, |
服务重启后,点击服务列表 > YARN >资源池按钮,进入创建资源池页面。
参数 | 说明 |
|---|---|
资源池标签 | 资源池的唯一标识,资源池标签等价于 Node-Label 名。可关联节点组和队列。 |
关联队列 | 选择需要使用该资源池资源的 YARN 队列。勾选后可配置该队列在本资源池中的资源百分比和最大资源百分比。支持多选,支持子队列单独配置。 |
资源百分比 | 该队列在本资源池节点上的最低资源保障比例。 注意 每级资源百分比之和必须为 100%。 |
最大资源百分比 | 该队列在本资源池节点上能使用的资源比例上限。 注意 最大资源百分比必须大于资源百分比。 |
节点组 | 选择加入该资源池的节点。所选节点将被打上资源池标签,其资源按上方配置分配给关联队列独占使用。 |
说明
Core节点,每个节点 32 核,10个节点都关联到资源池pool1,pool1关联队列test1和 test2,设置test1资源占比为 25%,test2 资源占比为 75%,最大资源占比都是100%,则在队列test1和 test2有任务竞争时,test1可使用80核,test2可使用240核;仅单队列提交任务时,可使用资源上限为320核。已关联的资源池,将会在资源池列表中显示资源汇总、实例明细、已关联队列等信息。
开启了资源池管理后,未分配到资源池的资源,归属于default 资源池,default 资源池与队列关联关系请在服务列表> YARN >队列管理中配置,详细信息请参见YARN 队列管理。