CGroups(Control Groups)是Linux内核提供的一种功能,用来控制、限制与隔离一个进程组群的资源,包括CPU、内存和磁盘输入输出等资源。
概述
YARN中集成了CGroups的功能,使得NodeManager可以对Container的CPU的资源使用进行控制,例如可以对单个Container的CPU使用进行控制,也可以对NodeManager管理的总CPU进行控制。
开启YARN CGroups功能
- 进入YARN的集群服务页面。
- 单击上方的集群管理页签。
- 在集群管理页面,单击相应集群所在行的集群ID。
- 在左侧导航栏,单击 。
- 启用CGroups。
- 单击右上角的 。
- 在执行集群操作页面,根据需求设置相应参数。
- 单击确定。
- 在确认页面,单击确定。
- 重启NodeManager。
- 单击右上角的 。
- 在执行集群操作页面,根据需求设置相应参数。
- 单击确定。
- 在确认页面,单击确定。
控制参数
- 进入YARN的集群服务页面。
- 单击上方的集群管理页签。
- 在集群管理页面,单击相应集群所在行的集群ID。
- 在左侧导航栏,单击 。
- 调节参数。
- 单击配置页签。
- 调节如下参数。
参数 描述 yarn.nodemanager.resource.percentage-physical-cpu-limit NodeManager管理的所有Container使用CPU的阈值,默认100%。 说明 任何场景下,NodeManager管理的Container的CPU都不能超过yarn.nodemanager.resource.percentage-physical-cpu-limit设置的比例。yarn.nodemanager.linux-container-executor.cgroups.strict-resource-usage 对Container的CPU使用资源是否严格按照被分配的比例来进行控制。默认是false,即Container可以使用空闲的CPU。
总Container的CPU控制测试
通过调节yarn.nodemanager.resource.percentage-physical-cpu-limit参数,以控制NodeManager管理的所有Container的CPU使用率。
%CPU
表示进程占用单个核的比例;%CPU(s)
表示所有用户进程占总CPU的比例。
- 设置参数为10。
如上图所示,
%CPU(s)
接近10%;%CPU
表示所有的test用户的Container进程加起来(7%+5.3%+5%+4.7%+4.7%+4.3%+4.3%+4%+2%=41.3%=0.413个核,约等于10%*4core=0.4核,即4个核的10%比例)。 - 设置参数为30。
如上图所示,
%CPU(s)
接近30%;%CPU
表示所有的test用户的Container进程加起来(19%+18.3%+18.3%+17%+16.7%+16.3%+14.7%+12%=132.3%=1.323个核,约等于30%*4core=1.2核,即4个核的30%比例)。 - 设置参数为50。
如上图所示,
%CPU(s)
接近50%;%CPU
表示所有的test用户的Container进程加起来(65.1%+60.1%+43.5%+20.3%+3.7%+2%=194.7%=1.947个核,约等于50%*4core=2核,即4个核的50%比例)。
Container间的CPU控制测试
NodeManager上面启动多个Container,所有这些Container对CPU资源的占用不超过总Container的CPU控制测试中设置yarn.nodemanager.resource.percentage-physical-cpu-limit的阈值,NodeManager有共享模式(share)和严格模式(strict)两种方式,来管理和控制多个Container之间的CPU使用率,这两种方式通过参数yarn.nodemanager.linux-container-executor.cgroups.strict-resource-usage控制。
- 共享模式(share)
当yarn.nodemanager.linux-container-executor.cgroups.strict-resource-usage设置为false时,即为共享模式(默认为false)。在这种模式下,Container除了实际被需要分配的CPU资源外,还可以利用空闲的CPU资源。
例如,设置yarn.nodemanager.resource.percentage-physical-cpu-limit为50,设置yarn.nodemanager.linux-container-executor.cgroups.strict-resource-usage为false。NodeManager所在节点是4核,那么该Container申请按比例被分配的cpu资源为(1vcore÷8vcore)*(4core*50%)=0.25核,但是如果CPU有空闲,理论上该Container可以占满NodeManager管理的上限4core*50%=2核。
上图可以看出,test用户的多个Container进程占用CPU核数的比例相差很大(65%=0.65核;60.1%=0.61核; 3.7%=0.037核等),即单个Container的CPU使用没有被严格限制在(1vcore÷8vcore)*(4core*50%)=0.25核。
- 严格模式(strict)
当yarn.nodemanager.linux-container-executor.cgroups.strict-resource-usage设置为true时,即为严格模式(strict)。在这种模式下,Container只能使用被需要分配的CPU资源,即使CPU有空闲也不能使用。
例如,设置yarn.nodemanager.resource.percentage-physical-cpu-limit为50,设置yarn.nodemanager.linux-container-executor.cgroups.strict-resource-usage为true。
上图可以看出,test用户的多个Container进程占用CPU核数均约在0.25核(26.6%=0.266核;24.9%=0.249核),即该Container实际应该被分配的CPU使用率(1vcore÷8vcore)*(4core*50%)=0.25核。
在文档使用中是否遇到以下问题
更多建议
匿名提交