Memcg OOM优先级策略功能

背景信息

在现有内核系统中，内存紧张情况下内核会遍历cgroup，选择耗用内存较多的cgroup进行内存回收，甚至在回收失败的情况下直接OOM，并停止当前cgroup下的所有任务。这对于当前cgroup包含的核心业务来说，会造成很大的影响。为此我们希望这类包含核心业务的cgroup占有的内存不被回收，或者cgroup下的任务在OOM中可以存活下来，以便让内核去选择其他的cgroup进行内存回收或者OOM。

为了解决这个问题，Alibaba Cloud Linux增加了memcg OOM优先级配置功能。该功能在进行OOM操作时，会首先判定cgroup的优先级，选择低优先级的cgroup进行OOM操作。

memcg OOM优先级接口功能说明

接口配置示例

                root
                /  \
               A    B
              / \  /  \
             C   D E   F

1. 远程连接ECS实例。

   具体操作，请参见通过密码或密钥认证登录Linux实例。

2. 运行以下命令创建两个cgroup节点 A、B，并开启memcg OOM优先级策略功能。

   mkdir /sys/fs/cgroup/memory/A
   cd /sys/fs/cgroup/memory/A
   echo 1 >memory.use_priority_oom
   mkdir /sys/fs/cgroup/memory/B
   cd /sys/fs/cgroup/memory/B
   echo 1 >memory.use_priority_oom

3. 运行以下命令分别设置A、B节点的memcg OOM优先级值为10、8。

   cd /sys/fs/cgroup/memory/A
   echo 10 > memory.priority
   cd /sys/fs/cgroup/memory/B
   echo 8 > memory.priority

4. 运行以下命令分别在A节点下创建C、D子节点，在B节点下创建E、F子节点， 并开启memcg OOM优先级策略功能。

   mkdir /sys/fs/cgroup/memory/A/C
   cd /sys/fs/cgroup/memory/A/C
   echo 1 >memory.use_priority_oom
   mkdir /sys/fs/cgroup/memory/A/D
   cd /sys/fs/cgroup/memory/A/D
   echo 1 >memory.use_priority_oom
   mkdir /sys/fs/cgroup/memory/B/E
   cd /sys/fs/cgroup/memory/B/E
   echo 1 >memory.use_priority_oom
   mkdir /sys/fs/cgroup/memory/B/F
   cd /sys/fs/cgroup/memory/B/F
   echo 1 >memory.use_priority_oom

5. 运行以下命令分别设置C、D、E、F子节点的memcg OOM优先级值为5、6、7、8。

   cd /sys/fs/cgroup/memory/A/C
   echo 5 > memory.priority
   cd /sys/fs/cgroup/memory/A/D
   echo 6 > memory.priority
   cd /sys/fs/cgroup/memory/B/E
   echo 7 > memory.priority
   cd /sys/fs/cgroup/memory/B/F
   echo 8 > memory.priority

当在root中进行OOM操作时，它首先迭代查找它的两个子节点A和B，由于B的优先级值低于A，所以会选择B节点作为下一个迭代cgroup继续进行迭代，最终会在子节点E上进行OOM操作，因为它的优先级比其他的兄弟节点低。