弹性伸缩是根据业务需求和策略,经济地自动调整弹性计算资源的管理服务。

背景介绍

弹性伸缩是ACK上被广泛采用的功能,典型的场景包含在线业务弹性、大规模计算训练、深度学习GPU或共享GPU的训练与推理、定时周期性负载变化等。弹性伸缩分为两个维度:
  • 调度层弹性,主要是负责修改负载的调度容量变化。例如,HPA是典型的调度层弹性组件,通过HPA可以调整应用的副本数,调整的副本数会改变当前负载占用的调度容量,从而实现调度层的伸缩。
  • 资源层弹性,主要是集群的容量规划不能满足集群调度容量时,会通过弹出ECS或ECI等资源的方式进行调度容量的补充。
两层的弹性组件与能力可以分开使用,也可以结合在一起使用,并且两者之间是通过调度层面的容量状态进行解耦。

ACK弹性伸缩组件介绍

弹性伸缩调度层弹性组件介绍
组件名称 组件介绍 适用场景 使用限制 参考文档
HPA Kubernetes内置组件,主要面向在线业务。 在线业务 适用于Deployment、StatefulSet等实现scale接口的对象。 容器水平伸缩(HPA)
VPA【alpha】 开源社区组件,主要面向大型单体应用。 大型单体应用 适用于无法水平扩展的应用,通常是在Pod出现异常恢复时生效。 容器垂直伸缩(VPA)
CronHPA ACK开源的组件,主要面向应用资源使用率存在周期性变化的场景。 周期性负载业务 适用于Deployment、StatefulSet等,实现了scale接口的对象。此外CronHPA提供了HPA对象的兼容能力,您可以同时使用CronHPA与HPA。 容器定时伸缩
Elastic-Workload ACK组件,主要面向精细化角度场景,例如希望在不同的可用区进行负载分布。 精细调度场景 适用于在线业务精细化控制的场景。例如,一个Deployment部分的应用运行在ECS上,而超出的部分运行在ECI上。 安装elastic workload
资源层弹性组件介绍
组件名称 组件介绍 适用场景 资源交付速度 参考文档
cluster-autoscaler Kubernetes社区开源组件,节点水平伸缩组件,阿里云提供了独有的调度、弹性优化、成本优化的功能。 全场景支持,适合在线业务、深度学习、大规模成本算力交付等。 以1000节点为一个交付批次为例:
  • 标准模式:120s
  • 极速模式:60s
  • 标准模式-qboot:90s
  • 极速模式-qboot:45s
节点自动伸缩
virtual-node ACK开源组件,提供无服务器运行时环境。开发者无需关心节点资源,只需针对Pod按量付费即可。 部分场景支持,主要包括在线突增流量、CI/CD、大数据作业。 以1000个Pod为一个交付批次为例:
  • 未开启镜像缓存:30s
  • 已开启镜像缓存:15s
部署虚拟节点Chart
virtual-kubelet-autoscaler ACK服务组件,提供无服务弹性伸缩能力。 部分场景支持,主要包括在线突增流量、CI/CD、大数据作业。 以1000个Pod为一个交付批次为例:
  • 未开启镜像缓存:30s
  • 已开启镜像缓存:15s
安装virtual-kubelet-autoscaler