创建有状态工作负载StatefulSet

更新时间: 2023-11-14 17:45:39

阿里云容器服务Kubernetes版ACK(Container Service for Kubernetes)集群支持通过界面创建StatefulSet类型的应用,满足您快速创建有状态应用的需求。本例中将创建一个Nginx的有状态应用,并演示StatefulSet应用的特性。

前提条件

使用镜像创建有状态StatefulSet应用前,请确保您已经进行以下操作:

背景信息

StatefulSet包括以下特性:

场景

说明

Pod一致性

包含次序(启动、停止次序)、网络一致性。此一致性与Pod相关,与被调度到哪个Node节点无关。

稳定的持久化存储

通过VolumeClaimTemplate为每个Pod创建一个PV。删除、减少副本,不会删除相关的卷。

稳定的网络标志

Pod的hostname模式为:(StatefulSet名称)-(序号)

稳定的次序

对于N个副本的StatefulSet,每个Pod都在 [0,N)的范围内分配一个数字序号,且是唯一的。

操作步骤

  1. 登录容器服务管理控制台

  2. 在控制台左侧导航栏,单击集群

  3. 集群列表页面,单击目标集群名称或者目标集群右侧操作列下的详情

  4. 在集群管理页左侧导航栏,选择工作负载 > 有状态

  5. 有状态页面,单击使用镜像创建

  6. 应用基本信息页签中,设置应用的基本信息。

    本例中选择有状态类型,创建StatefulSet类型的应用。

    配置项

    描述

    应用名称

    设置应用的名称。

    命名空间

    设置应用部署所处的命名空间,默认使用default命名空间。

    副本数量

    应用包含的Pod数量。

    类型

    定义资源对象的类型,可选择无状态有状态任务定时定时任务守护进程集

    标签

    为该应用添加一个标签,标识该应用。

    注解

    为该应用添加一个注解(Annotation)。

    时区同步

    容器与节点是否使用相同的时区。

  7. 单击下一步进入容器配置页签。

  8. 设置容器相关的配置。

    说明

    容器配置页签上方,单击添加容器为应用的Pod设置多个容器。

    容器配置的配置项及描述如下。

    • 基本配置

      配置项

      描述

      镜像名称

      • 您可以单击选择镜像,选择所需的镜像并单击确定。本例中为官方Nginx镜像,可以在搜索页签中,选择Docker镜像,然后在文本框中输入nginx进行搜索。

        • 容器镜像服务:在容器镜像服务页签中,可以选择托管在容器镜像服务ACR中的镜像。需要选择镜像所属地域,以及镜像服务实例。关于ACR的更多信息,请参见什么是容器镜像服务ACR

          说明

          您可以在容器镜像服务页签,根据名称搜索托管在容器镜像服务ACR中的镜像。

        • Docker官方镜像:在Docker官方镜像页签中,可以选择Docker官方提供的容器镜像。

        • 用户收藏:在用户收藏页签中,可以选择您收藏的Docker官方镜像。

        • 搜索:在搜索页签中,可以分别在ACR的特定地域和Docker官方镜像中搜索容器镜像。

      • 您还可以填写私有镜像。填写的格式为domainname/namespace/imagename:tag

      镜像Tag

      • 您可以单击选择镜像Tag选择镜像的版本。若不指定,默认为最新版。

      • ACK支持以下三种镜像拉取策略(imagePullPolicy):

        • 优先使用本地镜像(IfNotPresent):如果本地有该镜像(之前拉取过该镜像至宿主机中),则使用本地镜像,本地不存在时拉取镜像。

        • 总是拉取镜像(Always):表示每次部署或扩容都会从容器镜像服务重新拉取镜像,而不会从本地拉取镜像。

        • 仅使用本地镜像(Never):仅使用本地镜像。

        说明

        当您选中镜像拉取策略时,默认不设置镜像拉取策略。

      • 单击设置镜像密钥,您可以实现免密拉取镜像。具体操作,请参见使用免密组件拉取容器镜像

      资源限制

      可指定该应用所能使用的资源上限,包括CPU、内存和Ephemeral-storage三种资源,防止占用过多资源。

      所需资源

      即为该应用预留资源额度,包括CPU和内存两种资源,即容器独占这些资源,防止因资源不足而被其他服务或进程争夺资源,导致应用不可用。

      容器启动项

      • stdin:表示为该容器开启标准输入。

      • tty:表示为该容器分配一个虚拟终端,以便于向容器发送信号。

      通常这两个选项是一起使用的,表示将终端(tty)绑定到容器的标准输入(stdin)上。例如,一个交互式的程序从用户获取标准输入,并显示到终端中。

      特权容器

      • 选择特权容器,则privileged=true,开启特权模式。

      • 不选择特权容器,则privileged=false,关闭特权模式。

      Init Container

      选中该项,表示创建一个Init Container。Init Container包含一些实用的工具,详情请参见Init Containers

    • 可选:端口设置

      设置容器的端口。

      • 名称:设置容器端口名称。

      • 容器端口:设置暴露的容器访问端口或端口名,端口号必须介于1~65535。

      • 协议:支持TCP和UDP。

    • 可选:环境变量

      支持通过键值对的形式为Pod配置环境变量。用于给Pod添加环境标志或传递配置等,具体请参见Pod variable

      • 类型:设置环境变量的类型,支持自定义配置项保密字典变量/变量引用资源引用。配置项、保密字典支持全部文件的引用,以保密字典为例。

        选择保密字典,只选择目标保密字典,则默认全部文件引用。环境变量

        对应的yaml,则引用了整个Secret。yaml

      • 变量名称:设置环境变量名称。

      • 变量/变量引用:设置变量引用的值。

    • 可选:健康检查

      支持存活检查(Liveness)、就绪检查(Readiness)和启动探测。存活检查用于检测何时重启容器;就绪检查确定容器是否已经就绪,且可以接受流量;启动探测用于检测何时启动容器。

      说明

      仅Kubernetes集群1.18及之后版本支持启动探测。

      关于健康检查的更多信息,请参见Configure Liveness, Readiness and Startup Probes

      请求类型

      配置说明

      HTTP请求

      即向容器发送一个HTTP GET请求,支持的参数包括:

      • 协议:HTTP/HTTPS。

      • 路径:访问HTTP server的路径。

      • 端口:容器暴露的访问端口或端口名,端口号必须介于1~65535。

      • HTTP头:即HTTP Headers,HTTP请求中自定义的请求头,HTTP允许重复的Header。支持键值对的配置方式。

      • 延迟探测时间(秒):即initialDelaySeconds,容器启动后第一次执行探测时需要等待多少秒,默认为3秒。

      • 执行探测频率(秒):即periodSeconds,指执行探测的时间间隔,默认为10秒,最小为1秒。

      • 超时时间(秒):即timeoutSeconds,探测超时时间。默认1秒,最小1秒。

      • 健康阈值:探测失败后,最少连续探测成功多少次才被认定为成功。默认是1,最小值是1。对于存活检查(Liveness)必须是1。

      • 不健康阈值:探测成功后,最少连续探测失败多少次才被认定为失败。默认是3,最小值是1。

      TCP连接

      即向容器发送一个TCP Socket,kubelet将尝试在指定端口上打开容器的套接字。 如果可以建立连接,容器被认为是健康的,如果不能就认为是失败的。支持的参数包括:

      • 端口:容器暴露的访问端口或端口名,端口号必须介于1~65535。

      • 延迟探测时间(秒):即initialDelaySeconds,容器启动后第一次执行探测时需要等待多少秒,默认为15秒。

      • 执行探测频率(秒):即periodSeconds,指执行探测的时间间隔,默认为10秒,最小为1秒。

      • 超时时间(秒):即timeoutSeconds,探测超时时间。默认1秒,最小1秒。

      • 健康阈值:探测失败后,最少连续探测成功多少次才被认定为成功。默认是1,最小值是1。对于存活检查(Liveness)必须是1。

      • 不健康阈值:探测成功后,最少连续探测失败多少次才被认定为失败。默认是3,最小值是1。

      命令行

      通过在容器中执行探针检测命令,来检测容器的健康情况。支持的参数包括:

      • 命令行:用于检测容器健康情况的探测命令。

      • 延迟探测时间(秒):即initialDelaySeconds,容器启动后第一次执行探测时需要等待多少秒,默认为5秒。

      • 执行探测频率(秒):即periodSeconds,指执行探测的时间间隔,默认为10秒,最小为1秒。

      • 超时时间(秒):即timeoutSeconds,探测超时时间。默认1秒,最小1秒。

      • 健康阈值:探测失败后,最少连续探测成功多少次才被认定为成功。默认是1,最小值是1。对于存活检查(Liveness)必须是1。

      • 不健康阈值:探测成功后,最少连续探测失败多少次才被认定为失败。默认是3,最小值是1。

    • 生命周期

      您可以为容器的生命周期配置启动执行、启动后处理和停止前处理。具体参见配置生命周期

      • 启动执行:为容器设置预启动命令和参数。

      • 启动后处理:为容器设置启动后的命令。

      • 停止前处理:为容器设置预结束命令。

      生命周期
    • 可选:数据卷

      支持增加本地存储、云存储声明(PVC)或增加存储声明模板。

      • 本地存储:支持主机目录(Hostpath)、配置项(ConfigMap)、保密字典(Secret)和临时目录,将对应的挂载源挂载到容器路径中。更多信息,请参见Volumes

      • 增加云存储声明(PersistentVolumeClaim):支持云存储。

      本例中配置了一个云存储类型的数据卷声明disk-ssd,将其挂载到容器的/tmp路径下。配置数据卷

    • 可选:日志配置

      配置日志服务,您可进行采集配置和自定义Tag设置。

      重要

      请确保已部署Kubernetes集群,并且在此集群上已安装日志插件。

      配置项

      描述

      采集配置

      日志库:即在日志服务中生成一个对应的Logstore,用于存储采集到的日志。

      容器内日志路径:支持stdout和文本日志。

      • stdout:表示采集容器的标准输出日志。

      • 文本日志:表示收集容器内指定路径的日志,本例中表示收集/var/log/nginx下所有的文本日志,也支持通配符的方式。

      自定义Tag

      您还可设置自定义Tag,设置Tag后,会将该Tag一起采集到容器的日志输出中。自定义Tag可帮助您给容器日志打上Tag,方便进行日志统计和过滤等分析操作。

  9. 完成容器配置后,单击下一步

  10. 可选:进行高级配置。

    • 访问设置

      说明

      针对应用的通信需求,您可灵活进行访问设置:

      • 内部应用:对于只在集群内部工作的应用,您可根据需要创建ClusterIP或NodePort类型的服务,来进行内部通信。

      • 外部应用:对于需要暴露到公网的应用,您可以采用两种方式进行访问设置。

        • 创建LoadBalancer类型的服务:使用阿里云提供的负载均衡服务SLB(Server Load Balancer),该服务提供公网访问能力。

        • 创建路由(Ingress):通过路由(Ingress)提供公网访问能力,详情请参见Ingress

      您可以设置暴露后端Pod的方式。本例中选择ClusterIP服务和路由(Ingress),构建一个公网可访问的Nginx应用。

      配置项

      描述

      服务(Service)

      服务(Service)右侧,单击创建设置创建服务的配置项。配置项的详情,请参见使用Service对外暴露应用。本例中服务类型选择ClusterIP

      路由(Ingress)

      路由(Ingress)右侧,单击创建。在弹出的对话框中,为后端Pod配置路由规则。详细的路由配置信息,请参见创建Ingress

      说明

      通过镜像创建应用时,您仅能为一个服务创建路由(Ingress)。本例中使用一个虚拟主机名称作为测试域名,您需要在Hosts中添加一条记录。在实际工作场景中,请使用备案域名。

      101.37.XX.XX   foo.bar.com    #即ingress的IP

      访问设置区域中,您可看到创建完毕的服务和路由,您可单击变更删除进行二次配置。

    • 伸缩配置

      伸缩配置区域,配置是否开启指标伸缩定时伸缩,从而满足应用在不同负载下的需求。

      伸缩配置
      • 容器服务支持容器组的指标伸缩,即根据容器CPU和内存资源占用情况自动调整容器组数量。

        说明

        若要启用自动伸缩,您必须为容器设置所需资源,否则容器自动伸缩无法生效。

        配置项

        描述

        指标

        支持CPU和内存,需要和设置的所需资源类型相同。

        触发条件

        资源使用率的百分比,超过该使用量,容器开始扩容。

        最大副本数量

        该应用可扩容的容器数量上限。

        最小副本数量

        该应用可缩容的容器数量下限。

      • 容器服务支持容器组的定时伸缩,即定时地对容器服务Kubernetes集群进行扩缩容。关于定时伸缩的详细说明,请参见创建定时伸缩CronHPA任务

    • 调度设置

      您可设置升级方式、节点亲和性、应用亲和性和应用非亲和性,详情请参见Affinity and anti-affinity

      说明

      亲和性调度依赖节点标签和Pod标签。您可使用内置的标签进行调度;也可预先为节点、Pod配置相关的标签。

      配置项

      描述

      升级方式

      升级方式包括滚动升级(Rollingupdate)和替换升级(Recreate),详细请参见Deployments

      节点亲和性

      设置节点亲和性,通过Worker节点的Label标签进行设置。

      节点调度支持硬约束和软约束(Required/Preferred),以及丰富的匹配表达式(In, NotIn, Exists, DoesNotExist, Gt, and Lt):

      • 必须满足,即硬约束,一定要满足,对应requiredDuringSchedulingIgnoredDuringExecution,效果与NodeSelector相同。本例中Pod只能调度到具有对应标签的Worker节点。您可以定义多条硬约束规则,但只需满足其中一条。

      • 尽量满足,即软约束,不一定满足,对应preferredDuringSchedulingIgnoredDuringExecution。本例中,调度会尽量不调度Pod到具有对应标签的Node节点。您还可为软约束规则设定权重,具体调度时,若存在多个符合条件的节点,权重最大的节点会被优先调度。您可定义多条软约束规则,但必须满足全部约束,才会进行调度。

      应用亲和性

      决定应用的Pod可以和哪些Pod部署在同一拓扑域。例如,对于相互通信的服务,可通过应用亲和性调度,将其部署到同一拓扑域(如同一个主机)中,减少它们之间的网络延迟。

      根据节点上运行的Pod的标签(Label)来进行调度,支持硬约束和软约束,匹配的表达式有:In, NotIn, Exists, DoesNotExist

      • 必须满足,即硬约束,一定要满足,对应requiredDuringSchedulingIgnoredDuringExecution,Pod的亲和性调度必须要满足后续定义的约束条件。

        • 命名空间:该策略是依据Pod的Label进行调度,所以会受到命名空间的约束。

        • 拓扑域:即TopologyKey,指定调度时作用域,这是通过Node节点的标签来实现的,例如指定为kubernetes.io/hostname,那就是以Node节点为区分范围;如果指定为beta.kubernetes.io/os,则以Node节点的操作系统类型来区分。

        • 选择器:单击选择器右侧的加号按钮,您可添加多条硬约束规则。

        • 查看应用列表:单击应用列表,弹出对话框,您可在此查看各命名空间下的应用,并可将应用的标签导入到亲和性配置页面。

        • 硬约束条件:设置已有应用的标签、操作符和标签值。本例中,表示将待创建的应用调度到该主机上,该主机运行的已有应用具有app:nginx标签。

      • 尽量满足,即软约束,不一定满足,对应preferredDuringSchedulingIgnoredDuringExecution。Pod的亲和性调度会尽量满足后续定义的约束条件。对于软约束规则,您可配置每条规则的权重,其他配置规则与硬约束规则相同。

        说明

        权重:设置一条软约束规则的权重,介于1~100,通过算法计算满足软约束规则的节点的权重,将Pod调度到权重最大的节点上。

      应用非亲和性

      决定应用的Pod不与哪些Pod部署在同一拓扑域。应用非亲和性调度的场景包括:

      • 将一个服务的Pod分散部署到不同的拓扑域(如不同主机)中,提高服务本身的稳定性。

      • 给予Pod一个节点的独占访问权限来保证资源隔离,确保没有其它Pod来分享节点资源。

      • 把可能会相互影响的服务的Pod分散在不同的主机上。

      说明

      应用非亲和性调度的设置方式与亲和性调度相同,但是相同的调度规则代表的意思不同,请根据使用场景进行选择。

      调度容忍

      容忍被应用于Pod,允许这个Pod被调度到相对应的污点上。

      调度到虚拟节点

      设置是否调度到虚拟节点。如果您集群中没有虚拟节点,则无法设置该配置项。

    • 标签和注释

      • Pod标签:为该Pod添加一个标签,标识该应用。

      • Pod注解:为该Pod添加一个注解(Annotation)。

  11. 单击创建

  12. 查看创建的应用。

    1. 创建成功后,默认进入创建完成页面,会列出应用包含的对象,您可以单击查看应用详情进行查看。

      默认进入有状态副本集详情页面。

    2. 然后单击左上角返回列表,进入有状态副本集列表页面,查看创建的StatefulSet应用。

相关操作

有状态页面下方,通过选择批量重新部署可实现多个应用重新部署。

有状态页面单击目标应用名称或目标应用操作列下的详情

说明

在有状态列表中单击标签字段,输入对应应用标签的keyvalue,单击确定后可过滤列表中的应用。

在应用详情页面您可以编辑伸缩查看YAML重新部署刷新应用。

  • 编辑:在应用详情页面单击编辑,您可以修改应用信息。

  • 伸缩:在应用详情页面单击伸缩,您可以修改所需容器组数量。

    以创建的Nginx应用为例,验证服务伸缩性。

    1. 选择目标Nginx应用,单击右侧伸缩

    2. 在弹出的对话框中,将容器组数量设置为3,您可发现扩容时,扩容容器组的排序依次递增;反之,进行缩容时,先按Pod次序从高到低进行缩容。这体现StatefulSet中Pod的次序稳定性。

    3. 单击左侧导航栏中的存储卷来满足Pod的需求 > 存储声明,您会发现,随着应用扩容,会随着Pod创建新的云存储卷。缩容后,已创建的PV和PVC不会被删除。

  • 查看YAML:在应用详情页面单击查看YAML,您可以更新下载另存为YAML文件。

  • 重新部署:在应用详情页面单击重新部署,您可以重新部署应用。

  • 刷新:在应用详情页面单击刷新,您可以刷新应用。

后续步骤

连接到Master节点,执行以下命令,验证持久化存储特性。

  1. 执行以下命令在云盘中创建临时文件。

    kubectl exec nginx-1 -- ls /tmp            #列出该目录下的文件lost+found。
    kubectl exec nginx-1 -- touch /tmp/statefulset         #增加一个临时文件statefulset。
    kubectl exec nginx-1 -- ls /tmp

    预期输出:

    lost+found
    statefulset
  2. 执行以下命令删除Pod,验证数据持久性。

    kubectl delete pod nginx-1

    预期输出:

    pod"nginx-1" deleted
  3. 过一段时间,待Pod自动重启后,验证数据持久性,证明StatefulSet应用的高可用性。

    kubectl exec nginx-1 -- ls /tmp   #数据持久化存储lost+found。

    预期输出:

    statefulset

想要了解更多信息,参见Kubernetes有状态服务-StatefulSet使用最佳实践

阿里云首页 容器服务 Kubernetes 版 ACK 相关技术圈