文档

配置Service负载均衡的注意事项及CCM资源更新策略

更新时间:

当Service的类型设置为负载均衡,即Type=LoadBalancer时,容器服务ACK的CCM(Cloud Controller Manager)组件会为该Service创建或配置一个负载均衡实例。该实例类型包含:传统型负载均衡CLB(Classic Load Balancer)和网络型负载均衡NLB(Network Load Balancer),配置包括实例、监听、后端服务器组等资源。本文介绍配置Service负载均衡的注意事项以及CCM的资源更新策略。

注意事项

哪些负载均衡可以被复用?

  • 仅支持复用通过负载均衡控制台创建的实例,不支持复用cloud-controller-manager自动创建的负载均衡实例。

  • 如果您需要在ACK集群中复用私网类型的负载均衡实例,则该实例需要和ACK集群处于同一VPC下。跨VPC复用仅适用于NLB实例。

  • 复用负载均衡实例的地址类型必须与服务的访问类型一致。当服务为公网访问(即service.beta.kubernetes.io/alibaba-cloud-loadbalancer-address-type: "internet")时,所用负载均衡的地址类型必须为公网;当服务为内部访问(即service.beta.kubernetes.io/alibaba-cloud-loadbalancer-address-type: "intranet")时,所用负载均衡的地址类型必须为私网

  • 多个服务不能同时使用一个负载均衡的同一个监听端口。

  • 跨集群复用已有负载均衡实例时,需要确保两个集群的命名空间和Service组合名称不一致。

CCM管理负载均衡时注意事项

  • CCM只为Type=LoadBalancer类型的Service配置负载均衡,对于非LoadBalancer类型的Service则不会为其配置负载均衡。

  • 重要

    Type=LoadBalancer的Service变更为Type!=LoadBalancer时,CCM会删除为该负载均衡添加的配置,从而造成无法通过该负载均衡访问Service。

  • CCM使用声明式API,会在一定条件下自动根据Service的配置刷新负载均衡配置。service.beta.kubernetes.io/alibaba-cloud-loadbalancer-force-override-listeners: 设置为"true"时,您自行在负载均衡控制台上修改的配置均存在被覆盖的风险。

  • 重要

    请勿在负载均衡控制台上手动修改ACK创建并维护的负载均衡的任何配置,否则有配置丢失的风险,造成Service不可访问。

配额限制

VPC

负载均衡

  • CCM会为Type=LoadBalancer类型的Service创建负载均衡。默认情况下一个用户可以保留60个实例。如果需要创建的数量大于60,请到配额平台提交申请

  • CCM会根据Service的配置将ECS挂载到负载均衡后端服务器组中。

    • 默认情况下一个ECS实例可挂载的后端服务器组的数量为50个,如果一台ECS需要挂载到更多的后端服务器组中,请到配额平台提交申请

    • 默认情况下一个实例可以挂载200个后端服务器,如果需要挂载更多的后端服务器,请到配额平台提交申请

  • CCM会根据Service中定义的端口创建监听。默认情况下一个实例可以添加50个监听,如需添加更多监听,请到配额平台提交申请

  • 更多负载均衡使用限制,请参见CLB使用限制NLB使用限制

    负载均衡配额查询请参见负载均衡配额管理

负载均衡更新策略

ACK支持为Service指定一个已有的负载均衡实例,或者让CCM自动创建新的负载均衡实例。两种方式在负载均衡的资源更新策略方面存在一些差异,如下表所示。

资源对象

指定已有负载均衡

CCM管理负载均衡

负载均衡

设置annotation:service.beta.kubernetes.io/alibaba-cloud-loadbalancer-id

  • CCM会使用该实例作为Service的负载均衡,并根据其他annotation配置负载均衡,自动为负载均衡创建多个虚拟服务器组。

  • 当Service删除时,CCM不会删除您通过ID指定的已有负载均衡。

  • CCM会根据Service的配置,自动创建和配置负载均衡、监听、虚拟服务器组等资源,所有资源由CCM管理。

  • 当Service删除时,CCM会删除自动创建的负载均衡。

监听

设置annotation:service.beta.kubernetes.io/alibaba-cloud-loadbalancer-force-override-listeners

  • 如果设置为"false",CCM不会为负载均衡管理任何监听配置。

  • 如果设置为"true",CCM会根据Service配置管理监听;如果监听已经存在,则CCM会覆盖已有监听。

CCM会根据Service的配置,自动创建和配置监听策略。

后端服务器组

当Service对应的后端Endpoint或者集群节点发生变化时,CCM会自动更新负载均衡的后端虚拟服务器组。

  • 对于Terway网络插件,CCM默认挂载PodIP,而非挂载ECS节点到负载均衡后端。

  • 对于Flannel网络插件,根据Service模式的不同,后端服务器组的更新策略也有所不同。

    • Cluster模式(spec.externalTrafficPolicy = Cluster):CCM默认会将所有节点挂载到负载均衡的后端(使用BackendLabel标签配置后端的除外)。

      重要

      负载均衡存在配额限制,限制了每个ECS能够使用的负载均衡个数,这种方式会快速消耗该配额。当配额耗尽后,会造成Service Reconcile失败。解决办法:使用Local模式的Service。

    • Local模式(spec.externalTrafficPolicy = Local):CCM默认只会将Service对应的Pod所在节点加入到负载均衡后端。这样可以降低负载均衡配额的消耗速度,同时支持四层源IP保留。

  • 对于Flannel网络插件,任何情况下CCM都不会将Master节点作为负载均衡的后端。

  • 对于Flannel网络插件,CCM默认不会从负载均衡后端移除被驱逐(kubectl drain)或停止调度(kubectl cordon)的节点。如需移除节点,请设置service.beta.kubernetes.io/alibaba-cloud-loadbalancer-remove-unscheduled-backendon

如果需要为集群更换负载均衡实例,该如何操作?

已创建LoadBalancer类型的Service不支持重新指定负载均衡实例。如果您需要更换负载均衡实例,请重新创建Service。

  • 本页导读 (1)