报警配置功能提供容器场景报警能力的统一管理,包括容器服务异常事件报警,以及容器场景指标报警。您可以通过集群内部署CRD的方式配置容器服务的报警规则。本文介绍在注册集群中如何接入报警配置功能及如何配置报警规则。
前提条件
通过容器服务Kubernetes版接入一个注册的Kubernetes集群。具体操作,请参见创建注册集群。
通过kubectl连接注册集群。具体操作,请参见获取集群KubeConfig并通过kubectl工具连接集群。
功能使用场景
容器服务报警配置功能集合容器场景的监控报警能力,提供报警的统一配置管理,有如下几个典型的使用场景:
集群运维
可以通过监控报警了解集群管控、存储、网络、弹性扩缩容等异常事件。例如:
通过集群资源异常报警规则集感知集群基础资源的关键指标是否异常。例如,CPU、Memory、网络等关键指标是否出现高水位情况,避免影响集群稳定性。
通过配置并查看集群异常事件报警规则集感知集群节点或容器节点异常。例如,集群节点Docker进程异常、集群节点进程异常及集群容器副本启动失败等异常。
通过配置并查看集群存储异常事件报警规则集感知集群存储的变更与异常。
通过配置并查看集群网络异常事件报警规则集感知集群网络的变更与异常。
通过配置并查看集群管控运维异常报警规则集感知集群管控的变更与异常等。
应用开发
可以通过监控报警了解在集群中运行应用的异常事件、指标是否异常。例如,集群容器副本异常或者应用Deployment的CPU、内存水位指标是否超过阈值等。可通过开启报警配置功能中的默认报警规则模板,即可快速接收集群内应用容器副本的异常事件报警通知。例如,通过配置并订阅关注集群容器副本异常报警规则集感知所属应用的Pod是否异常。
应用管理
关注运行在集群上的应用健康、容量规划、集群运行稳定性及异常甚至是错误报警等贯穿应用生命周期的一系列问题。例如,通过配置并订阅关注集群重要事件报警规则集感知集群内所有Warning、Error等异常报警;关注集群资源异常报警规则集感知集群的资源情况,从而更好地做容量规划等。
多集群管理
当您有多个集群需要管理,为集群配置报警规则往往会是一个重复繁琐且难以同步的操作。容器服务报警配置功能,支持通过集群内部署CRD配置的方式管理报警规则。可通过维护多个集群中同样配置的CRD资源,来方便快捷地实现多集群中报警规则的同步配置。
在注册集群中配置云监控组件
步骤一:为云监控组件配置RAM权限
通过onectl配置
在本地安装配置onectl。具体操作,请参见通过onectl管理注册集群。
执行以下命令,为云监控组件配置RAM权限。
onectl ram-user grant --addon alicloud-monitor-controller
预期输出:
Ram policy ack-one-registered-cluster-policy-alicloud-monitor-controller granted to ram user ack-one-user-ce313528c3 successfully.
通过控制台配置
在注册集群中安装组件前,您需要在接入集群中设置AccessKey用来访问云服务的权限。设置AccessKey前,您需要创建RAM用户并为其添加访问相关云资源的权限。
创建RAM用户。具体操作,请参见创建RAM用户。
创建权限策略。具体操作,请参见创建自定义权限策略。
权限策略模板如下所示:
{ "Action": [ "log:*", "arms:*", "cms:*", "cs:UpdateContactGroup" ], "Resource": [ "*" ], "Effect": "Allow" }
为RAM用户添加权限。具体操作,请参见为RAM用户授权。
为RAM用户创建AccessKey。具体操作,请参见获取AccessKey。
使用AccessKey在注册集群中创建名为alibaba-addon-secret的Secret资源。
安装云监控组件时将自动引用此AccessKey访问对应的云服务资源。
kubectl -n kube-system create secret generic alibaba-addon-secret --from-literal='access-key-id=<your access key id>' --from-literal='access-key-secret=<your access key secret>'
说明<your access key id>
及<your access key secret>
为上一步获取的AccessKey信息。
步骤二:安装与升级云监控组件
通过onectl安装
执行以下命令,安装云监控组件。
onectl addon install alicloud-monitor-controller
预期输出:
Addon alicloud-monitor-controller, version **** installed.
通过控制台安装
控制台会自动检测报警配置环境是否符合要求,并会引导进行开通、安装或升级组件。
登录容器服务管理控制台。
在控制台左侧导航栏,单击集群。
在集群列表页面,单击目标集群名称或者目标集群右侧操作列下的详情。
在集群管理页左侧导航栏,选择 。
在报警配置页面控制台会自动检查以下条件。
若不符合条件,请按以下提示完成操作。
已开通SLS日志服务云产品。当您首次使用日志服务时,需要登录日志服务控制台,根据页面提示开通日志服务。
说明关于日志服务的详细计费,请参见按使用功能付费模式计费项。
已安装事件中心。具体操作,请参见事件监控。
集群托管组件alicloud-monitor-controller升级到最新版本。更多信息,请参见alicloud-monitor-controller。
接入报警配置功能
步骤一:开启默认报警规则
登录容器服务管理控制台。
在控制台左侧导航栏,单击集群。
在集群列表页面,单击目标集群名称或者目标集群右侧操作列下的详情。
在集群管理页左侧导航栏,选择 。
在报警规则管理页签,开启对应报警规则集。
步骤二:手动配置报警规则
登录容器服务管理控制台。
在控制台左侧导航栏,单击集群。
在集群列表页面,单击目标集群名称或者目标集群右侧操作列下的详情。
在集群管理页左侧导航栏,选择 。
功能特性
说明
报警规则管理
容器服务报警规则功能会默认生成容器场景下的报警模板(包含异常事件报警、异常指标报警)。
报警规则被分类为若干个报警规则集,可为报警规则集关联多个联系人分组,并启动或关闭报警规则集。
报警规则集中包含多个报警规则,一个报警规则对应单个异常的检查项。多个报警规则集可以通过一个YAML资源配置到对应集群中,修改YAML会同步生成报警规则。
关于报警规则YAML配置,请参见如何通过CRD配置报警规则。
关于默认报警规则模板,请参见默认报警规则模板。
报警历史
目前可查看最近发送的近100条历史记录。单击对应报警规则类型的链接,可跳转到对应监控系统中查看详细规则配置;单击对应报警排查现场的链接可快速定位到异常发生的资源页面(异常事件、指标异常的资源)。
联系人管理
对联系人进行管理,可创建、编辑或删除联系人。
联系人分组管理
对联系人分组进行管理,可创建、编辑或删除联系人分组。当无联系人分组时,控制台会从您的阿里云账号注册信息中同步创建一个默认联系人分组。
在报警规则管理页签,单击编辑通知对象可设置关联的通知对象;打开启动状态可开启对应报警规则集。
如何通过CRD配置报警规则
报警配置功能开启时,会默认在kube-system命名空间下创建一个AckAlertRule类型的资源配置,包含默认报警规则模板。容器服务报警规则集可通过此资源配置在集群中。
登录容器服务管理控制台。
在控制台左侧导航栏,单击集群。
在集群列表页面,单击目标集群名称或者目标集群右侧操作列下的详情。
在集群管理页左侧导航栏,选择 。
在报警规则管理页签中,单击右上角编辑报警配置,可查看当前集群中的AckAlertRule资源配置,并可通过YAML文件修改。
报警规则配置的YAML文件示例如下:
apiVersion: alert.alibabacloud.com/v1beta1 kind: AckAlertRule metadata: name: default spec: groups: #以下是一个集群事件报警规则配置样例。 - name: pod-exceptions #报警规则分组名,对应报警模板中的Group_Name字段。 rules: - name: pod-oom #报警规则名。 type: event #报警规则类型(Rule_Type),枚举值为event(事件类型)、metric-cms(云监控指标类型)。 expression: sls.app.ack.pod.oom #报警规则表达式,当规则类型为event时,表达式的值为本文默认报警规则模板中Rule_Expression_Id值。 enable: enable #报警规则开启状态,枚举值为enable、disable。 - name: pod-failed type: event expression: sls.app.ack.pod.failed enable: enable #以下是一个集群基础资源报警规则配置样例。 - name: res-exceptions #报警规则分组名,对应报警模板中的Group_Name字段。 rules: - name: node_cpu_util_high #报警规则名。 type: metric-cms #报警规则类型(Rule_Type),枚举值为event(事件类型)、metric-cms(云监控指标类型)。 expression: cms.host.cpu.utilization #报警规则表达式,当规则类型为metric-cms时,表达式的值为本文默认报警规则模板中Rule_Expression_Id值。 contactGroups: #报警规则映射的联系人分组配置,由ACK控制台生成,同一个账号下联系人相同,可在多集群中复用。 enable: enable #报警规则开启状态,枚举值为enable、disable。 thresholds: #报警规则阈值,详情见文档如何更改报警规则阈值部分。 - key: CMS_ESCALATIONS_CRITICAL_Threshold unit: percent value: '1'
默认报警规则模板
在以下情况下注册集群会默认创建相应报警规则:
开启默认报警规则功能。
未开启默认报警规则,首次进入报警规则页面。
默认创建的报警规则如下表所示。
规则集类型 | 规则名 | 规则说明 | Rule_Type | ACK_CR_Rule_Name | SLS_Event_ID |
critical-events集群重要事件报警规则集 | 集群Error事件 | 集群中所有Error Level异常事件触发该报警。 | event | error-event | sls.app.ack.error |
集群Warn事件 | 集群中关键Warn Level异常事件触发该报警,排除部分可忽略事件。 | event | warn-event | sls.app.ack.warn | |
cluster-error集群异常事件报警规则集 | 集群节点Docker进程异常 | 集群中节点Dockerd或Containerd 运行时异常。 | event | docker-hang | sls.app.ack.docker.hang |
集群驱逐事件 | 集群中发生驱逐事件。 | event | eviction-event | sls.app.ack.eviction | |
集群GPU的XID错误事件 | 集群中GPU XID异常事件。 | event | gpu-xid-error | sls.app.ack.gpu.xid_error | |
集群节点下线 | 集群中节点下线。 | event | node-down | sls.app.ack.node.down | |
集群节点重启 | 集群中节点重启。 | event | node-restart | sls.app.ack.node.restart | |
集群节点时间服务异常 | 集群中节点时间同步系统服务异常。 | event | node-ntp-down | sls.app.ack.ntp.down | |
集群节点PLEG异常 | 集群中节点PLEG异常。 | event | node-pleg-error | sls.app.ack.node.pleg_error | |
集群节点进程异常 | 集群中节点进程数异常。 | event | ps-hang | sls.app.ack.ps.hang | |
res-exceptions集群资源异常报警规则集 | 集群节点-CPU使用率≥85% | 集群中节点实例CPU使用率超过水位。默认值85%。 剩余资源不足15%时,可能会超过容器引擎层CPU资源预留。更多信息,请参见节点资源预留策略。这可能引起高频CPU Throttle,最终严重影响进程响应速度。请及时优化CPU使用情况或调整阈值。 关于如何调整阈值,请参见如何修改集群基础资源报警规则的阈值。 | metric-cms | node_cpu_util_high | cms.host.cpu.utilization |
集群节点-内存使用率≥85% | 集群中节点实例内存使用率超过水位。默认值85%。 剩余资源不足15%时,若仍然使用,水位将超过容器引擎层内存资源预留。更多信息,请参见节点资源预留策略。此场景下,Kubelet将发生强制驱逐行为。请及时优化内存使用情况或调整阈值。 关于如何调整阈值,请参见如何修改集群基础资源报警规则的阈值。 | metric-cms | node_mem_util_high | cms.host.memory.utilization | |
集群节点-磁盘使用率≥85% | 集群中节点实例磁盘使用率超过水位。默认值85%。 关于如何调整阈值,请参见如何修改集群基础资源报警规则的阈值。 | metric-cms | node_disk_util_high | cms.host.disk.utilization | |
集群节点-公网流出带宽使用率≥85% | 集群中节点实例公网流出带宽使用率超过水位。默认值85%。 关于如何调整阈值,请参见如何修改集群基础资源报警规则的阈值。 | metric-cms | node_public_net_util_high | cms.host.public.network.utilization | |
集群节点-inode使用率≥85% | 集群中节点实例inode使用率超过水位。默认值85%。 关于如何调整阈值,请参见如何修改集群基础资源报警规则的阈值。 | metric-cms | node_fs_inode_util_high | cms.host.fs.inode.utilization | |
集群资源-负载均衡最大连接数使用率≥85% | 集群中负载均衡实例最大连接数超过水位。默认值85%。 说明 负载均衡实例,即API-Server、Ingress所关联的SLB负载均衡实例。 关于如何调整阈值,请参见如何修改集群基础资源报警规则的阈值。 | metric-cms | slb_qps_util_high | cms.slb.qps.utilization | |
集群资源-负载均衡网络流出带宽使用率≥85% | 集群中负载均衡实例网络流出带宽使用率超过水位。默认值85%。 说明 负载均衡实例,即API-Server、Ingress所关联的SLB负载均衡实例。 关于如何调整阈值,请参见如何修改集群基础资源报警规则的阈值。 | metric-cms | slb_traff_tx_util_high | cms.slb.traffic.tx.utilization | |
集群资源-负载均衡最大连接数使用率≥85% | 集群中负载均衡实例最大连接数使用率超过水位。默认值85%。 说明 负载均衡实例,即API-Server、Ingress所关联的SLB负载均衡实例。 关于如何调整阈值,请参见如何修改集群基础资源报警规则的阈值。 | metric-cms | slb_max_con_util_high | cms.slb.max.connection.utilization | |
集群资源-负载均衡监听每秒丢失连接数持续≥1 | 集群中负载均衡实例每秒丢失连接数持续超过水位。默认值1次。 说明 负载均衡实例,即API-Server、Ingress所关联的SLB负载均衡实例。 关于如何调整阈值,请参见如何修改集群基础资源报警规则的阈值。 | metric-cms | slb_drop_con_high | cms.slb.drop.connection | |
集群节点文件句柄过多 | 集群中节点文件句柄数过多异常。 | event | node-fd-pressure | sls.app.ack.node.fd_pressure | |
集群节点磁盘空间不足 | 集群中节点磁盘空间不足异常事件。 | event | node-disk-pressure | sls.app.ack.node.disk_pressure | |
集群节点进程数过多 | 集群中节点进程数过多异常事件。 | event | node-pid-pressure | sls.app.ack.node.pid_pressure | |
集群节点调度资源不足 | 集群中无调度资源异常事件。 | event | node-res-insufficient | sls.app.ack.resource.insufficient | |
集群节点IP资源不足 | 集群中IP资源不足异常事件。 | event | node-ip-pressure | sls.app.ack.ip.not_enough | |
pod-exceptions集群容器副本异常报警规则集 | 集群容器副本OOM | 集群容器副本Pod或其中进程出现OOM(Out of Memory)。 | event | pod-oom | sls.app.ack.pod.oom |
集群容器副本启动失败 | 集群容器副本Pod启动失败事件(Pod Start Failed)。 | event | pod-failed | sls.app.ack.pod.failed | |
集群镜像拉取失败事件 | 集群容器副本Pod出现镜像拉取失败事件。 | event | image-pull-back-off | sls.app.ack.image.pull_back_off | |
cluster-ops-err集群管控运维异常报警规则集 | 无可用LoadBalancer | 集群无法创建LoadBalancer事件。请提交工单联系容器服务团队。 | event | slb-no-ava | sls.app.ack.ccm.no_ava_slb |
同步LoadBalancer失败 | 集群创建LoadBalancer同步失败事件。请提交工单联系容器服务团队。 | event | slb-sync-err | sls.app.ack.ccm.sync_slb_failed | |
删除LoadBalancer失败 | 集群删除LoadBalancer失败事件。请提交工单联系容器服务团队。 | event | slb-del-err | sls.app.ack.ccm.del_slb_failed | |
删除节点失败 | 集群删除节点失败事件。请提交工单联系容器服务团队。 | event | node-del-err | sls.app.ack.ccm.del_node_failed | |
添加节点失败 | 集群添加节点失败事件。请提交工单联系容器服务团队。 | event | node-add-err | sls.app.ack.ccm.add_node_failed | |
创建VPC网络路由失败 | 集群创建VPC网络路由失败事件。请提交工单联系容器服务团队。 | event | route-create-err | sls.app.ack.ccm.create_route_failed | |
同步VPC网络路由失败 | 集群同步VPC网络路由失败事件。请提交工单联系容器服务团队。 | event | route-sync-err | sls.app.ack.ccm.sync_route_failed | |
托管节点池命令执行失败 | 集群托管节点池异常事件。请提交工单联系容器服务团队。 | event | nlc-run-cmd-err | sls.app.ack.nlc.run_command_fail | |
托管节点池未提供任务的具体命令 | 集群托管节点池异常事件。请提交工单联系容器服务团队。 | event | nlc-empty-cmd | sls.app.ack.nlc.empty_task_cmd | |
托管节点池出现未实现的任务模式 | 集群托管节点池异常事件。请提交工单联系容器服务团队。 | event | nlc-url-m-unimp | sls.app.ack.nlc.url_mode_unimpl | |
托管节点池发生未知的修复操作 | 集群托管节点池异常事件。请提交工单联系容器服务团队。 | event | nlc-opt-no-found | sls.app.ack.nlc.op_not_found | |
托管节点池销毁节点发生错误 | 集群托管节点池异常事件。请提交工单联系容器服务团队。 | event | nlc-des-node-err | sls.app.ack.nlc.destroy_node_fail | |
托管节点池节点排水失败 | 集群托管节点池排水异常事件。请提交工单联系容器服务团队。 | event | nlc-drain-node-err | sls.app.ack.nlc.drain_node_fail | |
托管节点池重启ECS未达到终态 | 集群托管节点池异常事件。请提交工单联系容器服务团队。 | event | nlc-restart-ecs-wait | sls.app.ack.nlc.restart_ecs_wait_fail | |
托管节点池重启ECS失败 | 集群托管节点池异常事件。请提交工单联系容器服务团队。 | event | nlc-restart-ecs-err | sls.app.ack.nlc.restart_ecs_fail | |
托管节点池重置ECS失败 | 集群托管节点池异常事件。请提交工单联系容器服务团队。 | event | nlc-reset-ecs-err | sls.app.ack.nlc.reset_ecs_fail | |
托管节点池自愈任务失败 | 集群托管节点池异常事件。请提交工单联系容器服务团队。 | event | nlc-sel-repair-err | sls.app.ack.nlc.repair_fail | |
cluster-network-err集群网络异常事件报警规则集 | Terway资源无效 | 集群Terway网络资源无效异常事件。请提交工单联系容器服务团队。 | event | terway-invalid-res | sls.app.ack.terway.invalid_resource |
Terway分配IP失败 | 集群Terway网络资源分配IP失败异常事件。请提交工单联系容器服务团队。 | event | terway-alloc-ip-err | sls.app.ack.terway.alloc_ip_fail | |
解析Ingress带宽配置失败 | 集群Ingress网络解析配置异常事件。请提交工单联系容器服务团队。 | event | terway-parse-err | sls.app.ack.terway.parse_fail | |
Terway分配网络资源失败 | 集群Terway网络资源分配失败异常事件。请提交工单联系容器服务团队。 | event | terway-alloc-res-err | sls.app.ack.terway.allocate_failure | |
Terway回收网络资源失败 | 集群Terway网络资源回收失败异常事件。请提交工单联系容器服务团队。 | event | terway-dispose-err | sls.app.ack.terway.dispose_failure | |
Terway虚拟模式变更 | 集群Terway网络虚拟模式变更事件。 | event | terway-virt-mod-err | sls.app.ack.terway.virtual_mode_change | |
Terway触发PodIP配置检查 | 集群Terway网络触发PodIP配置检查事件。 | event | terway-ip-check | sls.app.ack.terway.config_check | |
Ingress重载配置失败 | 集群Ingress网络配置重载异常事件。请检查Ingress配置是否正确。 | event | ingress-reload-err | sls.app.ack.ingress.err_reload_nginx | |
cluster-storage-err集群存储异常事件报警规则集 | 云盘容量少于20 GiB限制 | 集群网盘固定限制,无法挂载小于20 GiB的磁盘。请检查所挂载云盘的容量大小。 | event | csi_invalid_size | sls.app.ack.csi.invalid_disk_size |
容器数据卷暂不支持包年包月类型云盘 | 集群网盘固定限制,无法挂载包年包月类型的云盘。请检查所挂载云盘的售卖方式。 | event | csi_not_portable | sls.app.ack.csi.disk_not_portable | |
挂载点正在被进程占用,卸载挂载点失败 | 集群存储挂载点正在被进程占用,卸载挂载点失败。 | event | csi_device_busy | sls.app.ack.csi.deivce_busy | |
无可用云盘 | 集群存储挂载时无可用云盘异常。请提交工单联系容器服务团队。 | event | csi_no_ava_disk | sls.app.ack.csi.no_ava_disk | |
云盘IOHang | 集群出现IOHang异常。请提交工单联系容器服务团队。 | event | csi_disk_iohang | sls.app.ack.csi.disk_iohang | |
磁盘绑定的PVC发生slowIO | 集群磁盘绑定的PVC发生slowIO异常。请提交工单联系容器服务团队。 | event | csi_latency_high | sls.app.ack.csi.latency_too_high | |
磁盘容量超过水位阈值 | 集群磁盘使用量超过水位值异常。请检查您的集群磁盘水位情况。 | event | disk_space_press | sls.app.ack.csi.no_enough_disk_space | |
security-err集群安全异常事件 | 安全巡检发现高危风险配置 | 集群安全巡检发现高危风险配置事件。请提交工单联系容器服务团队。 | event | si-c-a-risk | sls.app.ack.si.config_audit_high_risk |