在微服务架构中,当服务提供者的应用实例出现异常,而服务消费者无法感知时会影响服务的正常调用,并影响消费者的服务性能甚至可用性。离群实例摘除功能会检测应用实例的可用性并进行动态调整,以保证服务成功调用,从而提升业务的稳定性和服务质量。

背景信息

在下图的示例场景中,某个系统包含4个应用,A、B、C和D,其中应用A会分别调用应用B、C和D。当应用B、C或D的某些实例异常时(如图中红色圆圈所示,应用B有一个异常实例,C和D有2个异常实例),如果应用A无法感知,会导致部分调用失败;如果B、C、D的异常实例较多,有可能影响应用A的性能甚至服务可用性。

为了保护应用A的服务性能和可用性,可以为应用A配置离群实例摘除。配置后,即可监控B、C、D应用的实例状态并进行动态调整(摘除或添加),以保证服务成功调用。

离群实例摘除示意

离群实例摘除流程如下:

  1. 当应用B、C或D的某个实例异常时,系统能够检测到,并根据配置的摘除实例比例上限判断是否将对应的实例从应用中摘除。
  2. 摘除实例后,A的调用请求不再被分发到B、C、D的异常实例上。
  3. 按配置的恢复检测单位时间开始检测异常实例是否恢复。
  4. 检测间隔随检测次数按恢复检测单位时间(默认为0.5分钟)线性增加,当达到设置的未恢复累计次数上限后,会按最长时间间隔持续检测异常实例是否恢复。
  5. 当检测到实例恢复后,将实例重新添加到应用的实例列表中,处理调用请求。同时,将检测间隔重置为恢复检测单位时间,例如0.5分钟。
说明
  • 当提供者应用的异常实例数量过多(超过摘除实例比例上限)时,仅按照设置的比例摘除。
  • 当提供者应用中仅剩最后一个可用实例时,即使错误率超过配置的阈值,也不会摘除该实例。

创建离群实例摘除策略

  1. 登录EDAS控制台
  2. 在左侧导航栏选择微服务治理 > 服务网格
  3. 服务网格左侧导航栏单击离群实例摘除
  4. 离群实例摘除页面选择和微服务空间,然后单击创建离群实例摘除策略
  5. 创建离群实例摘除策略流程的基本信息页面设置参数,然后单击下一步
    服务网格-离群实例摘除

    基本信息参数说明如下:

    参数 描述
    微服务空间 在右侧列表中选择地域和微服务空间
    策略名称 离群实例策略名称,最长64个字符。
    被调用服务所用框架 选择服务网格
  6. 创建离群实例摘除策略流程的选择生效应用页面选择生效应用,单击>图标,然后单击下一步
    离群实例摘除-选择生效应用

    选择生效应用后,该应用的调用的所有应用的异常实例会被摘除。摘除期间,生效应用的调用请求将不再被分发到异常实例。

  7. 创建离群实例摘除策略流程的配置策略页面设置参数,然后单击下一步
    创建离群实例摘除策略-多语言

    配置策略参数说明如下:

    参数 描述
    异常类型 默认业务异常5XX异常,不可设置。
    最大驱逐的实例比例 摘除的异常实例比例上限,即达到阈值后,不再摘除异常实例。摘除异常实例数向下取整,例如应用实例总数为6,摘除实例比例设置为60%,摘除实例比例数为6x60%=3.6,则按策略最多摘除的实例数为3。若计算结果小于1,则不会摘除实例。
    恢复检测单位时间 在异常实例被摘除后,不断按单位时间线性累加的时间作为检测间隔,去检测异常实例是否恢复正常,单位为ms。默认为30000ms,即0.5分钟。
    连续错误次数 请求过程中连续错误的次数,达到定义的错误次数后就会发生摘除。
    最大连接数 服务能支持的最大连接数,默认为1024。
    最大Pending请求数 服务能支持的最大的Pending请求处理数,默认为1024。
    单条连接最大请求数 服务每条连接最大支持的请求数,默认为1024。
  8. 创建离群实例摘除策略流程的确认创建页面确认策略配置无误后,单击创建
    确认创建离群实例摘除策略

结果验证

离群实例摘除策略配置并提交后,即开启了离群实例摘除。您可以进入配置了离群实例摘除的应用详情页面,查看该应用的监控信息,例如通过拓扑图观察调用请求是否还会转发到异常实例,应用调用的错误率/每分钟是否高于配置的错误率下限等,以便判断离群实例摘除策略是否生效。

相关操作

您可以在离群实例摘除列表单击编辑删除,可以编辑或删除该离群实例摘除策略。