微服务网关提供后端RT自动调整流量的负载均衡策略,可以极大程度减少由后端应用实例的处理能力差异带来的业务损失。

前提条件

背景信息

挂载在微服务网关的后端应用实例,其处理能力往往存在差异。当实例间的处理能力差异较大时,可能会造成业务处理延迟,带来业务损失,而后端RT自动流量调整的负载均衡策略可以极大程度减少由后端应用实例的处理能力差异带来的业务损失。

操作步骤

  1. 登录微服务网关控制台
  2. 在顶部菜单栏选择地域
  3. 在左侧导航栏选择网关管理
  4. 网关管理页面单击网关名称。
  5. 网关详情页面左侧导航栏单击API管理
  6. API管理页面单击API名称。
  7. API详情页面的策略区域添加策略,然后单击保存
    添加策略包含创建策略和选择已有策略两种方式。
    • 创建策略
      1. API管理页面请求处理区域单击创建策略
      2. 创建策略页面设置策略名称策略类型策略配置,然后单击确认创建策略

        创建策略参数说明:

        参数 描述
        策略名称 自定义设置策略名称。
        策略别名 自定义设置易于辨识策略的别名信息。
        策略类型 选择负载均衡-RIBBON
        启用状态 策略开关,默认开启。
        策略配置
        • NIWSServerListClassName:负载均衡算法,本场景必须设置为com.netflix.loadbalancer.WeightedResponseTimeRule,即根据后端RT自动调整后端服务接收的请求流量的算法。
        • listOfServers:服务器列表。
          • 从注册中心添加服务场景:服务器列表会根据注册中心注册的服务自动生成,无需手动编辑。
          • 从EDAS关联服务场景:服务器列表需要手动设置为http://服务部署到EDAS时对应的ECS实例的IP地址:8080,端口号根据您真实场景设置。
        • ConnectTimeout:连接服务超时时长,默认值“1000”,可根据用户需要设置。
        • ReadTimeout:服务读取时长,默认值“3000”,可根据用户需要设置。
        • MaxTotalHttpConnections:服务最大连接数,默认值“500”,可根据用户需要设置。
        • MaxConnectionsPerHost:实例最大连接数,默认值“100”,可根据用户需要设置。
    • 选择已有策略:单击+选择已有策略,在已有策略对话框勾选策略,单击确认
      说明 添加已有策略后,默认关闭启用状态开关。如需打开,单击策略名称,在编辑策略对话框中打开启用状态开关。

    您还可以拖动策略名称左侧的移动按钮 按钮以便调整策略的优先级。

  8. API管理页面底部单击保存并发布
    系统弹出发布详情对话框,请单击关闭
  9. 重启微服务网关。
    1. 在左侧导航栏单击网关详情
    2. 网关详情页面基本信息区域单击重启,重启微服务网关。
      说明 配置的后端RT自动流量调整的负载均衡策略必须重启微服务网关才会生效。