设置限流降级

重要

本文中含有需要您注意的重要提示信息,忽略该信息可能对您的业务造成影响,请务必仔细阅读。

Serverless 应用引擎 SAE(Serverless App Engine)支持使用微服务引擎 MSE(Microservices Engine)实现应用的限流降级,全面保障您的应用的可用性。本文介绍如何在SAE控制台设置限流降级并查看对应的监控数据。

前提条件

  • 已成功部署Java应用。具体信息,请参见在SAE控制台使用WAR包部署Java Web应用

  • 根据应用类型判断是否需要开通微服务引擎 MSE(Microservices Engine)微服务治理专业版。具体操作,请参见开通MSE微服务治理

    • 存量应用:2023年11月08日00:00前创建的应用,无需开通MSE服务治理专业版或企业版,后续部署应用也不会产生MSE计费。

    • 新增应用:2023年11月08日00:00起新建的应用,使用无损上下线与灰度规则功能需要开通MSE微服务治理专业版,使用限流降级功能需要开通MSE微服务治理企业版。用户升级MSE企业版后,未开启限流降级功能的应用依然按照专业版进行计费,只有开启限流降级功能的应用才会按照企业版计费。

    关于MSE微服务治理计费的更多信息,请参见计费概述【产品变更】SAE集成的MSE微服务治理功能商用通知

设置限流降级

警告

重新部署应用后,该应用将会被重启。为避免业务中断等不可预知的错误,请在业务低峰期执行部署操作。

  1. 登录SAE控制台

  2. 在左侧导航栏,选择应用管理 > 应用列表,在顶部菜单栏选择地域,然后单击具体应用名称。

  3. 为存量应用或新应用开启限流降级功能。

    存量应用

    更新应用配置的路径因实例数的不同而不同。本文以实例数大于等于1为例,介绍如何配置目标功能。当实例数等于0时的操作路径,请参见更新应用

    1. 基本信息页面右上角,单击部署应用

    2. 部署应用页面,展开限流降级设置区域,打开启用限流降级功能开关,单击确认

      如果开启后,无需再使用该功能,您可以在限流降级设置区域,关闭启用限流降级功能开关,之前设置的所有限流降级规则将不再生效。

    新增应用

    1. 在左侧导航栏,选择微服务治理 > 限流降级

    2. 限流降级页面,单击开启限流降级并刷新页面。

    开启限流降级功能后,您可以在限流降级(仅支持Java)菜单或限流降级页面查看应用概览、监控指标、配置规则等。

关闭限流降级

如果您的应用已开启限流降级功能,可以通过以下方式关闭:

  • 存量应用

    在应用基本信息页面,单击部署应用修改应用配置,然后在限流降级设置区域,关闭启用限流降级功能,然后单击确认

  • 新增应用

    限流降级功能启用后不支持单独关闭。

    如果您无需使用微服务治理功能,为避免产生不必要的MSE费用,可以在应用基本信息页面右上角,选择更多 > 关闭微服务治理,根据页面提示信息,关闭微服务治理功能。

    警告

    关闭微服务治理功能后,除服务列表外,其他微服务治理功能(包括无损上下线、灰度规则和限流降级)将无法使用,且关闭过程中会触发一次应用重启,请自行判断业务风险后再进行操作。

查看监控数据

  • 存量应用:在左侧导航栏,选择限流降级(仅支持Java) > 应用概览,在应用概览页面查看。

  • 新增应用:在左侧导航栏,选择微服务治理 > 限流降级,在应用概览页签查看。

应用概览

该页面会动态刷新,展示应用的QPS 、RT、CPU数据,以及应用事件等信息。

  • QPS数据:统计应用QPS、RT、CPU等数据。

    说明

    应用概览涉及到的QPS、响应时间均为应用入口接口的统计,不包括应用内部方法调用的统计。

    应用概览.png

    • QPS数据:展示近5分钟通过请求数、流控请求数和异常请求数的时序图。单击图例,可以隐藏或展示该指标的时序图。

    • 应用事件:展示该应用在近期产生的应用事件。

    • RT:响应时间,单位为ms。展示近5分钟响应时间的时序图。

    • CPU:用户CPU使用率。展示近5分钟CPU使用率。

  • TOP列表及系统资源指标:包括通过QPS、防护拒绝QPS、平均RT(ms)接口列表,以及CPU的TOP节点列表和系统资源指标。

    应用概览2.png

    TOP接口列表会动态刷新,按通过QPS由大到小排列。

    单击接口名称或该区域右上角的查看全部,进入接口详情页面,查看所有接口的QPS、CPU、Load等详细信息。

    单击目标接口操作列的流控隔离,可为该资源配置相应规则。

    将鼠标悬停在图中某一点,可查看该时刻该指标的具体数据。

接口详情

该页面展示该应用的所有接口的详细信息,包括统计的QPS、RT、并发等数据。单击各类型的页签可以进入各个类型的接口详情页面,包括WEB服务RPC服务等,各个类型页面的主要功能如下。

WEB服务

接口详情.png

说明

WEB服务与SAE 2.0的Web应用含义不同。WEB服务表示微服务中的HTTP服务类型;Web应用表示使用HTTP服务的应用,例如SpringBoot、多语言网站类应用。

Java应用网关的展示页面不区分服务类型以及服务端或客户端,展示页面与WEB服务类型服务端相同,①处展示路由名。

  • ①:可以预览服务端以及客户端的WEB接口列表,以及每个接口最近5分钟的请求量拒绝量RT成功率等信息,提供多种筛选排序能力,包含资源名称搜索、已配置防护规则的接口筛选、请求量/拒绝量/RT/成功率排序。接口右侧image.png标志表示该接口配置了防护规则。

    说明

    已配置防护规则的接口筛选条件会筛选出配置了防护规则的接口(忽略规则是否开启)。

  • ②:选择当前接口的各种功能页签。

    • 接口概览:以QPS、RT、并发各数据的统计维度展现选中的接口数据。

    • 节点详情:分节点查看当前接口QPS、RT、并发等各项数据。

    • 接口流控:配置选中接口的流控规则。具体操作,请参见配置流控规则

    • 并发隔离:配置选中接口的隔离规则。具体操作,请参见配置隔离规则

    • 热点参数防护(HTTP 请求):配置选中接口的热点参数防护(HTTP请求)规则配置界面(仅对服务端接口可见)。具体操作,请参见配置热点参数防护(HTTP请求)规则

    • 服务熔断:配置选中接口的服务熔断规则配置界面(仅对客户端接口可见)。具体操作,请参见配置熔断规则

  • ③:根据②中的选择展示相关的信息。

RPC服务

image.png

  • ①:可以预览服务端以及客户端的RPC服务接口列表,以及每个接口当前时间的请求量拒绝量RT成功率等信息,提供资源名搜索能力。

    说明

    RPC服务的接口列表为两层结构,第一层为RPC服务类名,第二层为方法名。

  • ②:选择当前接口的各种功能页签。

    • 接口概览:以QPS、RT、并发各数据的统计维度展现选中的接口数据。

    • 节点详情:分节点查看当前接口QPS、RT、并发等各项数据。

    • 接口流控:配置选中接口的流控规则。具体操作,请参见配置流控规则

    • 并发隔离:配置选中接口的隔离规则。具体操作,请参见配置隔离规则

    • 热点参数防护(RPC):配置选中接口的热点参数防护(RPC请求)规则配置界面(仅对客户端接口可见)。具体操作,请参见配置热点参数防护(RPC)规则

    • 服务熔断:配置选中接口的服务熔断规则配置界面(仅对客户端接口可见)。具体操作,请参见配置熔断规则

  • ③:根据②中的选择展示相关的信息。

节点详情

  • 节点基础信息

    该页面展示应用下所有节点的基础信息,包括统计的QPS等数据和节点基础数据,包括标签、状态等。

    image.png

    • ①:可按IP或名称搜索节点。

    • ②:可选择节点的展示方式,以节点IP节点名称方式展示节点。

    • ③:可按最近五分钟的请求量拒绝量异常量RT进行排序。

    • ④:展示节点的基本信息。

      • 包括节点名称可用区IP地址进程ID标签微服务状态

      • 操作列,可手动对当前的节点进行上下线操作。

  • 节点详细信息

    选中一个节点后可查看该节点的详细信息。

    image.png

    • 基本信息:可查看节点的基本信息,与节点概览展示的内容和方式相同。

    • 节点概览:展示QPS数据、RT数据及CPU和Load指标。

    • JVM 监控:展示GC次数及耗时和JVM线程数指标。

    • 接口详情:可查看当前节点下不同接口的监控指标。