集群流控可以控制某个服务调用整个集群的实时调用量,可以解决因流量不均匀导致总体限流效果不佳的问题。集群流控可以精确地控制整个集群的调用总量,结合单机限流兜底,更好地发挥流量防护的效果。本文主要介绍设置集群流控的操作步骤。
商业化说明
集群流控功能已于2021.11.26日暂停商业化收费,目前处于免费公测期。
集群流控试用档位的Token Server可供您测试使用,且不会产生任何费用。试用档位单个应用QPS阈值之和不超过2000,接口总流量不超过3000。
说明 试用档位仅供测试效果使用,不保证稳定性,请勿在生产环境使用。
前提条件
- 已开通AHAS专业版,若没有开通,请进入开通页面。
- SDK版本≥1.6.0,Agent版本≥1.7.5。
背景信息
集群流控通常适用于以下场景:
- 单机流量不均:由于负载不均衡等原因导致每台机器的流量不均,这时使用单机流控可能会出现没有达到请求总量,某些机器就开始限流的情况。
- 集群小流量流控:某些高可用防护场景下需要将服务调用QPS限制到很小的量,此时平均到每台机器的QPS可能小于1,无法通过单机流控进行精确控制。例如希望限制总QPS为50,但节点数有100个。
- 有业务含义的流量控制:例如限制某个API每个用户每分钟调用不超过10次。
说明 Token Client与Server的通信会带来一定的网络开销,响应时间可能会上升2 ms~5 ms左右。