对于云原生API网关实例,本文提供专享实例和Serverless实例的容量阈值、QPS性能参考以及配额限制,可以帮助您更加准确地按需选择规格或形态。
本文覆盖云原生API网关专享实例与Serverless实例两种形态的容量阈值、QPS性能参考与配额限制。
Serverless实例当前处于公测阶段,本文中Serverless部分配额为公测期配额,正式商业化后以官方公告为准。
形态说明
|
形态 |
资源模式 |
容量管理 |
适用场景 |
|
专享实例 |
用户独占物理资源 |
按规格选择,规格越高容量越大 |
高频稳态、合规审计、深度定制 |
|
Serverless实例 |
平台托管的多租共享池 |
平台统一容量上限,无规格选择 |
流量波动 / 中小规模 / 快速上手 |
容量阈值(专享实例)
以下为不同网关规格下的容量阈值。当网关容量指标处于警戒水位以下时,可以得到完整的SLA保障。对于核心业务,建议将网关容量指标控制在安全水位以下,从而获得更好的稳定性。
-
安全水位:能够在突发流量增长至双倍的情况下,依然确保网关系统维持高吞吐量和低延迟性能。
-
警戒水位:当水位达到警戒线以上时,网关的延迟可能会增加,并且在突发流量下可能存在稳定性风险。
-
apigw.dev.x1为单节点部署的网关规格,无法提供SLA保障,仅限测试场景使用。请确保线上业务使用部署了多个节点的网关规格。
-
对于超过网关CPU/内存的警戒水位后引起的请求异常,网关无法提供SLA保障。网关提供了CPU/内存的警戒水位告警,请及时关注网关的负载水位与告警。
|
网关规格 |
客户端连接数 |
HTTPS每秒新建连接 |
CPU使用率 |
内存使用率 |
||||
|
安全水位 |
警戒水位 |
安全水位 |
警戒水位 |
安全水位 |
警戒水位 |
安全水位 |
警戒水位 |
|
|
apigw.dev.x1 |
12000 |
24000 |
400 |
800 |
30% |
60% |
75% |
75% |
|
apigw.small.x1 |
24000 |
48000 |
800 |
1600 |
30% |
60% |
75% |
75% |
|
apigw.small.x2 |
48000 |
96000 |
1600 |
3200 |
30% |
60% |
75% |
75% |
|
apigw.small.x4 |
96000 |
192000 |
3200 |
6400 |
30% |
60% |
75% |
75% |
|
apigw.medium.x1 |
192000 |
384000 |
6400 |
12800 |
30% |
60% |
75% |
75% |
|
apigw.medium.x2 |
384000 |
768000 |
12800 |
25600 |
30% |
60% |
75% |
75% |
|
apigw.medium.x3 |
576000 |
1152000 |
19200 |
38400 |
30% |
60% |
75% |
75% |
|
apigw.large.x1 |
768000 |
1536000 |
25600 |
51200 |
30% |
60% |
75% |
75% |
|
apigw.large.x2 |
1536000 |
3072000 |
51200 |
102400 |
30% |
60% |
75% |
75% |
|
apigw.large.x3 |
2304000 |
4608000 |
76800 |
153600 |
30% |
60% |
75% |
75% |
|
apigw.large.x4 |
3072000 |
6144000 |
102400 |
204800 |
30% |
60% |
75% |
75% |
Serverless实例底层资源由平台托管,无规格选择;其单租户容量阈值见本文"Serverless实例容量阈值"章节。
QPS性能参考(专享实例)
网关QPS吞吐受多种因素影响,如应答大小、是否开启HTTPS、是否开启gzip等。下表是网关处于30%CPU水位的QPS悲观值(最差情况下)参考。
HTTPS新建连接会占用较多CPU资源。对于瞬时大量HTTPS并发连接的业务场景,请参考下表中短连接+HTTPS的数据评估网关容量。
短连接
|
应答字节数 |
HTTPS |
gzip |
dev.x1 |
small.x1 |
small.x2 |
small.x4 |
medium.x1 |
medium.x2 |
medium.x3 |
large.x1 |
large.x2 |
large.x3 |
large.x4 |
|
1 KB |
否 |
否 |
1700 |
3400 |
6800 |
13600 |
28000 |
56000 |
84000 |
112000 |
224000 |
336000 |
448000 |
|
1 KB |
是 |
否 |
500 |
1000 |
2000 |
4000 |
8700 |
17400 |
26100 |
34800 |
69600 |
104400 |
139200 |
长连接
|
应答字节数 |
HTTPS |
gzip |
dev.x1 |
small.x1 |
small.x2 |
small.x4 |
medium.x1 |
medium.x2 |
medium.x3 |
large.x1 |
large.x2 |
large.x3 |
large.x4 |
|
1 KB |
否 |
否 |
2200 |
4400 |
8800 |
17600 |
35000 |
70000 |
105000 |
140000 |
280000 |
420000 |
560000 |
|
1 KB |
是 |
否 |
2000 |
4000 |
8000 |
16000 |
32000 |
64000 |
96000 |
128000 |
256000 |
384000 |
512000 |
|
1 KB |
是 |
是 |
1700 |
3400 |
6800 |
13600 |
28000 |
56000 |
84000 |
112000 |
224000 |
336000 |
448000 |
|
10 KB |
否 |
否 |
1800 |
3600 |
7200 |
14400 |
30000 |
60000 |
90000 |
120000 |
240000 |
360000 |
480000 |
|
10 KB |
是 |
否 |
1700 |
3400 |
6800 |
13600 |
28000 |
56000 |
84000 |
112000 |
224000 |
336000 |
448000 |
|
10 KB |
是 |
是 |
1000 |
2000 |
4000 |
8000 |
16000 |
32000 |
48000 |
64000 |
128000 |
192000 |
256000 |
配额限制
全局配额
全局配额对Serverless实例与专享实例均适用,与网关实例规格无关。如需提升配额请提交工单申请。
|
配额项 |
配额 |
|
单 Region 实例数量 |
100 |
|
单 Region 最大消费者组数 |
1000 |
|
单消费者组内消费者数 |
500 |
|
单 Region 最大消费者数 |
100000 |
实例规格配额
下表整合Serverless实例单租户配额与专享实例11档规格配额,便于横向对比。专享实例可通过升级规格扩容;若升级至高规格仍不满足,可通过提交工单申请进一步提升配额。其中,“消费者数量”和“消费者授权规则数”作为独立的配额项分别展示、分别统计和校验。
|
Serverless |
DEV |
Small |
Medium |
Large |
||||||||
|
配额项 |
Serverless |
dev.x1 |
small.x1 |
small.x2 |
small.x4 |
medium.x1 |
medium.x2 |
medium.x3 |
large.x1 |
large.x2 |
large.x3 |
large.x4 |
|
发布域名数 |
100 |
100 |
200 |
300 |
400 |
500 |
600 |
800 |
1000 |
1200 |
1400 |
1600 |
|
服务数 |
200 |
200 |
800 |
1200 |
1600 |
2000 |
2500 |
3000 |
4000 |
4500 |
5000 |
6000 |
|
在线路由总数(含HTTP API路由、REST API接口、Ingress路由) |
2500 |
2500 |
5000 |
6000 |
7000 |
7500 |
8000 |
9000 |
10000 |
11000 |
12000 |
13000 |
|
消费者授权规则数 |
500 |
500 |
2000 |
4000 |
6000 |
8000 |
12000 |
16000 |
20000 |
27500 |
35000 |
42500 |
|
消费者数量 |
500 |
500 |
2000 |
4000 |
6000 |
8000 |
12000 |
16000 |
20000 |
27500 |
35000 |
42500 |
|
消费者配额规则数 |
500 |
500 |
2000 |
4000 |
6000 |
8000 |
12000 |
16000 |
20000 |
27500 |
35000 |
42500 |
|
K8s服务来源数 |
1 |
3 |
3 |
3 |
3 |
5 |
5 |
5 |
5 |
5 |
5 |
5 |
|
安装的插件数 |
5 |
5 |
10 |
10 |
10 |
20 |
20 |
20 |
30 |
30 |
30 |
30 |
|
上传自定义插件数 |
暂不支持 |
10 |
20 |
20 |
20 |
50 |
50 |
50 |
80 |
80 |
80 |
80 |
对于 Serverless 实例,购买消费者(组)规则扩容数后,将同时提升消费者授权规则数、消费者数量和消费者配额规则数三项消费者相关配额上限,提升上限以购买页面为准。扩容计费详情请参见消费者(组)规则扩容数计费。其他形态网关的配额,以及 Serverless 实例的其他配额项,可通过提交工单申请提升配额上限。
消费者授权额度计算口径
各实例规格的消费者数量上限和消费者授权规则数上限分别列于上表;其他规格以实例规格配额表为准。
消费者数量 = 当前网关授权关系中,直接授权的消费者与通过消费者组授权引用的消费者合并去重后的数量。同一个消费者被多条规则或多个消费者组引用时只计1次;消费者组为空时不增加消费者数量。
消费者授权规则数 = 当前网关保留的消费者授权规则条数。直接授权一条计1条,消费者组授权一条也计1条;无论消费者组包含多少消费者或是否为空,都只计1条。
两项用量分别与对应的配额上限比较:消费者数量不超过消费者数量上限,且消费者授权规则数不超过消费者授权规则数上限。通过白名单或特殊配置提高的配额只改变可用上限,不改变上述计算口径。
Serverless实例容量阈值
Serverless实例采用平台托管的多租共享池架构,无规格选择,所有租户共享统一容量边界。以下为公测期单租户阈值。
单租户容量阈值
|
指标 |
公测配额 |
说明 |
|
单租户 QPS |
10000 |
接近该值时建议评估升级到专享实例;超过需提交工单 |
|
每秒新建连接数 |
2000 |
平台对单租户的入口建连速率上限 |
|
总连接数 |
100000 |
单租户在网关入口侧的活跃连接上限 |
容量弹性说明
-
平台托管弹性:Serverless实例底层计算资源由平台统一弹性调度,租户无需手动升降配。
-
租户级隔离:每个租户拥有独立的入口,流量层面与其他租户严格隔离。
-
超限处理:触发QPS / 连接数 / 路由数等配额上限时,平台将返回限流响应;如业务确实需要更高配额,建议升级到专享实例或提交工单。
配额提升与形态升级
|
场景 |
建议路径 |
|
专享实例配额不足 |
升级到更高规格,仍不足时提交工单 |
|
Serverless实例QPS接近10000 |
评估升级到专享实例 |
|
Serverless实例需要更高SLA |
升级到专享实例 |
形态选型详情参见Serverless实例与专享实例选型说明。