对于云原生API网关实例,本文提供专享实例和Serverless实例的容量阈值、QPS性能参考以及配额限制,可以帮助您更加准确地按需选择规格或形态。
本文覆盖云原生API网关专享实例与Serverless实例两种形态的容量阈值、QPS性能参考与配额限制。
Serverless实例当前处于公测阶段,本文中Serverless部分配额为公测期配额,正式商业化后以官方公告为准。
形态说明
形态 | 资源模式 | 容量管理 | 适用场景 |
专享实例 | 用户独占物理资源 | 按规格选择,规格越高容量越大 | 高频稳态、合规审计、深度定制 |
Serverless实例 | 平台托管的多租共享池 | 平台统一容量上限,无规格选择 | 流量波动 / 中小规模 / 快速上手 |
容量阈值(专享实例)
以下为不同网关规格下的容量阈值。当网关容量指标处于警戒水位以下时,可以得到完整的SLA保障。对于核心业务,建议将网关容量指标控制在安全水位以下,从而获得更好的稳定性。
安全水位:能够在突发流量增长至双倍的情况下,依然确保网关系统维持高吞吐量和低延迟性能。
警戒水位:当水位达到警戒线以上时,网关的延迟可能会增加,并且在突发流量下可能存在稳定性风险。
apigw.dev.x1为单节点部署的网关规格,无法提供SLA保障,仅限测试场景使用。请确保线上业务使用部署了多个节点的网关规格。
对于超过网关CPU/内存的警戒水位后引起的请求异常,网关无法提供SLA保障。网关提供了CPU/内存的警戒水位告警,请及时关注网关的负载水位与告警。
网关规格 | 客户端连接数 | HTTPS每秒新建连接 | CPU使用率 | 内存使用率 | ||||
安全水位 | 警戒水位 | 安全水位 | 警戒水位 | 安全水位 | 警戒水位 | 安全水位 | 警戒水位 | |
apigw.dev.x1 | 12000 | 24000 | 400 | 800 | 30% | 60% | 75% | 75% |
apigw.small.x1 | 24000 | 48000 | 800 | 1600 | 30% | 60% | 75% | 75% |
apigw.small.x2 | 48000 | 96000 | 1600 | 3200 | 30% | 60% | 75% | 75% |
apigw.small.x4 | 96000 | 192000 | 3200 | 6400 | 30% | 60% | 75% | 75% |
apigw.medium.x1 | 192000 | 384000 | 6400 | 12800 | 30% | 60% | 75% | 75% |
apigw.medium.x2 | 384000 | 768000 | 12800 | 25600 | 30% | 60% | 75% | 75% |
apigw.medium.x3 | 576000 | 1152000 | 19200 | 38400 | 30% | 60% | 75% | 75% |
apigw.large.x1 | 768000 | 1536000 | 25600 | 51200 | 30% | 60% | 75% | 75% |
apigw.large.x2 | 1536000 | 3072000 | 51200 | 102400 | 30% | 60% | 75% | 75% |
apigw.large.x3 | 2304000 | 4608000 | 76800 | 153600 | 30% | 60% | 75% | 75% |
apigw.large.x4 | 3072000 | 6144000 | 102400 | 204800 | 30% | 60% | 75% | 75% |
Serverless实例底层资源由平台托管,无规格选择;其单租户容量阈值见本文"Serverless实例容量阈值"章节。
QPS性能参考(专享实例)
网关QPS吞吐受多种因素影响,如应答大小、是否开启HTTPS、是否开启gzip等。下表是网关处于30%CPU水位的QPS悲观值(最差情况下)参考。
HTTPS新建连接会占用较多CPU资源。对于瞬时大量HTTPS并发连接的业务场景,请参考下表中短连接+HTTPS的数据评估网关容量。
短连接
应答字节数 | HTTPS | gzip | dev.x1 | small.x1 | small.x2 | small.x4 | medium.x1 | medium.x2 | medium.x3 | large.x1 | large.x2 | large.x3 | large.x4 |
1 KB | 否 | 否 | 1700 | 3400 | 6800 | 13600 | 28000 | 56000 | 84000 | 112000 | 224000 | 336000 | 448000 |
1 KB | 是 | 否 | 500 | 1000 | 2000 | 4000 | 8700 | 17400 | 26100 | 34800 | 69600 | 104400 | 139200 |
长连接
应答字节数 | HTTPS | gzip | dev.x1 | small.x1 | small.x2 | small.x4 | medium.x1 | medium.x2 | medium.x3 | large.x1 | large.x2 | large.x3 | large.x4 |
1 KB | 否 | 否 | 2200 | 4400 | 8800 | 17600 | 35000 | 70000 | 105000 | 140000 | 280000 | 420000 | 560000 |
1 KB | 是 | 否 | 2000 | 4000 | 8000 | 16000 | 32000 | 64000 | 96000 | 128000 | 256000 | 384000 | 512000 |
1 KB | 是 | 是 | 1700 | 3400 | 6800 | 13600 | 28000 | 56000 | 84000 | 112000 | 224000 | 336000 | 448000 |
10 KB | 否 | 否 | 1800 | 3600 | 7200 | 14400 | 30000 | 60000 | 90000 | 120000 | 240000 | 360000 | 480000 |
10 KB | 是 | 否 | 1700 | 3400 | 6800 | 13600 | 28000 | 56000 | 84000 | 112000 | 224000 | 336000 | 448000 |
10 KB | 是 | 是 | 1000 | 2000 | 4000 | 8000 | 16000 | 32000 | 48000 | 64000 | 128000 | 192000 | 256000 |
配额限制
全局配额
全局配额对Serverless实例与专享实例均适用,与网关实例规格无关。如需提升配额请提交工单申请。
配额项 | 配额 |
单 Region 实例数量 | 100 |
单 Region 最大消费者组数 | 1000 |
单消费者组内消费者数 | 500 |
单 Region 最大消费者数 | 20000 |
实例规格配额
下表整合Serverless实例单租户配额与专享实例11档规格配额,便于横向对比。专享实例可通过升级规格扩容;若升级至高规格仍不满足,可通过提交工单申请进一步提升配额。
Serverless | DEV | Small | Medium | Large | ||||||||
配额项 | Serverless | dev.x1 | small.x1 | small.x2 | small.x4 | medium.x1 | medium.x2 | medium.x3 | large.x1 | large.x2 | large.x3 | large.x4 |
发布域名数 | 100 | 100 | 200 | 300 | 400 | 500 | 600 | 800 | 1000 | 1200 | 1400 | 1600 |
服务数 | 200 | 200 | 800 | 1200 | 1600 | 2000 | 2500 | 3000 | 4000 | 4500 | 5000 | 6000 |
在线路由总数(含HTTP API路由、REST API接口、Ingress路由) | 2500 | 2500 | 5000 | 6000 | 7000 | 7500 | 8000 | 9000 | 10000 | 11000 | 12000 | 13000 |
消费者(组)授权规则数 | 500 | 500 | 2000 | 4000 | 6000 | 8000 | 12000 | 16000 | 20000 | 27500 | 35000 | 42500 |
消费者(组)配额规则数 | 500 | 500 | 2000 | 4000 | 6000 | 8000 | 12000 | 16000 | 20000 | 27500 | 35000 | 42500 |
K8s服务来源数 | 3 | 3 | 3 | 3 | 3 | 5 | 5 | 5 | 5 | 5 | 5 | 5 |
安装的插件数 | 5 | 5 | 10 | 10 | 10 | 20 | 20 | 20 | 30 | 30 | 30 | 30 |
上传自定义插件数 | 暂不支持 | 10 | 20 | 20 | 20 | 50 | 50 | 50 | 80 | 80 | 80 | 80 |
Serverless实例容量阈值
Serverless实例采用平台托管的多租共享池架构,无规格选择,所有租户共享统一容量边界。以下为公测期单租户阈值。
单租户容量阈值
指标 | 公测配额 | 说明 |
单租户 QPS | 10000 | 接近该值时建议评估升级到专享实例;超过需提交工单 |
每秒新建连接数 | 2000 | 平台对单租户的入口建连速率上限 |
总连接数 | 100000 | 单租户在网关入口侧的活跃连接上限 |
容量弹性说明
平台托管弹性:Serverless实例底层计算资源由平台统一弹性调度,租户无需手动升降配。
租户级隔离:每个租户拥有独立的入口,流量层面与其他租户严格隔离。
超限处理:触发QPS / 连接数 / 路由数等配额上限时,平台将返回限流响应;如业务确实需要更高配额,建议升级到专享实例或提交工单。
配额提升与形态升级
场景 | 建议路径 |
专享实例配额不足 | 升级到更高规格,仍不足时提交工单 |
Serverless实例QPS接近10000 | 评估升级到专享实例 |
Serverless实例需要更高SLA | 升级到专享实例 |
形态选型详情参见Serverless实例与专享实例选型说明。