文档

附录:服务专属网关容量说明

更新时间:

本文为您提供了服务专属网关在不同规格下的容量阈值及QPS性能参考。因网关是核心链路,推荐您结合两个参数一起,进行选型。通常情况下,其中一个参数符合选型需求,那么另一个参数在同一规格下也是符合选型需求的。对于比较特殊的业务场景,若出现同一规格下,符合容量阈值,不符合QPS性能,或符合QPS性能,不符合容量阈值的情况,那么请提升规格,以保障两个参数均符合业务要求。

容量阈值

以下为不同网关规格下,面向单个网关节点的容量阈值。当网关容量指标处于警戒水位以下时,可以得到完整的SLA保障。对于核心业务,建议将网关容量指标控制在安全水位以下,从而获得更好的稳定性。

说明
  • 安全水位:能够在突发流量增长至双倍的情况下,依然确保网关系统维持高吞吐量和低延迟性能。

  • 警戒水位:当水位达到警戒线以上时,网关的延迟可能会增加,并且在突发流量下可能存在稳定性风险。

  • 对于单节点部署的网关无法提供 SLA 保障,请确保业务部署了多个网关节点。当部署多个节点时,安全水位和警戒水位均是按照每个节点的规格进行累加计算。

网关规格

2 Core 4 GiB

4 Core 8 GiB

8 Core 16 GiB

16 Core 32 GiB

节点数

1

1

1

1

客户端连接数

安全水位

12000

24000

48000

96000

警戒水位

24000

48000

96000

192000

HTTPS每秒新建连接

安全水位

400

800

1600

3200

警戒水位

800

1600

3200

6400

网络带宽(Gbit/s)

安全水位

1

2

4

8

警戒水位

1

2

4

8

CPU使用率

安全水位

30%

30%

30%

30%

警戒水位

60%

60%

60%

60%

内存使用率

安全水位

75%

75%

75%

75%

警戒水位

75%

75%

75%

75%

QPS性能参考

网关QPS吞吐受多种因素影响,如应答大小、是否开启HTTPS、是否开启gzip等。下表是网关处于30%CPU水位下的QPS悲观值(最差情况下)参考。

说明
  • HTTPS新建连接会占用较多CPU资源。对于瞬时大量HTTPS并发连接的业务场景,请参考下表中HTTPS短连接的数据评估网关容量。

  • 目前gzip功能仅供白名单用户使用。如有需要,请提交工单申请开通。

网关规格

2 Core 4 GiB

4 Core 8 GiB

8 Core 16 GiB

16 Core 32 GiB

节点数

3

5

3

5

3

5

3

5

连接类型

应答字节数(KBytes)

是否使用HTTPS

是否使用gzip

CPU处于安全水位(30%)的QPS参考

短连接

1

5200

8700

10500

17500

21000

35000

42000

70000

1600

2700

3200

5500

6500

11000

13000

22000

长连接

1

6500

10800

13000

21700

26000

43500

52000

87000

6000

10000

12000

20000

24000

40000

48000

80000

5200

8700

10500

17500

21000

35000

42000

70000

10

5600

9300

11200

18700

22500

37500

45000

75000

5300

9000

10700

18000

21500

36000

43000

72000

3100

5200

6200

10500

12500

21000

25000

42000