文档

CLB压力测试的方法

更新时间:

CLB同时支持四层负载均衡与七层负载均衡。实际业务场景中如您有CLB压力测试需求,可参考本文进行压力测试。

压测方法

在进行压力测试时,配置建议如下:

  • 压测负载均衡转发能力建议使用短连接。

    一般来说压测除了验证会话保持和均衡性等功能外,主要是验证负载均衡的转发能力,因此使用短连接比较合适,用于测试负载均衡和后端服务器的处理能力。使用短连接测试时,需要注意客户端端口不足的问题。

  • 压测负载均衡吞吐量建议使用长连接,用于测试带宽上限或特殊业务。

    压测工具的超时时间建议设置为一个较小值,如5秒。超时时间太大的话,测试结果会体现在平均响应时间加长,不利于判断压测水位是否已到达。超时时间调小,测试结果会体现在成功率上,便于快速判断压测水位。

  • 后端服务器提供一个静态网页用于压测,以避免应用逻辑带来的损耗。

  • 压测时,监听配置建议如下:

    • 不开启会话保持功能,否则压力会集中在个别后端服务器。

    • 建议关闭健康检查功能,减少健康检查对后端服务器的访问请求。

    • 性能测试服务的5000并发规格能够提供5个及5个以上的公网IP。

压测工具建议

  • 建议您使用阿里云PTS:可以设置足够高的并发,PTS会分配来自全国各地的公网IP,压力来源足够分散,并且可以在PTS中集成云监控,实时查看端到端的全部性能数据。

  • 不建议您使用Apache ab作为压力测试工具:Apache ab在大量并发场景下存在3秒、6秒、9秒阶梯式停顿的现象。Apache ab会通过判断content length来确定请求是否成功,而NLB挂载多台后端服务器时,返回的content length会不一致,导致测试结果有误。

使用PTS简单压测示例

创建一个负载均衡实例,添加两台ECS实例作为后端服务器,分别创建一个TCP监听和HTTP监听,后端端口均设置为80。

ECS服务器的配置为CPU 2核,内存2 GiB且使用CentOS 7.9 64位的操作系统。分别登录这两台ECS实例,执行以下步骤安装Web服务并完成压测。关于如何登录ECS,请参见ECS远程连接操作指南

  1. 执行以下命令,安装Apache Web Server提供Web服务。

    sudo yum install -y httpd
  2. 执行以下命令,初始化默认首页index.html。

    sudo echo "testvm" > /var/www/html/index.html
  3. 执行以下命令,启动HTTP服务。

    sudo systemctl start httpd
  4. 执行以下任意一条命令,访问80端口确认Web服务可用。

    curl http://localhost

    curl http://127.0.0.1:80
  5. 在PTS中创建测试场景,开始压力测试。具体操作请参见如何在一分钟内发起压测?

可能导致压测性能低的原因

若发现压测性能低,可能是以下原因造成的:

  • 客户端端口不足

    在进行压力测试时,客户端端口不足会导致连接建立失败。负载均衡会默认抹除TCP连接的timestamp属性,Linux协议栈的tw_reuse(time_wait状态连接复用)无法生效,time_wait状态连接堆积导致客户端端口不足。

    解决方法:客户端使用长连接代替短连接。使用RST报文断开连接,即socket设置SO_LINGER属性。

  • 后端服务器accept队列满

    后端服务器accept队列满,导致后端服务器不回复syn_ack报文,客户端超时。

    解决方法:默认net.core.somaxconn的值为128,执行sysctl -w net.core.somaxconn=1024命令更改net.core.somaxconn的值,并重启后端服务器上的应用。

  • 后端服务器依赖的应用成为瓶颈

    请求经过负载均衡到达后端服务器后,后端服务器本身负载正常,但由于所有后端服务器上的应用又依赖其他应用,例如数据库,当数据库成为瓶颈时,也会引起性能降低。

    解决方法:根据实际情况清理后端服务器上不需要的应用。

  • 后端服务器的健康检查状态异常

    在压测时,容易忽略后端服务器的健康检查状态,如果有后端服务器健康检查失败或者健康检查状态经常跳跃(成功到失败,又从失败到成功,反复变化),也会导致压测性能低。

    解决方法:建议关闭健康检查功能,减少健康检查对后端服务器的访问请求。