压测gRPC微服务

微服务压测功能可以用于压测构建于VPC内的微服务应用,通过PTS界面的配置,可以快速实现微服务压测。本文介绍如何对gRPC微服务进行压测。

背景信息

经典微服务架构是通过网关暴露每一个服务,且通过网络隔离来保障每个服务的安全性,因此云上微服务通常构建于安全性较高的VPC网络内。但压测VPC内的微服务应用会面临着网络隔离的难题,传统的解决方案是基于VPC网络搭建压测工具进行压测,例如JMeter压测工具。但搭建JMeter需要一定的时间成本和代码基础,且对微服务压测的支持不友好。PTS自研的微服务压测功能可以帮助您解决这些难题,通过PTS控制台的简单配置,快速实现微服务的压测。

功能入口

  1. 登录PTS控制台,在左侧导航栏选择性能测试 > 创建场景,然后单击gRPC压测
  2. 创建GRPC场景页面,填写场景名,然后单击上传proto文件,上传相关proto文件。
    说明 若上传同名文件,则会覆盖之前上传的文件;若需对比文件,可在该文件的操作列,获取MD5值,与本地文件的MD5值进行对比,确认文件是否变更。
  3. 场景配置页签下,单击+添加gRPC请求节点,为目标串联链路添加所需测试节点。

场景配置

单击串联链路右侧的ryi图标,展开串联链路,并配置基本信息、出参、检查点等信息。

基本配置

在串联链路的基本配置页签设置压测基本参数。具体配置如下。

参数描述示例
服务地址gRPC服务的IP地址。127.0.0.1
服务端口gRPC服务的端口号。50051
请求超时时间施压端等待被压测端响应的时间限制,单位为毫秒。5000
SSL/TLS是否建立安全连接。
方法名gRPC方法的全名。
说明 格式为包名.接口名/方法名
package.service/method
元数据类似HTTP Header,格式为key:valuea:1,b:2
说明 多个元数据以半角逗号(,)分隔。
JSON格式请求以JSON格式描述proto文件中的message。
{
     "shelf": {
        "id": 1,
        "theme": "hello"
        }
 }

出参设置

在串联链路的出参设置页签设置出参。具体操作,请参见接口出参

检查点设置

在串联链路的检查点设置页签设置检查点。具体操作,请参见检查点(断言)

控制器和定时器(可选)

您可以根据不同压测场景的需求,添加控制器和定时器。

  • 场景配置页签下,单击+添加控制器选择所需的控制器。

    • 循环控制器:控制所含测试节点应循环执行的次数。

      选择循环控制器后,单击其右侧的循环控制器的更多图标图标,选择添加需循环执行的测试节点,并设置循环次数。压测时,会将此循环控制器下的测试节点按序执行设置的次数。

    • 事务控制器:事务控制器下所包含的所有测试节点将会被算作为一个事务。其包含生成父样本是否包含样品中定时器和前后程序的持续时间两个设置项。

      • 生成父样本

        • 开启开关:该事务控制器下各测试节点自身的压测结果不会在压测报告中独立输出,而会被聚合作为事务控制器的结果呈现在报告中。

        • 关闭开关:该事务控制器以及其包含的测试节点的压测结果均会显示在报告中。

      • 是否包含样品中定时器和前后程序的持续时间:若选择开启此开关,则压测报告中事务控制器的平均响应时间为所有测试节点、定时器以及前后置处理器的平均响应时间之和。若不开启此开关,则事务控制器的平均响应时间仅为所有测试节点平均响应时间之和。

    • 仅一次控制器:仅一次控制器下添加的节点仅会被执行一次。

  • 场景配置页签下,单击+添加定时器选择所需的定时器。

    • 常量定时器:可设置停顿时长,表示压测过程中,在此处停顿的时长,单位为毫秒。

    • 同步定时器:可设置停顿时长模拟用户数,表示在一定时间内先等待达到一定用户数然后触发测试,但若在设定时间内未达到指定用户数,则不会继续等待,直接触发测试。

    • 统一随机定时器:统一随机定时器用于控制停顿时长,可设置延迟基准可变跨度。延迟基准为固定停顿时间,可变跨度为随机停顿时间的最大值。统一随机定时器的停顿时长为延迟基准所设的固定停顿时间加上可变跨度所设时间范围内的随机值。各随机值出现的概率相等。

    • 高斯定时器:高斯定时器与统一随机定时器类似,同样用于设置停顿时长,可设置延迟基准可变跨度。若要求随机停顿时间符合正态分布,可使用高斯定时器。

    • 固定吞吐量定时器:固定吞吐量定时器用于控制吞吐量,使测试节点按吞吐量执行。可设置条件和对应的吞吐量。条件包含仅当前线程所有活跃线程当前链路下活跃线程全局活跃线程当前链路下全局活跃线程

施压配置

单击施压配置页签,设置压测模式。

压测配置

描述

压力来源

本次压测使用的网络类型,包括公网阿里云VPC内网两种类型。具体详情,请参见压力来源(公网和VPC)

并发数

虚拟用户发起请求的个数。例如:100个并发数就是100个虚拟用户同时发起了请求。

压测时长

建议压测时长不低于2分钟,总时长默认不可超过24小时。

流量模型

并发数的递增模型。选择不同的流量模型,页面右侧的压力预估图会同时刷新。

  • 均匀递增:默认均匀递增,并发数以每分钟相同数量的递增方式来进行压测。对应的压力预估图是一条斜直线。

  • 阶梯递增:并发数以阶梯递增的方式来进行压测。就是对系统并发的压力呈现阶梯性增加的过程,每个时间段并发数都要增加一个数量值,最终达到一个预期并发数,然后保持该并发数,持续运行一段时间。对应的压力预估图是阶梯形式的曲线图。

  • 固定压力值:并发数是固定的。对应的压力预估图是一条平直线,即设置多少并发数,会一直按这个并发数来进行压测。

递增时长

全部并发从0到全部运行起来的时间。当流量模型选择的是均匀递增或者阶梯递增时,需要配置该递增时长。

递增阶梯数

完成递增时间段的阶梯数。当流量模型选择的是阶梯递增时,需要配置该递增阶梯数。

指定IP数

指定压测来源的IP个数。具体详情,请参见指定施压IP数

流量地域定制

通过指定施压机的地理位置,即可模拟当地的用户流量。开启后可对施压机地域分布进行配置,从而实现施压流量地域分布的定制化。具体详情,请参见定制地域流量

启动压测

您可以在创建压测场景页面左下方,单击调试场景,对配置的场景进行调试,验证配置是否正确。具体操作,请参见调试场景。然后单击保存去压测,在弹出的对话框中单击确定,启动压测。

后续操作

查看压测报告。具体操作,请参见查看多协议压测报告

场景示例

此处以具体的proto文件为例,介绍如何创建正确的gRPC压测场景。

  1. 上传定义gRPC服务和方法的proto文件。假设需压测的方法为CreateShelf,则定义该方法的proto文件如下。
    syntax = "proto3";
    
    package bookstore;
    
    service Bookstore {
      rpc ListShelves (google.protobuf.Empty) returns (ListShelvesResponse) {}
      rpc CreateShelf (CreateShelfRequest) returns (Shelf) {}
    }
    
    message ListShelvesResponse {
      repeated Shelf shelves = 1;
    }
    
    message CreateShelfRequest {
      Shelf shelf = 1;
    }
  2. 创建GRPC场景页面,单击上传proto文件,上传相应的proto文件。PROTO配置
  3. 在PTS控制台中完成其它gRPC场景配置操作后,单击保存去压测。具体操作,请参见场景配置
    • 方法名:bookstore.Bookstore/CreateShelf。
      说明 根据proto文件代码得到:包名为bookstore,接口名为Bookstore,方法名为CreateShelf,所以在基本配置的方法名一栏应填写:bookstore.Bookstore/CreateShelf。
    • JSON格式请求:
      {
        "shelf": {
          "id": 1,
          "theme": "hello"
        }
      }
      说明 上述请求代码因CreateShelf的传参为CreateShelfRequest,其中自定义字段shelf:
      syntax = "proto3";
      
      package bookstore;
      
      message Shelf {
        int64 id = 1;
        string theme = 2;
      }