通过TPC-DS Benchmark 测试

注意事项

您的服务器需注意以下事项。

• 如果您准备在服务器使用Git下载TPC-DS测试工具。您需开通公网。

  • 新购ECS实例：需购买ECS时，公网 IP勾选分配公网 IPv4 地址。

  • 已有ECS实例但未开通公网：ECS开通公网，请参见开通公网。

• 此次测试数据集生成的数据文件约1000GB，需确保服务器的内存足够大。

步骤一：登录目标服务器

如果您的服务是阿里云ECS，如何登录请参见连接ECS。

其他服务器如何登录，参见各自产品。

步骤二：安装TPC-DS测试工具

1. 下载工具。

   本次测试使用Git下载工具，具体脚本如下。

   git clone https://github.com/apache/doris.git && cd ./doris/tools/tpcds-tools

   您也可以通过tpcds-tools链接下载工具后，手动上传至目标服务器。

2. 编译工具。

   执行以下脚本，编译工具。

   sh bin/build-tpcds-tools.sh

步骤三：生成TPC-DS测试数据集

您需在测试工具安装目录下执行生成测试数据集的脚本。

语法如下。

sh bin/gen-tpcds-data.sh -s <yourAimDataNum>

参数说明如下。

yourAimDataNum：

• 含义：需要使用TPC-DS生成的数据大小。

• 单位：GB

此次测试为中规模测试，需要生成1000 GB（即 1 TB）的测试数据集。该步骤所需时间可能较长，建议您将该任务置于后台执行，语句如下。

nohup sh bin/gen-tpcds-data.sh -s 1000 > gen-tpcds-data.log 2>&1 &

执行结果将会保存在测试工具安装目录的gen-tpcds-data.log文件中，可通过查看该文件获取执行过程是否正常。

测试数据集将保存在测试工具安装目录的bin目录下的tpcds-data目录中，数据文件后缀为.dat。

步骤四：使用脚本为SelectDB创建用于测试的表

1. 配置SelectDB实例信息。

   在执行建表脚本前，需要在doris-cluster.conf文件中，配置SelectDB实例的相关信息。该文件位于测试工具安装目录tpcds-tools/conf/下。示例如下。

   # Any of FE host
   export FE_HOST='selectdb-cn-******.selectdbfe.rds.aliyuncs.com'
   # http_port in fe.conf
   export FE_HTTP_PORT=8080
   # query_port in fe.conf
   export FE_QUERY_PORT=9030
   # Doris username
   export USER='admin'
   # Doris password
   export PASSWORD='******'
   # The database where TPC-DS tables located
   export DB='test_db'

   参数说明如下。

   参数名称	参数描述
   FE_HOST	SelectDB实例的访问地址。 您可以从SelectDB控制台的实例详情中的网络信息中获取实例的VPC地址或公网地址。
   FE_HTTP_PORT	SelectDB实例的HTTP协议端口。 目前SelectDB该端口默认为8080。 具体您可以从SelectDB控制台的实例详情中的网络信息中获取实例的HTTP协议端口。
   FE_QUERY_PORT	SelectDB实例的MySQL协议端口。 目前SelectDB该端口默认为9030. 具体您可以从SelectDB控制台的实例详情中的网络信息中获取实例的MySQL协议端口。
   USER	SelectDB实例账号。 创建SelectDB实例后，系统会默认为您创建admin账号。
   PASSWORD	SelectDB实例账号的密码。 如果您的USER配置的是admin账号，但您忘记了此账号的密码，您可以在控制台上重置实例admin密码。
   DB	SelectDB实例中待导入数据的库名。

2. 建表。

   在测试工具安装目录下，执行以下脚本，创建用以测试的表。脚本执行完成后，SelectDB的目标库中，会生成上述步骤四：了解本次测试数据集中的表。

   sh bin/create-tpcds-tables.sh -s 1000

步骤五：导入数据至SelectDB

在测试工具安装目录下，执行以下脚本，完成TPC-DS测试集所有数据的导入至SelectDB。

sh bin/load-tpcds-data.sh

此次测试为中规模测试，需要将生成的1000 GB（即 1 TB）的测试数据集导入至SelectDB中。该步骤所需时间可能较长，建议您将该任务置于后台执行，语句如下。

nohup sh bin/load-tpcds-data.sh > load-tpcds-data.log 2>&1 &

执行结果将会保存到测试工具安装目录下的load-tpcds-data.log文件中，可通过查看该文件获取执行过程是否正常。

步骤六：测试查询性能

• 批量测试查询SQL性能

  重要

  测试数据量越大，批量测试时间越长，具体取决于服务器的性能。

  您可以执行TPC-DS测试SQL的相关脚本，批量执行测试集的SQL。

  语法如下。

  sh bin/run-tpcds-queries.sh -s <yourAimDataNum>

  参数说明如下。

  yourAimDataNum：确保查询针对正确规模的数据集运行，与生成数据时的规模一致（即生成数据时若用 -s 1000，运行查询时也需使用 -s 1000）。

  脚本执行完毕后，控制台窗口将显示测试集中每个SQL在SelectDB中的性能情况。

  此次测试为中规模测试，需要测试查询的1000 GB（即 1 TB）的测试数据集。该步骤所需时间可能较长，建议您将该任务置于后台执行，语句如下。

  nohup sh bin/run-tpcds-queries.sh -s 1000 > run-tpcds-queries.log 2>&1 &

  查询结果将会保存到到测试工具安装目录下的run-tpcds-queries.log文件中，可通过查看该文件获取查询过程是否正常的信息以及查询测试的结果。本文档针对1000GB数据的测试结果，请参见测试结果。

• 单条查询SQL性能测试

  您也可以对SelectDB执行某个SQL的性能进行测试，具体操作如下：

  1. 连接SelectDB实例。具体操作，请参见通过DMS连接云数据库SelectDB版实例。

  2. 执行目标SQL。您可以在TPCDS-Query-SQL中获取目标SQL。

     说明

     TPCDS-Query-SQL中的SQL也是上述通过脚本批量测试中执行的SQL。