文档

计算资源组管理

更新时间:

当您需要在云原生多模数据库 Lindorm中高效管理计算引擎的资源时,本文档将指导您如何创建计算资源组,并对每个资源组进行配置,以实现资源隔离,优化资源分配,并确保作业按照预期性能运行。

前提条件

已开通计算引擎。如何开通,请参见开通与变配

创建资源组

  1. 登录Lindorm管理控制台

  2. 在页面左上角,选择实例所属的地域。

  3. 实例列表页,单击目标实例ID或者目标实例所在行操作列的管理

  4. 实例详情页的配置信息区域,单击计算引擎操作列的资源组管理

  5. 资源组详情页中单击创建资源组,配置资源组名称资源组类型属性

    说明
    • 计算引擎开通后会自动创建一个名称为default的资源组,类型为ETL。

    • default资源组仅支持修改属性配置不支持删除和重启。

    • 资源组名称参数规则。

      名称

      示例值

      描述

      资源组名称

      cg0

      资源组的名字,仅支持小写字母和数字,且长度不超过63个字符。

    • 资源组类型参数规则。

      资源组类型

      描述

      OLAP

      面向查询分析场景,适用于100 GB以下低时延查询场景,具备高并发查询响应能力。

      ETL

      面向数据湖或数据仓库生产场景,提供大规模数据集高吞吐计算能力,弹性计算资源池按需伸缩。

    • 属性参数规则。

      说明

      属性参数类型为JSON格式。

      名称

      适用资源组类型

      示例值

      默认值

      取值范围

      描述

      WORKERS

      OLAP

      4

      4

      [4,1024]

      作业工作节点数,每个节点规格为8核 64 GB。

      MAX_CPU

      ETL

      2000

      [100,100000]

      资源组CPU上限。

      MAX_MEM

      ETL

      16000G

      [400G,1000000G]

      资源组内存上限,单位:GB。

      说明

      配置属性MAX_MEM输入单位时缩写为:G。

      DAILY_QUOTA

      ETL

      100000

      0

      [0,1000000]

      资源组每日消耗的能力单元CU(Capacity Unit)资源上限,单位:CU*Hour;默认值0,表示无限制。

      重要

      超出上限,作业会被强制立即删除(稳定性要求高的资源组不建议配置 DAILY_QUOTA)。

      示例如下。

      • OLAP资源组。

        {
          "WORKERS": "4"
        }
      • ETL资源组。

        {
          "MAX_CPU": "2000",
          "MAX_MEM": "16000G"
        }

管理资源组

  1. 登录Lindorm管理控制台

  2. 在页面左上角,选择实例所属的地域。

  3. 实例列表页,单击目标实例ID或者目标实例所在行操作列的管理

  4. 实例详情页的配置信息区域,单击计算引擎操作列的资源组管理

  5. 可以在资源组详情页中进行编辑删除重启资源组。

    说明

    编辑资源组配置后,需要重启资源组才能使配置生效。

使用资源组

以下介绍如何使用ETL资源组和OLAP资源组。

使用ETL资源组

ETL资源组可以根据不同访问方式配置参数compute-group指定资源组名称的方式使用。以下分别介绍几个主要应用场景中,通过参数配置ETL资源组。

访问方式

配置资源组

通过DMS访问计算引擎

在配置管理作业时,在作业配置区域内Spark系统参数配置(configs)中添加参数,语法如下。

"compute-group":"<compute_group_name>"

通过DataWorks访问计算引擎

在发布周期性作业时,在Spark系统参数配置(conf)中添加参数,语法如下。

"compute-group":"<compute_group_name>

通过HiveJDBC访问计算引擎

在Lindorm计算引擎的JDBC连接地址(endpoint)中添加参数指定计算资源组,语法如下。

compute-group=<compute_group_name>

使用OLAP资源组

OLAP资源组可以通过Lindorm-cli或JDBC方式连接使用。以下介绍如何通过参数配置OLAP资源组。

前提条件

Lindorm实例宽表版本>=2.6.5。

说明

OLAP资源组目前仅支持查询,不支持写入数据。

通过Lindorm-cli连接计算引擎

  1. 根据您的操作系统,下载对应的Lindorm-cli安装包。下载链接如下表所示。

    操作系统

    下载链接

    Linux

    lindorm-cli for linux

    Mac

    lindorm-cli for mac

    Windows

    lindorm-cli for windows-x64

    Linux-arm64

    lindorm-cli for linux-arm64

  2. 解压Lindorm-cli压缩包。

    以Linux操作系统为例,执行以下命令解压。

    tar zxvf lindorm-cli-linux-latest.tar.gz

    解压后lindorm-cli-linux-latest文件夹中为lindorm-cli.exe文件。

  1. 连接计算引擎。

    语法如下。

    ./lindorm-cli -url "<jdbc_url>" -username <用户名> -password <密码>

    参数说明

    参数

    描述

    jdbc_url

    JDBC连接地址。格式为:<Lindorm宽表SQL地址>?_use_ldps=true&compute-group=<OLAP资源组名称>

    用户名

    Lindorm宽表引擎用户名。

    密码

    Lindorm宽表引擎密码。

    说明

    如果您忘记密码,可以通过Lindorm宽表引擎的集群管理系统修改密码,具体操作请参见修改用户密码。修改密码后,请通过控制台重启引擎。

    连接成功将返回以下结果:

    lindorm-cli version: 1.0.xx

    其中,1.0.xx为Lindorm-cli的版本号。

  2. 通过Lindorm-cli查询已有数据,示例如下。

    SELECT * FROM lindorm_columnar.database_name.table_name;

    参数说明

    参数

    描述

    database_name

    数据库名。

    说明

    如果您使用默认数据库default,通过Lindorm-cli查询数据时需要为其添加单引号`

    示例:SELECT * FROM lindorm_columnar.`default`.test_table;

    table_name

    数据库中的数据表名。

通过JDBC连接计算引擎

通过JDBC连接计算引擎时,只需在连接宽表引擎的URL中指定参数_use_ldps_=true&compute-group=<compute_group_name>即可。通过JDBC连接宽表引擎,请参见基于SQL的应用开发

  • 本页导读 (1)
文档反馈