当您需要在云原生多模数据库 Lindorm中高效管理计算引擎的资源时,本文档将指导您如何创建计算资源组,并对每个资源组进行配置,以实现资源隔离,优化资源分配,并确保作业按照预期性能运行。
前提条件
已开通计算引擎。如何开通,请参见开通与变配。
创建资源组
登录Lindorm管理控制台。
在页面左上角,选择实例所属的地域。
在实例列表页,单击目标实例ID或者目标实例所在行操作列的管理。
在实例详情页的配置信息区域,单击计算引擎操作列的资源组管理。
在资源组详情页中单击创建资源组,配置资源组名称、资源组类型、属性。
说明计算引擎开通后会自动创建一个名称为default的资源组,类型为ETL。
default资源组仅支持修改属性配置不支持删除和重启。
资源组名称参数规则。
名称
示例值
描述
资源组名称
cg0
资源组的名字,仅支持小写字母和数字,且长度不超过63个字符。
资源组类型参数规则。
资源组类型
描述
OLAP
面向查询分析场景,适用于100 GB以下低时延查询场景,具备高并发查询响应能力。
ETL
面向数据湖或数据仓库生产场景,提供大规模数据集高吞吐计算能力,弹性计算资源池按需伸缩。
属性参数规则。
说明属性参数类型为JSON格式。
名称
适用资源组类型
示例值
默认值
取值范围
描述
WORKERS
OLAP
4
4
[4,1024]
作业工作节点数,每个节点规格为8核 64 GB。
MAX_CPU
ETL
2000
无
[100,100000]
资源组CPU上限。
MAX_MEM
ETL
16000G
无
[400G,1000000G]
资源组内存上限,单位:GB。
说明配置属性
MAX_MEM
输入单位时缩写为:G。DAILY_QUOTA
ETL
100000
0
[0,1000000]
资源组每日消耗的能力单元CU(Capacity Unit)资源上限,单位:CU*Hour;默认值0,表示无限制。
重要超出上限,作业会被强制立即删除(稳定性要求高的资源组不建议配置 DAILY_QUOTA)。
示例如下。
OLAP资源组。
{ "WORKERS": "4" }
ETL资源组。
{ "MAX_CPU": "2000", "MAX_MEM": "16000G" }
管理资源组
登录Lindorm管理控制台。
在页面左上角,选择实例所属的地域。
在实例列表页,单击目标实例ID或者目标实例所在行操作列的管理。
在实例详情页的配置信息区域,单击计算引擎操作列的资源组管理。
可以在资源组详情页中进行编辑、删除或重启资源组。
说明编辑资源组配置后,需要重启资源组才能使配置生效。
使用资源组
以下介绍如何使用ETL资源组和OLAP资源组。
使用ETL资源组
ETL资源组可以根据不同访问方式配置参数compute-group指定资源组名称的方式使用。以下分别介绍几个主要应用场景中,通过参数配置ETL资源组。
访问方式 | 配置资源组 |
在配置管理作业时,在作业配置区域内Spark系统参数配置(configs)中添加参数,语法如下。
| |
在发布周期性作业时,在Spark系统参数配置(conf)中添加参数,语法如下。
| |
在Lindorm计算引擎的JDBC连接地址(endpoint)中添加参数指定计算资源组,语法如下。
|
使用OLAP资源组
OLAP资源组可以通过Lindorm-cli或JDBC方式连接使用。以下介绍如何通过参数配置OLAP资源组。
前提条件
Lindorm实例宽表版本>=2.6.5。
OLAP资源组目前仅支持查询,不支持写入数据。
通过Lindorm-cli连接计算引擎
根据您的操作系统,下载对应的Lindorm-cli安装包。下载链接如下表所示。
操作系统
下载链接
Linux
Mac
Windows
Linux-arm64
解压Lindorm-cli压缩包。
以Linux操作系统为例,执行以下命令解压。
tar zxvf lindorm-cli-linux-latest.tar.gz
解压后
lindorm-cli-linux-latest
文件夹中为lindorm-cli.exe
文件。
连接计算引擎。
语法如下。
./lindorm-cli -url "<jdbc_url>" -username <用户名> -password <密码>
参数说明
参数
描述
jdbc_url
JDBC连接地址。格式为:
<Lindorm宽表SQL地址>?_use_ldps=true&compute-group=<OLAP资源组名称>
。Lindorm宽表SQL地址:请参见查看宽表引擎连接地址。
_use_ldps
:是否开启Lindorm计算引擎查询。
用户名
Lindorm宽表引擎用户名。
密码
Lindorm宽表引擎密码。
说明如果您忘记密码,可以通过Lindorm宽表引擎的集群管理系统修改密码,具体操作请参见修改用户密码。修改密码后,请通过控制台重启引擎。
连接成功将返回以下结果:
lindorm-cli version: 1.0.xx
其中,
1.0.xx
为Lindorm-cli的版本号。通过Lindorm-cli查询已有数据,示例如下。
SELECT * FROM lindorm_columnar.database_name.table_name;
参数说明
参数
描述
database_name
数据库名。
说明如果您使用默认数据库
default
,通过Lindorm-cli查询数据时需要为其添加单引号`
。示例:
SELECT * FROM lindorm_columnar.`default`.test_table;
table_name
数据库中的数据表名。
通过JDBC连接计算引擎
通过JDBC连接计算引擎时,只需在连接宽表引擎的URL中指定参数_use_ldps_=true&compute-group=<compute_group_name>
即可。通过JDBC连接宽表引擎,请参见基于SQL的应用开发。
- 本页导读 (1)