通过创建HBase数据源,可以实现Dataphin读取HBase的业务数据或向HBase写入数据。本文为您介绍如何创建HBase数据源。
前提条件
已购买及开通了数据服务或标签服务模块的高可用功能才可以进行数据源的主备链路配置。
背景信息
HBase是用于处理存储在Hadoop集群中大量数据的SQL查询引擎。如果您使用的是HBase,在导出Dataphin数据至HBase,您需要先完成HBase数据源的创建。
权限说明
仅支持拥有新建数据源权限点的自定义全局角色和超级管理员、数据源管理员、板块架构师、项目管理员系统角色创建数据源。
使用限制
仅支持创建0.9.4、1.1.x、2.x版本的HBase数据源。
连通测试时,系统默认先校验主链路的连通性,校验通过后,将校验备链路连通性。主链路连通失败时,系统将不再校验备链路的连通性。
操作步骤
在Dataphin首页,单击顶部菜单栏管理中心 > 数据源管理。
在数据源页面,单击+新建数据源。
在新建数据源对话框的NoSQL区域,选择HBase。
如果您最近使用过HBase,也可以在最近使用区域选择HBase。同时,您也可以在搜索框中,输入HBase的关键词,快速筛选。
在新建HBase数据源对话框中,配置连接数据源参数。
配置数据源的基本信息。
参数
说明
数据源名称
填写数据源名称。命名规则如下:
只能包含中文、英文字母大小写、数字、下划线(_)或短划线(-)。
长度不能超过64个字符。
数据源编码
配置数据源编码后,您可以在Flink_SQL任务或使用Dataphin JDBC客户端中,通过
数据源编码.表名称
或数据源编码.schema.表名称
的格式直接访问Dataphin数据源表,实现快捷消费;如果需要根据任务执行环境自动切换数据源,请通过${数据源编码}.table
或${数据源编码}.schema.table
的变量格式访问。更多信息,请参见Dataphin数据源表开发方式。重要数据源编码配置成功后不支持修改。
版本
HBase 2.x数据源支持选择如下版本:
CDH5:1.2.0。
CDP7.1.3:2.2.3。
亚信DP5.x HBase 2.x。
EMR HBase 2.x。
说明HBase0.9.4和HBase1.1.x不支持配置版本。
数据源描述
填写对数据源的简单描述。不得超过128个字符。
数据源配置
如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源。
如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源。
主备链路
仅服务的高可用或标签服务的高可用开启时,可以进行配置。包括仅主链路和主备链路。
仅主链路:仅需要配置一个HBase服务信息,该数据源所有的写操作和读操作都会经过主链路。仅主链路模式下,主链路发生故障时,不具备高可用性。
主备双链路:需要配置两个HBase服务信息,配置的主链路发生故障时,备链路可以接管主链路服务并继续正常运行。具备高可用性。
标签
您可以根据标签给数据源进行分类打标,如何创建标签,请参见数据源管理标签。
配置数据源与Dataphin的连接参数。
若您的数据源配置选择生产+开发数据源,则需配置生产+开发数据源的连接信息。如果您的数据源配置为生产数据源,仅需配置生产数据源的连接信息。
说明通常情况下,生产数据源和开发数据源需配置为非同一个数据源,以实现开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。
参数
说明
主链路
连接地址
填写主链路连接地址。连接地址的格式为
hb-proxy-{host}-{port}.hbase.rds.aliyuncs.com
。Namespace
可选。填写主链路HBase的命名空间。
配置文件
上传主链路HBase的hbase-site.xml配置文件。
连接参数
配置连接主链路HBase的参数,参数的格式为JSON样式。
Kerberos
Kerberos是一种基于对称密钥技术的身份认证协议,可以为其他服务提供身份认证功能,且支持SSO(即客户端身份认证后,可以访问多个服务,例如HBase和HDFS):
如果Hadoop集群有Kerberos认证,则需要开启Kerberos。
开启Kerberos后,则需要配置如下参数:
Kerberos配置方式:支持KDC Server和Krb5文件配置方式。
KDC Server地址:配置KDC服务器地址,辅助完成Kerberos认证。
说明支持配置多个KDC Server服务地址,使用英文逗号
,
分割。Krb5文件配置:需要上传包含Kerberos认证域名的Krb5文件。
Keytab File:上传Kerberos认证的Keytab文件。
Principal:配置Kerberos认证的Principal名。
如果Hadoop集群没有Kerberos认证,则不需要开启Kerberos。
备链路
生产数据源下主备链路模式支持配置备链路。主链路信息配置完成后,您可以单击复制主链路配置进行快速配置。
连接地址
填写备链路连接地址。格式为
hb-proxy-{host}-{port}.hbase.rds.aliyuncs.com
。Namespace
可选。填写备链路HBase的命名空间。
配置文件
上传备链路HBase的hbase-site.xml配置文件。
连接参数
配置连接备链路HBase的参数,参数的格式为JSON样式。
Kerberos
系统默认与主链路的Kerberos配置信息保持一致,不支持修改。主链路开启Kerberos时,可以自定义上传Keytab File文件和Principal。
单击测试连接,测试数据源是否可以和Dataphin集群进行正常的连通。
测试成功后,单击确定,完成HBase数据源的创建。