通过创建HBase数据源能够实现Dataphin读取HBase的业务数据或向HBase写入数据。本文为您介绍如何创建HBase数据源。
背景信息
HBase是用于处理存储在Hadoop集群中大量数据的SQL查询引擎。如果您使用的是HBase,在导出Dataphin数据至HBase,您需要先完成HBase数据源的创建。更多HBase信息,请参见HBase官网。
使用限制
Dataphin仅支持超级管理员、数据源管理员、板块架构师、项目管理员角色创建数据源。
超级管理员、数据源管理员角色添加与配置请参见添加、配置及管理Dataphin成员。
板块架构师配置请参见创建数据板块。
项目管理员配置请参见添加项目成员。
仅支持创建0.9.4、1.1.x、2.x版本的HBase数据源。
操作步骤
请参见数据源管理入口,进入数据源管理页面。
按照下图操作指引,进入新建数据源对话框。
在新建数据源对话框的NoSQL区域,选择HBase。
如果您最近使用过HBase,也可以在最近使用区域选择HBase。同时,您也可以在快搜索框中,输入HBase的关键词,快速筛选。
在新建HBase数据源对话框中,配置连接数据源参数。
配置数据源的基本信息。
参数
描述
数据源名称
命名规则如下:
只能包含中文、字母、数字、下划线(_)或中划线(-)。
长度不能超过64字符。
数据源编码
配置数据源编码后,您可以在Flink_SQL任务中通过
数据源编码.表名称
或数据源编码.schema.表名称
的格式引用数据源中的表;如果需要根据所处环境自动访问对应环境的数据源,请通过${数据源编码}.table
或${数据源编码}.schema.table
的变量格式访问。更多信息,请参见Dataphin数据源表开发方式。重要目前仅支持MySQL、Hologres、MaxCompute数据源。
数据源编码配置成功后不支持修改。
版本
HBase 2.x数据源支持选择如下版本:
CDH5:1.2.0。
CDP7.1.3:2.2.3。
亚信DP5.x HBase 2.x。
EMR HBase 2.x。
说明HBase0.9.4和HBase1.1.x不支持配置版本。
数据源描述
对数据源的简单描述。不超过128字符。
数据源配置
选择需要配置的数据源:
如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源。
如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源。
标签
您可根据标签给数据源进行分类打标,如何创建标签,请参见数据源管理标签。
配置数据源与Dataphin的连接参数。
当上述步骤中选择了生产+开发数据源,则配置页面如下图所示。如果上述步骤中您选择了生产数据源,则仅展示生产数据源的配置页面。
说明通常情况下,生产数据源和开发数据源需配置非同一个数据源,以使开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。
参数
描述
连接地址
连接地址的格式为
hb-proxy-{host}-{port}.hbase.rds.aliyuncs.com
。Namespace
可选。填写HBase的命名空间。
配置文件
上传keytab文件,您可以在Hadoop集群中的NameNode节点使用ipa-getkeytab命令获取keytab文件。
连接参数
配置连接HBase的参数,参数的格式为JSON样式。
Kerberos
Kerberos是一种基于对称密钥技术的身份认证协议,可以为其他服务提供身份认证功能,且支持SSO(即客户端身份认证后,可以访问多个服务,例如HBase和HDFS):
如果Hadoop集群有Kerberos认证,则需要开启Kerberos。
如果Hadoop集群没有Kerberos认证,则不需要开启Kerberos。
Krb5认证文件/KDC Server地址、Keytab FilePrincipal
开启Kerberos后,则需要配置如下参数:
Krb5文件配置:需要上传包含Kerberos认证域名的Krb5文件。
KDC Server地址:配置KDC服务器地址,辅助完成Kerberos认证。
说明支持配置多个KDC Server服务地址,使用英文逗号
,
分割。Keytab File:上传Kerberos认证的Keytab文件。
Principal:配置Kerberos认证的Principal名。
单击测试连接,测试数据源是否可以和Dataphin进行正常的连通。
测试成功后,单击确定,完成HBase数据源的创建。
- 本页导读