文档

创建Impala数据源

更新时间:

通过创建Impala数据源能够实现Dataphin读取Impala的业务数据或向Impala写入数据。本文为您介绍如何创建Impala数据源。

背景信息

Impala是用于处理存储在Hadoop集群中大量数据的SQL查询引擎。如果您使用的是Impala,在导出Dataphin数据至Impala,您需要先完成Impala数据源的创建。更多Impala信息,请参见Impala官网

权限说明

Dataphin仅支持超级管理员数据源管理员板块架构师项目管理员角色创建数据源。

使用限制

  • Dataphin的Impala数据源的数据集成使用JDBC的方式进行集成,因此性能相较于Hive较差,若您集成的表为非Kudu表,您可使用Hive数据源及输入输出组件集成。

  • 仅当连接E-MapReduce 5.x版本的Impala数据源时,才支持使用DLF获取元数据。

操作步骤

  1. 在Dataphin首页,单击顶部菜单栏管理中心

  2. 按照下图操作指引,进入新建数据源对话框。

    image

  3. 新建数据源对话框的大数据存储区域,选择Impala

    如果您最近使用过Impala,也可以在最近使用区域选择Impala。同时,您也可以在搜索框中,输入Impala的关键词,快速筛选。

    image

  4. 新建Impala数据源对话框中,配置连接数据源参数。

    1. 配置数据源的基本信息。

      参数

      描述

      数据源名称

      命名规则如下:

      • 只能包含中文、字母、数字、下划线(_)或中划线(-)。

      • 长度不能超过64字符。

      数据源编码

      配置数据源编码后,您可以在Flink_SQL任务中通过数据源编码.表名称数据源编码.schema.表名称的格式引用数据源中的表;如果需要根据所处环境自动访问对应环境的数据源,请通过${数据源编码}.table${数据源编码}.schema.table的变量格式访问。更多信息,请参见Flink_SQL任务开发方式

      重要
      • 目前仅支持MySQLHologresMaxCompute数据源。

      • 数据源编码配置成功后不支持修改。

      数据源描述

      对数据源的简单描述。不得超过128个字符。

      数据源配置

      选择需要配置的数据源:

      • 如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源

      • 如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源

      标签

      您可根据标签给数据源进行分类打标,如何创建标签,请参见数据源管理标签

    2. 配置数据源与Dataphin的连接参数。

      若您的数据源配置选择生产+开发数据源,则需配置生产+开发数据源的连接信息。如果您的数据源配置为生产数据源,仅需配置生产数据源的连接信息。

      说明

      通常情况下,生产数据源和开发数据源需配置非同一个数据源,以使开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。

      参数

      描述

      JDBC URL

      链接地址的格式为jdbc:impala//host:port/dbname。例如,jdbc:impala//192.168.*.1:5433/dataphin

      Kerberos

      Kerberos是一种基于对称密钥技术的身份认证协议:

      • Hadoop集群有Kerberos认证,则需要开启Kerberos

      • Hadoop集群没有Kerberos认证,则无需开启Kerberos

      Krb5文件/KDC ServerKeytab FilePrincipal

      开启Kerberos后,需要配置参数如下:

      • Krb5文件/KDC Server:需要上传包含Kerberos认证域名的Krb5文件、配置KDC服务器地址,辅助完成Kerberos认证。

        说明

        支持配置多个KDC Server服务地址,使用英文逗号分割。

      • Keytab File:上传登录Krb5文件域名或KDC服务器地址的账号和密码的文件。

      • Principal:配置Keytab File文件对应的Kerberos认证用户名。

      用户名密码

      如果您没有开启Kerberos,则需要配置访问Impala实例的用户名和密码。

    3. 配置数据源元数据库参数。

      参数

      描述

      数据库类型

      请根据集群中使用的元数据库类型,选择数据库类型。Dataphin支持选择MySQL和PostgreSQL。

      JDBC URL

      填写对应元数据库的链接地址:

      • MySQL:格式为jdbc:mysql://host[,failoverhost...]port/dbname [?propertyName1][=propertyValue1][&propertyName2][=propertyValue2]...

      • PostgreSQL:格式为jdbc:postgresql://host:port/dbname

      用户名密码

      填写登录元数据库的用户名和密码。

  5. 单击测试连接,测试数据源是否可以和Dataphin进行正常的连通。

    重要

    如果连接测试失败,您可以根据网络连通常见问题进行排查。详细内容,请参见附录:网络连通解决方案

  6. 测试成功后,单击确定,完成Impala数据源的创建。

后续步骤

完成Impala数据源的创建后,即可将Impala的业务数据引入至Dataphin或将Dataphin的数据写入至Impala。详情请参见数据集成概述

  • 本页导读 (0)