创建Elasticsearch数据源

通过创建Elasticsearch数据源能够实现DataphinElasticsearch写入数据。本文为您介绍如何创建Elasticsearch数据源。

背景信息

阿里云Elasticsearch是基于开源Elasticsearch构建的全托管Elasticsearch云服务,被广泛应用于实时日志分析处理、信息检索、以及数据的多维查询和统计分析等场景。

如果您使用的是阿里云Elasticsearch,在将Dataphin数据导出至Elasticsearch场景中,您需要先完成Elasticsearch数据源的创建。更多信息,请参见什么是阿里云Elasticsearch

使用限制

若您需在Dataphin中创建基于阿里云产品的数据源,创建数据源前,需确保DataphinIP已添加至数据库白名单(或安全组)中,使数据源与Dataphin网络互通。具体操作,请参见数据源白名单配置

权限说明

仅支持拥有新建数据源权限点的自定义全局角色和超级管理员数据源管理员板块架构师项目管理员系统角色创建数据源。

操作步骤

  1. Dataphin首页的顶部菜单栏,选择管理中心 > 数据源管理

  2. 数据源页面,单击+新建数据源

  3. 新建数据源对话框的NoSQL区域,选择Elasticsearch

    如果您最近使用过Elasticsearch,也可以在最近使用区域选择Elasticsearch。同时,您也可以在搜索框中,输入Elasticsearch的关键词,快速搜索。

  4. 新建Elasticsearch数据源对话框中,配置连接数据源参数。

    1. 配置数据源的基本信息。

      参数

      说明

      数据源名称

      填写数据源名称。命名规则如下:

      • 只能包含中文、英文字母大小写、数字、下划线(_)或短划线(-)。

      • 长度不能超过64个字符。

      数据源编码

      配置数据源编码后,您可以在Flink_SQL任务或使用Dataphin JDBC客户端中,通过数据源编码.表名称数据源编码.schema.表名称的格式直接访问Dataphin数据源表,实现快捷消费;如果需要根据任务执行环境自动切换数据源,请通过${数据源编码}.table${数据源编码}.schema.table的变量格式访问。更多信息,请参见Flink_SQL任务开发方式

      重要
      • 数据源编码配置成功后不支持修改。

      • 数据源编码配置成功后,才能在资产清单的对象详情页面进行数据预览。

      • Flink SQL中,目前仅支持MySQL、Hologres、MaxCompute、Oracle、StarRocks、Hive、SelectDB数据源。

      版本

      支持Elasticsearch 6.xElasticsearch 7.xElasticsearch 8.x版本。

      数据源描述

      对数据源的简单描述,不超过128个字符。

      数据源配置

      选择需要配置的数据源:

      • 如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源

      • 如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源

      标签

      您可根据标签给数据源进行分类打标。创建标签,请参见管理数据源标签

    2. 配置数据源与Dataphin的连接参数。

      当上述步骤中选择了生产+开发数据源,则展示生产+开发数据源的配置页面。如果上述步骤中您选择了生产数据源,则仅展示生产数据源的配置页面。

      说明

      通常情况下,生产数据源和开发数据源需配置为非同一个数据源,以实现开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。

      参数

      说明

      ES URL

      Elasticsearch的连接地址,推荐您使用私网连接地址。格式为http://host:port。例如:http://192.168.*.212:9200

      用户名密码

      访问Elasticsearch实例的用户名和密码。

      类型

      支持可直连数据库阿里云数据库ECS(VPC)自建数据库,您可根据数据库类型及业务情况进行选择与配置。

      • 可直连数据库:通过默认调度集群或注册调度集群直连数据库,适用于如下场景:①公网数据库,②与注册调度集群在同一网络环境下的数据库。如需添加访问白名单,可添加Dataphin默认调度集群的公网出网IP:47.102.192.174。

      • 阿里云数据库:在阿里云购买的数据库。支持VPC代理直连进行访问。

        • VPC代理当前使用的数据库为VPC网络环境下阿里云数据库,连接请指定授权IP白名单:100.104.0.0/16。

          • 区域:数据库所在Region。仅支持Dataphin实例相同区域的数据库。如您的Dataphin实例位于华东2(上海),仅支持选择华东2(上海)区域。

          • VPC ID:填写数据库所在VPC网络的VPC ID。您可登录专有网络控制台进行查看。如下图所示:

            image..png

          • VPC实例ID:填写数据库的专有网络实例ID,即VpcCloudInstanceId。您可以通过调用DescribeDrdsInstance API进行获取。更多信息,请参见DescribeDrdsInstance

        • 直连:通过默认调度集群或注册调度集群直连数据库,如需添加访问白名单,可添加Dataphin默认调度集群的公网出网IP:47.102.192.174。

      • ECS(VPC)自建数据库当前使用的数据库为VPC网络环境下阿里云数据库,连接请指定授权IP白名单:100.104.0.0/16。

        • 区域:数据库所在Region。仅支持Dataphin实例相同区域的数据库。如您的Dataphin实例位于华东2(上海),仅支持选择华东2(上海)区域。

        • VPC ID:填写ECS所在VPC网络的VPC ID。您可登录专有网络控制台进行查看。如下图所示:

          image..png

        • ECS ID:填写部署数据库的ECS服务器的ECS ID。您可登录ECS控制台进行查看。如下图所示:

          image..png

  5. 单击测试连接,测试数据源是否可以和Dataphin进行正常的连通。

    重要
  6. 测试成功后,单击确定,完成Elasticsearch数据源的创建。