创建ClickHouse数据源用于实现Dataphin能够读取ClickHouse的业务数据,及能够向ClickHouse中写入数据。在引入ClickHouse的业务数据至Dataphin中或将Dataphin数据导出至ClickHouse的场景中,您需要先创建ClickHouse数据源。本文为您介绍如何创建ClickHouse数据源。

背景信息

如果您使用的是数据库ClickHouse,引入ClickHouse的业务数据至Dataphin中或将Dataphin数据导出至ClickHouse的场景中,您需要先完成ClickHouse数据源的创建。

Dataphin支持通过VPC网络和公网连接阿里云数据库ClickHouse、支持通过公网连接非阿里云数据库ClickHouse。Dataphin连接阿里云数据库ClickHouse时,可以选择阿里云数据库ClickHouse在VPC网络或公网环境下对应的连接地址。通常,VPC网络较公网稳定,推荐您选择VPC网络连通Dataphin和阿里云数据库ClickHouse。

阿里云数据库ClickHouse的更多信息,请参见什么是云数据库ClickHouse

使用限制

  • 仅支持超级管理员和项目管理员角色创建数据源。

    如何添加项目成员并授予项目管理员角色,请参见添加项目成员

  • 当业务数据源(ClickHouse)使用VPC网络时,则仅支持创建与Dataphin实例在同一地域ClickHouse数据源。

步骤一:添加Dataphin IP地址至数据源白名单

为避免因数据源白名单限制导致数据对接访问失败,基于业务数据源所在的网络环境,需添加对应环境下的Dataphin IP地址至ClickHouse数据库白名单中。阿里云数据库ClickHouse如何添加白名单,请参见设置白名单
  • ClickHouse数据源的网络为公网时,则需要添加公网下Dataphin IP地址至数据源白名单中。
    表 1. 公网下Dataphin的IP地址
    地域 IP地址
    华东2(上海) 47.102.151.182
    华南1(深圳) 119.23.173.65
    华北2(北京) 123.56.104.202
    华东1(杭州) 47.96.75.100
  • ClickHouse数据源的网络为VPC时,则需要添加VPC网络下的Dataphin IP地址至数据源白名单中。
    表 2. VPC网络下Dataphin的IP地址
    地域 (推荐)通用IP地址 地域IP地址
    华东2(上海) 100.104.0.0/16 100.104.228.128/26、100.104.115.192/26
    华南1(深圳) 100.104.48.128/26
    华北2(北京) 100.104.238.64/26
    华东1(杭州) 100.104.45.0/26

步骤二:创建ClickHouse数据源

  1. 请参见入口介绍,进入数仓规划页面。
  2. 按照下图指引,进入新建数据源页面。
    fagag
  3. 新建数据源对话框的NoSQL区域,选择ClickHouse
    如果您最近使用过ClickHouse,也可以在最近使用区域选择ClickHouse。同时,您也可以在快搜索框中,输入ClickHouse的关键词,快速筛选。gagag
  4. 新建ClickHouse数据源对话框中,配置连接数据源参数后,单击确定
    1. 配置数据源的基本信息。
      gaga
      参数 描述
      数据源名称 命名规则如下:
      • 只能包含字母、数字或下划线(_)。
      • 长度不能超过64字符。
      数据源描述 对数据源的简单描述。
      数据源配置 选择需要配置的数据源:
      • 如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源
      • 如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源
    2. 配置数据源与Dataphin的连接参数。
      当上述步骤中选择了生产+开发数据源,则配置页面如下图所示。如果上述步骤中您选择了生产数据源,则仅展示生产数据源的配置页面。ClickHouse数据源
      说明 通常,生产数据源和开发数据源需要配置成不同的参数值,但Dataphin也支持配置成相同的参数值。
      参数 描述
      JDBC URL ClickHouse的连接地址,格式为jdbc:clickhouse://<连接地址>:<端口>/<数据库名称>推荐您使用VPC连接地址。
      以阿里云数据库ClickHouse为例,参数获取方式如下。
      • 连接地址端口:在ClickHouse控制台对应的集群信息页面,查看连接地址和端口信息。
      • 数据库名称:通过ClickHouse命令行工具连接集群后,在SQL Console中执行show Databases命令,查看数据库名称。连接集群操作指导,请参见连接集群
      faga
      用户名密码 ClickHouse实例的用户名和密码,详情请参见账号管理
      类型 Dataphin支持选择以下几种数据源类型:
      • 公网数据库:如果您的数据源具备公网访问能力,则可以选择公网数据库
      • 阿里云数据库:如果您的数据源是阿里云数据库RDS,请选择阿里云数据库。阿里云数据库支持通过公网IPVPC网络连接Dataphin。
        说明 如果您的数据源是阿里云数据库RDS且支持公网访问,则您可以选择公网数据库,也可以选择阿里云数据库(公网IP)。
      • ECS(VPC)自建数据源:如果您的数据源是在阿里云ECS上自建的数据库,且使用的网络环境为VPC,请选择ECS(VPC)自建数据源
      访问方式 数据源类型选择不同,则访问方式不同。
      • 类型选择为阿里云数据库时:
        • VPC网络
          • 区域:仅支持选择当前Dataphin实例所在的地域。
            说明 仅支持添加与Dataphin实例在同一地域的ClickHouse数据源至Dataphin。
          • VPC ID:填写阿里云数据库ClickHouse的VPC ID。
          • RDS ID:填写阿里云数据库ClickHouse的集群ID。
          您可以在ClickHouse控制台对应的集群信息页面,查看VPC ID(图示②)、集群ID(图示①)。ClickHouse
        • 公网IP:填写阿里云数据库ClickHouse的外网地址。
      • 类型选择为ECS(VPC)自建数据源时:
        • 区域:仅支持选择当前Dataphin实例所在的地域。
          说明 仅支持添加与Dataphin实例在同一地域的ClickHouse数据源至Dataphin。
        • VPC ID:填写云服务器ECS实例的专有网络ID。
        • ECS ID:填写云服务器ECS的实例ID。
        您可以在云服务器ECS控制台的实例详情页面,查看VPC ID(图示①)和ECS的实例ID(图示②)。ECS
  5. 单击测试连接,测试数据源是否可以和Dataphin进行正常的连通。
    如果连接测试失败,您可以根据网络连通常见问题进行排查。详细内容,请参见网络连通解决方案
  6. 测试成功后,单击确定,完成ClickHouse数据源的创建。

后续步骤

完成ClickHouse数据源的创建后,即可将ClickHouse业务数据导入至Dataphin,或将Dataphin数据导出至ClickHouse。具体操作,请参见配置离线单条管道