创建Databricks数据源

通过创建Databricks数据源能够实现Dataphin读取Databricks的业务数据或向Databricks写入数据。本文为您介绍如何创建Databricks数据源。

权限说明

仅支持拥有新建数据源权限点的自定义全局角色和超级管理员数据源管理员板块架构师项目管理员系统角色创建数据源。

操作步骤

  1. Dataphin首页,在顶部菜单栏选择管理中心 > 数据源管理

  2. 数据源页面,单击+新建数据源

  3. 新建数据源对话框的大数据存储区域,选择Databricks

    如果您最近使用过Databricks,也可以在最近使用区域选择Databricks。同时,您也可以在搜索框中,输入Databricks的关键词,快速搜索。

  4. 新建Databricks数据源对话框中,配置连接数据源参数。

    1. 配置数据源的基本信息。

      参数

      说明

      数据源名称

      填写数据源名称。命名规则如下:

      • 只能包含中文、英文字母大小写、数字、下划线(_)或短划线(-)。

      • 长度不能超过64个字符。

      数据源编码

      配置数据源编码后,您可以在Flink_SQL任务或使用Dataphin JDBC客户端中,通过数据源编码.表名称数据源编码.schema.表名称的格式直接访问Dataphin数据源表,实现快捷消费;如果需要根据任务执行环境自动切换数据源,请通过${数据源编码}.table${数据源编码}.schema.table的变量格式访问。更多信息,请参见Dataphin数据源表开发方式

      重要
      • 数据源编码配置成功后不支持修改。

      • 数据源编码配置成功后,才能在资产清单的对象详情页面进行数据预览。

      • Flink SQL中,目前仅支持MySQL、Hologres、MaxCompute、Oracle、StarRocks、Hive、SelectDB数据源。

      版本

      当前仅支持2.6.40。

      数据源描述

      Databricks数据源的简单描述。不得超过128个字符。

      数据源配置

      基于业务数据源是否区分生产数据源和开发数据源:

      • 如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源

      • 如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源

      标签

      您可以根据标签给数据源进行分类打标,如何创建标签,请参见管理数据源标签

    2. 配置数据源与Dataphin的连接参数。

      若您的数据源配置选择生产+开发数据源,则需配置生产+开发数据源的连接信息。如果您的数据源配置为生产数据源,仅需配置生产数据源的连接信息。

      说明

      通常情况下,生产数据源和开发数据源需配置为非同一个数据源,以实现开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。

      参数

      描述

      服务器地址

      输入服务器的IP地址及端口号。仅支持一组服务器地址,不支持新增。

      参数配置(非必填)

      单击+参数配置,添加一行,可输入参数名称和对应参数值。可单击对应行后的image图标,删除参数。

      参数名称及参数值支持英文字母大小写、数字、半角句号(.)、下划线(_)和短划线(-),长度不超过256个字符。

      身份验证机制

      • 基于令牌的验证:基于个人Token的认证。

      • 基于M2M的验证:基于Service Principal的认证。

      Catalog

      输入与用户名相关联的Catalog。

      Schema

      输入与用户名相关联的Schema。

      用户名、密码

      输入鉴权用户的用户名和密码(或凭证)。为保证任务正常执行,请确保该用户有所需数据权限。

      HTTP路径

      输入HTTP路径,格式为/sql/1.0/warehouses/warehouses_id

      连接重试次数

      数据库连接超时,将自动重试连接直到完成设定的重试次数。若达最大重试次数仍未连接成功,则连接失败。

      说明
      • 默认重试次数为1,支持配置0~10之间参数。

      • 连接重试次数将默认应用于离线集成任务全域质量(需开通资产质量功能模块),离线集成任务中支持单独配置任务级别的重试次数

  5. 单击测试连接,测试数据源是否可以和Dataphin进行正常的连通。

  6. 测试成功后,选择默认资源组,该资源组用于执行与当前数据源相关的任务,包括数据库SQL、离线整库迁移及数据预览等。

  7. 单击确定,完成Databricks数据源的创建。