新建Doris数据源

通过创建Doris数据源能够实现Dataphin读取Doris的业务数据或向Doris写入数据。本文为您介绍如何创建Doris数据源。

背景信息

Doris即Apache Doris,是一个基于MPP架构的高性能、实时的分析型数据库,仅需亚秒级响应时间即可返回海量数据下的查询结果,不仅可以支持高并发的点查询场景,也能支持高吞吐的复杂分析场景。基于此,能够较好的满足报表分析、即席查询、统一数仓构建、数据湖联邦查询加速等使用场景。更多信息,请参见Doris官网

权限说明

仅支持具备新建数据源权限点的自定义全局角色和超级管理员数据源管理员板块架构师项目管理员角色创建数据源。

操作步骤

  1. 在Dataphin首页,单击顶部菜单栏管理中心 > 数据源管理

  2. 数据源页面,单击+新建数据源image

  3. 在新建数据源对话框的大数据存储区域,选择Doris。

    如果您最近使用过Doris,也可以在最近使用区域选择Doris。同时,您也可以在搜索框中,输入Doris的关键词,快速筛选。image

  4. 新建Doris数据源对话框中,配置连接数据源参数。

    1. 配置数据源的基本信息。

      参数

      描述

      数据源名称

      命名规则如下:

      • 只能包含中文、英文字母大小写、数字、下划线(_)或短划线(-)。

      • 长度不能超过64字符。

      数据源编码

      配置数据源编码后,您可以在Flink_SQL任务中通过数据源编码.表名称数据源编码.schema.表名称的格式引用数据源中的表;如果需要根据所处环境自动访问对应环境的数据源,请通过${数据源编码}.table${数据源编码}.schema.table的变量格式访问。更多信息,请参见Flink_SQL任务开发方式

      重要
      • 目前仅支持MySQLHologresMaxCompute数据源。

      • 数据源编码配置成功后不支持修改。

      数据源描述

      对Doris数据源的简单描述。不得超过128个字符。

      数据源配置

      基于业务数据源是否区分生产数据源和开发数据源:

      • 如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源

      • 如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源

      标签

      您可根据标签给数据源进行分类打标,如何创建标签,请参见管理数据源标签

    2. 配置数据源与Dataphin的连接参数。

      若您的数据源配置选择生产+开发数据源,则需配置生产+开发数据源的连接信息。如果您的数据源配置为生产数据源,仅需配置生产数据源的连接信息。

      说明

      通常情况下,生产数据源和开发数据源需配置为非同一个数据源,以实现开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。

      参数

      描述

      JDBC URL

      请填写数据源的链接地址。连接地址格式为:jdbc:mysql://host:port/dbname

      用户名密码

      登录Doris数据源的用户名和密码。

      FE节点URL

      填写FE节点的连接地址,用于通过Web服务器访问FE节点。连接地址格式为:host:post

    3. 配置数据源的高级设置。

      参数

      描述

      connectTimeout

      数据库的connectTimeout时长(单位:毫秒),默认900000毫秒(15分钟)。

      说明
      • 若您在JDBC URL中带有connectTimeout配置,则connectTimeout为JDBC URL中配置的超时时间。

      • Dataphin V3.11版本之前的创建数据源,connectTimeout默认为-1,表示无超时限制。

      socketTimeout

      数据库的socketTimeout时长(单位:毫秒),默认1800000毫秒(30分钟)。

      说明
      • 若您在JDBC URL中带有socketTimeout配置,则socketTimeout为JDBC URL中配置的超时时间。

      • Dataphin V3.11版本之前的创建数据源,socketTimeout默认为-1,表示无超时限制。

      连接重试次数

      数据库连接超时,将自动重试连接直到完成设定的重试次数。若达最大重试次数仍未连接成功,则连接失败。

      说明
      • 默认重试次数为1次,支持配置0~10之间参数。

      • 连接重试次数将默认应用于离线集成任务全域质量(需开通资产质量功能模块),离线集成任务中支持单独配置任务级别的重试次数

  5. 单击测试连接,测试数据源是否可以和Dataphin进行正常的连通。

    重要

    如果连接测试失败,您可以根据网络连通常见问题进行排查。详细内容,请参见网络连通解决方案

  6. 测试成功后,单击确定,完成Doris数据源的创建。