创建Amazon Redshift数据源

通过创建Amazon Redshift数据源能够实现Dataphin读取Amazon Redshift的业务数据或向Amazon Redshift写入数据。本文为您介绍如何创建Amazon Redshift数据源。

权限说明

仅支持具备新建数据源权限点的自定义全局角色和超级管理员数据源管理员板块架构师项目管理员角色创建数据源。

操作步骤

  1. Dataphin首页,在顶部菜单栏选择管理中心 > 数据源管理

  2. 数据源页面,单击+新建数据源

  3. 新建数据源页面的大数据存储区域,选择Amazon Redshift

    如果您最近使用过Amazon Redshift,也可以在最近使用区域选择Amazon Redshift。同时,您也可以在搜索框中,输入Amazon Redshift的关键词,快速搜索。

  4. 新建Amazon Redshift数据源页面中,配置连接数据源参数。

    1. 配置数据源的基本信息

      参数

      描述

      数据源名称

      填写数据源的名称。命名规则如下:

      • 只能包含中文、英文字母大小写、数字、下划线(_)或短划线(-)。

      • 长度不能超过64个字符。

      数据源编码

      配置数据源编码后,您可以在Flink_SQL任务或使用Dataphin JDBC客户端中,通过数据源编码.表名称数据源编码.schema.表名称的格式直接访问Dataphin数据源表,实现快捷消费;如果需要根据任务执行环境自动切换数据源,请通过${数据源编码}.table${数据源编码}.schema.table的变量格式访问。更多信息,请参见Dataphin数据源表开发方式

      重要
      • 数据源编码配置成功后不支持修改。

      • 数据源编码配置成功后,才能在资产目录和资产清单的对象详情页面进行数据预览。

      • Flink SQL中,目前仅支持MySQL、Hologres、MaxCompute、Oracle、StarRocks、Hive、SelectDB数据源。

      版本

      当前仅支持1.0.x版本。

      数据源描述

      对数据源的简单描述,不超过128个字符。

      时区

      将根据当前时区对集成任务中的时间格式数据进行处理,默认时区为Asia/Shanghai。单击修改,可选择目标时区,可选项如下:

      • GMTGMT-12:00GMT-11:00GMT-10:00GMT-09:30GMT-09:00GMT-08:00GMT-07:00GMT-06:00GMT-05:00GMT-04:00GMT-03:00GMT-03:00GMT-02:30GMT-02:00GMT-01:00GMT+00:00GMT+01:00GMT+02:00GMT+03:00GMT+03:30GMT+04:00GMT+04:30GMT+05:00GMT+05:30GMT+05:45GMT+06:00GMT+06:30GMT+07:00GMT+08:00GMT+08:45GMT+09:00GMT+09:30GMT+10:00GMT+10:30GMT+11:00GMT+12:00GMT+12:45GMT+13:00GMT+14:00

      • 夏令时Africa/CairoAmerica/ChicagoAmerica/DenverAmerica/Los_AngelesAmerica/New_YorkAmerica/Sao_PauloAsia/BangkokAsia/DubaiAsia/KolkataAsia/ShanghaiAsia/TokyoAtlantic/AzoresAustralia/SydneyEurope/BerlinEurope/LondonEurope/MoscowEurope/ParisPacific/AucklandPacific/Honolulu

      数据源配置

      选择需要配置的数据源:

      • 如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源

      • 如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源

      标签

      您可根据标签给数据源进行分类打标,如何创建标签,请参见管理数据源标签

    2. 配置数据源与Dataphin的连接参数

      若您的数据源配置选择生产+开发数据源,则需配置生产+开发数据源的连接信息。如果您的数据源配置为生产数据源,仅需配置生产数据源的连接信息。

      说明

      通常情况下,生产数据源和开发数据源需配置为非同一个数据源,以实现开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。

      参数

      描述

      服务器地址

      输入服务器的IP地址和端口号。

      支持单击+新增来添加多组IP地址和端口号,单击image图标删除多余的IP地址和端口号,但需至少保留一组。

      参数配置

      • 参数名称:支持选择已有参数名称或输入自定义参数名称。

        自定义参数名称仅支持英文字母大小写、数字、半角句号(.)、下划线(_)和短划线(-)。

      • 参数值:当已选择参数名称时,参数值为必填。仅支持英文字母大小写、数字、半角句号(.)、下划线(_)和短划线(-),长度不超过256个字符。

      说明

      支持通过单击+添加参数新增多个参数,单击image图标删除多余参数,至多可添加30参数。

      dbname

      输入数据库名称。

      Schema

      需填写与用户名相关联的Schema信息。

      用户名密码

      输入鉴权用户名和密码,为保证任务正常执行,请确认用户拥有所需数据权限。

    3. 高级配置

      参数

      描述

      connectTimeout

      数据库的connectTimeout时长(单位:秒),默认900秒(15分钟)。

      说明

      Dataphin V3.11版本之前的创建数据源,connectTimeout默认为-1,表示无超时限制。

      socketTimeout

      数据库的socketTimeout时长(单位:秒),默认1800秒(30分钟)。

      说明

      Dataphin V3.11版本之前的创建数据源,socketTimeout默认为-1,表示无超时限制。

      连接重试次数

      数据库连接超时,将自动重试连接直到完成设定的重试次数。若达最大重试次数仍未连接成功,则连接失败。

      说明
      • 默认重试次数为1,支持配置0~10之间参数。

      • 连接重试次数将默认应用于离线集成任务全域质量(需开通资产质量功能模块),离线集成任务中支持单独配置任务级别的重试次数。

  5. 选择默认资源组,该资源组用于运行与当前数据源相关任务,包括数据库SQL、离线整库迁移、数据预览等。

  6. 进行测试连接或直接单击确定进行保存,完成Amazon Redshift数据源的创建。

    单击测试连接,系统将测试数据源是否可以和Dataphin进行正常的连通。若直接单击确定,系统将自动对所有已选中的集群进行测试连接,但即使所选中的集群均连接失败,数据源依然可以正常创建。

    测试连接针对默认集群或已经在Dataphin注册且正常使用的注册调度集群进行连接测试默认集群为系统默认选中,不支持取消选中。注册调度集群下不存在资源组时,不支持进行连接测试,需先创建资源组后再进行测试连接。

    • 所选集群只用于测试与当前数据源的网络连通,不用于后续相关任务的运行。

    • 测试连接时长通常在2分钟内,若超时,您可以单击image图标查看具体原因并重试。

    • 无论测试结果为连接失败连接成功成功有风险,系统都将为您记录最终结果的生成时间。

      说明

      默认集群的测试结果包含成功有风险连接成功连接失败三种连接状态;在Dataphin注册的注册调度集群的测试结果仅包含连接成功连接失败两种连接状态。

    • 测试结果为连接失败时,您可以单击image图标查看具体失败原因。

    • 测试结果为成功有风险时,代表应用集群连接成功、调度集群连接失败,当前数据源无法用于数据开发和集成。您可以单击image图标查看日志信息。