创建OSS数据源

通过创建OSS数据源能够实现Dataphin读取OSS的业务数据或向OSS写入数据。本文为您介绍如何创建OSS数据源。

背景信息

OSS即阿里云对象存储OSS。阿里云对象存储OSS(Object Storage Service)是一款海量、安全、低成本、高可靠的云存储服务。如果您使用的是阿里云对象存储OSS,在对接Dataphin进行数据开发或将Dataphin的数据写入至OSS时,您需要先完成OSS数据源的创建。更多OSS信息,请参见什么是对象存储OSS

权限说明

仅支持拥有新建数据源权限点的自定义全局角色和超级管理员数据源管理员板块架构师项目管理员系统角色创建数据源。

操作步骤

  1. 在Dataphin首页,单击顶部菜单栏管理中心 > 数据源管理

  2. 数据源页面,单击+新建数据源image

  3. 新建数据源对话框的文件区域,选择OSS

    如果您最近使用过OSS,也可以在最近使用区域选择OSS。同时,您也可以在搜索框中,输入OSS的关键词,快速筛选。image..png

  4. 新建OSS数据源对话框中,配置连接数据源参数。

    1. 配置数据源的基本信息。

      参数

      描述

      数据源名称

      命名规则如下:

      • 只能包含中文、英文字母大小写、数字、下划线(_)或短划线(-)。

      • 长度不能超过64字符。

      数据源编码

      配置数据源编码后,您可以在Flink_SQL任务中通过数据源编码.表名称数据源编码.schema.表名称的格式引用数据源中的表;如果需要根据所处环境自动访问对应环境的数据源,请通过${数据源编码}.table${数据源编码}.schema.table的变量格式访问。更多信息,请参见Flink_SQL任务开发方式

      重要
      • 目前仅支持MySQLHologresMaxCompute数据源。

      • 数据源编码配置成功后不支持修改。

      数据源描述

      对数据源的简单描述,不超过128个字符。

      数据源配置

      选择需要配置的数据源:

      • 如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源

      • 如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源

      标签

      您可根据标签给数据源进行分类打标,如何创建标签,请参见管理数据源标签

    2. 配置数据源与Dataphin的连接参数。

      若您的数据源配置选择生产+开发数据源,则需配置生产+开发数据源的连接信息。如果您的数据源配置为生产数据源,仅需配置生产数据源的连接信息。

      说明

      通常情况下,生产数据源和开发数据源需配置非同一个数据源,以使开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。

      参数

      描述

      Endpoint

      OSS所在地域对应的Endpoint,格式为http://{oss-Region}.aliyuncs.com,其中Region为Bucket所在地域。例如,华东1(杭州)的Endpoint填写为https://oss-cn-hangzhou.aliyuncs.com

      OSS服务的Endpoint和区域有关。访问不同的区域时,需要填写不同的域名。

      Bucket

      OSS所在地域对应的Bucket信息。用于存储对象的容器。在Bucket 列表页面,获取OSS所在地域对应的Bucket。

      您可以创建一个或多个存储空间,每个存储空间可添加一个或多个文件。您可以在数据同步任务中查找此处输入的存储空间中相应的文件,没有添加的存储空间,则不能查找其中的文件。

      目录

      如仅有特定目录下的权限,可在此指定目录路径。例如,/dataphin/

      CNAME

      非必填,OSS数据源的自定义域名名称。阿里云OSS自定义域名详情请参见使用自有域名访问OSS资源

      Access IDAccess Key

      OSS数据源所在账号的AccessKey ID和AccessKey Secret。

      如何获取,请参见获取AccessKey

  5. 单击测试连接,测试数据源是否可以和Dataphin进行正常的连通。

    重要

    如果连接测试失败,您可以根据网络连通常见问题进行排查。详细内容,请参见网络连通解决方案

  6. 测试成功后,单击确定,完成OSS数据源的创建。