创建Log Service数据源用于实现Dataphin能够读取Log Service的业务数据。在引入Log Service的业务数据至Dataphin中进行数据开发的场景中,您需要先创建Log Service数据源。本文为您介绍如何创建Log Service类型的数据源。
背景信息
Log Service即阿里云日志服务,为Log、Metric、Trace等数据提供大规模、低成本、实时的平台化服务。如果您使用的是阿里云日志服务,在对接Dataphin进行数据开发时,您需要先完成Log Service数据源的创建。更多Log Service信息,请参见什么是日志服务。
Dataphin支持通过VPC网络和公网连接Log Service。Dataphin连接Log Service时,可以选择Log Service在VPC网络或公网环境下对应的Endpoint,Log Service的Endpoint请参见服务入口,通常,VPC网络较公网稳定,建议您选择VPC网络连通Dataphin和Log Service。
权限说明
仅支持拥有新建数据源权限点的自定义全局角色和超级管理员、数据源管理员、板块架构师、项目管理员系统角色创建数据源。
操作步骤
在Dataphin首页,单击顶部菜单栏管理中心 > 数据源管理。
在数据源页面,单击+新建数据源。
在新建数据源对话框的消息队列区域,选择Log Service。
如果您最近使用过Log Service,也可以在最近使用区域选择Log Service。同时,您也可以在搜索框中,输入Log Service的关键词,快速筛选。
在新建Log Service数据源对话框中,配置连接数据源参数。
配置数据源的基本信息。
参数
描述
数据源名称
命名规则如下:
只能包含中文、英文字母大小写、数字、下划线(_)或短划线(-)。
长度不能超过64字符。
数据源编码
配置数据源编码后,您可以在Flink_SQL任务中通过
数据源编码.表名称
或数据源编码.schema.表名称
的格式引用数据源中的表;如果需要根据所处环境自动访问对应环境的数据源,请通过${数据源编码}.table
或${数据源编码}.schema.table
的变量格式访问。更多信息,请参见Flink_SQL任务开发方式。重要目前仅支持MySQL、Hologres、MaxCompute数据源。
数据源编码配置成功后不支持修改。
数据源描述
对数据源的简单描述。不得超过128个字符。
数据源配置
选择需要配置的数据源:
如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源。
如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源。
标签
您可根据标签给数据源进行分类打标,如何创建标签,请参见管理数据源标签。
配置数据源与Dataphin的连接参数。
当上述步骤中选择了生产+开发数据源,则展示生产+开发数据源的配置页面。如果上述步骤中您选择了生产数据源,则仅展示生产数据源的配置页面。
说明通常情况下,生产数据源和开发数据源需配置为非同一个数据源,以实现开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。
参数
描述
LogHub Endpoint
Log Service的Endpoint,建议配置阿里云VPC网络下的Endpoint。如何获取Endpoint,请参见服务入口。
重要仅支持配置与Dataphin实例在同一地域的Log Service Endpoint。
Project
Log Service项目名称。在Log Service控制台页面,查看Project名称。
Access ID、Access Key
当前账号的AccessKey ID和AccessKey Secret。
如何获取,请参见获取AccessKey。
单击测试连接,测试数据源是否可以和Dataphin进行正常的连通。
重要如果连接测试失败,您可以根据网络连通常见问题进行排查。详细内容,请参见网络连通解决方案。
测试成功后,单击确定,完成Log Service数据源的创建。