文档

离线集成概述

更新时间:

离线集成支持多种组件,包括输入、输出与转换组件等,通过在画布上简单的拖拽、配置并组装的方式,生成离线集成单条管道。离线集成也支持脚本模式,支持更多个性化配置。同时,用户创建的自定义RDBMS数据源的输入与输出组件也会自动在创建在组件库中,满足多样化的数据同步需求。

离线集成页面概述

离线集成页面主要由离线管道任务目录、工具栏、开发画布、配置及管理、控制台组成您可以在离线集成页面对离线管道任务进行创建、管理以及配置操作。

image

区域

描述

离线集成目录

创建的离线管道任务将在任务目录中进行统一管理。任务目录支持的管理操作如下:

  • 目录工具栏:支持筛选上传(上传管道开发脚本刷新新建文件夹定位

  • 创建集成任务:单击image.png按钮,支持创建单条管道任务以及脚本管道任务。

    • 单条管道任务:支持可视化拖拽方式将一个或多个来源数据源的单表或多表同步到一个或多个目标数据源中。具体操作,请参见通过单条管道创建集成任务

    • 脚本管道任务:支持脚本代码方式将一个或多个来源数据源的单表或多表同步到一个或多个目标数据源中。具体操作,请参见通过脚本模式创建集成任务

  • 离线管道任务:支持复制获取锁编辑克隆重命名移动删除、下线、下线并删除

    重要

    Basic模式删除任务提交成功后,即更新至生产环境,请谨慎操作;Dev-Prod模式删除任务提交成功后,请前往待发布列表,以发布对象至生产环境。

  • 离线集成任务列表:单击离线集成任务列表,可以通过列表方式管理创建的离线集成任务。更多信息,请参见查看及管理离线集成任务列表

工具栏

工具栏支持保存、运行、预览、调度配置、通道配置、质量监控、提交、去发布、去运维、刷新、获取锁、定位。

  • 保存:保存当前开发中的离线管道

  • 运行:运行当前开发中的离线管道。

  • 预览:预览当前离线管道运行后的集成结果。

  • 调度配置:调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。更多信息,请参见配置离线管道调度

  • 通道配置:通过离线集成管道通道配置,您可定义离线集成任务运行时的容错、并发数、JVM资源、数据库配置及集成管道流量监控。更多信息,离线集成管道通道配置

  • 质量监控:您可以为集成管道中的数据表配置质量监控规则。更多信息,请参见配置集成管道质量监控

  • 提交:将离线集成管道提交至发布中心或管理中心。更多信息,发布中心概述

  • 去发布:已提交到发布中心的离线集成管道,您可以前往发布中心进行发布操作。

  • 去运维:已提交到运维中心的离线集成管道,您可以前往运维中心进行运维操作。更多信息,运维中心概述

  • 切换为脚本模式:单击image图标并在下拉选项中单击切换为脚本模式。可以将当前离线管道切换为离线脚本。适用于需要自动获取字段信息,并生成完整的JSON配置的场景,可以有效提高脚本模式配置的效率。切换成脚本模式后,不支持切换回离线管道模式。

  • 刷新:刷新当前离线管道任务。

  • 获取锁:获取离线管道任务的编辑锁。

  • 定位:在任务目录中定位到当前离线集成管道任务。

  • 下线:对已上线的集成任务进行下线操作。

  • 删除:删除当前集成任务。

    重要

    Basic模式删除任务提交成功后,即更新至生产环境,请谨慎操作;Dev-Prod模式删除任务提交成功后,请前往待发布列表,以发布对象至生产环境。

开发画布

  • 可视化开发:在开发画布,您可以在组件库抽屉中,拖拽至画布进行开发。Dataphin支持的开发组件及开发说明,请参见集成组件库开发说明

  • 代码脚本开发:对于脚本任务,您可以在代码编辑器中使用代码开发离线管道任务。

配置及管理

配置及管理支持集成任务的属性配置、质量监控、相关、历史。

  • 属性配置:配置离线管道任务的属性,包括基本信息、调度配置、调度依赖、运行配置等。更多信息,请参见离线集成任务属性配置概述

  • 质量监控:通过配置离线集成管道的质量监控,Dataphin会自动为您监控数据表的质量,如果数据表有质量风险,系统会自动报警,通知告警接收人,帮助您及时了解数据表质量状况。具体操作,配置集成管道质量监控

  • 相关离线管道的相关对象,指当前离线管道任务引用读取的表引用读取当前任务的表、将当前任务作为上游依赖的任务

  • 历史:查看及管理任务历史版本。

控制台

运行或预览任务时,将在控制台显示结构化之后的运行结果信息。包括预览结果、运行信息、通道信息、步骤度量、日志信息、异常信息、运行代码。

离线集成入口

  1. 在Dataphin首页,单击顶部菜单栏的研发。默认进入数据开发页面。

  2. 单击顶部菜单栏的集成,进入离线集成页面。

    image.png

  • 本页导读 (0)