本文为您介绍归并节点的概念,以及如何新建归并节点、定义归并逻辑,并通过实践案例为您展示归并节点的调度配置和运行详情。

前提条件

您需要购买DataWorks标准版及以上版本,才可以使用归并节点功能。

背景信息

归并节点是DataStudio中提供的逻辑控制系列节点中的一类,可以对上游节点的运行状态进行归并,用于解决分支节点下游节点的依赖挂载和运行触发问题。

目前归并节点的逻辑定义不支持选择节点运行状态,仅支持将分支节点的多个下游节点归并为运行成功的状态,以便下游节点能够直接挂载归并节点作为依赖。

例如,分支节点C定义了两个逻辑互斥的分支走向C1和C2,不同分支使用不同的逻辑写入同一张MaxCompute表,如果更下游节点B依赖此MaxCompute表的产出,则必须使用归并节点J先将分支归并后,再把归并节点J作为B的上游依赖。如果直接把B挂载在C1、C2下,任何时刻,C1和C2总有一个会因分支条件不满足,而显示实例状态为分支未被选中,而B也会因为上游有未被选中跳过运行的节点,实际也会是分支未被选中,空跑跳过的状态,节点并没有实际运行,所有下游节点均会如此。

创建归并节点

  1. 进入数据开发页面。
    1. 登录DataWorks控制台
    2. 在左侧导航栏,单击工作空间列表
    3. 选择工作空间所在地域后,单击相应工作空间后的进入数据开发
  2. 鼠标悬停至新建图标,单击通用 > 归并节点
  3. 新建节点对话框中,输入节点名称,并选择目标文件夹
    说明 节点名称必须是大小写字母、中文、数字、下划线(_)和小数点(.),且不能超过128个字符。
  4. 单击提交

定义归并逻辑

新建归并节点后 ,进入编辑页面添加归并分支。您可以输入父节点的输出名称或输出表名,单击添加。您可以在执行结果中查看运行状态,目前支持失败成功分支未运行等运行状态。

单击节点编辑页面右侧的调度配置,即可对归并节点的调度属性进行设置。

归并节点示例

在下游节点中,添加分支节点作为上游节点后,通过选择对应的分支节点输出来定义不同条件下的分支走向。例如在下图所示的业务流程中,分支1分支2均为分支节点的两个下游节点。示例
分支1依赖于autotest.fenzhi121902_1输出。依赖
分支2依赖于autotest.fenzhi121902_2输出。输出

运行任务

您可以在运行日志中查看满足分支条件、被选中运行的分支下游节点的运行情况。运行任务
您可以在运行日志中查看到不满足分支条件、未被选中运行的分支下游节点,被置为跳过。运行日志
归并节点的下游节点正常运行。正常运行