文档

配置离线管道调度

更新时间:

调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。本文为您介绍如何配置周期性离线管道调度配置。

背景信息

  • 依赖关系是两个或多个节点之间的语义连接关系,同时上游节点的状态将影响其他下游节点的运行状态。

  • 配置了依赖关系的节点调度规则为:首先,上游节点运行完成后,才能调度下游节点。其次,根据节点设定的调度时间判断是否执行调度。

  • 您在设定的调度时间之前提交的调度配置,会在设定的调度时间之后生效。而在设定的调度时间之后配置的依赖关系,只能间隔一天再生成实例。

操作步骤

  1. 在Dataphin首页,单击顶部菜单栏的研发。默认进入数据开发页面。

  2. 按照以下操作指引,选择所需配置的离线集成任务进入属性面板。

    单击集成->选择项目(Dev-Prod 模式需要选择环境)->单击离线集成->选择需要配置任务调度的任务->单击属性->单击调度配置

    image

  3. 在离线集成任务属性面板,配置调度配置区域参数。

    image.png

    参数

    描述

    调度类型

    支持正常调度、空跑调度及暂停调度3种调度类型。

    • 正常调度:按照调度周期的时间配置调度,并正常执行(即会真实跑数据),通常任务默认选中该项。

    • 空跑调度:按照调度周期的时间配置调度,但都是空跑执行(即不会真实跑数据),即当调度到该任务时便直接返回成功,没有真正的执行任务。通常用于当某一个节点在一定时间内不需要执行,并且不阻塞他的下游节点执行时,可选择此类型调度

    • 暂停调度:暂停调度选择是后,将按照调度周期配置的时间启动调度,但节点状态被置为暂停(即不会真实跑数据)。调度到该任务时,系统会直接返回失败,并且会阻塞依赖当前节点的下游节点执行。通常用于某个任务暂时不用执行,但后面还会继续使用的场景。

    调度周期

    调度周期即在生产环境调度系统中,多久会真实执行一次该任务中的代码。当一个任务被成功提交后,该任务调度将提交当天次日开始该任务的时间属性配置生成自动调度的周期实例,并根据上游依赖的实例运行结果和时间点运行。

    调度周期可选择小时分钟

    • 日调度:即调度任务每天自动运行一次。新建周期任务时,系统默认的时间周期为每天0点运行一次。您可以根据需要,单击image图标,指定运行的时间点。

    • 周调度:即调度任务每周的特定几天,在特定时间点自动运行一次。您可以根据需要,单击image图标,指定运行的时间点。

      说明

      在非指定的调度时间内,为保证下游实例正常运行,系统会生成实例后直接设置为运行成功,而不会真正执行任何逻辑,也不会占用资源。

    • 月调度:即调度任务在每月的特定几天,在特定时间点自动运行一次。您可以根据需要,单击image图标,指定运行的时间点。

      说明

      在非指定的调度时间内,为保证下游实例正常运行,系统会每天生成实例后直接设置为运行成功,而不会真正执行任何逻辑,也不会占用资源。

    • 小时调度:支持时间段调度整点调度自定义调度

      • 时间段调度:即每天指定的时间段内,调度任务按间隔时间数的时间间隔运行一次。您可以单击开始结束后的image图标,指定运行的开始和结束时间。同时您可以单击间隔后的image图标,在下拉列表中选择间隔时间。例如,每天00:00~23:59的时间段内,每隔1小时会自动调度一次。

      • 整点调度:单击下拉列表框选择整点时间,调度系统会在所选择的整点时间自动为任务生成实例并运行。

      • 自定义调度:单击下拉列表框选择自定义时间,调度系统会在所自定义的时间自动为任务生成实例并运行。

    • 分钟调度:支持每天每小时

    • 每天:即每天指定的时间段内,调度任务按间隔时间数的时间间隔运行一次。

    • 每小时:即每小时指定的开始时间到该小时结束的时间段内,调度任务按间隔时间数的时间间隔运行一次。

    参数配置

    参数配置是对计算任务代码中所用的变量进行赋值,从而支持节点调度时,参数变量可以自动被替换为相应的变量值。多个参数以隔离。更多说明,请参见配置离线管道调度

    条件调度

    可设置多组调度条件,系统按照从上往下的顺序进行条件判断,命中条件后即执行相应调度动作,并终止后续所有条件的判断。未命中任何条件时,则执行默认调度配置。

    重要

    条件调度仅在调度类型为正常调度时生效。

    1. 单击添加调度条件

      image..png

      说明

      最多支持添加 10 个调度条件。

    2. 编辑条件调度对话框中,配置条件调度相关配置信息。

      image

      • 条件名称:命名规则:支持任意字符,需在32个字符以内。

      • 生效状态:默认开启。关闭后,进行调度时该条件调度将被忽略。

      • 满足以下条件:条件的判断规则,当条件判断为真时,按执行调度的配置信息进行调度。配置说明,请参见条件调度规则说明

      • 执行调度:支持自定义与跟随调度属性:

        • 自定义:条件判断为真,根据所配置的调度类型运行调度。

        • 跟随调度属性:与调度属性中的调度策略一致, 等同于关闭条件调度时的调度设置。

      • 调度类型:配置说明,请参见上文调度类型

      • 起调日期:调度类型为正常调度时,需配置起调时间,即为调度任务的开始运行的时间。

    3. 单击确定。

      完成条件调度设置后,单击预览调度运行计划,可查看条件调度在日历中命中的日期。

      重要
      • 修改条件调度设置,并提交并发布到生产环境后,将对发布时为未运行状态的实例实时生效,对已进入等待运行时间的实例不生效。

      • 条件调度中使用了跨节点参数判断类型时,须提供可能的参数取值进行预览。

  4. 单击确定,完成离线管道调度配置。

  • 本页导读 (0)