创建SHELL任务

本文为您介绍如何基于Dataphin构建Shell类型的离线计算任务。

操作步骤

  1. 在Dataphin首页的顶部菜单栏中,选择研发 > 数据研发

  2. 开发页面的顶部菜单栏选择项目(Dev-Prod模式需要选择环境)。

  3. 在左侧导航栏中选择数据处理 > 计算任务,在计算任务列表中单击image图标,选择SHELL

  4. 新建SHELL任务对话框中,配置以下参数。

    参数

    描述

    任务名称

    填写离线计算任务的名称。

    长度不超过256个字符,不支持竖线(|)、正斜线(/)、反斜线(\)、半角冒号(:)、半角问号(?)、尖括号(<>)、星号(*)和半角引号(")。

    调度类型

    选择任务的调度类型调度类型包括:

    • 周期任务:自动参与系统的周期性调度。

    • 手动任务:需要手动触发任务的运行。

    选择目录

    选择任务所存放的目录。

    若未创建目录,您可以新建文件夹,操作方法如下:

    1. 在页面左侧计算任务列表上方单击image图标,打开新建文件夹对话框。

    2. 新建文件夹对话框中输入文件夹名称并根据需要选择目录位置。

    3. 单击确定

    使用模板

    单击使用模板开关来选择是否使用代码模板。若开启使用模板,则还需选择模板模板版本

    引用代码模板以实现高效研发,模板任务代码为只读不可编辑,您只需配置模板参数即可完成代码研发。更多信息,请参见新建离线计算模板

    Python三方包

    选择一个或多个需要引入的Python三方包更多信息,请参见安装Python Module

    说明

    在Python三方包中添加某个第三方Module后,需要在任务中声明引用后,才可以在代码中导入(import)该Module。可在计算任务属性 > Python三方包配置项中设置编辑引用的Module。

    描述

    填写任务的简单描述,1000个字符以内。

  5. 单击确定

  6. 在当前SHELL任务页签下的代码编辑区域,编写SHELL离线计算任务的代码。代码编辑完成后,单击代码编辑区域上方的运行

  7. 单击页面右侧边栏的属性,在属性面板中配置任务的基本信息运行资源Python三方包运行参数调度属性(周期任务)、调度依赖(周期任务)、运行配置等信息。

    • 基本信息

      用于定义调度任务的名称、对应责任人、描述等基本信息。配置说明,请参见配置任务基本信息

    • 运行资源

      为运行当前计算任务所分配的CPU和内存资源,默认为0.1核256MB。配置说明,请参见配置离线任务运行资源

    • Python 三方包

      请选择需要引入的Python三方包。更多信息,请参见安装Python Module

    • 运行参数

      若您的任务中调用了参数变量,您可在属性中对参数进行赋值,从而支持节点调度时,参数变量可以自动被替换为相应的变量值。配置说明,请参见参数配置及使用节点参数

    • 调度属性(周期任务)

      如果离线计算任务的调度类型为周期任务,除了基本信息外,还需要配置任务的调度属性。配置说明,请参见配置调度属性

    • 调度依赖(周期任务)

      如果离线计算任务的调度类型为周期任务,除了基本信息外,还需配置任务的调度依赖。配置说明,请参见配置调度依赖

    • 运行配置

      您可根据业务场景为离线计算任务配置任务级的运行超时时间和任务运行失败时的重跑策略。未配置则默认继承租户级设置的默认值。配置说明,请参见计算任务运行配置

  8. 在当前SHELL任务页签下,保存并提交当前任务。

    1. 单击代码编辑区域上方的image图标,保存代码。

    2. 单击代码编辑区域上方的image图标,提交代码。

  9. 提交详情页面中,需确认提交内容前置检查的结果,并填写备注信息。更多信息,请参见离线计算任务提交说明

  10. 确认完成后,单击确定并提交

后续步骤

  • 如果您的开发模式是Dev-Prod模式,任务提交成功后还需前往发布列表,将任务发布至生产环境。更多信息,请参见管理发布任务

  • 如果您的开发模式是Basic模式,则提交成功后的SHELL任务,即可参与生产环境的调度。您可前往运维中心查看您发布的任务。更多信息,请参见查看并管理脚本任务查看并管理手动任务