实时任务页面入口
在Dataphin首页的顶部菜单栏中,选择研发 > 任务运维。
在左侧导航栏中选择任务运维 > 实时任务,打开实时任务页面。
在顶部菜单栏选择生产或开发环境。
实时任务页面介绍
实时任务页面主要由快捷搜索及筛选区、实时任务列表和批量操作区组成。您可以在实时任务页面对提交的实时任务进行相关的运维操作。

区块 | 说明 |
①搜索及筛选 | 支持输入任务对象名称或ID来搜索实时任务,适用于知道任务名称或ID时进行快捷搜索。 我操作的任务:任务负责人为当前登录账号的实时任务。 我的已启动实例任务:任务负责人为当前登录账号且启动的实时任务。 筛选:单击筛选,可展开所有筛选项,筛选项包括: 细分类型:实时引擎不同,支持选择的细分类型也不相同,具体以实际界面为准。 最近操作人:根据任务的最近操作人进行筛选。 负责人:根据任务的负责人进行筛选。若已选中我操作的任务,则此筛选项默认包含当前登录账号。 引擎类型:根据引擎类型进行筛选,可选择Ververica Flink、Blink、开源Flink和FusionInsight Flink。 资源队列:实时引擎为Alibaba Blink、开源Flink时可根据任务运行的资源队列进行筛选。 集群:实时引擎为Ververica Flink时可根据任务运行的集群进行筛选。 引擎版本:任务使用的引擎版本。 是否启动正式实例:根据正式实例是否运行进行筛选,仅适用于Prod和Basic项目。 是否启动测试实例:根据测试实例是否已运行进行筛选,仅适用于Dev项目。 项目:根据任务所在项目进行筛选,可选择多个当前登录用户拥有运维-访问目录权限的项目。
重置:打开所有筛选项后,可单击重置,快速清除已选筛选条件。 刷新:单击刷新图标,刷新当前实时任务列表。
|
②实时任务列表 | 实时任务页面以列表形式为您展示系统已生成的实时任务。实时任务运维列表中展示当前任务对象、最近操作人、负责人、是否启动正式实例、最近提交时间、引擎类型、引擎版本等信息。 任务对象:提交到运维中心的实时任务,包含脚本名称和脚本ID。 最近操作人:任务的上一次操作人的账号名称。 负责人:任务的负责人账号名称。 是否启动正式实例:实时任务的正式实例启动状态。 项目:任务所属的项目,展示格式为项目英文名(项目中文名) 。 最近提交时间:实时任务上一次提交到运维中心的时间。 引擎类型:当前实时任务所使用的引擎类型。 集群:仅当实时引擎为Ververica Flink时,展示任务生产环境集群,其他类型引擎此字段展示为空。 资源队列:仅当实时引擎为Alibaba Blink、开源Flink时,展示任务运行时使用的资源队列,其他类型引擎此字段展示为空。 引擎版本:任务所使用的引擎版本。
列表操作栏为您展示实时任务支持的运维管理操作。实时任务支持的单个运维操作,请参见单个操作。 |
③批量操作 | 您可通过批量操作区域提供的修改负责人、启动正式实例运维功能,对实时任务进行批量处理,提高运维效率。 实时任务支持的批量运维操作,请参见批量操作。 |
管理实时任务
单个操作
操作项 | 描述 |
DAG图 | 单击目标实时任务操作列的 图标,查看该实时任务的DAG图。更多信息,请参见实时任务DAG图支持的操作。 |
查看实例 | 单击目标实时任务操作列的 图标,查看该实时任务运行生成的实例。
说明 仅已启动运行且已生成实例的实时任务,支持查看实例。 |
启动实例 | 单击目标实时任务操作列的 图标启动实例。操作详情,请参见启动实时实例。 |
查看任务代码 | 单击目标实时任务操作列的 图标,选择查看任务代码,查看该实时任务的代码。 |
查看任务参数 | 单击目标实时任务操作列的 图标,选择查看任务参数,查看实时任务节点定义的参数。 |
修改负责人 | 在生产环境下,单击目标实时任务操作列的 图标,选择修改负责人,在修改负责人对话框中选择新的负责人。 |
修改资源配置 | 单击目标实时任务操作列的 图标,选择修改资源配置,修改实时任务运行的资源参数,包括Core、Memory等。
说明 系统仅支持对Prod和Basic项目中的任务修改资源配置。 Fusioninsight Flink引擎不支持修改资源配置。 |
批量操作
操作项 | 描述 |
启动正式实例 | 支持同时启动运行多个实时集成实例或实时研发实例。
说明 仅适用于Prod和Basic项目,且选中的实时任务均未启动运行。 启动实时集成实例: 选择多个未启动的实时集成任务,或单击本页全选后,单击启动正式实例,选择启动实时集成实例。 在批量启动实时集成实例对话框中,配置启动信息。 启动n个实例:展示启动实例的个数及实例名称,多个实例间使用半角逗号(,)分隔。 启动范围:选择增量+全量(仅增全量实时集成任务可用)或仅增量。 全量同步:仅当启动范围选择增量+全量时,支持配置此模块参数。 重跑方式:可选择从初始化或续跑。 内存(非必填):不支持输入小数和负数,最大内存不超过8192MB(8GB)。 限流(非必填):按照数据量大小进行速度限制,不支持输入小数和负数,默认值为10M/s,若为空则不限流。 并发(非必填):用于设置全量任务期望最大的并发数,不支持输入小数和负数,默认值为10 ,若为空则并发数为3。
说明 仅Prod环境可配置调度资源组、内存、限流和并发。 增量同步:仅当启动范围选择仅增量时,支持配置此模块参数。
单击确定,开始启动。
启动实时研发实例: 选择多个未启动的实时研发任务,或单击本页全选后,单击启动正式实例,选择启动实时研发实例。 在批量启动实时研发实例对话框中,配置启动信息。 启动n个实例:展示启动实例的个数及实例名称,多个实例间使用半角逗号(,)分隔。 启动方式:支持无状态启动和从有效的状态启动。 无状态启动:不带任何初始状态启动。 从有效状态启动:从已存在的有效状态启动。
说明 若选中的实例中包含无状态的实例,则批量启动实例时仅支持选择无状态启动。
读取数据时点:设置指定开始时间会让所有支持startTime的来源表(Log Service、Kafka、MySQL、MongoDB、OceanBase)均从该时刻开始读取数据。
说明 SQL作业中的代码参数配置将优先于此指定的开始时间。 业务日期:支持通过配置业务日期对时间变量赋值,时间类型的变量基于业务日期计算,默认为当天。
说明 SQL作业中的代码参数配置将优先于此指定的开始时间。
单击确定,开始启动。
|
修改责任人 | 支持同时修改多个实时任务的责任人。 选择多个实时任务,或单击本页全选后,单击修改责任人。 在修改负责人对话框中,选择新的负责人。 单击确定。
说明 仅支持选择本项目内有运维权限的成员。 仅适用于Prod和Basic项目。
|
实时任务DAG图支持的操作
实时任务在DAG图中支持的运维操作如下:
操作项 | 描述 |
展开父节点 | 展开DAG图中main节点不同层级的依赖节点。 |
展开子节点 |
启动实时实例 | 实时实例的运行需要您单击 手动启动实例,并配置相关启动信息。操作详情,请参见启动实时实例。 |
查看实时实例 | 进入实时实例页面,查看当前实时任务生成的实时实例。 |
查看节点代码 | 查看实时任务节点的代码。 |
查看任务参数 | 查看实时任务节点的任务参数。 |
查看操作日志 | 查看实时任务节点的操作日志。 |
编辑开发节点 | 进入Dev项目下当前任务的编辑页面,编辑该任务。仅适用于Dev-Prod开发模式。 |
编辑节点 | 进入当前任务对应的编辑页面,编辑任务。仅适用于Basic模式。 |
查看生产节点 | 查看Prod项目中当前任务的配置。 |
查看任务参数 | 查看任务的参数。 |
查看拓扑结构 | 查看实时任务的资源组节点和组件节点。 |
修改资源配置 | 修改实时任务运行的资源参数,包括Core、Memory等。
重要 系统仅支持对Prod和Basic项目中的任务修改资源配置。 Fusioninsight Flink引擎不支持修改资源配置。 |