在ACK集群部署多租户任务调度管理

在ACK集群中,企业可以通过AI套件中的任务管理工具Arena、队列调度管理系统Kube Queue、配额管理工具ElasticQuotaTree以及Prometheus监控打造企业级任务调度系统。本文将从实际案例出发自底而上地介绍如何基于ACK集群构建一个任务调度系统...

OSS数据离线同步至MaxCompute

带参运行 可以针对任务配置中使用调度系统参数进行替换。提交和发布任务 试运行没有问题后,您可以保存离线节点的配置,并提交发布至运维中心,后续离线同步任务将会周期性(分钟或小时或天)将OSS的数据写入MaxCompute的表中。提交发布...

OSS数据离线同步至MaxCompute

带参运行 可以针对任务配置中使用调度系统参数进行替换。提交和发布任务 试运行没有问题后,您可以保存离线节点的配置,并提交发布至运维中心,后续离线同步任务将会周期性(分钟或小时或天)将OSS的数据写入MaxCompute的表中。提交发布...

调度周期:年调度

调度是指调度任务在每年的特定几天,在特定的时间点自动运行一次。例如,调度任务设置为每年一月的最后一天执行。注意事项 在非指定的调度时间内,为保证下游实例正常运行,年调度节点会生成空跑的周期实例。重要 空跑现象:系统直接返回...

离线任务调度属性配置

调度属性用于定义节点在生产环境的周期调度方式。...因使用 或 运算,所有条件中任意一个条件为真(True)时,结果为真,则该条件调度被满足,系统将根据配置的 执行调度 类型进行暂停调度。预览调度运行计划如下图所示:

离线任务调度属性配置

调度属性用于定义节点在生产环境的周期调度方式。...因使用 或 运算,所有条件中任意一个条件为真(True)时,结果为真,则该条件调度被满足,系统将根据配置的 执行调度 类型进行暂停调度。预览调度运行计划如下图所示:

配置离线管道调度

调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。本文为您介绍如何配置周期性离线管道调度配置。背景信息 依赖关系是两个或多个节点之间的语义连接关系,同时上游节点的状态将影响其他下游节点的运行状态。配置了...

配置离线管道调度

调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。本文为您介绍如何配置周期性离线管道调度配置。背景信息 依赖关系是两个或多个节点之间的语义连接关系,同时上游节点的状态将影响其他下游节点的运行状态。配置了...

调度周期:周调度

任务调度周期是基于单个任务维度的配置,任务最终是否每天调度与任务本身定义的调度周期有关,与上游节点调度周期无关,但上游节点定义的调度时间将影响下游节点实际开始调度的时间。配置示例 配置路径 您需要进入数据开发节点的编辑页面,...

任务管理

执行中:调度系统开始调度执行,反馈给到资产治理模块的状态。已终止:暂停后调度系统中反馈实际任务的状态。业务日期:当前任务对应执行元数据、日志的时间。执行日期:任务实际执行的日期。查看任务详情 在任务管理页面,单击需查看任务...

任务管理

执行中:调度系统开始调度执行,反馈给到资产治理模块的状态。已终止:暂停后调度系统中反馈实际任务的状态。业务日期:当前任务对应执行元数据、日志的时间。执行日期:任务实际执行的日期。查看任务详情 在任务管理页面,单击需查看任务...

共享GPU调度概述

关于如何安装和使用共享GPU调度,请参考:安装共享GPU调度组件 运行共享GPU调度示例 除此以外,还有一些进阶能力,您可以根据业务需求选择:通过共享GPU调度实现多卡共享 通过共享GPU调度实现算力分配 配置共享GPU调度节点选卡策略 配置...

调度周期:月调度

任务调度周期是基于单个任务维度的配置,任务最终是否每天调度与任务本身定义的调度周期有关,与上游节点的调度周期无关,但上游节点定义的调度时间将影响下游节点实际开始调度的时间。月调度支持将 指定时间 配置为 每月最后一天,则每...

基本概念

完成提交后,相应的代码、调度配置全部合并至调度系统中,调度系统根据相关配置进行调度操作。说明 未提交的节点任务、业务流程不会进入调度系统。脚本开发(Script)脚本开发是提供给数据分析使用的一个代码存储空间。脚本开发的代码无法...

FTP Check节点

该节点通常作为DataWorks调度系统与其他调度系统之间传递信号使用。本文为您介绍使用FTP Check节点的流程和注意事项。前提条件 已创建FTP数据源。已创建好业务流程,详情请参见 创建业务流程。背景信息 FTP Check节点的典型应用场景:当...

调度周期:小时调度

小时调度即每天指定的时间段内,调度任务按 N*1小时 的时间间隔运行一次。例如,每天00:00~03:00的时间段内,每1小时运行一次。注意事项 时间周期根据左闭右闭原则计算。例如,配置调度任务在0点~3点的时间段内,每隔1个小时运行一次。表示...

调度概述

ACK Scheduler是ACK基于Kubernetes Scheduling Framework扩展机制,针对不同任务负载、不同弹性资源的统一调度系统。ACK Scheduler支持不同弹性资源的混合调度、异构资源的精细化调度、批量计算的任务调度等,提升应用的性能和集群整体资源...

任务调度属性配置概述

若任务需要周期性调度运行,您需定义该任务的调度相关属性,包括调度周期、调度依赖、调度参数等。本文为您介绍调度配置的相关内容。前提条件 已创建节点。DataWorks基于节点进行任务开发,不同类型的引擎任务在DataWorks上被封装为不同...

最佳实践:集成第三方调度系统

DataWorks的开放平台为您提供OpenEvent、OpenAPI等开放能力,您可通过开放平台将第三方调度系统集成到DataWorks的调度系列中,将三方调度系统的任务嵌入DataWorks的业务流程中。本文以一个示例为您介绍集成第三方调度系统时需要进行的配置...

场景:配置增量数据离线同步任务

同时,过滤条件可以结合调度参数使用,实现过滤条件随任务调度时间的动态变化,进而实现增量数据的同步。该内容将向您介绍如何配置增量数据同步任务。使用说明 部分数据源暂无增量同步方案,例如HBase、OTSStream数据源等。具体数据源是否...

调度中心

本文介绍调度中心功能的具体使用流程,帮助您快速掌握创建、查看及使用调度组。功能简介 调度中心功能可以帮助您实现对迁移任务的自动调度,支持将迁移任务加入调度组,并按照您自定义的调度规则自动执行迁移任务。通常,使用调度中心您...

场景:切换调度时区

在创建DataWorks工作空间时,您需要选择工作空间所在地域,默认情况下DataWorks工作空间所在地域对应的时区即为调度时区(即任务定时调度时间所使用的时区)。同时,还支持您切换工作空间的调度时区,本文为您介绍如何切换调度时区。背景...

修改定时调度

前提条件 成功创建定时调度 使用控制台修改定时调度 登录 Serverless工作流控制台。在左侧导航栏,单击 流程。在流程列表中单击目标流程的流程名称。单击 定时调度 页签。单击目标定时调度的名称。在 修改定时调度 区域,修改相关参数,...

配置并使用调度参数

调度参数是根据任务调度的业务时间及调度参数的取值格式自动替换为具体的值,实现在任务调度时间内参数的动态替换。本文为您介绍如何配置及使用调度参数,并以ODPS SQL节点为例,讲解调度参数配置完成后使用冒烟测试功能测试调度参数的替换...

ack-ai-installer

ack-ai-installer是增强ACK Pro版集群和 ACK Edge集群Pro版 调度能力的Device Plugin(设备插件)的组件集合,支持结合ACK Scheduler(ACK基于Kubernetes Scheduling Framework扩展机制,针对不同任务负载、不同弹性资源的统一调度系统)...

删除定时调度

本文介绍如何使用控制台或命令行工具删除定时调度。前提条件 成功创建定时调度 使用控制台删除定时调度 登录 Serverless工作流控制台。在左侧导航栏,单击 流程。在流程列表中单击目标流程的流程名称。在目标流程的 流程 页面,单击 定时...

配置逻辑表调度属性

逻辑表调度属性用于定义逻辑表任务在调度过程中的调度规则。本文为您介绍如何配置维度或事实逻辑表的调度属性。操作步骤 请参见 数据开发入口,进入数据 开发 页面。按照下图操作指引,选择您需配置调度属性的逻辑表,进入 调度配置 信息...

配置逻辑表调度属性

逻辑表调度属性用于定义逻辑表任务在调度过程中的调度规则。本文为您介绍如何配置维度或事实逻辑表的调度属性。操作步骤 请参见 数据开发入口,进入数据 开发 页面。按照下图操作指引,选择您需配置调度属性的逻辑表,进入 调度配置 信息...

周期性调度作业概述

如果您希望周期性运行MaxCompute作业,可使用DataWorks的DataStudio开发周期性MaxCompute作业,并配置周期性调度的时间属性、调度依赖等配置项,将作业整体提交至DataWorks的运维中心进行周期性调度。本文为您概要介绍当前使用DataWorks...

离线模式调度配置

调度配置用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性,配置任务调度周期与生效日期等。本文为您介绍如何配置流批一体任务的调度配置。操作步骤 请参见 离线模式配置入口,进入实时任务的 离线模式 配置页面。在...

离线模式调度配置

调度配置用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性,配置任务调度周期与生效日期等。本文为您介绍如何配置流批一体任务的调度配置。操作步骤 请参见 离线模式配置入口,进入实时任务的 离线模式 配置页面。在...

调度参数配置最佳实践

背景信息 调度参数配置的相关应用场景及最佳实践如下:调度参数配置最佳实践 调度参数在数据集成的典型应用场景 各类型节点的调度参数配置示例:SQL类型节点及离线同步节点 PyODPS节点 通用Shell节点 自定义参数取值差异对比示例:不同格式...

配置任务调度

本文以配置任务write_result的调度周期为周调度为例,为您介绍如何设置DataWorks的调度属性和依赖属性。前提条件 已创建虚拟节点(start)和ODPS SQL节点(insert_data,详情请参见 创建业务流程。已创建同步节点 write_result 生成的同步...

调度配置

调度配置是配置节点在调度过程中的调度规则及依赖关系。本文为您介绍如何进行同步任务的调度配置。前提条件 已完成同步任务的配置,详情请参见 配置同步任务。背景信息 系统仅支持周期性节点的同步任务进行调度配置。依赖关系是两个或多个...

调度配置

调度配置是配置节点在调度过程中的调度规则及依赖关系。本文为您介绍如何进行同步任务的调度配置。前提条件 已完成同步任务的配置,详情请参见 配置同步任务。背景信息 系统仅支持周期性节点的同步任务进行调度配置。依赖关系是两个或多个...

调度周期:日调度

调度调度节点每天在指定的定时时间运行一次。新建周期任务时,默认调度时间是在 00:00~00:30 时间段随机生成。您可根据需要自行指定运行时间点。例如,指定每天13点运行一次。配置示例 配置路径 您需要进入数据开发节点的编辑页面,...

时间属性配置说明

说明 您可在图示位置定义单个任务调度属性,支持您通过 批量操作 功能批量修改任务调度属性,例如批量修改任务调度时间,批量修改任务使用调度资源组等。时间属性包含的配置类别如下表所示。类别 描述 实例生成方式 用于定义节点在生产...

产品简介

移动调度中心(Mobile Dispatch Center,MDC)是基于客户端...灵活管理系统配置开关 系统配置开关用于管控组件域名是否使用移动调度中心获取解析结果,默认开启,开启后组件域名直接使用移动调度中心获取,无需 Local DNS 解析,高效防劫持。

使用调度器自定义参数

int[0,100]0 开启共享 GPU 插件的打分功能,开启后同一台机器上的多个任务将优先使用同一张卡 在使用共享GPU能力(共享GPU调度需要开通AI套件使用)时,调度GPU Pod时优先选择显存申请量及算力申请量更高的GPU bool false true true Pod ...

创建CDH Hive节点

开发SQL代码:使用调度参数 DataWorks提供 调度参数,可实现调度场景下代码动态入参,您可在节点中通过${变量名} 的方式定义代码中的变量,并在 调度配置>参数 处,为该变量赋值。调度参数支持的格式,详情请参见 调度参数支持的格式。...
共有114条 < 1 2 3 4 ... 114 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
批量计算 音视频通信 视觉计算服务 弹性公网IP 短信服务 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用