HTTP触发器节点

其他调度系统的触发配置 在外部调度系统中进行触发配置时,您可以通过以下三种方式:Java方式、Python方式或API调用方式。Java方式 安装Java SDK,详情可参见 开始使用。其中,DataWorks的SDK请用下面的pom配置。groupId>...

任务管理

执行中:调度系统开始调度执行,反馈给到资产治理模块的状态。已终止:暂停后调度系统中反馈实际任务的状态。业务日期:当前任务对应执行元数据、日志的时间。执行日期:任务实际执行的日期。查看任务详情 在任务管理页面,单击需查看任务...

任务管理

执行中:调度系统开始调度执行,反馈给到资产治理模块的状态。已终止:暂停后调度系统中反馈实际任务的状态。业务日期:当前任务对应执行元数据、日志的时间。执行日期:任务实际执行的日期。查看任务详情 在任务管理页面,单击需查看任务...

调度周期:年调度

调度是指调度任务在每年的特定几天,在特定的时间点自动运行一次。例如,调度任务设置为每年一月的最后一天执行。注意事项 在非指定的调度时间内,为保证下游实例正常运行,年调度节点会生成空跑的周期实例。重要 空跑现象:系统直接返回...

最佳实践:集成第三方调度系统

DataWorks的开放平台为您提供OpenEvent、OpenAPI等开放能力,您可通过开放平台将第三方调度系统集成到DataWorks的调度系列中,将三方调度系统的任务嵌入DataWorks的业务流程中。本文以一个示例为您介绍集成第三方调度系统时需要进行的配置...

调度周期:小时调度

小时调度即每天指定的时间段内,调度任务按 N*1小时 的时间间隔运行一次。例如,每天00:00~03:00的时间段内,每1小时运行一次。注意事项 时间周期根据左闭右闭原则计算。例如,配置调度任务在0点~3点的时间段内,每隔1个小时运行一次。表示...

调度周期:周调度

任务调度周期是基于单个任务维度的配置,任务最终是否每天调度与任务本身定义的调度周期有关,与上游节点调度周期无关,但上游节点定义的调度时间将影响下游节点实际开始调度的时间。配置示例 配置路径 您需要进入数据开发节点的编辑页面,...

什么是阿里云CDN

链路质量系统 链路质量探测系统会实时监测缓存系统中的所有节点和链路的实时负载以及健康状况,并将结果反馈给调度系统调度系统根据用户请求中携带的IP地址解析用户的运营商和区域归属,然后综合链路质量信息为用户分配一个最佳接入节点...

调度周期:月调度

任务调度周期是基于单个任务维度的配置,任务最终是否每天调度与任务本身定义的调度周期有关,与上游节点的调度周期无关,但上游节点定义的调度时间将影响下游节点实际开始调度的时间。月调度支持将 指定时间 配置为 每月最后一天,则每...

离线任务调度属性配置

调度属性用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性,配置任务调度周期与生效日期等。本文为您介绍如何配置任务的调度属性。操作步骤 在Dataphin首页,单击顶部菜单栏的 研发。按照下图操作指引,进入离线集成...

离线任务调度属性配置

调度属性用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性,配置任务调度周期与生效日期等。本文为您介绍如何配置任务的调度属性。操作步骤 在Dataphin首页,单击顶部菜单栏的 研发。按照下图操作指引,进入离线集成...

配置离线管道调度

调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。本文为您介绍如何配置周期性离线管道调度配置。背景信息 依赖关系是两个或多个节点之间的语义连接关系,同时上游节点的状态将影响其他下游节点的运行状态。配置了...

配置离线管道调度

调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。本文为您介绍如何配置周期性离线管道调度配置。背景信息 依赖关系是两个或多个节点之间的语义连接关系,同时上游节点的状态将影响其他下游节点的运行状态。配置了...

调度周期:日调度

调度详情 调度系统会自动为任务生成实例并运行,各业务数据加工时间如下图所示。说明 调度节点执行需要满足如下条件:上游任务执行成功。节点的定时运行时间已到。任何一个条件不满足,调度节点都无法执行,并且两个条件没有先后顺序。默认...

配置任务调度

本文以配置任务write_result的调度周期为周调度为例,为您介绍如何设置DataWorks的调度属性和依赖属性。前提条件 已创建虚拟节点(start)和ODPS SQL节点(insert_data,详情请参见 创建业务流程。已创建同步节点 write_result 生成的同步...

概念原理

本文介绍任务调度的概念原理。任务分步 一个简单任务可以拆分成多个执行步骤(step),由不同的执行器(handler)按顺序执行。前置步骤成功完成后才开始执行下一个步骤。例如,“对账”任务的处理步骤是:下载银行的清算文件>根据约定格式...

实验介绍

步骤 操作内容 阶段性目标 数据采集 通过 DataWorks数据集成 模块,将存储在MySQL中的用户信息数据及存储在OSS中采集的用户访问日志数据同步至MaxCompute,并提交调度系统,结合DataWorks调度参数实现周期性增量同步。学习如下内容:如何将...

配置逻辑表调度属性

逻辑表调度属性用于定义逻辑表任务在调度过程中的调度规则。本文为您介绍如何配置维度或事实逻辑表的调度属性。操作步骤 请参见 数据开发入口,进入数据 开发 页面。按照下图操作指引,选择您需配置调度属性的逻辑表,进入 调度配置 信息...

配置逻辑表调度属性

逻辑表调度属性用于定义逻辑表任务在调度过程中的调度规则。本文为您介绍如何配置维度或事实逻辑表的调度属性。操作步骤 请参见 数据开发入口,进入数据 开发 页面。按照下图操作指引,选择您需配置调度属性的逻辑表,进入 调度配置 信息...

离线同步任务运维

任务调度与管理 离线同步依托DataWorks强大的调度能力,为您实现离线任务的周期性自动调度执行,同时,可以结合DataWorks调度参数,实现增量数据和全量数据写入到目标表对应分区,离线同步任务的运维操作与其他离线调度任务操作一致,支持...

基础术语

当数据量很大时,任务调度系统支持在单个执行步骤中把数据拆分成多个分片(data chunk),把一个任务的数据分散到不同的机器上运行。一个数据分片只由一个线程执行。多个数据分片可以在多台机器上调度执行,也可以在一台机器的多个线程上...

工作流编辑

配置工作流调度 您可以打开工作流调度配置面板,配置工作流调度参数,调度系统会按照参数定时运行相关工作流,并将作业下发到指定集群上执行。以下介绍如何配置工作流的基本属性、调度属性和告警设置。进入数据开发的项目列表页面。通过...

周期任务基本运维操作

周期任务是指在调度系统按照调度配置周期性自动调度的任务。您可以在 运维中心>周期任务 列表查看指定工作空间下的周期任务,并对任务进行运维操作,包括自动调度和手动运行周期任务、查看任务运行详情、暂停任务、下线任务等。本文为您...

共享GPU调度概述

关于如何安装和使用共享GPU调度,请参考:安装共享GPU调度组件 运行共享GPU调度示例 除此以外,还有一些进阶能力,您可以根据业务需求选择:通过共享GPU调度实现多卡共享 通过共享GPU调度实现算力分配 配置共享GPU调度节点选卡策略 配置...

什么是故障演练

故障演练是一款遵循混沌工程实验原理并融合了阿里巴巴内部实践的产品,提供丰富故障场景,能够帮助分布式系统提升容错性和可恢复性。流程 故障演练建立了一套标准的演练流程,包含准备阶段、执行阶段、检查阶段和恢复阶段。通过四阶段的...

配置共享GPU调度节点选卡策略

策略介绍 在共享GPU调度中,如果节点存在多张GPU卡,从节点中挑选GPU卡分配给Pod时,有两种策略可以考虑:Binpack:默认策略,调度系统先分配完节点的一张GPU卡后,再分配节点上另一张GPU卡,避免节点出现GPU资源碎片。Spread:调度系统会...

调度参数配置最佳实践

背景信息 调度参数配置的相关应用场景及最佳实践如下:调度参数配置最佳实践 调度参数在数据集成的典型应用场景 各类型节点的调度参数配置示例:SQL类型节点及离线同步节点 PyODPS节点 通用Shell节点 自定义参数取值差异对比示例:不同格式...

场景:切换调度时区

在创建DataWorks工作空间时,您需要选择工作空间所在地域,默认情况下DataWorks工作空间所在地域对应的时区即为调度时区(即任务定时调度时间所使用的时区)。同时,还支持您切换工作空间的调度时区,本文为您介绍如何切换调度时区。背景...

调度DLA Spark任务

DLA Serverless Spark目前支持DataWorks和DMS编排调度任务,同时也提供自定义SDK和Spark-Submit工具包供用户自定义编排调度。本文将介绍如何使用DMS来编排调度Spark任务。前提条件 您已开通DMS服务。您已开通云原生数据湖分析服务,详情请...

ack-ai-installer

ack-ai-installer是增强ACK Pro版集群和 ACK Edge集群Pro版 调度能力的Device Plugin(设备插件)的组件集合,支持结合ACK Scheduler(ACK基于Kubernetes Scheduling Framework扩展机制,针对不同任务负载、不同弹性资源的统一调度系统)...

公共调度资源组计费说明:按量付费

DataWorks为您提供公共调度资源组用于任务调度运行。公共调度资源组的计费方式为按量计费,本文为您介绍公共调度资源组的按量计费详情。背景信息 概念介绍 公共调度资源组是DataWorks提供的公共资源组的一种,计费方式为按量计费。所有阿里...

调度参数

由于调度参数仅经过调度系统才能被自动替换,因此,如果您需通过数据开发测试调度参数在调度系统的替换情况,可选择开发环境冒烟测试。说明 由于数据集成任务没有开发环境测试功能,所以如果您需测试该类任务调度参数替换情况,建议新建...

湖仓版作业调度

云原生数据仓库AnalyticDB MySQL版 湖仓版(3.0)的作业调度提供离线SQL应用、Spark应用的复杂任务流功能,具备灵活的ETL数据处理、数据开发等能力。使用流程 前提条件 如果通过阿里云账号(主账号)登录,使用作业调度功能需要满足以下两...

工作流使用案例

配置工作流调度 您可以打开工作流调度开关并配置工作流调度参数,调度系统会按照参数定时运行相关工作流,并将作业下发到指定集群上执行。以下介绍配置工作流的基本属性、调度属性和告警设置。完成工作流设计后,单机画布右上角 配置 按钮...

PAI-TF概述

PAI-TF的作业都是基于底层的分布式调度系统动态调度至不同机器。当您提交PAI-TF作业时,无需担心是否需要提前申请GPU物理主机,PAI-TF所需要的GPU资源随作业的提交动态分配,随作业的结束动态释放。全局计算调度 当您在使用MaxCompute计算...

时间属性配置说明

实例生成方式 节点提交发布生产环境调度系统时,调度节点会根据您配置的 实例生成方式 生成自动调度的 周期实例,无论哪种方式发布调度任务至生产环境,都可在运维中心的 周期任务 界面看到任务的最新依赖情况。但自动调度的 周期实例 何时...

什么是SCDN

精准调度 百万级别调度:阿里云自主研发的智能调度系统,单机支持百万级别域名调度。可控可拓展:更加优异的可控性、协议扩展性,进一步降低成本。多级调度:支持多级的调度策略,节点故障不会造成用户服务不可用。多系统联动:和阿里云...

查看并管理周期任务

周期任务是指调度系统按照调度配置自动定时运行的任务。您可以在 运维中心>周期任务 页面查看当前工作空间下的定时调度的任务列表及生产环境调度任务配置详情,并管理周期任务。背景信息 周期任务的创建、发布、运行、暂停调度、下线等任务...

周期任务通用运维概述

周期任务是指调度系统按照调度配置自动定时运行的任务。本文为您介绍周期的脚本任务、明细及汇总表(维度逻辑表、事实逻辑表、汇总逻辑表)任务的通用功能,包括使用说明,支持的调度类型和相关功能说明。使用说明 仅生产环境运维中心支持...

周期任务通用运维概述

周期任务是指调度系统按照调度配置自动定时运行的任务。本文为您介绍周期的脚本任务、明细及汇总表(维度逻辑表、事实逻辑表、汇总逻辑表)任务的通用功能,包括使用说明,支持的调度类型和相关功能说明。使用说明 仅生产环境运维中心支持...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
音视频通信 边缘网络加速 云解析DNS 短信服务 物联网无线连接服务 弹性公网IP
新人特惠 爆款特惠 最新活动 免费试用