采集数据
3、配置调度属性 通过以下配置实现调度场景下，每日00:15将存储在OSS的 user_log.txt 文件数据通过数据集成同步至MaxCompute的 ods_raw_log_d 表对应时间分区。配置调度参数：bizdate=$bizdate，获取前一天的日期，格式为 yyyymmdd。配置...
任务管理
执行中：调度系统开始调度执行，反馈给到资产治理模块的状态。已终止：暂停后调度系统中反馈实际任务的状态。业务日期：当前任务对应执行元数据、日志的时间。执行日期：任务实际执行的日期。查看任务详情 在任务管理页面，单击需查看任务...
任务管理
执行中：调度系统开始调度执行，反馈给到资产治理模块的状态。已终止：暂停后调度系统中反馈实际任务的状态。业务日期：当前任务对应执行元数据、日志的时间。执行日期：任务实际执行的日期。查看任务详情 在任务管理页面，单击需查看任务...
基本概念
脚本开发的代码无法发布到调度系统，无法进行调度参数配置，仅可以进行部分数据查询分析的工作。资源、函数 MaxCompute引擎使用的资源和函数，详情请参见 资源 和 函数。输出名称 输出名称：每个任务（Task）输出点的名称。它是您在单个...
创建VPN连接
重要 IPsec连接侧和本地数据中心侧配置的预共享密钥需一致，否则系统无法正常建立IPsec连接。加密配置 配置 说明 IKE配置 版本 选择IKE协议的版本。取值：ikev1 ikev2（默认值）目前系统支持IKEv1和IKEv2，相对于IKEv1版本，IKEv2版本简化...
调度周期：年调度
年调度是指调度任务在每年的特定几天，在特定的时间点自动运行一次。例如，调度任务设置为每年一月的最后一天执行。注意事项 在非指定的调度时间内，为保证下游实例正常运行，年调度节点会生成空跑的周期实例。重要 空跑现象：系统直接返回...
最佳实践：集成第三方调度系统
DataWorks的开放平台为您提供OpenEvent、OpenAPI等开放能力，您可通过开放平台将第三方调度系统集成到DataWorks的调度系列中，将三方调度系统的任务嵌入DataWorks的业务流程中。本文以一个示例为您介绍集成第三方调度系统时需要进行的配置...
调度周期：小时调度
小时调度即每天指定的时间段内，调度任务按 N*1小时 的时间间隔运行一次。例如，每天00:00~03:00的时间段内，每1小时运行一次。注意事项 时间周期根据左闭右闭原则计算。例如，配置调度任务在0点~3点的时间段内，每隔1个小时运行一次。表示...
调度周期：周调度
任务调度周期是基于单个任务维度的配置，任务最终是否每天调度与任务本身定义的调度周期有关，与上游节点调度周期无关，但上游节点定义的调度时间将影响下游节点实际开始调度的时间。配置示例 配置路径 您需要进入数据开发节点的编辑页面，...
修复实例操作系统无法启动问题的操作指南
修复流程 通过实例健康诊断修复实例无法启动问题的具体流程如下：步骤一：发起 实例无法连接或启动异常 诊断 重要 在修复实例操作系统无法启动问题时，您可能会修改实例原系统盘的系统配置。为了避免不必要的风险，建议您在诊断前，先对...
调度周期：月调度
任务调度周期是基于单个任务维度的配置，任务最终是否每天调度与任务本身定义的调度周期有关，与上游节点的调度周期无关，但上游节点定义的调度时间将影响下游节点实际开始调度的时间。月调度支持将 指定时间 配置为 每月最后一天，则每...
离线任务调度属性配置
调度属性用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性，配置任务调度周期与生效日期等。本文为您介绍如何配置任务的调度属性。操作步骤 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入离线集成...
离线任务调度属性配置
调度属性用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性，配置任务调度周期与生效日期等。本文为您介绍如何配置任务的调度属性。操作步骤 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入离线集成...
在ACK集群部署多租户任务调度管理
在ACK集群中，企业可以通过AI套件中的任务管理工具Arena、队列调度管理系统Kube Queue、配额管理工具ElasticQuotaTree以及Prometheus监控打造企业级任务调度系统。本文将从实际案例出发自底而上地介绍如何基于ACK集群构建一个任务调度系统...
DCDN节点运维下线说明
节点流量调度：阿里云DCDN节点的运维操作有一套规范的处理流程，对于需要运维的节点，阿里云DCDN的调度系统会在下线节点之前把流量调度到周边正常运行的节点上。异常情况监测：阿里云DCDN节点也可能会因为一些少量的异常情况（例如：运营商...
离线模式调度配置
调度配置用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性，配置任务调度周期与生效日期等。本文为您介绍如何配置流批一体任务的调度配置。操作步骤 请参见 离线模式配置入口，进入实时任务的 离线模式 配置页面。在...
离线模式调度配置
调度配置用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性，配置任务调度周期与生效日期等。本文为您介绍如何配置流批一体任务的调度配置。操作步骤 请参见 离线模式配置入口，进入实时任务的 离线模式 配置页面。在...
概念原理
本文介绍任务调度的概念原理。任务分步 一个简单任务可以拆分成多个执行步骤（step），由不同的执行器（handler）按顺序执行。前置步骤成功完成后才开始执行下一个步骤。例如，“对账”任务的处理步骤是：下载银行的清算文件>根据约定格式...
接入问题
无可用机器（no worker available）问题现象：无可用机器，系统提示no worker available。可能原因：可能为配置错误。解决方案：登录Worker查看SchedulerX的日志，日志路径为/${user.home}/logs/schedulerx/worker.log。如果是admin账号...
实验介绍
步骤 操作内容 阶段性目标 数据采集 通过 DataWorks数据集成 模块，将存储在MySQL中的用户信息数据及存储在OSS中采集的用户访问日志数据同步至MaxCompute，并提交调度系统，结合DataWorks调度参数实现周期性增量同步。学习如下内容：如何将...
常见问题
本文汇总使用SchedulerX过程中的常见问题和对应解决方法。任务管理常见问题 Spring应用找不到Bean怎么办？任务失败，报错“submit jobInstanceId to worker timeout”任务失败，报错“used space ...SchedulerX本地代理无法连接公网怎么办？
配置逻辑表调度属性
逻辑表调度属性用于定义逻辑表任务在调度过程中的调度规则。本文为您介绍如何配置维度或事实逻辑表的调度属性。操作步骤 请参见 数据开发入口，进入数据 开发 页面。按照下图操作指引，选择您需配置调度属性的逻辑表，进入 调度配置 信息...
配置逻辑表调度属性
逻辑表调度属性用于定义逻辑表任务在调度过程中的调度规则。本文为您介绍如何配置维度或事实逻辑表的调度属性。操作步骤 请参见 数据开发入口，进入数据 开发 页面。按照下图操作指引，选择您需配置调度属性的逻辑表，进入 调度配置 信息...
离线同步任务运维
任务调度与管理 离线同步依托DataWorks强大的调度能力，为您实现离线任务的周期性自动调度执行，同时，可以结合DataWorks调度参数，实现增量数据和全量数据写入到目标表对应分区，离线同步任务的运维操作与其他离线调度任务操作一致，支持...
快速体验
步骤 操作内容 阶段性目标 数据采集 通过 DataWorks数据集成 模块，将存储在MySQL中的用户信息数据及存储在OSS中采集的用户访问日志数据同步至MaxCompute，并提交调度系统，结合DataWorks调度参数实现周期性增量同步。学习如下内容：如何将...
基础术语
当数据量很大时，任务调度系统支持在单个执行步骤中把数据拆分成多个分片（data chunk），把一个任务的数据分散到不同的机器上运行。一个数据分片只由一个线程执行。多个数据分片可以在多台机器上调度执行，也可以在一台机器的多个线程上...
索引
SchedulerX本地代理无法连接公网怎么办？OpenAPI问题 接口限流策略是什么?每分可以调用几次?用API创建k8s任务，控制台报错无法打开页面怎么办？支持API创建工作流吗？API触发任务，可以指定单次运行的机器或者Label吗？通过API创建任务成功...
什么是故障演练
故障演练是一款遵循混沌工程实验原理并融合了阿里巴巴内部实践的产品，提供丰富故障场景，能够帮助分布式系统提升容错性和可恢复性。流程 故障演练建立了一套标准的演练流程，包含准备阶段、执行阶段、检查阶段和恢复阶段。通过四阶段的...
配置共享GPU调度节点选卡策略
策略介绍 在共享GPU调度中，如果节点存在多张GPU卡，从节点中挑选GPU卡分配给Pod时，有两种策略可以考虑：Binpack：默认策略，调度系统先分配完节点的一张GPU卡后，再分配节点上另一张GPU卡，避免节点出现GPU资源碎片。Spread：调度系统会...
调度参数配置最佳实践
背景信息 调度参数配置的相关应用场景及最佳实践如下：调度参数配置最佳实践 调度参数在数据集成的典型应用场景 各类型节点的调度参数配置示例：SQL类型节点及离线同步节点 PyODPS节点 通用Shell节点 自定义参数取值差异对比示例：不同格式...
场景：切换调度时区
在创建DataWorks工作空间时，您需要选择工作空间所在地域，默认情况下DataWorks工作空间所在地域对应的时区即为调度时区（即任务定时调度时间所使用的时区）。同时，还支持您切换工作空间的调度时区，本文为您介绍如何切换调度时区。背景...
ack-ai-installer
ack-ai-installer是增强ACK Pro版集群和 ACK Edge集群Pro版 调度能力的Device Plugin（设备插件）的组件集合，支持结合ACK Scheduler（ACK基于Kubernetes Scheduling Framework扩展机制，针对不同任务负载、不同弹性资源的统一调度系统）...
调度参数
由于调度参数仅经过调度系统才能被自动替换，因此，如果您需通过数据开发测试调度参数在调度系统的替换情况，可选择开发环境冒烟测试。说明 由于数据集成任务没有开发环境测试功能，所以如果您需测试该类任务调度参数替换情况，建议新建...
湖仓版作业调度
云原生数据仓库AnalyticDB MySQL版 湖仓版（3.0）的作业调度提供离线SQL应用、Spark应用的复杂任务流功能，具备灵活的ETL数据处理、数据开发等能力。使用流程 前提条件 如果通过阿里云账号（主账号）登录，使用作业调度功能需要满足以下两...
接入问题
无可用机器（no worker available）问题现象：无可用机器，系统提示no worker available。可能原因：可能为配置错误。解决方案：登录Worker查看SchedulerX的日志，日志路径为/${user.home}/logs/schedulerx/worker.log。如果是admin账号...
接入问题
无可用机器（no worker available）问题现象：无可用机器，系统提示no worker available。可能原因：可能为配置错误。解决方案：登录Worker查看SchedulerX的日志，日志路径为/${user.home}/logs/schedulerx/worker.log。如果是admin账号...
常见问题
本文汇总使用SchedulerX过程中的常见问题和对应解决方法。任务管理常见问题 Spring应用找不到Bean怎么办？任务失败，报错“submit jobInstanceId to worker timeout”任务失败，报错“used space ...SchedulerX本地代理无法连接公网怎么办？
时间属性配置说明
实例生成方式 节点提交发布生产环境调度系统时，调度节点会根据您配置的 实例生成方式 生成自动调度的 周期实例，无论哪种方式发布调度任务至生产环境，都可在运维中心的 周期任务 界面看到任务的最新依赖情况。但自动调度的 周期实例 何时...
常见问题
本文汇总使用SchedulerX过程中的常见问题和对应解决方法。任务管理常见问题 Spring应用找不到Bean怎么办？任务失败，报错“submit jobInstanceId to worker timeout”任务失败，报错“used space ...SchedulerX本地代理无法连接公网怎么办？
负载均衡调度算法介绍
新增后端服务器时可能导致新服务器瞬间压力过大：如果存量的连接数过大，当有新的服务器加入时，大量的新建连接会被调度到新加入的服务器上，可能会导致新服务器瞬间压力过大影响系统稳定性。适用场景 服务器性能差异较大：当服务器的性能...
- 产品推荐
- 这些文档可能帮助您