入仓解决方案
入仓解决方案可添加和运行多个实时同步任务、实时迁移任务，实现全量或近实时增量迁移和集成数据，用于满足项目空间内业务场景的数据迁移和集成需求。根据所需的同步效率、同步数据量需求，创建入仓解决方案同步线上库数据。入仓解决方案...
UDF（嵌入式）
背景信息 您可以通过MaxCompute的代码嵌入式UDF解决以下代码实现过程繁琐，且不方便阅读和维护的问题：创建UDF并完成代码开发后，您还需要完成代码编译（Java）、创建资源和创建函数操作，过程比较繁琐。SQL脚本中如果包含UDF，您无法直接...
查看并管理实时任务
实时任务批量操作 实时任务在实时任务页面支持的运维操作如下：操作 描述 启动正式实例 支持同时启动运行多个实时实例。说明 仅适用于Prod和Basic项目，且选中的实时任务均未启动运行。批量启动正式实例不支持实时集成任务。勾选多个 未...
查看并管理实时任务
实时任务批量操作 实时任务在实时任务页面支持的运维操作如下：操作 描述 启动正式实例 支持同时启动运行多个实时实例。说明 仅适用于Prod和Basic项目，且选中的实时任务均未启动运行。批量启动正式实例不支持实时集成任务。勾选多个 未...
任务拓扑相关问题
问题原因 任务拓扑本身可以通过 CRON 表达式或者事件触发，但可以加入拓扑的任务节点必须符合以下要求：触发方式为事件触发 通信方式为 CALLBACK 任务节点为简单任务、集群任务或其它拓扑任务 解决方案 修改待加入拓扑的任务的触发方式或...
实时同步任务延迟解决方案
确认造成延迟问题在同步任务的读端还是写端 如果是在DataStudio创建的实时同步任务，您需要在 运维中心>实时任务运维>实时同步任务 界面单击运行中的任务名称，弹出任务运行详情对话框。详情请参见 实时同步任务运行与管理。在任务运行详情...
实时同步任务运维
Worker列表是指实时任务启动的实例，非分布式任务只有一个Worker，分布式任务根据并发数会有多个Worker。Task列表是指一个Worker内部的线程任务，分为Reader类型和Writer类型，根据配置的并发数会有1个到多个的Reader任务和1个到多个的...
数据传输作业：数据集成
同步解决方案 实际业务场景下，数据同步通常不能通过一个或多个简单离线同步或者实时同步任务完成，而是由多个离线同步、实时同步和数据处理等任务组合完成，这就会导致数据同步场景下的配置复杂度非常高。为了解决上述问题，DataWorks提出...
概述
AliOS Things操作系统内核特性如下：可抢占式/协作式任务调度 多任务管理 软件定时器 任务间通信机制包括信号量、互斥量、队列、事件 内存管理 时间功能 随机数 系统信息 系统初始化 工作队列 版权信息 说明 Apache license v2.0 目录结构...
实时同步常见问题
实时同步Oracle、PolarDB、MySQL常见问题 实时同步Oracle、PolarDB、MySQL任务重复报错 报错信息与解决方案 报错信息与解决方案 实时同步Kafka数据报错：Startup mode for the consumer set to timestampOffset,but no begin timestamp was...
一键MaxCompute任务出错恢复
查看实时任务日志，若报错信息为 InternalServerError、Exception when calling callable.Exception Msg:Read timed out 错误提示（例如图中报错），表示Tunnel服务端出现了问题，请联系MaxCompute值班同学排查，问题解决后，重启实时任务...
上线实时任务
前提条件 已新增实时任务，具体操作，请参见 新增实时任务、新增多表实时任务。操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组，单击 资产加工。在左侧导航栏，单击 ...
上线实时任务
前提条件 已新增实时任务，具体操作，请参见 新增实时任务、新增多表实时任务。操作步骤 登录企业数据智能平台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组，单击 资产加工。在左侧导航栏，单击 图标，...
新增多表实时任务
数据同步支持实时任务新增多表任务，并支持一键启动多个上云任务，实现全量任务自动建表。本文介绍如何新增多表实时任务。前提条件 已新建Oracle和DataHub数据源，请参见 新建数据源。说明 当前仅支持Oracle LogMiner（11G）到DataHub多表...
新增多表实时任务
数据同步支持实时任务新增多表任务，并支持一键启动多个上云任务，实现全量任务自动建表。本文介绍如何新增多表实时任务。前提条件 已新建Oracle和DataHub数据源，请参见 新建数据源。说明 当前仅支持Oracle LogMiner（11G）到DataHub多表...
产品相关问题
解决大规模分布式任务统一调度的问题，助力企业能够更加迅速地满足业务需求。典型的应用场景包括金融行业结息处理、日切处理、余额缓冲记账、政务数据批处理等。任务调度支持哪些任务类型？任务调度支持的基本任务类型包括：简单任务、集群...
trace
SystemView 不但可以实时分析和展示数据，而且可以帮助用户进行系统调试和问题诊断，尤其是在开发和处理具有多个任务的复杂系统时。SystemView 由两个部分组成：SystemView 嵌入式端程序：用于记录嵌入式系统的行为，通过实时传输（Real ...
TerminateDISyncInstance
下线数据集成实时同步任务。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 ...
GenerateDISyncTaskConfigForUpdating
DataWorks目前仅支持直接使用 UpdateDISyncTask 接口更新数据集成离线同步任务，而数据集成实时同步任务和解决方案同步任务则需要先调用GenerateDISyncTaskConfigForUpdating和 QueryDISyncTaskConfigProcessResult 接口，异步生成更新数据...
异地多活常见问题
本文介绍异地多活的常见问题以及解决方案。微服务在多活场景下如何解决？消息在多活场景下如何解决？Redis等缓存在多活场景下怎么解决？分布式调度任务在多活场景下如何解决的？MSHA数据面的性能指标是怎样的？是否做好入口流量分发和数据...
DataStudio侧实时同步任务配置
避免混跑带来资源互相抢占、运行态互相影响等问题，例如，CPU、内存、网络等互相影响，导致离线同步任务突然变慢、实时同步任务延迟、以及在资源不足的极端情况下可能会出现任务被OOM Killer杀掉等问题。步骤三：配置实时同步任务 配置单表...
常见问题
本文为您介绍数据集成任务常见问题。资源组操作及网络连通 在做离线同步时，我们需要先了解哪些DataWorks及其网络能力？同步ECS自建的数据库的数据时，如何保障数据库与DataWorks的网络连通？数据库和DataWorks不在同一个地域（Region）下...
实时同步能力说明
DataWorks为您提供的实时数据同步功能，方便您使用单表或整库同步方式，将源端数据库中部分或全部表的数据变化实时同步至目标数据库中，实现目标库实时保持和源库的数据对应。使用限制 实时同步不支持在数据开发界面运行任务，您需要保存、...
全增量同步任务运维
强制重跑 在某些特殊情况下，例如发现源端数据被污染、数据链路出现问题等，您可以单击 操作 列 更多>强制重跑 强制对源端所有表进行全增量初始化操作，将源端数据重新迁移到目标表中，以快速恢复数据。说明 仅Hologres和MaxCompute支持...
任务触发与执行问题
任务执行超时 问题现象 出现 TIMEOUT 错误。问题原因 客户端处理超时。解决方法 查看超时时间是否配置太小。建议根据任务的实际执行情况设置合理的超时时间。查看客户端错误日志 common-error.log。自定义参数不存在 问题现象 出现 javax....
新建实时计算模板
实时计算模板指进行实时数据研发过程中实时计算任务开发所提供的模板，可提高研发效率。本文为您介绍如何新建及管理实时计算模板。应用场景 基本场景下，实时计算任务需24小时不间断运行，以保证数据产出的实效性。在该要求下实时任务的...
新建实时计算模板
实时计算模板指进行实时数据研发过程中实时计算任务开发所提供的模板，可提高研发效率。本文为您介绍如何新建及管理实时计算模板。应用场景 基本场景下，实时计算任务需24小时不间断运行，以保证数据产出的实效性。在该要求下实时任务的...
实时模式时间参数配置
为了规避在 任务参数 处经常漏掉配置 stat_date，您只需要在实时任务配置的属性配置中新增 stat_date 的 kv 配置，其中 Value 是一个基于业务时间的表达式，同时您也可以配置多个时间参数，使用半角分号;分割。例如：stat_date=${yyyyMMdd-...
实时模式时间参数配置
为了规避在 任务参数 处经常漏掉配置 stat_date，您只需要在实时任务配置的属性配置中新增 stat_date 的 kv 配置，其中 Value 是一个基于业务时间的表达式，同时您也可以配置多个时间参数，使用半角分号;分割。例如：stat_date=${yyyyMMdd-...
Java应用监控和诊断方案
在这个应用场景案例中，我们采用基于ARMS的应用监控方案来解决分布式Java应用监控中的业务痛点。互联网业务的高速发展带来了日益增长的流量压力，业务逻辑也日趋复杂，传统的单机应用已经无法满足需求。越来越多的网站逐渐采用了分布式部署...
DeployDISyncTask
调用DeployDISyncTask接口，发布实时同步任务和同步解决方案任务。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 ...
运维中心概述
运维中心包括运维大屏、实时任务运维、周期任务运维、手动任务运维、智能监控、智能诊断、资源运维和引擎运维功能模块，为您提供任务操作与状态、引擎、资源等多方位的运维能力。运维中心功能模块 当您在DataStudio中完成节点开发，并提交...
配置迁移演练
操作系统迁移 关键参数说明如下表所示，其他参数可保持默认。更多信息，请参见 创建服务器迁移任务。参数 说明 迁移任务类型 选中 操作系统迁移。当前操作系统 默认显示当前操作系统，不可修改。例如：CentOS 7。目标操作系统 在下拉列表中...
基础术语
中文 英文 释义 简单...使用任务分片可以缩短任务执行时间，同时也可以解决单机计算能力上限的问题，并降低部分任务失败对整体系统的影响。Cron 表达式 Cron expression 固定格式的字符串，用来指定一个时间点或者一个重复触发的时间间隔。
采集-IoT/嵌入式日志
传统软件领域的嵌入式开发模式在IoT设备领域的应用遇到了很多挑战，IoT设备数目多、分布广，难以调试且硬件受限，传统的设备日志解决方案无法完美满足需求。日志服务团队结合IoT设备的特点，为IoT设备量身定制一套日志数据采集方案：C ...
智能媒体服务的审计事件
智能媒体服务已与操作审计服务集成，您可以在操作审计中查询用户操作智能媒体服务产生的管控事件。操作审计支持将管控事件投递到日志服务SLS的LogStore或对象存储OSS的存储空间中，满足实时审计、问题回溯分析等需求。操作审计记录了用户...
运维中心概述
实时实例生成逻辑 当实时任务被提交或发布至 运维中心 后，您可以在 运维中心的实时任务列表 对实时任务进行启动、修改资源配置等相关操作。在Basic模式和Dev-Prod模式的Prod环境下，实时任务提交后将自动生成实时实例，自动生成的实例为未...
导出实时日志（公测中）
创建实时日志导出任务 操作步骤如下：登录 mPaaS 控制台，在应用列表页面选择目标应用。在左侧导航栏中，选择 移动分析>日志管理 菜单。在右侧页面上，进入 实时日志导出 标签页，单击 创建任务，在弹出的任务创建窗口中配置任务信息。各...
全增量实时同步至Hologres
例如，CPU、内存、网络等互相影响，可能会导致离线任务变慢或实时任务延迟等问题，甚至在资源不足的极端情况下，可能会出现任务被OOM KILLER杀掉等问题。步骤九：执行同步解决方案任务 进入 数据集成>同步任务 界面，找到已创建的同步方案...
常见问题
以下为您介绍实时同步数据至 AnalyticDB for MySQL 3.0操作失败的常见问题和解决方案。PolarDB数据源网络联通性测试失败怎么办？MySQL数据源网络联通性测试失败怎么办？实时任务，运行报错：...
- 产品推荐
- 这些文档可能帮助您