CreateDIJob
当目标端为已有表：数据集成系统不会修改目标端表结构，如果指定的主键列不在目标端的列集合中，任务启动会报错提示。当目标端为自动建表：数据集成系统会自动创建目标端表结构，表结构包含定义的主键列。当指定的主键列不在目标端的列集合...
应用场景
解决方案：数据融合：通过数据引入功能，将业务系统数据集成、融合一体，统一基础数据。数据建模：通过规范建模功能，结合业务发展需求，自顶向下设计标准的数据模型，统一公共数据。数据生产：基于建模后系统代码自动化托管生产功能，快速...
离线同步日志分析
调度系统会将任务下发至数据集成资源组上执行，您可在区域①查看当前任务运行使用的数据集成资源组。不同类型资源组日志打印不同：任务运行在默认的资源组上，日志中会出现如下信息。running in Pipeline[basecommon_group_xxxxxxxxx]任务...
功能发布记录（2022年）
2022.7.29 华东1（杭州），华东2（上海），华北2（北京），华北3（张家口），华南1（深圳），西南1（成都），德国（法兰克福）所有DataWorks用户 系统管理 数据集成DataStudio智能 支持Postgres数据库，SSL认证时支持.crt 和.key 双文件...
产品概述
数据采集：采集设备实时数据，集成信息系统业务数据 提供标准化设备数据接入流程，快速采集设备数据 广泛设备协议接入能力，支持OPC、Modbus和多种三方驱动协议 支持API、WebService、消息队列、FTP文件多种业务数据集成方式 根据业务规则...
Salesforce数据源
DataWorks数据集成支持读取Salesforce类型的数据源，本文为您介绍Salesforce的使用详情。支持的字段类型 字段类型 脚本模式数据类型 address STRING anyType STRING base64 BYTES boolean BOOL combobox STRING complexvalue STRING ...
功能发布记录（2023年）
2023.12.22 所有地域 所有DataWorks用户 配置检查项 新增适配StarRocks数据源 DataWorks全面适配StarRocks数据源：数据集成：支持同步StarRocks数据。数据开发：支持创建StarRocks任务并周期性调度。数据分析：支持查询并分析StarRocks数据...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
管理数据集成任务
完成数据集成任务的配置后，您可以停止、恢复或删除该数据集成任务。前提条件 已创建数据集成任务，相关案例请参见 配置RDS MySQL间的数据集成任务。背景信息 数据集成任务支持的管理操作及对应的影响请参见下表。操作 影响 停止数据集成...
审计经典网络数据库实例
在经典网络的ECS上手动安装数据库审计系统的Agent程序。如果ECS为Linux系统，具体请参见 Linux系统部署Agent 中 下载Agent手动安装 操作。如果ECS为Windows系统，具体请参见 Windows系统部署Agent。验证是否成功部署Agent程序。登录数据库...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
公共数据集成（调试）资源组
本文为您介绍公共数据集成（调试）资源组相关问题。公共数据集成（调试）资源组怎么收费？公共数据集成（调试）资源组支持哪些类型的任务？公共数据集成（调试）资源组支持哪些网络类型？公共数据集成（调试）资源组的性能限制 公共数据...
通过操作审计查询行为事件日志
DIBatchDeleteAlarmRule 运维中心数据集成批量删除告警规则 DIUpdateAlarmRule 运维中心数据集成修改告警规则 DISaveSolution 数据集成主站新建或修改保存解决方案 DIDeleteSolution 数据集成主站删除解决方案 DIStartSolution 数据集成主...
收费常见问题
本文为您介绍数据集成收费相关问题及解决方案。数据集成是怎么收费的？数据集成收费包含三种途径，详情请参见 独享数据集成资源组计费说明：包年包月、公共数据集成（调试）资源组：按量计费、公网流量计费说明。
查看历史任务
数据集成任务会在每个调度时间点生成一个数据迁移任务，通过DTS控制台您可以查看所有已经运行完成的数据迁移任务，了解该任务的执行情况。前提条件 已创建数据集成任务，相关案例请参见 配置RDS MySQL间的数据集成任务。操作步骤 登录 数据...
DataWorks公共数据集成（调试）资源组下线公告
已经配置了DataWorks公共数据集成资源组的任务可继续正常运行，但不能对这些任务进行修改，若您需修改这些任务，请于 2024年4月1日 前切换为 DataWorks独享数据集成资源组。2024年9月1日 起，DataWorks公共数据集成资源组不再提供服务，...
配置监控报警
数据集成任务提供了监控报警功能，您可以通过控制台对重要的监控指标设置报警规则，让您第一时间了解该任务的运行状态。前提条件 已创建数据集成任务，相关案例请参见 配置RDS MySQL间的数据集成任务。背景信息 DTS目前支持的监控项为 延迟...
1.1.6版本
新功能发布 数字工厂 1）主数据功能 可自定义查询属性 增加元数据定义复制功能 增加系统管理员主数据清理功能 2）边缘数据集成 增加脚本智能提示和补全功能 增加日期类函数 3）增加工业应用集成页面和所属权限的层级关系声明和角色授权功能...
数据引入概述
背景信息 如果您是在 2020年4月之后 购买的Dataphin，则数据同步能力通过数据集成功能实现（即系统 不再提供数据同步的功能入口）。数据集成为您提供简单高效、安全可靠的数据同步平台。数据集成支持通过整库迁移（快速生成批量同步任务）...
数据引入概述
背景信息 如果您是在 2020年4月之后 购买的Dataphin，则数据同步能力通过数据集成功能实现（即系统 不再提供数据同步的功能入口）。数据集成为您提供简单高效、安全可靠的数据同步平台。数据集成支持通过整库迁移（快速生成批量同步任务）...
独享资源组
切换数据集成任务开发环境测试运行时使用数据集成任务执行资源组：在数据开发界面打开离线同步任务，选择右侧的 数据集成资源组配置。说明 如果生产环境执行也需要使用该资源组，请修改资源组后进行节点提交发布操作。切换生产调度运行时...
数据传输作业：数据集成
MaxCompute支持通过DataWorks数据集成功能将其他数据源数据同步至MaxCompute，数据集成作业主要有三种类型：离线同步、实时同步、同步解决方案。本文为您介绍MaxCompute数据集成的实现方案。离线同步 离线（批量）的数据通道通过定义数据...
附录：ECS自建数据库的安全组配置
添加安全组 进行ECS自建数据源的数据同步时，如果同步任务运行在：独享数据集成资源组上 需要将独享数据集成资源组的EIP地址段或独享数据集成资源组绑定的交换机网段添加至ECS安全组上。通过外网同步数据时，需获取并添加独享资源组本身的...
修改调度策略
对于已经配置完成的数据集成任务，如果由于业务需求变更需要重新调整调度策略，您可以参照本文的方法修改调度策略。前提条件 已创建数据集成任务，相关案例请参见 配置RDS MySQL间的数据集成任务。操作步骤 登录 数据传输控制台。在左侧...
通过数据集成导入导出MongoDB数据
数据集成DataWorks是稳定高效、弹性伸缩的数据同步平台，为阿里云大数据计算引擎（MaxCompute、AnalyticDB和OSS等）提供离线、批量数据的进出通道。本文介绍如何通过数据集成导入导出MongoDB数据。关于通过数据集成导入导出MongoDB数据的...
应用场景
典型使用场景——批量管理 DAS提供企业级数据库管理服务，贴近业务管理视角，支持全局、应用组、实例的多种管理维度，并且提供了自定义大盘、批量管理、巡检等企业级能力，同时支持与企业原有数据库管理系统集成。典型使用场景——智能诊断...
DataWorks资源组概述
任务同一个执行阶段可选择不同类型的资源组，例如，离线任务调度可选择包年包月独享调度资源组，或按量付费公共调度资源组，数据集成离线任务执行可选择包年包月独享数据集成资源组，关于资源组选择详情请参见 资源组选择。DataWorks的公共...
配置资源组与网络连通
在数据同步任务配置前，您需要确保用于执行同步任务的独享数据集成资源组与您将要同步的数据来源端与目的端数据库的网络连通性，您可以根据数据库所在网络环境，选择合适的网络解决方案来实现网络连通。本文为您介绍数据库在不同网络环境中...
数据源概述
在配置数据集成同步任务之前，您需要首先定义好同步任务的源端和目的端数据源信息，以便在配置同步任务时，能够通过选择数据源名称来确定数据的读取和写入数据库。本文将介绍配置数据源时您需要了解的相关信息。数据源功能概述 配置数据源...
使用数据集成迁移数据到AnalyticDB MySQL 2.0
数据集成是阿里集团对外提供的稳定高效、弹性伸缩的数据同步平台，致力于提供复杂网络环境下、丰富的异构数据源之间数据高速稳定的数据移动及同步能力。支持的数据源类型 数据集成提供丰富的数据源支持，如下所示：文本存储（FTP/SFTP/OSS/...
通过DataWorks导入数据
前提条件 已购买合适规格的独享数据集成资源组。详情请参见：新增和使用独享数据集成资源组。已完成数据集成资源组与数据源的网络连通。详情请参见：配置资源组与网络连通。已完成数据源环境准备。您可以基于您需要进行的同步配置，在同步...
能力介绍
基于数据总线的应用间数据集成方案。数据集成介绍 数据集成标准化的目标是规范应用之间数据的传递方式和表达方式。传递方式：即应用之间的数据如何流通。平台提供了对数据进行增删改查的4个API，以及HTTP2方式的消息订阅机制。表达方式：即...
通过DataWorks导入数据
前提条件 已购买合适规格的独享数据集成资源组。详情请参见：新增和使用独享数据集成资源组。已完成数据集成资源组与数据源的网络连通。详情请参见：配置资源组与网络连通。操作步骤 配置同步的源端数据库读插件。具体操作，请参见 Kafka ...
专有网络VPC的数据源连通独享数据集成资源组
本文以阿里云RDS数据库为例，为您介绍专有网络VPC的数据源如何连通独享数据集成资源组。前提条件 购买RDS MySQL实例。本文以购买MySQL 5.7版本的MySQL实例为例，您可以根据业务需求进行配置。详情请参见 快速创建RDS MySQL实例。在目标实例...
数据集成审批策略
数据集成审批策略支持管理员从DataWorks空间级别为数据集成任务的保存操作定义审批策略。本文为您介绍如何创建数据集成审批策略。背景信息 支持管理员按 源端、目的端 数据源的组合来定义需要被审批的数据集成任务，包括：在数据集成或数据...
通过DataWorks导入数据
您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。同步任务支持的数据源及其配置详情请参见 支持的数据源及同步方案。说明 数据...
通过DataWorks导入数据
您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。离线同步支持的数据源及其配置详情请参见 支持的数据源与读写插件。说明 数据...
使用公共资源组
开通DataWorks时，DataWorks自动为您提供公共资源组（包括公共调度资源组、公共数据集成（调试）资源组、公共数据服务资源组），可用于数据开发、运行测试等操作。公共资源组被多个租户共享，高峰期租户间可能会存在抢占资源的情况。本文为...
通用参考：按量付费转包年包月
任务类型 所用资源组 资源组介绍及计费说明 调度任务 公共调度资源组 使用公共资源组 公共调度资源组计费说明：按量付费 数据集成任务 公共数据集成（调试）资源组 使用公共资源组 公共数据集成（调试）资源组：按量计费 调用数据服务API ...
使用DataWorks（离线与实时）
MaxCompute支持通过DataWorks的 数据集成 功能将其他数据源的数据以离线或实时方式导入MaxCompute，也支持将部分类型的本地文件数据导入MaxCompute。本文为您介绍使用DataWorks将数据导入MaxCompute的主要操作流程与注意事项。前提条件 已...
- 产品推荐
- 这些文档可能帮助您