配置跨库Spark SQL节点
name，trade_date,COUNT(*)cnt,SUM(amt)amt FROM mysql_db.sales t1 JOIN oracle_db.users t2 ON t1.emp_id=t2.id WHERE t1.trade_date=${bizdate} GROUP BY t2.dept_name 功能特性 跨库数据处理：支持使用SQL语句操作不同数据库中的数据，...
空库初始化
数据管理DMS 的空库初始化功能支持将源数据库的表结构同步至空数据库中（数据库中不存在任何表），实现快速同步数据库表结构，适用部署多区域、多单元的数据库环境。前提条件 支持的数据库类型如下：MySQL：RDS MySQL、PolarDB MySQL版、...
概述
OceanBase MySQL模式、OceanBase Oracle模式、自建OceanBase PolarDB PostgreSQL版（兼容Oracle）Oracle 达梦数据库 DB2 NoSQL：Lindorm 数据仓库：AnalyticDB MySQL版 AnalyticDB PostgreSQL版 DLA MaxCompute Hologres 对象存储：OSS ...
API概览
DescribeSynDbTables 查看同步数据库与表 查看同步数据库与表。DeleteSyndb 删除同步任务 删除同步db。DescribeTransferHistory 查看迁移记录 查看迁移记录。TransferVersion 迁移版本 迁移版本。CreateServiceLinkedRole 创建服务关联角色...
仓库同步
针对从其他平台导入至 Codeup 的代码库，支持快速触发三方源代码仓库数据的同步，在代码迁移阶段可以帮助企业循序渐进地将业务从旧系统迁移至云效Codeup。当企业切换代码平台的过程中，为了降低对日常业务的干扰，可以先迁移一部分敏感度低...
SQL命令管理数据库
删除数据库 执行如下命令，删除数据库：DROP DATABASE[TestDb]需注意，若您在删除数据库前没有对该数据库进行过任何备份，系统会返回如下提示信息：DROP DATABASE[TestDb]-Kindly reminder:your database[TestDb]does not exist any backup...
从PolarDB MySQL版同步到Kafka
数据库账号 填入 PolarDB MySQL版 集群的数据库账号，需要具备待同步数据库的读权限。数据库密码 填入该数据库账号的密码。目标实例信息 实例类型 根据Kafka集群的部署位置选择，本文以 ECS上的自建数据库 为例介绍配置流程。说明 当选择为...
数据上云场景
数据库数据同步 数据库的数据同步到MaxCompute需要根据数据库的类型和同步策略来选择相应的工具。离线批量的数据库数据同步：可以选择DataWorks，支持的数据库种类丰富，包括MySQL、SQL Server、PostgreSQL等，详情请参见 通过向导模式配置...
从PolarDB MySQL版同步到Kafka
数据库账号 填入 PolarDB MySQL版 集群的数据库账号，需要具备待同步数据库的读权限。数据库密码 填入该数据库账号的密码。目标实例信息 实例类型 根据Kafka集群的部署位置选择，本文以 ECS上的自建数据库 为例介绍配置流程。说明 当选择为...
从RDS同步至自建Kafka集群
通过数据传输服务DTS（Data Transmission Service），您可以将 RDS MySQL 或RDS MySQL Serverless 的数据库同步至自建Kafka集群，扩展消息处理能力。前提条件 Kafka集群的版本为0.10.1.0~2.7.0版本。已创建 RDS MySQL实例 或 Serverless...
用户权限说明
OceanBase 数据库 MySQL 租户作为源端的权限说明 OceanBase 数据库 MySQL 租户作为源端时，迁移/同步用户需要如下权限：目标端为 Kafka、DataHub 和 RocketMQ 等消息队列类型时，需要对源端待同步数据库具备 SELECT 权限。目标端为 MySQL ...
DescribeSynDbTables-查看同步数据库与表
查看同步数据库与表。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 类型 必填 描述 示例值 ...
ModifyDatabaseConfig-修改数据库属性
rds_update_db_stats 1 否 所有版本适用 更新数据库中的统计信息，底层使用 SQL Server 自带存储过程 sp_updatestats。rds_rebuild_db_index 1 否 所有版本适用 重新数据库中的所有碎片率大于 50%的非聚集索引，需要满足下述条件：数据库...
ModifyDatabaseConfig-修改数据库属性
rds_update_db_stats 1 否 所有版本适用 更新数据库中的统计信息，底层使用 SQL Server 自带存储过程 sp_updatestats。rds_rebuild_db_index 1 否 所有版本适用 重新数据库中的所有碎片率大于 50%的非聚集索引，需要满足下述条件：数据库...
通过整库迁移配置集成任务
离线整库迁移可用于将本地数据中心或在ECS上自建的数据库同步数据至大数据计算服务，包括MaxCompute、Hive、TDH Inceptor等数据源。本文为您介绍如何新建并配置整库迁移任务。前提条件 已完成所需迁移的数据源创建。整库迁移支持MySQL、...
功能特性
创建同步Fc 同步OSS 同步Datahub中的数据至OSS指定的文件对象中 创建同步OSS 同步TableStore 同步Datahub中的数据至TableStore指定的具体表中 创建同步TableStore 同步数据库 同步Datahub中的数据至RDS/MySQL/ADS3.0指定的具体表中 创建...
独享数据集成资源组
性能指标 规格 离线同步最大并发线程数 4c8g 8 8c16g 16 12c24g 24 16c32g 32 24c48g 48 规格 单任务建议需要的资源规格 MySQL来源实时同步数据库数1 4c8g MySQL来源实时同步数据库数[2-5]8c16g MySQL来源实时同步数据库数6以上 12c24g ...
通过整库迁移配置集成任务
离线整库迁移可用于将本地数据中心或在ECS上自建的数据库同步数据至大数据计算服务，包括MaxCompute、Hive、TDH Inceptor等数据源。本文为您介绍如何新建并配置整库迁移任务。前提条件 已完成所需迁移的数据源创建。整库迁移支持MySQL、...
JDBC数据源
指定同步数据库 以下参数和指定同步数据库有关：only_specified_database：在通过JDBC连接时可以指定连接到哪个Database或Schema。如：MySQL的 jdbc_url 中可以指定Database，PostgreSQL的 jdbc_url 中可以指定currentSchema。include_...
一键升级RDS MySQL X-Engine至PolarDB MySQL版
如为增量同步任务，DTS要求源数据库的本地Binlog日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的本地Binlog日志至少保留7天以上（您可在全量同步完成后将Binlog保存时间设置为24小时以上），否则DTS可能因无法获取...
接入 Android
reportMsgReceived(SyncMessage syncMessag)用于在 syncCallback 实现类中收到数据后，调用该接口通知数据同步服务端接收同步数据成功。在没有收到 reportMsgReceived 前，数据同步会重试投递，重试 6 次之后数据会被永久删除。isConnected...
数据同步概述
背景说明 如果您是在 2020年4月之后 购买的Dataphin，则数据同步能力通过数据集成功能实现（即系统 不再提供数据同步的功能入口）。数据集成为您提供简单高效、安全可靠的数据同步平台。更多信息，请参见 数据集成概述。重要 因数据同步...
数据同步概述
背景说明 如果您是在 2020年4月之后 购买的Dataphin，则数据同步能力通过数据集成功能实现（即系统 不再提供数据同步的功能入口）。数据集成为您提供简单高效、安全可靠的数据同步平台。更多信息，请参见 数据集成概述。重要 因数据同步...
配置匹配规则
数据同步项目中，仅 OceanBase 数据库 MySQL 租户至 AnalyticDB MySQL、RDS PostgreSQL 实例至 OceanBase 数据库 Oracle 租户 和 OceanBase 数据库 MySQL 租户之间的数据同步 支持通过配置通配规则的方式选择同步对象。在 选择迁移对象 ...
MongoDB 3.4（已停止新购）
使用MongoDB工具将自建数据库迁移至副本集实例 使用MongoDB工具将自建数据库迁移至分片集群实例 使用NimoShake工具将Amazon DynamoDB数据库迁移至阿里云数据库MongoDB 使用MongoDB工具将MongoDB Atlas数据库迁移至阿里云数据库MongoDB 使用...
使用DTS迁移单节点架构的自建MongoDB数据库上云
支持document的新增、删除和更新操作的同步。数据库账号的权限要求 迁移数据源 全量数据迁移 自建MongoDB数据库 待迁移库的read权限 阿里云MongoDB数据库 目标库的readWrite权限 数据库账号创建及授权方法：自建MongoDB数据库请参见 ...
MySQL实例间的双向同步
同步源数据库 同步目的数据库 RDS MySQL实例 ECS上的自建数据库 通过专线、VPN网关或智能网关接入的自建数据库 通过数据库网关接入的自建数据库 通过云企业网CEN接入的自建数据库 RDS MySQL实例 ECS上的自建数据库 通过专线、VPN网关或智能...
云数据库MongoDB版同步至云原生多模数据库Lindorm
数据传输服务DTS（Data Transmission Service）支持将MongoDB（副本集架构或分片集群架构）同步至云原生多模数据库Lindorm（宽表引擎）。Lindorm具有稳定、低成本、简单易用等优势，可以在元数据、订单、账单、画像、社交等场景中，为您...
更改 Topic
适用场景 创建数据库至消息队列的数据同步项目时，数据传输支持您在选择需要同步的 Topic 类型后，通过 更改 Topic 功能重新选择 Topic 名称。操作步骤 将数据同步项目配置至 选择同步对象 步骤。详情请参见相应类型的 数据同步 项目文档。...
数据表管理
当物理表中有“更新时间列”，若数据库中更新时间列中的数据有更新，系统自动同步更新元数据。编辑表格 重要 当前 仅支持对有关表格中表头字段的编辑配置，不支持在控制台中直接编辑表格中具体单元格中的数值。从本地上传的表格和从编辑从...
离线同步任务调优
本文为您介绍影响数据同步速度的因素、如何通过调整同步任务的并发配置来实现同步速度最大化、作业的限速选项，以及数据同步过慢的场景。文档概述 同步速度受同步任务本身配置、数据库、网络等多方面影响，详情请参见：数据同步速度的影响...
如何迁移到DBFS？
一般存在以下几种常用的方式：主备同步：搭建主备库，通过binary log同步数据到自建于DBFS上的数据库。DTS：使用阿里云产品DTS，将数据迁移到自建于DBFS上的数据库。备份恢复：通过备份的方式，将数据库恢复到DBFS上，拉起数据库，同步最新...
调转双向同步实例方向
在业务场景需要进行主备数据库切换或双云切换时，您可以轻松地调整已有双向同步实例的方向，而无需重新配置实例。背景信息 DTS为了保障双向同步实例的稳定性，仅支持当前正向任务的DDL操作同步到目标库，当前反向任务的DDL操作不会被同步。...
场景：调度参数在数据集成的典型应用场景
场景一：同步增量数据 重要 数据集成任务配置过程中，支持在数据过滤相关参数中使用调度参数，实现增量同步，同时您需要配置满足数据库的语法。增量同步详情请参见：场景：配置增量数据离线同步任务。示例1：将LogHub每十分钟内的增量数据...
云数据库MongoDB版（副本集架构）同步至云数据库...
源数据库 目标数据库 云数据库MongoDB版（副本集架构）云数据库MongoDB版（副本集架构、分片集群架构）ECS上的自建MongoDB数据库（副本集架构）ECS上的自建MongoDB数据库（副本集架构、分片集群架构）通过专线、VPN网关或智能网关接入的自...
DescribeSynDbs-查看同步db
7655F5F9-1313-5ABA-8516-F6EB79605A5F SynDbs object[]同步数据。RdsId string 云数据库 RDS MySQL 的实例 ID。rm-wz9d11qg1j0h4*SynDb string 云数据库 RDS MySQL 的数据库。database SynStatus boolean 同步是否成功，取值说明：true：...
MongoDB（无分片键）同步至MongoDB（分片集群架构）
说明 不支持增量同步在任务开始运行后新建的数据库，支持同步的增量更新如下：CREATE COLLECTION、INDEX DROP DATABASE、COLLECTION、INDEX RENAME COLLECTION 在集合中插入、更新、删除文档的操作。数据库账号的权限要求 数据库 所需权限 ...
云数据库MongoDB版（副本集架构）间的双向同步
数据传输服务DTS（Data Transmission Service）支持 云数据库MongoDB版（副本集架构）间的双向同步。前提条件 已创建源和目标 云数据库MongoDB版（副本集架构）实例，创建方式，请参见 创建副本集实例。重要 支持的版本，请参见 同步方案...
云数据库MongoDB版（分片集群架构）间的双向同步
数据传输服务DTS（Data Transmission Service）支持 云数据库MongoDB版（分片集群架构）间的双向同步，适用于异地多活（单元化）、数据异地容灾等多种应用场景。本文介绍双向数据同步的配置步骤。前提条件 已创建源和目标 云数据库MongoDB...
云数据库MongoDB版（副本集架构）同步至云数据库...
源数据库 目标数据库 云数据库MongoDB版（副本集架构）云数据库MongoDB版（副本集架构、分片集群架构）ECS上的自建MongoDB数据库（副本集架构）ECS上的自建MongoDB数据库（副本集架构、分片集群架构）通过专线、VPN网关或智能网关接入的自...
- 产品推荐
- 这些文档可能帮助您