同步MySQL实例数据至DuckDB分析主实例_云数据库 RDS(RDS)-阿里云帮助中心

RDS DuckDB分析主实例支持列式存储、即时编译、向量化执行、高效的内存管理和并行处理等能力，相比InnoDB引擎，复杂查询性能提升百倍。通过数据传输服务DTS（Data Transmission Service），您可以将RDS MySQL的数据库结构和数据同步到RDS DuckDB分析主实例，快速构建企业BI、交互查询和实时报表系统。

适用范围

已创建目标RDS DuckDB分析主实例，详情请参见创建DuckDB分析主实例。
确保目标RDS DuckDB分析主实例的存储空间大于源端数据库已使用的存储空间。

注意事项

RDS MySQL中待同步的数据表必须具备主键。
DTS在执行全量数据初始化时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升，建议您在业务低峰期执行数据同步（例如源库和目标库的CPU负载在30%以下）。
请勿在数据同步时，对源库的同步对象使用gh-ost或pt-online-schema-change等类似工具执行在线DDL变更，否则会导致同步失败。
由于RDS DuckDB分析主实例的使用限制，当集群中的节点磁盘空间使用量超过80%，该集群将被锁定。请提前预估待同步对象所需的空间，确保目标集群具备充足的存储空间。
暂不支持同步前缀索引，如果源库存在前缀索引可能导致数据同步失败。
若DTS任务运行时目标RDS DuckDB分析主实例处于备份中的状态，则会导致任务失败。
暂不支持RDS DuckDB分析主实例作为数据源进行数据同步。
若DML语句包含LIMIT、非确定性函数（如 UUID()）或 XA 事务时，属于复制不安全（Unsafe）操作，可能导致主备数据不一致，同步至 DuckDB 主实例时应避免使用。

费用说明

同步类型	链路配置费用
库表结构同步和全量数据同步	不收费。
增量数据同步	收费，详情请参见计费概述。

源库支持的实例类型

执行数据同步操作的源MySQL数据库支持以下实例类型：

RDS MySQL或RDS MySQL Serverless
ECS上的自建数据库
本地自建数据库

本文以RDS MySQL为例介绍配置流程，当源数据库为自建MySQL数据库时，配置流程与该案例类似。

说明

如果您的源数据库为自建MySQL数据库，您还需要执行相应的准备工作，详情请参见准备工作概览。

支持同步的SQL操作

DDL操作：CREATE TABLE、DROP TABLE、RENAME TABLE、TRUNCATE TABLE、ADD COLUMN、DROP COLUMN、MODIFY COLUMN
DML操作：INSERT、UPDATE、DELETE

说明

不支持在 UPDATE 或 DELETE 语句中指定 ORDER BY 和 LIMIT。
如果在数据同步的过程中变更了源表的字段类型，同步作业将报错并中断。您可以参照文末的方法来手动修复，详情请参见修复因变更字段类型导致的同步失败。

数据库账号的权限要求

数据库	所需权限
RDS MySQL	推荐使用高权限账号，如果是普通账号，需要具备REPLICATION CLIENT、REPLICATION SLAVE、SHOW VIEW和所有同步对象的SELECT权限。
RDS DuckDB分析主实例	推荐使用高权限账号，如果是普通账号，需要具备READ和WRITE权限。

操作步骤

登录数据传输服务控制台，在左边菜单栏中，选择数据同步，在顶部导航栏中选择地域。
在数据同步页面中，单击创建任务，进行同步任务的创建。

在创建同步任务 > 源库及目标库配置页面，配置同步任务的源库信息及目标库信息。

源实例信息

配置	说明
数据库类型	关系型数据库 > MySQL
接入方式	云实例
实例地区	购买数据同步实例时选择的源实例地域信息，不可变更。
是否跨阿里云账号	不跨账号
实例ID	选择源RDS实例ID。
数据库账号	填入源RDS的数据库账号，权限要求请参见数据库账号的权限要求。
数据库密码	填入该数据库账号对应的密码。
连接方式	根据需求选择非加密连接或SSL安全连接。如果设置为SSL安全连接，您需要提前开启RDS实例的SSL加密功能，详情请参见设置SSL加密。

目标实例信息

配置	说明
数据库类型	关系型数据库 > MySQL
接入方式	云实例
实例地区	购买数据同步实例时选择的目标实例地域信息，不可变更。
是否跨阿里云账号	不跨账号说明 DTS 同步任务支持跨地域数据同步迁移，本方案按照架构所示以相同地域同 VPC 内数据同步为例为您介绍构建数据一致性，更多数据同步信息请参考同步方案概览。
RDS实例ID	DuckDB的实例ID
数据库账号	填入RDS DuckDB分析主实例的数据库账号，权限要求请参见数据库账号的权限要求。
数据库密码	填入该数据库账号对应的密码。
连接方式	根据需求选择非加密连接或SSL安全连接。如果设置为SSL安全连接，您需要提前开启RDS实例的SSL加密功能，详情请参见设置SSL加密。

单击测试连接以进行下一步。
在DTS 服务器访问授权弹框中，单击测试连接。

配置任务对象。

在对象配置页面，配置待同步的对象。

配置	说明
同步类型	如果只需要进行全量同步，建议同时选中库表结构同步和全量同步。如果需要进行不停机同步，建议同时选中库表结构同步、全量同步和增量同步。说明若未选中库表结构同步，请确保目标库中存在接收数据的数据库和表，并根据实际情况，在已选择对象框中使用库表列名映射功能。若未选中增量同步，为保障数据一致性，数据同步期间请勿在源实例中写入新的数据。
源库触发器迁移方式	请根据实际情况选择迁移触发器的方式，若您待迁移的对象不涉及触发器，则无需配置。更多信息，请参见配置同步或迁移触发器的方式。说明仅当同步类型选择了库表结构同步时才可以配置。
开启迁移评估	评估源库和目标库的结构（如索引长度、存储过程、依赖的表等）是否满足要求，您可以根据实际情况选择是或者否。说明仅当同步类型选择了库表结构同步时才可以配置。若选择是，则可能会增加预检查时间。您可以在预检查阶段查看评估结果，评估结果不影响预检查结果。
同步拓扑	选择单向同步。
目标已存在表的处理模式	预检查并报错拦截：检查目标数据库中是否有同名的表。如果目标数据库中没有同名的表，则通过该检查项目；如果目标数据库中有同名的表，则在预检查阶段提示错误，数据同步任务不会被启动。说明如果目标库中同名的表不方便删除或重命名，您可以更改该表在目标库中的名称，请参见库表列名映射。忽略报错并继续执行：跳过目标数据库中是否有同名表的检查项。警告选择为忽略报错并继续执行，可能导致数据不一致，给业务带来风险，例如：表结构一致的情况下，在目标库遇到与源库主键的值相同的记录：全量期间，DTS会保留目标集群中的该条记录，即源库中的该条记录不会迁移至目标数据库中。增量期间，DTS不会保留目标集群中的该条记录，即源库中的该条记录会覆盖至目标数据库中。表结构不一致的情况下，可能导致只能同步部分列的数据或同步失败，请谨慎操作。
是否迁移 Event	请根据实际情况选择是否迁移源库中的事件（Event）。若您选择是，则还需遵循相关要求并进行后续操作。更多信息，请参见同步或迁移事件。
目标库对象名称大小写策略	您可以配置目标实例中同步对象的库名、表名和列名的英文大小写策略。默认情况下选择DTS默认策略，您也可以选择与源库、目标库默认策略保持一致。更多信息，请参见目标库对象名称大小写策略。
源库对象	在源库对象框中选择待同步对象，然后单击将其移动至已选择对象框。说明同步对象选择的粒度为库、表、列。若选择的同步对象为表或列，其他对象（如视图、触发器、存储过程）不会被同步至目标库。
已选择对象	如需更改单个同步对象在目标实例中的名称，请右击已选择对象中的同步对象，设置方式，请参见库表列名映射。如需批量更改同步对象在目标实例中的名称，请单击已选择对象方框右上方的批量编辑，设置方式，请参见库表列名映射。说明如需按库或表级别选择同步的SQL操作，请在已选择对象中右击待同步对象，并在弹出的对话框中选择所需同步的SQL操作。如需设置WHERE条件过滤数据，请在已选择对象中右击待同步的表，在弹出的对话框中设置过滤条件。设置方法请参见设置过滤条件。

单击下一步高级配置，进行高级参数配置。

本示例保持默认配置，无需手动配置，您也可以根据实际情况进行配置。

配置说明

配置	说明
选择调度该任务的专属集群	DTS默认将任务调度到共享集群上，您无需选择。若您希望任务更加稳定，可以购买专属集群来运行DTS同步任务。更多信息，请参见什么是DTS专属集群。
复制源表Online DDL工具执行过程的临时表到目标库	若源库使用数据管理DMS或gh-ost执行Online DDL变更，您可以选择是否同步Online DDL变更产生的临时表数据。重要 DTS任务暂不支持使用pt-online-schema-change等类似工具执行Online DDL变更，否则会导致DTS任务失败。是：同步Online DDL变更产生的临时表数据。说明 Online DDL变更产生的临时表数据过大，可能会导致同步任务延迟。否，适配DMS Online DDL：不同步Online DDL变更产生的临时表数据，只同步源库使用数据管理DMS执行的原始DDL语句。说明该方案会导致目标库锁表。否，适配gh-ost：不同步Online DDL变更产生的临时表数据，只同步源库使用gh-ost执行的原始DDL语句，同时您可以使用默认的或者自行配置gh-ost影子表和无用表的正则表达式。说明该方案会导致目标库锁表。
是否迁移账号	请根据实际情况选择是否同步源库的账号信息。若您选择是，您还需要选择待同步的账号并确认账号权限。授权方式等信息，请参见迁移数据库账号。
源库、目标库无法连接后的重试时间	在同步任务启动后，若源库或目标库连接失败则DTS会报错，并会立即进行持续的重试连接，默认持续重试时间为720分钟，您也可以在取值范围（10~1440分钟）内自定义重试时间，建议设置30分钟以上。如果DTS在设置的重试时间内重新连接上源库、目标库，同步任务将自动恢复。否则，同步任务将会失败。说明针对同源或者同目标的多个DTS实例，如DTS实例A和DTS实例B，设置网络重试时间时A设置30分钟，B设置60分钟，则重试时间以低的30分钟为准。由于连接重试期间，DTS将收取任务运行费用，建议您根据业务需要自定义重试时间，或者在源和目标库实例释放后尽快释放DTS实例。
源库、目标库出现其他问题后的重试时间	在同步任务启动后，若源库或目标库出现非连接性的其他问题（如DDL或DML执行异常），则DTS会报错并会立即进行持续的重试操作，默认持续重试时间为10分钟，您也可以在取值范围（1~1440分钟）内自定义重试时间，建议设置10分钟以上。如果DTS在设置的重试时间内相关操作执行成功，同步任务将自动恢复。否则，同步任务将会失败。重要源库、目标库出现其他问题后的重试时间的值需要小于源库、目标库无法连接后的重试时间的值。
是否限制全量迁移速率	在全量同步阶段，DTS将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升。您可以根据实际情况，选择是否对全量同步任务进行限速设置（设置每秒查询源库的速率QPS、每秒全量迁移的行数RPS和每秒全量迁移的数据量(MB)BPS），以缓解目标库的压力。说明仅当同步类型选择了全量同步时才可以配置。
是否限制增量同步速率	您也可以根据实际情况，选择是否对增量同步任务进行限速设置（设置每秒增量同步的行数RPS和每秒增量同步的数据量(MB)BPS），以缓解目标库的压力。
是否去除正反向任务的心跳表sql	根据业务需求选择是否在DTS实例运行时，在源库中写入心跳SQL信息。是：不在源库中写入心跳SQL信息，DTS实例可能会显示有延迟。否：在源库中写入心跳SQL信息，可能会影响源库的物理备份和克隆等功能。
环境标签	您可以根据实际情况，选择用于标识实例的环境标签。
场景标签	您可以根据实际情况，选择用于标识实例的使用场景。
配置ETL功能	选择是否配置ETL功能。关于ETL的更多信息，请参见什么是ETL。是：配置ETL功能，并在文本框中填写数据处理语句，详情请参见在DTS迁移或同步任务中配置ETL。否：不配置ETL功能。
敏感数据扫描与脱敏	开启敏感数据扫描与脱敏功能，对传输的数据进行敏感信息识别和处理。

单击下一步数据校验，进行数据校验任务配置。

若您需要使用数据校验功能，请按需勾选数据校验方式，其他参数保持默认配置即可，您也可以根据实际情况进行配置，配置方法请参见配置数据校验。

说明

如勾选结构校验，由于历史兼容性原因，即使结构已同步完成，校验过程仍可能提示“数据不一致”错误。该提示为非实质性告警，不影响实际同步结果。为避免误报，建议在数据校验时暂不启用结构校验。