AnalyticDB PostgreSQL版实例间的数据同步_数据传输服务(DTS)-阿里云帮助中心

本文为您介绍如何使用数据传输服务DTS（Data Transmission Service）实现AnalyticDB PostgreSQL版实例间的数据同步。

重要

此功能正在邀测中，仅部分用户可以使用。

前提条件

已创建存储空间大于源AnalyticDB PostgreSQL版实例待同步数所需存储空间的目标AnalyticDB PostgreSQL版实例。
已在目标AnalyticDB PostgreSQL版实例中创建用于接收数据的数据库。

注意事项

源库限制

带宽要求：源库所属的服务器需具备足够出口带宽（大于等于100 Mb/s），否则将影响数据同步速率。
源AnalyticDB PostgreSQL版实例的内核版本需为7.2.1.4或更高版本。
源库的参数配置：
- 需开启逻辑解析，即将wal_level参数的值配置为logical。
- 若源AnalyticDB PostgreSQL版实例的实例系列为高可用版，为保障同步任务的顺利进行，避免因主备切换而导致逻辑订阅中断，还需将hot_standby、hot_standby_feedback和sync_replication_slots参数的值均配置为on。
同步对象要求：
- 待同步的数据库名称中间不能包含短划线（-），例如dts-testdata。
- 待同步的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。
- 不支持同步源库中包含跨Schema继承关系的表、临时表、系统内部的触发器（TRIGGER）、部分函数（关于PROCEDURE与FUNCTION的C语言函数和内部函数）、插件（EXTENSION）；DTS支持同步部分自定义数据（TYPE为COMPOSITE、ENUM或RANGE），支持同步的约束为主键、唯一、CHECK约束。
- 不支持同步分区表的结构。若待同步的表为分区表，使用库表结构同步到目标端的表会丢失分区信息，所有表默认创建为非分区表。
- 若同步对象为表级别且需进行编辑（如表列名映射），当单次同步任务的表数量超过5000时，建议您拆分待同步的表，分批配置多个任务，或者配置整库的同步任务，否则任务提交后可能会显示请求报错。
在库表结构同步和全量同步阶段，请勿执行库或表结构变更的DDL操作，否则会导致数据同步任务失败。
若源库有长事务，且实例包含增量同步任务，则可能会导致源库长事务提交前的预写日志WAL（Write-Ahead Logging）无法清理而堆积，从而造成源库磁盘空间不足。

其他限制

单个数据同步任务仅支持同步一个数据库中的数据。如需同步多个数据库的数据，您需要为每个数据库配置数据同步任务。
暂不支持同步源库的DDL操作。
库表结构同步到目标端后，其Owner为任务使用的目标库账号。
库表结构同步默认保持分布键不变。若源表存在主键，则在将该表的结构同步到目标端时，主键列与源表保持一致；若源表不存在主键，则在将该表的结构同步到目标端时，默认使用分布键作为主键列。
如果待同步的表中包含SERIAL类型的字段，源库会自动为该字段创建一个Sequence。因此在配置源库对象时，若同步类型选中了库表结构同步，则建议您同时选中Sequence或整Schema同步，否则可能会导致同步实例运行失败。
在如下三个场景中，您需要在源库待同步的表写入数据前，对其执行ALTER TABLE schema.table REPLICA IDENTITY FULL;命令，以保障该表数据同步的一致性。执行该命令期间，建议您不要有锁表操作，否则会导致表锁死。若在预检查中跳过了相关检查，DTS会在该实例初始化时自动化执行该命令。
- 实例初次运行时。
- 同步对象的选择粒度为Schema，且在待同步的Schema中创建了新的表或使用RENAME命令重建了待同步的表时。
- 使用修改同步对象功能时。
说明
- 命令中的schema和table需要替换为待同步数据所属的Schema名和表名。
- 建议您在业务低峰期进行操作。
DTS的校验对象为数据内容，暂不支持Sequence等元数据的校验，您需要自行校验。
由于业务切换到目标端后，新写入的Sequence不会按照源库的Sequence最大值作为初始值去递增，您需要在业务切换前，在源库中查询对应Sequence的最大值，然后在目标库中将其作为对应Sequence的初始值。查询源库Sequence值的相关命令如下：
```
do language plpgsql $$
declare
  nsp name;
  rel name;
  val int8;
begin
  for nsp,rel in select nspname,relname from pg_class t2 , pg_namespace t3 where t2.relnamespace=t3.oid and t2.relkind='S'
  loop
    execute format($_$select last_value from %I.%I$_$, nsp, rel) into val;
    raise notice '%',
    format($_$select setval('%I.%I'::regclass, %s);$_$, nsp, rel, val+1);
  end loop;
end;
$$;
```
说明
执行以上命令输出的SQL包含源库所有Sequence，请根据业务需求在目标库中执行。
为保障同步延迟时间展示的准确性，DTS会在源库中新增一个名为dts_postgres_heartbeat的心跳表。
DTS会在源库中创建以下临时表，用于获取增量数据的DDL、增量表的结构、心跳信息等。在同步期间，请勿删除源库中的临时表，否则会导致DTS任务异常。临时表会在DTS实例释放后自动删除。
public.dts_pg_class、public.dts_pg_attribute、public.dts_pg_type、public.dts_pg_enum、public.dts_postgres_heartbeat、public.dts_ddl_command、public.dts_args_session、public.aliyun_dts_instance。
数据同步期间，DTS会在源库创建前缀为dts_sync_的replication slot用于复制数据。通过该replication slot，DTS可以获取源库15分钟内的增量日志。当数据同步失败或释放同步实例时，DTS会尝试主动清理该replication slot。
说明
- 如果您在数据同步期间修改了任务使用的源库账号密码，或者删除了源库中DTS的IP白名单等，则会导致该replication slot无法自动清理。此时，您需要在源库手动清理replication slot，以避免其持续累积占用磁盘空间导致源库不可用。
- 如果源库发生了主备切换，则您需要登录备库进行手动清理。
在全量数据初始化时，DTS将会占用源和目标库一定的读写资源，可能会导致数据库的负载上升。因此建议在执行数据同步前评估源库和目标库的性能，并在业务低峰期执行数据同步（例如源库和目标库的CPU负载在30%以下）。
由于全量初始化会并发执行INSERT操作，导致目标数据库的表产生碎片，因此全量初始化完成后目标数据库的表存储空间会大于源库的表存储空间。
在同步实例运行期间：
- 请勿修改AnalyticDB PostgreSQL版实例的连接地址和可用区，否则会导致同步实例运行失败。
- 若存在除DTS外的其他数据源向目标库写入数据，则可能会导致源库与目标库的数据不一致，甚至会导致同步实例运行失败。
若实例运行失败，DTS技术支持人员将在8小时内尝试恢复该实例。在恢复失败实例的过程中，可能会对该实例进行重启、调整参数等操作。
说明
在调整参数时，仅会修改DTS实例的参数，不会对数据库中的参数进行修改。可能修改的参数，包括但不限于修改实例参数中的参数。

费用说明

同步类型	链路配置费用
库表结构同步和全量数据同步	不收费。
增量数据同步	收费，详情请参见计费概述。

支持同步的对象

SCHEMA、TABLE
说明
包含PRIMARY KEY、UNIQUE KEY、DATATYPE（内置数据类型）和DEFAULT CONSTRAINT。
VIEW、INDEX、PROCEDURE、FUNCTION、RULE、SEQUENCE、AGGREGATE、OPERATOR、DOMAIN

支持增量同步的SQL操作

操作类型	SQL操作语句
DML	INSERT、UPDATE、DELETE

数据库账号的权限要求

数据库	所需权限	账号创建及授权方法
源AnalyticDB PostgreSQL版实例	待同步对象的读取权限和`REPLICATION`权限。 `ALTER USER your_user WITH REPLICATION;`。	创建和管理用户说明 `REPLICATION`权限可以通过`ALTER USER <username> WITH REPLICATION;`命令进行赋权。
目标AnalyticDB PostgreSQL版实例	目标库的读写权限。	创建和管理用户说明您可以使用初始账号或具备RDS_SUPERUSER权限的账号。

操作步骤

进入目标地域的同步任务列表页面（二选一）。
通过DTS控制台进入
1. 登录数据传输服务DTS控制台。
2. 在左侧导航栏，单击数据同步。
3. 在页面左上角，选择同步实例所属地域。
通过DMS控制台进入
说明
实际操作可能会因DMS的模式和布局不同，而有所差异。更多信息，请参见极简模式控制台和自定义DMS界面布局与样式。
1. 登录DMS数据管理服务。
2. 在顶部菜单栏中，选择Data + AI > 数据传输（DTS） > 数据同步。
3. 在同步任务右侧，选择同步实例所属地域。
单击创建任务，进入任务配置页面。

配置源库及目标库信息。

类别	配置	说明
无	任务名称	DTS会自动生成一个任务名称，建议配置具有业务意义的名称（无唯一性要求），便于后续识别。
源库信息	选择已有连接信息	若您需要使用已录入系统（新建或保存）的数据库实例，请在下拉列表中选择所需的数据库实例，下方的数据库信息将自动进行配置。说明 DMS控制台的配置项为选择DMS数据库实例。若您未将数据库实例录入到系统，或无需使用已录入系统的数据库实例，则需要手动配置下方的数据库信息。
	数据库类型	选择AnalyticDB PostgreSQL。
	接入方式	选择云实例。
	实例地区	选择源AnalyticDB PostgreSQL版实例所属的地域。
	是否跨阿里云账号	本示例使用当前阿里云账号下的数据库实例，需选择不跨账号。
	实例ID	选择源AnalyticDB PostgreSQL版实例的ID。
	数据库名称	填入源AnalyticDB PostgreSQL版实例中待同步数据所属数据库的名称。
	数据库账号	填入源AnalyticDB PostgreSQL版实例的数据库账号。
	数据库密码	填入该数据库账号对应的密码。
目标库信息	选择已有连接信息	若您需要使用已录入系统（新建或保存）的数据库实例，请在下拉列表中选择所需的数据库实例，下方的数据库信息将自动进行配置。说明 DMS控制台的配置项为选择DMS数据库实例。若您未将数据库实例录入到系统，或无需使用已录入系统的数据库实例，则需要手动配置下方的数据库信息。
	数据库类型	选择AnalyticDB PostgreSQL。
	接入方式	选择云实例。
	实例地区	选择目标AnalyticDB PostgreSQL版实例所属的地域。
	实例ID	选择目标AnalyticDB PostgreSQL版实例的ID。
	数据库名称	填入目标AnalyticDB PostgreSQL版实例中用于接收同步数据的数据库名称。
	数据库账号	填入目标AnalyticDB PostgreSQL版实例的数据库账号。
	数据库密码	填入该数据库账号对应的密码。

配置完成后，在页面下方单击测试连接以进行下一步。
说明
请确保DTS服务的IP地址段能够被自动或手动添加至源库和目标库的安全设置中，以允许DTS服务器的访问。更多信息，请参见添加DTS服务器的IP地址段。

配置任务对象。

在对象配置页面，配置待同步的对象。

配置	说明
同步类型	固定选中增量同步。默认情况下，您还需要同时选中库表结构同步和全量同步。预检查完成后，DTS会将源实例中待同步对象的全量数据在目标集群中初始化，作为后续增量同步数据的基线数据。
实例级别选择所需同步的DDL和DML	根据实际需求，按实例级别选择增量同步的SQL操作。说明如需按Schema或表级别选择增量同步的SQL操作，请在下方已选择对象框中右击同步对象，在弹跳框中勾选所需同步的SQL操作。
目标已存在表的处理模式	预检查并报错拦截：检查目标数据库中是否有同名的表。如果目标数据库中没有同名的表，则通过该检查项目；如果目标数据库中有同名的表，则在预检查阶段提示错误，数据同步任务不会被启动。说明如果目标库中同名的表不方便删除或重命名，您可以更改该表在目标库中的名称，请参见库表列名映射。忽略报错并继续执行：跳过目标数据库中是否有同名表的检查项。警告选择为忽略报错并继续执行，可能导致数据不一致，给业务带来风险，例如：表结构一致的情况下，如在目标库遇到与源库主键或唯一键的值相同的记录：全量期间，DTS会保留目标集群中的该条记录，即源库中的该条记录不会同步至目标数据库中。增量期间，DTS不会保留目标集群中的该条记录，即源库中的该条记录会覆盖至目标数据库中。表结构不一致的情况下，可能会导致无法初始化数据、只能同步部分列的数据或同步失败，请谨慎操作。
存储引擎类型	请根据实际情况选择目标表的存储引擎类型，默认为Beam。说明仅当目标AnalyticDB PostgreSQL版实例的内核版本为v7.0.6.6及以上，且同步类型选择了库表结构同步时才会有此配置项。
目标库对象名称大小写策略	您可以配置目标实例中同步对象的库名、表名和列名的英文大小写策略。默认情况下选择DTS默认策略，您也可以选择与源库、目标库默认策略保持一致。更多信息，请参见目标库对象名称大小写策略。
源库对象	在源库对象框中单击待同步对象，然后单击将其移动至已选择对象框。说明同步对象选择的粒度为Schema或表。
已选择对象	如需设置待同步对象在目标实例中的名称，或指定目标实例中接收数据的对象，请右击已选择对象中的同步对象进行修改。设置方式，请参见库表列名映射。如需移除已选择的同步对象，请在已选择对象框中单击待同步的对象，然后单击将其移动到源库对象框。说明如果使用了对象名映射功能，可能会导致依赖这个对象的其他对象同步失败。如需设置WHERE条件过滤数据，请在已选择对象中右击待同步的表，在弹出的对话框中设置过滤条件。设置方法，请参见设置过滤条件。如需选择增量同步的SQL操作，请在已选择对象中右击待同步对象，并在弹出的对话框中选择所需同步的SQL操作。

单击下一步高级配置，进行高级参数配置。

配置	说明
选择调度该任务的专属集群	DTS默认将任务调度到共享集群上，您无需选择。若您希望任务更加稳定，可以购买专属集群来运行DTS同步任务。更多信息，请参见什么是DTS专属集群。
源库、目标库无法连接后的重试时间	在同步任务启动后，若源库或目标库连接失败则DTS会报错，并会立即进行持续的重试连接，默认持续重试时间为720分钟，您也可以在取值范围（10~1440分钟）内自定义重试时间，建议设置30分钟以上。如果DTS在设置的重试时间内重新连接上源库、目标库，同步任务将自动恢复。否则，同步任务将会失败。说明针对同源或者同目标的多个DTS实例，如DTS实例A和DTS实例B，设置网络重试时间时A设置30分钟，B设置60分钟，则重试时间以低的30分钟为准。由于连接重试期间，DTS将收取任务运行费用，建议您根据业务需要自定义重试时间，或者在源和目标库实例释放后尽快释放DTS实例。
源库、目标库出现其他问题后的重试时间	在同步任务启动后，若源库或目标库出现非连接性的其他问题（如DDL或DML执行异常），则DTS会报错并会立即进行持续的重试操作，默认持续重试时间为10分钟，您也可以在取值范围（1~1440分钟）内自定义重试时间，建议设置10分钟以上。如果DTS在设置的重试时间内相关操作执行成功，同步任务将自动恢复。否则，同步任务将会失败。重要源库、目标库出现其他问题后的重试时间的值需要小于源库、目标库无法连接后的重试时间的值。
是否限制全量同步速率	在全量同步阶段，DTS将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升。您可以根据实际情况，选择是否对全量同步任务进行限速设置（设置每秒查询源库的速率QPS、每秒全量迁移的行数RPS和每秒全量迁移的数据量(MB)BPS），以缓解目标库的压力。说明仅当同步类型选择了全量同步，才有此配置项。您也可以在同步实例运行后，调整全量同步的速率。
是否限制增量同步速率	您也可以根据实际情况，选择是否对增量同步任务进行限速设置（设置每秒增量同步的行数RPS和每秒增量同步的数据量(MB)BPS），以缓解目标库的压力。
环境标签	您可以根据实际情况，选择用于标识实例的环境标签。本示例无需选择。
配置ETL功能	选择是否配置ETL功能。关于ETL的更多信息，请参见什么是ETL。是：配置ETL功能，并在文本框中填写数据处理语句，详情请参见在DTS迁移或同步任务中配置ETL。否：不配置ETL功能。
监控告警	是否设置告警，当同步失败或延迟超过阈值后，将通知告警联系人。不设置：不设置告警。设置：设置告警，您还需要设置告警阈值和告警联系人。更多信息，请参见在配置任务过程中配置监控告警。

可选：上述配置完成后，单击下一步配置库表字段，设置待同步的表在目标AnalyticDB PostgreSQL版中的类型、主键列和分布键信息。
说明
- 配置任务对象时同步类型勾选了库表结构同步时才会有本步骤，您可以将定义状态选择为全部后进行修改。
- 主键列可以是选择多个列组成联合主键，且需要从主键列中选择1个或者多个列作为分布键。更多信息，请参见数据表管理和表分布定义。

保存任务并进行预检查。
- 若您需要查看调用API接口配置该实例时的参数信息，请将鼠标光标移动至下一步保存任务并预检查按钮上，然后单击气泡中的预览OpenAPI参数。
- 若您无需查看或已完成查看API参数，请单击页面下方的下一步保存任务并预检查。
说明
- 在同步作业正式启动之前，会先进行预检查。只有预检查通过后，才能成功启动同步作业。
- 如果预检查失败，请单击失败检查项后的查看详情，并根据提示修复后重新进行预检查。
- 如果预检查产生警告：
  对于不可以忽略的检查项，请单击失败检查项后的查看详情，并根据提示修复后重新进行预检查。
  对于可以忽略无需修复的检查项，您可以依次单击点击确认告警详情、确认屏蔽、确定、重新进行预检查，跳过告警检查项重新进行预检查。如果选择屏蔽告警检查项，可能会导致数据不一致等问题，给业务带来风险。

购买实例。

预检查通过率显示为100%时，单击下一步购买。

在购买页面，选择数据同步实例的计费方式、链路规格，详细说明请参见下表。

类别	参数	说明
信息配置	计费方式	预付费（包年包月）：在新建实例时支付费用。适合长期需求，价格比按量付费更实惠，且购买时长越长，折扣越多。后付费（按量付费）：按小时扣费。适合短期需求，用完可立即释放实例，节省费用。
	资源组配置	实例所属的资源组，默认为default resource group。更多信息，请参见什么是资源管理。
	链路规格	DTS为您提供了不同性能的同步规格，同步链路规格的不同会影响同步速率，您可以根据业务场景进行选择。更多信息，请参见数据同步链路规格说明。
	订购时长	在预付费模式下，选择包年包月实例的时长和数量，包月可选择1~9个月，包年可选择1年、2年、3年和5年。说明该选项仅在付费类型为预付费时出现。

配置完成后，阅读并勾选《数据传输（按量付费）服务条款》。
单击购买并启动，并在弹出的确认对话框，单击确定。
您可在数据同步界面查看具体任务进度。