跨云账号单向同步云数据库Redis实例 - 云数据库 Redis

数据传输服务DTS（Data Transmission Service）支持跨云账号单向同步云数据库Redis，适用于云账号间的资源迁移或合并、业务架构调整等多种应用场景。

前提条件

源云数据库Redis的引擎版本为4.0（社区版）或5.0（社区版、企业版）。

说明目标云数据库Redis支持的版本为4.0或5.0版本，如需跨版本同步（仅支持从低版本同步到高版本）请提前确认兼容性。例如创建按量付费的云数据库Redis来测试，测试完成后可将该实例释放或转为包年包月。
跨云账号同步Redis实例支持集群架构、标准架构和读写分离架构的本地盘版本。
跨云账号同步Redis实例不支持集群架构的云盘版，但是支持副本集架构的云盘版。
源云数据库Redis的网络类型为专有网络。如果当前为经典网络，您可以切换网络类型，详情请参见切换为专有网络VPC。
源Redis实例的不支持SSL加密功能，所以需要处于关闭状态，详情请参见设置SSL加密。
目标云数据库Redis可用的存储空间需大于源云数据库Redis已使用的存储空间。
由于Redis企业版扩展了Redis模块（Redis Modules），如果源Redis实例为企业版，为保障业务兼容性，要求目标Redis实例为Redis企业版。

背景信息

现有两个Redis实例分别属于不同的阿里云账号，由于业务需求，需要将云账号A下的Redis实例中的业务数据信息同步至云账号B下的Redis实例中，详细架构如下图所示。 Redis跨账号迁移架构图

DTS支持的跨云账号单向同步云数据库Redis需要您按照如下步骤完成同步任务的配置。


步骤	说明
1、使用云账号A登录阿里云控制台，完成RAM角色授权操作，详情请参见准备工作。	配置RAM角色，将目标实例所属的云账号（即云账号B）设置为授信云账号，并授权其访问本账号的云资源。
2、使用云账号B登录阿里云控制台，完成数据同步任务配置，详情请参见操作步骤。	DTS支持跨云账号直接读取源Redis实例的信息。

支持的源和目标数据库

跨云账号单向同步云数据库Redis支持以下源或目标数据库。


源数据库	目标数据库
云数据库Redis实例。 ECS上的自建数据库。通过专线、VPN网关或智能网关接入的自建数据库。通过云企业网CEN接入的自建数据库。	云数据库Redis实例。 ECS上的自建数据库。通过专线、VPN网关或智能网关接入的自建数据库。通过云企业网CEN接入的自建数据库。

注意事项


类型	说明
源库限制	待同步的集合需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。为保障同步质量，DTS会在源库中插入一个key：DTS_REDIS_TIMESTAMP_HEARTBEAT，用于记录更新时间点。为保障同步链路稳定性，建议将配置文件redis.conf中`repl-backlog-size`参数的值适当调大。 AOF日志：需开启。如为增量同步任务，DTS要求源数据库的AOF日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的AOF日志至少保留7天以上（您可在全量同步完成后将AOF日志保存时间设置为24小时以上），否则DTS可能因无法获取AOF日志而导致任务失败，极端情况下甚至可能会导致数据不一致或丢失。由于您所设置的AOF日志保存时间低于DTS要求的时间进而导致的问题，不在DTS的SLA保障范围内。如果源库中的某些Key使用了过期（expire）策略，由于可能存在Key已过期但未被及时删除的情况，所以在目标库中查看到的Key数量（例如通过info命令查看）会比源库的Key数量少。如果源库中的某些Key使用了过期（expire）策略，由于可能存在Key已过期但未被及时删除的情况，所以在目标库中查看到的Key数量（例如通过info命令查看）会比源库的Key数量少。如果目标库的数据逐出策略（`maxmemory-policy`）配置为`noeviction`以外的值，可能导致目标库的数据与源库不一致。关于数据逐出策略详情，请参见Redis数据逐出策略介绍。
其他限制	同步期间，如源Redis发生扩缩容（如增加或者减少分片）、规格变配（如扩大内存），则您需重新配置任务。且为保障数据一致性，建议重新配置任务前，先清空已同步至目标Redis的数据。同步期间，如源Redis连接地址变化，则您需要提交工单进行处理，如果长时间未处理，源Redis会重置AOF文件，届时您需重新配置任务。建议源和目标库版本保持一致，或者从低版本同步到高版本以保障兼容性。如为高版本同步至低版本，可能存在数据库兼容性问题。执行数据同步前需评估源库和目标库的性能，同时建议业务低峰期执行数据同步。否则全量数据初始化时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升。

支持同步的SQL操作


版本类型	SQL操作
云数据库Redis社区版	APPEND BITOP、BLPOP、BRPOP、BRPOPLPUSH DECR、DECRBY、DEL EVAL、EVALSHA、EXEC、EXPIRE、EXPIREAT GEOADD、GETSET HDEL、HINCRBY、HINCRBYFLOAT、HMSET、HSET、HSETNX INCR、INCRBY、INCRBYFLOAT LINSERT、LPOP、LPUSH、LPUSHX、LREM、LSET、LTRIM MOVE、MSET、MSETNX、MULTI PERSIST、PEXPIRE、PEXPIREAT、PFADD、PFMERGE、PSETEX RENAME、RENAMENX、RESTORE、RPOP、RPOPLPUSH、RPUSH、RPUSHX SADD、SDIFFSTORE、SELECT、SET、SETBIT、SETEX、SETNX、SETRANGE、SINTERSTORE、SMOVE、SPOP、SREM、SUNIONSTORE ZADD、ZINCRBY、ZINTERSTORE、ZREM、ZREMRANGEBYLEX、ZUNIONSTORE、ZREMRANGEBYRANK、ZREMRANGEBYSCORE SWAPDB、UNLINK（仅当源端Redis实例的版本为4.0时支持）
云数据库Redis企业版	APPEND BITOP、BLPOP、BRPOP、BRPOPLPUSH DECR、DECRBY、DEL EVAL、EVALSHA、EXEC、EXPIRE、EXPIREAT GEOADD、GETSET HDEL、HINCRBY、HINCRBYFLOAT、HMSET、HSET、HSETNX INCR、INCRBY、INCRBYFLOAT LINSERT、LPOP、LPUSH、LPUSHX、LREM、LSET、LTRIM MOVE、MSET、MSETNX、MULTI PERSIST、PEXPIRE、PEXPIREAT、PFADD、PFMERGE、PSETEX RENAME、RENAMENX、RPOP、RPOPLPUSH、RPUSH、RPUSHX SADD、SDIFFSTORE、SELECT、SET、SETBIT、SETEX、SETNX、SETRANGE、SINTERSTORE、SMOVE、SPOP、SREM、SUNIONSTORE UNLINK、ZADD、ZINCRBY、ZINTERSTORE、ZREM、ZREMRANGEBYLEX、ZUNIONSTORE、ZREMRANGEBYRANK、ZREMRANGEBYSCORE

说明

对于通过EVAL或者EVALSHA调用Lua脚本，在增量数据同步时，由于目标端在执行脚本时不会明确返回执行结果，DTS无法确保该类型脚本能够执行成功。
对于List，由于DTS在调用sync或psync进行重传时，不会对目标端已有的数据进行清空，可能导致出现重复数据。

准备工作

使用源Redis实例所属的阿里云账号登录阿里云控制台，创建RAM角色并授权其访问本云账号下的相关云资源，详情请参见跨阿里云账号数据迁移或同步时如何配置RAM授权。

操作步骤

使用目标Redis实例所属的阿里云账号登录新版DTS同步任务的列表页面。

说明您也可以登录DMS数据管理服务。在顶部菜单栏中，选择传输与加工（DTS） > 数据同步。
在页面左上角，选择同步实例所属地域。

单击创建任务，配置源库及目标库信息。

警告选择源和目标实例后，建议您仔细阅读页面上方显示的使用限制，以成功创建并执行同步任务。


类别	配置	说明
无	任务名称	DTS会自动生成一个任务名称，建议配置具有业务意义的名称（无唯一性要求），便于后续识别。
源库信息
	数据库类型	选择Redis。
	接入方式	选择阿里云实例。
	实例地区	选择源Redis数据库所属地域。
	是否跨阿里云账号	选择跨账号。
	跨阿里云账号	填入源Redis数据库所属的阿里云账号ID。说明您可以使用源Redis数据库所属的阿里云账号登录账号管理页面来获取云账号ID。
	跨阿里云账号角色名	填入准备工作中创建的RAM角色名称。
	实例ID	选择源云数据库Redis实例ID。
	数据库密码	填入源云数据库Redis的密码，根据选取的账号（需要具备读权限）填写密码，如果忘记密码，您可以重置密码，具体操作请参见修改或重置密码。默认账号（即以实例ID命名的账号）：直接填写密码即可。新创建的账号：密码格式为`<自定义账号>:<密码>`，例如：testaccount:Test1234。说明非必填项，如果没有设置密码可以不填。

目标库信息
	数据库类型	选择Redis。
	接入方式	选择阿里云实例。
	实例地区	选择目标云数据库Redis所属地域。
	实例ID	选择目标云数据库Redis实例ID。
	数据库密码	填入目标云数据库Redis实例的密码，根据选取的账号（需具备读写权限）填写密码，如果忘记密码，您可以重置密码，具体操作请参见修改或重置密码。默认账号（即以实例ID命名的账号）：直接填写密码即可。新创建的账号：密码格式为`<自定义账号>:<密码>`，例如：testaccount:Test1234。

配置完成后，单击页面右下角的测试连接以进行下一步。
说明
- 如果源或目标数据库是阿里云数据库实例（例如RDS MySQL、云数据库MongoDB版等）或ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单或ECS的安全规则中，您无需手动添加，请参见DTS服务器的IP地址段。
- DTS任务完成或释放后，建议您手动删除添加的DTS服务器IP地址段。

配置任务对象及高级配置。

基础配置


配置	说明
任务步骤	固定选中增量同步。默认情况下，您还需要同时选中全量同步。预检查完成后，DTS会将源实例中待同步对象的全量数据在目标集群中初始化，作为后续增量同步数据的基线数据。说明只有云数据库Redis企业版才支持全量同步，其他均不支持。
目标已存在表的处理模式	预检查并报错拦截：检查目标数据库中是否有同名的表。如果目标数据库中没有同名的表，则通过该检查项目；如果目标数据库中有同名的表，则在预检查阶段提示错误，数据同步任务不会被启动。说明如果目标库中同名的表不方便删除或重命名，您可以更改该表在目标库中的名称，请参见库表列名映射。忽略报错并继续执行：跳过目标数据库中是否有同名表的检查项。警告选择为忽略报错并继续执行，可能导致数据不一致，给业务带来风险，例如：表结构一致的情况下，如在目标库遇到与源库主键的值相同的记录：全量期间，DTS会保留目标集群中的该条记录，即源库中的该条记录不会同步至目标数据库中。增量期间，DTS不会保留目标集群中的该条记录，即源库中的该条记录会覆盖至目标数据库中。表结构不一致的情况下，可能会导致无法初始化数据、只能同步部分列的数据或同步失败。
同步拓扑	选择单向同步。
同步对象	在源库对象框中单击待同步对象，然后单击将其移动至已选择对象框。说明同步对象的选择粒度为库，暂不支持Key粒度的选择。
映射名称更改	不支持更改映射名称。
过滤待同步数据	支持设置WHERE条件过滤数据，请参见通过SQL条件过滤任务数据。
同步的SQL操作	右击已选择对象中的同步对象，在弹跳框中选择所需同步的DML操作，支持的操作，请参见支持同步的SQL操作。

高级配置


配置	说明
设置告警	是否设置告警，当同步失败或延迟超过阈值后，将通知告警联系人。不设置：不设置告警。设置：设置告警，您还需要设置告警阈值和告警联系人。
源库、目标库无法连接后的重试时间	默认重试120分钟，您也可以在取值范围（10~1440分钟）内自定义重试时间，建议设置30分钟以上。如果DTS在设置的时间内重新连接上源、目标库，同步任务将自动恢复。否则，同步任务将失败。说明针对同源或者同目标的多个DTS实例，如DTS实例A和DTS实例B，设置网络重试时间时A设置30分钟，B设置60分钟，则重试时间以低的30分钟为准。由于连接重试期间，DTS将收取任务运行费用，建议您根据业务需要自定义重试时间，或者在源和目标库实例释放后尽快释放DTS实例。

上述配置完成后，单击页面下方的下一步保存任务并预检查。
说明
- 在同步作业正式启动之前，会先进行预检查。只有预检查通过后，才能成功启动同步作业。
- 如果预检查失败，单击具体检查项后的，查看失败详情。
  
  您可以根据提示修复后重新进行预检查。
  
  如无需修复告警检测项，您也可以选择确认屏蔽、忽略告警项并重新进行预检查，跳过告警检测项重新进行预检查。
预检查通过率显示为100%时，单击下一步购买。

在购买页面，选择数据同步实例的计费方式、链路规格，详细说明请参见下表。


类别	参数	说明
信息配置	计费方式	预付费（包年包月）：在新建实例时支付费用。适合长期需求，价格比按量付费更实惠，且购买时长越长，折扣越多。后付费（按量付费）：按小时扣费。适合短期需求，用完可立即释放实例，节省费用。
	链路规格	DTS为您提供了不同性能的同步规格，同步链路规格的不同会影响同步速率，您可以根据业务场景进行选择，详情请参见数据同步链路规格说明。
	订购时长	在预付费模式下，选择包年包月实例的时长和数量，包月可选择1~9个月，包年可选择1~3年。说明该选项仅在付费类型为预付费时出现。

配置完成后，阅读并勾选《数据传输（按量付费）服务条款》。
单击购买并启动，同步任务正式开始，您可在数据同步界面查看具体任务进度。