配置订阅任务(新控制台)

重要

本文中含有需要您注意的重要提示信息,忽略该信息可能对您的业务造成影响,请务必仔细阅读。

数据传输服务DTS(Data Transmission Service)提供的数据订阅功能简单易用,您只需在控制台上进行简单操作,即可完成数据订阅任务的配置。

注意事项

本文仅简单介绍数据订阅任务的通用配置流程,不同的数据源在配置数据订阅任务时略有不同。关于各类数据源的详细配置案例,请参见订阅方案概览中的相关配置文档。

说明

本文以RDS MySQL实例的订阅为例进行介绍,配置参数仅供参考,请以实际界面为准。

准备工作

  • 已创建DTS支持的源库实例。DTS支持的数据库和版本,请参见订阅方案概览

  • 当源库为自建数据库时,您还需要做一些准备工作以满足DTS对环境的要求,详情请参见准备工作概览

操作步骤

  1. 进入订阅任务的列表页面。

    1. 登录DMS数据管理服务

    2. 在顶部菜单栏中,单击集成与开发

    3. 在左侧导航栏,选择数据传输(DTS) > 数据订阅

    说明
  2. 订阅任务右侧,选择订阅实例所属地域。

    说明

    新版DTS订阅任务列表页面,需要在页面左上角工作台的右侧,选择订阅实例所属地域。

  3. 单击创建任务,进入任务配置页面。

  4. 可选:在页面右上角,单击试用新版配置页

    说明
    • 若您已进入新版配置页(页面右上角的按钮为返回旧版配置页),则无需执行此操作。

    • 新版配置页和旧版配置页部分参数有差异,建议使用新版配置页。

  5. 配置源库及消费网络类型。

    警告

    选择源实例后,建议您仔细阅读页面上方显示的使用限制,否则可能会导致任务失败或无法消费订阅数据。

    类别

    配置

    说明

    任务名称

    DTS会自动生成一个订阅名称,建议配置具有业务意义的名称(无唯一性要求),便于后续识别。

    源库信息

    选择DMS数据库实例

    本示例无需选择,输入下方的数据库信息即可。

    数据库类型

    选择MySQL

    接入方式

    选择云实例

    实例地区

    选择RDS MySQL实例所属地域。

    是否跨阿里云账号

    本示例使用当前阿里云账号下的数据库实例,需选择不跨账号

    RDS实例ID

    选择RDS MySQL实例ID。

    数据库账号

    填入RDS MySQL数据库的只读账号,或具备REPLICATION CLIENTREPLICATION SLAVESHOW VIEWSELECT权限的自定义账号。

    数据库密码

    填入该数据库账号对应的密码。

    连接方式

    本示例无需选择,保持默认选项即可。

    消费网络类型

    网络类型

    数据订阅实例的网络类型固定为专有网络,您需要选择具体的专有网络虚拟交换机。更多信息请参见专有网络

    说明
    • 任务创建成功后,消费网络类型不可更改。

    • 若您的数据订阅客户端部署在专有网络上,则建议选择与客户端一致的专有网络虚拟交换机

    • 通过内网地址进行数据订阅时,网络延迟最小。

  6. 配置完成后,单击页面右下角的测试连接以进行下一步

    如果源数据库是阿里云数据库实例(例如RDS MySQL云数据库MongoDB版等),DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单;如果源数据库是ECS上的自建数据库,DTS会自动将对应地区DTS服务的IP地址添加到ECS的安全规则中,您还需手动在ECS上的自建数据库中添加对应地区DTS服务的IP地址,以允许来自DTS服务器的访问;如果源数据库是IDC自建数据库或其他云数据库,则需要您手动添加对应地区DTS服务的IP地址,以允许来自DTS服务器的访问。DTS服务的IP地址,请参见DTS服务器的IP地址段

    警告

    DTS自动添加或您手动添加DTS服务的公网IP地址段可能会存在安全风险,一旦使用本产品代表您已理解和确认其中可能存在的安全风险,并且需要您做好基本的安全防护,包括但不限于加强账号密码强度防范、限制各网段开放的端口号、内部各API使用鉴权方式通信、定期检查并限制不需要的网段,或者使用通过内网(专线/VPN网关/智能网关)的方式接入。

  7. 配置任务对象。

    1. 对象配置页面,配置待订阅的对象。

      配置

      说明

      需要订阅的数据类型

      需要订阅的数据类型默认已勾选,且不支持修改。

      • 数据更新

        订阅已选择对象的增量数据更新,包含数据的INSERT、DELETE和UPDATE操作。

      • 结构更新

        订阅整个实例所有对象的结构创建、删除及修改,您需要使用数据订阅客户端过滤所需的数据。

      源库对象

      源库对象列表中,选择待订阅对象,单击图标向右小箭头,将其移动到已选择对象列表中。

      说明

      订阅对象支持选择的粒度为库、表。

      • 如果选择整个库作为订阅对象,那么该库中新增对象的增量数据也可以被订阅到。

      • 如果选择某个表作为订阅对象,那么只有这个表的增量数据可以被订阅到。此时如果需要加入一个新的表作为订阅对象,您需要将其加入至订阅对象中,详情请参见修改订阅对象

    2. 单击下一步高级配置,进行高级参数配置。

      本示例保持默认配置,无需手动配置,您也可以根据实际情况进行配置。

      配置说明

      配置

      说明

      选择调度该任务的专属集群

      DTS默认将任务调度到共享集群上,您无需选择。您可以购买指定规格的专属集群来运行DTS订阅任务,详情请参见什么是DTS专属集群

      源库、目标库无法连接后的重试时间

      在订阅任务连接失败时,DTS会立即进行持续的重试连接,默认持续重试时间为720分钟,您也可以在取值范围(10~1440分钟)内自定义重试时间,建议设置30分钟以上。如果DTS在设置的时间内重新连接上源库,订阅任务将自动恢复。否则,订阅任务将失败。

      说明
      • 针对相同源库的多个DTS实例,如DTS实例A和DTS实例B,设置网络重试时间时A设置30分钟,B设置60分钟,则重试时间以低的30分钟为准。

      • 由于连接重试期间,DTS将收取任务运行费用,建议您根据业务需要自定义重试时间,或者在源库释放后尽快释放DTS实例。

      源库、目标库出现其他问题后的重试时间

      在订阅任务启动后,若源库出现非连接性的其他问题(如DDL或DML执行异常),则DTS会报错并会立即进行持续的重试操作,默认持续重试时间为10分钟,您也可以在取值范围(1~1440分钟)内自定义重试时间,建议设置10分钟以上。如果DTS在设置的重试时间内相关操作执行成功,订阅任务将自动恢复。否则,订阅任务将会失败。

      重要

      源库、目标库出现其他问题后的重试时间的值需要小于源库、目标库无法连接后的重试时间的值。

      环境标签

      您可以根据实际情况,选择用于标识实例的环境标签。

      是否去除正反向任务的心跳表sql

      根据业务需求选择是否在DTS实例运行时,在源库中写入心跳SQL信息。

      • :不在源库中写入心跳SQL信息,DTS实例可能会显示有延迟。

      • :在源库中写入心跳SQL信息,可能会影响源库的物理备份和克隆等功能。

      监控告警

      是否设置告警,当订阅失败或延迟超过阈值后,将通知告警联系人。

  8. 保存任务并进行预检查。

    • 若您需要查看调用API接口配置该实例时的参数信息,请将鼠标光标移动至下一步保存任务并预检查按钮上,然后单击气泡中的预览OpenAPI参数

    • 若您无需查看或已完成查看API参数,请单击页面下方的下一步保存任务并预检查

    说明
    • 在订阅任务正式启动之前,会先进行预检查。只有预检查通过后,才能成功启动订阅任务。

    • 如果预检查失败,请单击失败检查项后的查看详情,并根据提示修复后重新进行预检查。

    • 如果预检查产生警告:

      • 对于不可以忽略的检查项,请单击失败检查项后的查看详情,并根据提示修复后重新进行预检查。

      • 对于可以忽略无需修复的检查项,您可以依次单击点击确认告警详情确认屏蔽确定重新进行预检查,跳过告警检查项重新进行预检查。如果选择屏蔽告警检查项,可能会导致数据不一致等问题,给业务带来风险。

  9. 预检查通过率显示为100%时,单击下一步购买

  10. 购买实例。

    1. 购买页面,选择数据订阅实例的计费方式,详细说明请参见下表。

      参数

      说明

      计费方式

      • 预付费(包年包月):在新建实例时支付费用。适合长期需求,价格比按量付费更实惠,且购买时长越长,折扣越多。

      • 后付费(按量付费):按小时扣费。适合短期需求,用完可立即释放实例,节省费用。

      资源组配置

      实例所属的资源组,默认为default resource group。更多信息,请参见什么是资源管理

      数据订阅配置费类型

      如果您创建的数据订阅实例为包年包月(也称为预付费),且源数据库类型为MySQL时,则您需要选择数据订阅配置费类型

      • 选择为原价配置费(免数据流量费),只收取配置费,免收数据流量费。

        说明

        数据流量是指客户端从订阅通道中消费的数据总量,按1元/GB计费,不足1GB,按1GB计算。适合数据量较大的订阅实例。

      • 选择为半价配置费+1元/GB数据流量费,从2020年12月18日开始,DTS会对该订阅实例额外收取数据流量费用。

      订阅时长

      在预付费模式下,选择包年包月实例的时长和数量,包月可选择1~9个月,包年可选择1年、2年、3年和5年。

      说明

      该选项仅在付费类型为预付费时出现。

    2. 配置完成后,阅读并勾选《数据传输(按量付费)服务条款》

    3. 单击购买并启动,订阅任务正式开始,您可在任务列表查看具体任务进度。

后续步骤

消费订阅数据