文档

使用数据传输同步数据

更新时间:

数据同步能够保持源端和目标端的数据一致性,实现关键业务的数据实时流动。本文以同步 OceanBase 数据库的数据至 Kafka 为例,介绍如何使用数据传输同步数据。

前提条件

在同步数据之前,您需要确认以下信息:

操作步骤

说明

本文以同步 OceanBase 数据库的数据至 Kafka 为例,更多详情请参见 数据同步 模块的内容。

  1. 创建数据同步项目。

    1. 登录 OceanBase 管理控制台

    2. 在左侧导航栏,单击 数据传输 > 数据同步

    3. 数据同步 页面,单击右上角的 新建同步项目

  2. 选择源和目标 页面,配置各项参数。

    参数

    描述

    同步项目名称

    建议使用中文、数字和字母的组合。名称中不能包含空格,长度不得超过 64 个字符。

    源端

    如果您已新建 OceanBase 数据源,请从下拉列表中进行选择。如果未新建,请单击下拉列表中的 新建数据源,在右侧对话框进行新建。参数详情请参见 新建 OceanBase 数据源

    目标端

    如果您已新建 Kafka 数据源,请从下拉列表中进行选择。如果未新建,请单击下拉列表中的 新建数据源,在右侧对话框进行新建。参数详情请参见 新建 Kafka 数据源

  3. 单击 下一步。在 选择同步类型 页面,选择当前数据同步项目的同步类型。

    同步类型 包括 全量同步增量同步增量同步 包括 同步 DML同步 DDL

  4. 单击 下一步。在 选择同步对象 页面,选择当前数据同步项目需要同步的对象。

    同步 OceanBase 数据库的数据至 Kafka 时,支持多表到多 Topic 的同步。

    1. 在选择区域左侧选中需要同步的对象。

    2. 单击 >

    3. 将对象映射至 Topic 对话框的 已有 Topic 下拉列表中,搜索并选中需要同步的 Topic。

    4. 单击 确定

    选择同步对象后,数据传输支持对目标端对象进行更改 Topic、设置行过滤、移除单个对象或全部对象等操作。目标端对象的结构为 Topic>DataBase>Table。

  5. 单击 下一步。在 同步选项 页面,配置各项参数。

    参数

    描述

    传输实例

    从下拉列表中选择已购买的可用的传输实例。如果您未购买,请单击右侧的 购买 进行操作。详情请参见 购买传输实例

    说明

    单击 购买 会跳转至实例购买页面,并且不会保存当前项目的配置信息。

    增量同步起始位点

    • 如果选择同步类型时已选择 全量同步,此处默认为增量同步启动时间,不支持修改。

    • 如果选择同步类型时未选择 全量同步,请在此处指定同步某个时间节点之后的数据,默认为当前系统时间。详情请参见 设置增量同步位点

    序列化方式

    控制数据同步至 Kafka 的消息格式,目前支持 DefaultCanalDataWorks(支持 2.0 版本)、SharePlexDefaultExtendColumnTypeDebeziumDebeziumFlattenDebeziumSmtAvro。详情请参见 数据格式说明

    重要
    • 目前仅 OceanBase 数据库 MySQL 租户支持 DebeziumDebeziumFlattenDebeziumSmtAvro

    • 当选择 DataWorks 时,同步 DDL 不支持 COMMENT ON TABLEALTER TABLE…TRUNCATE PARTITION

    分区规则

    同步 OceanBase 数据库的数据至 Kafka Topic 的规则,目前支持 HashTableOne

    • Hash 表示数据传输使用一定的 Hash 算法,根据主键值或分片列值 Hash 选择 Kafka Topic 的分区。

    • Table 表示数据传输将一张表中的全部数据投递至同一个分区中,以表名作为 Hash 键。

    • One 表示 JSON 消息会投递至 Topic 下的某个分区,目的是为了保持排序。

    业务系统标识(可选)

    用于标识数据的业务系统来源,以便您后续进行自定义处理。该业务系统标识的长度限制为 1~20 个字符。

  6. 单击 预检查

    预检查 环节,数据传输会检测和目标端 Kafka 实例的连接情况。如果预检查报错:

    • 您可以在排查并处理问题后,重新执行预检查,直至预检查成功。

    • 您也可以单击错误预检查项操作列中的 跳过,会弹出对话框提示您跳过本操作的具体影响,确认可以跳过后,请单击对话框中的 确定

  7. 预检查成功后,单击 启动项目

    如果您暂时无需启动项目,请单击 保存。后续您只能在 同步项目列表 页面手动启动项目或通过批量操作启动项目。批量操作的详情请参见 批量操作数据同步项目

    数据传输支持在数据同步项目运行过程中修改同步对象,详情请参见 查看和修改同步对象。数据同步项目启动后,会根据选择的同步类型依次执行,详情请参见 查看同步详情

操作视频

  • 本页导读 (0)
文档反馈