文档

使用数据传输同步数据

更新时间:

数据同步能够保持源端和目标端的数据一致性,实现关键业务的数据实时流动。本文以同步 OceanBase 数据库的数据至 Kafka 为例,介绍如何使用数据传输同步数据。

前提条件

在同步数据之前,您需要确认以下信息:

操作步骤

说明

本文以同步 OceanBase 数据库的数据至 Kafka 为例,更多详情请参见 数据同步 模块的内容。

  1. 登录 OceanBase 管理控制台,购买数据同步项目。

    详情请参见 购买数据同步项目

  2. 数据传输 > 数据同步 页面,单击新购买的数据同步项目后的 配置

    image.png

    如果您需要引用已有的项目配置信息,可以单击 引用配置。详情请参见 引用和清空数据同步项目配置

  3. 选择源和目标 页面,配置各项参数。

    参数

    描述

    同步项目名称

    建议使用中文、数字和字母的组合。名称中不能包含空格,长度不得超过 64 个字符。

    标签(可选)

    单击文本框,在下拉列表中选择目标标签。您也可以单击 管理标签,进行新建、修改和删除。详情请参见 通过标签管理数据同步项目

    源端

    如果您已新建 OceanBase 数据源,请从下拉列表中进行选择。如果未新建,请单击下拉列表中的 新建数据源,在右侧对话框进行新建。参数详情请参见 新建 OceanBase 数据源

    目标端

    如果您已新建 Kafka 数据源,请从下拉列表中进行选择。如果未新建,请单击下拉列表中的 新建数据源,在右侧对话框进行新建。参数详情请参见 新建 Kafka 数据源

  4. 单击 下一步。在 选择同步类型 页面,选择当前数据同步项目的同步类型。

    image.png

    同步类型包括 全量同步增量同步增量同步 支持 同步 DML(包括 InsertDeleteUpdate)和 同步 DDL

  5. 单击 下一步。在 选择同步对象 页面,选择当前数据同步项目需要同步的对象。

    同步 OceanBase 数据库的数据至 Kafka 时,支持多表到多 Topic 的同步。

    1. 在选择区域左侧选中需要同步的对象。

    2. 单击 >

    3. 将对象映射至 Topic 对话框的 已有 Topic 下拉列表中,搜索并选中需要同步的 Topic。

      image.png

    4. 单击 确定

      数据传输支持通过文本导入对象,并支持对目标端对象进行更改 Topic、设置行过滤、移除单个对象或全部对象等操作。目标端对象的结构为 Topic>DataBase>Table。

  6. 单击 下一步。在 同步选项 页面,配置各项参数。

    参数

    描述

    增量同步起始位点

    • 如果选择同步类型时已选择 全量同步,此处默认为增量同步启动时间,不支持修改。

    • 如果选择同步类型时未选择 全量同步,请在此处指定同步某个时间节点之后的数据,默认为当前系统时间。详情请参见 设置增量同步位点

    序列化方式

    控制数据同步至 Kafka 的消息格式,目前支持 DefaultCanalDataWorks(支持 2.0 版本)、SharePlexDefaultExtendColumnTypeDebeziumDebeziumFlattenDebeziumSmtAvro。详情请参见 数据格式说明

    重要
    • 目前仅 OceanBase 数据库 MySQL 租户支持 DebeziumDebeziumFlattenDebeziumSmtAvro

    • 当选择 DataWorks 时,同步 DDL 不支持 COMMENT ON TABLEALTER TABLE…TRUNCATE PARTITION

    分区规则

    同步 OceanBase 数据库的数据至 Kafka Topic 的规则,目前支持 HashTableOne

    • Hash 表示数据传输使用一定的 Hash 算法,根据主键值或分片列值 Hash 选择 Kafka Topic 的分区。

    • Table 表示数据传输将一张表中的全部数据投递至同一个分区中,以表名作为 Hash 键。

    • One 表示 JSON 消息会投递至 Topic 下的某个分区,目的是为了保持排序。

    业务系统标识(可选)

    用于标识数据的业务系统来源,以便您后续进行自定义处理。该业务系统标识的长度限制为 1~20 个字符。

  7. 单击 预检查

    预检查 环节,数据传输会检测和目标端 Kafka 实例的连接情况。如果预检查报错:

    • 您可以在排查并处理问题后,重新执行预检查,直至预检查成功。

    • 您也可以单击错误预检查项操作列中的 跳过,会弹出对话框提示您跳过本操作的具体影响,确认可以跳过后,请单击对话框中的 确定

  8. 预检查成功后,单击 启动项目

    如果您暂时无需启动项目,请单击 保存。后续您只能在 同步项目列表 页面手动启动项目或通过批量操作启动项目。批量操作的详情请参见 批量操作数据同步项目

    数据传输支持在数据同步项目运行过程中修改同步对象,详情请参见 查看和修改同步对象。数据同步项目启动后,会根据选择的同步类型依次执行,详情请参见 查看同步详情

  • 本页导读 (0)
文档反馈