文档

rds_dbsync迁移或同步MySQL数据到AnalyticDB PostgreSQL版

更新时间:

rds_dbsync为开源的数据同步迁移工具 ,支持多线程导入(每个工作线程负责导入一部分数据库表),可同时连接源端和目的端数据库,从源端MySQL库中查询要导出的数据,然后通过COPY命令导入目的端,其mysql2pgsql功能支持不落地的把MySQL中的表迁移到AnalyticDB PostgreSQL版

参数配置

修改配置文件my.cfg、配置源和目的库连接信息。

  • 源库MySQL的连接信息如下:

    重要

    源库MySQL的连接信息中,用户需要有对所有用户表的读权限。

    [src.mysql]
    host = "192.168.1.1"
    port = "3306"
    user = "test"
    password = "test"
    db = "test"
    encodingdir = "share"
    encoding = "utf8"
  • 目的库pgsql(包括Postgresql、PPAS和AnalyticDB PostgreSQL版)的连接信息如下:

    重要

    目的库pgsql的连接信息,用户需要对目标表有写的权限。

    [desc.pgsql]
    connect_string = "host=192.168.1.2 dbname=test port=3432  user=test password=pgsql"

mysql2pgsql用法

mysql2pgsql的用法如下所示:

./mysql2pgsql -l <tables_list_file> -d -n -j <number of threads> -s <schema of target table>

参数说明:

  • -l:可选参数,指定一个文本文件,文件中含有需要同步的表;如果不指定此参数,则同步配置文件中指定数据库下的所有表。<tables_list_file>为一个文件名,里面含有需要同步的表集合以及表上查询的条件,其内容格式示例如下:

    table1 : select * from table_big where column1 < '2016-08-05'
    table2 : 
    table3
    table4: select column1, column2 from tableX where column1 != 10
    table5: select * from table_big where column1 >= '2016-08-05'
  • -d:可选参数,表示只生成目的表的建表DDL语句,不实际进行数据同步。

  • -n:可选参数,需要与-d一起使用,指定在DDL语句中不包含表分区定义。

  • -j:可选参数,指定使用多少线程进行数据同步;如果不指定此参数,会使用5个线程并发。

  • -s:可选参数,指定目标表的schema,目前仅支持设定为public。

典型用法

全库迁移

全库迁移的操作步骤如下所示:

  1. 通过如下命令,获取目的端对应表的DDL。

    ./mysql2pgsql -d
  2. 根据这些DDL,再加入Distribution Key等信息,在目的端创建表。

  3. 执行如下命令,同步所有表:

    ./mysql2pgsql

    此命令会把配置文件中所指定数据库中的所有MySQL 表数据迁移到目的端。过程中使用5个线程(即缺省线程数为5),读取和导入所有涉及的表数据。

部分表迁移

  1. 编辑一个新文件tab_list.txt,放入如下内容:

    t1
    t2 : select * from t2 where c1 > 138888
  2. 执行如下命令,同步指定的t1和t2表(注意t2表只迁移符合c1 > 138888条件的数据):

    ./mysql2pgsql -l tab_list.txt

下载与说明