迁移ECS自建MySQL数据库至MaxCompute

操作步骤

1. 在DataWorks上创建MySQL数据源。

   1. 进入数据源页面。

      1. 登录DataWorks控制台，切换至目标地域后，单击左侧导航栏的更多 > 管理中心，在下拉框中选择对应工作空间后单击进入管理中心。

      2. 进入工作空间管理中心页面后，单击左侧导航栏的数据源 > 数据源列表，进入数据源页面。

   2. 单击新增数据源。

   3. 在新增数据源对话框，单击MySQL。

   4. 在创建MySQL数据源对话框中，配置各项参数，详情请参见配置MySQL数据源。

      本文以连接串模式为例，在连接地址处输入您刚刚记录的ECS私有地址和MySQL的默认端口号3306。

      说明

      当前VPC环境下的自建MySQL数据源暂不支持测试连通性，因此连通性测试失败是正常现象。

   5. 单击相应资源组后的测试连通性。

      数据同步时，可使用独享数据集成资源组。任务每次运行只能使用一个资源组，如有多个可选择的资源组，需单独测试所选资源组的连通性，以保证同步任务使用的资源组能够与数据源连通，否则将无法正常执行数据同步任务。详情请参见网络连通方案。

   6. 测试连通性通过后，单击完成。

2. 创建MaxCompute表。

   您需要通过DataWorks创建一个表，用于接收来自MySQL的测试数据。

   1. 单击左上角的图标，选择全部产品 > 数据开发与运维 > DataStudio（数据开发）。

   2. 新建一个业务流程，详情请参见创建周期业务流程。

   3. 右键单击新建的业务流程，选择新建表 > MaxCompute > 表。

   4. 输入您的MaxCompute表名称，本例中使用和MySQL数据库表一样的名称good_sale。单击DDL后，输入您的建表语句并生成表结构。

      本例中使用的建表语句如下，请注意数据类型的转换。

      CREATE TABLE IF NOT EXISTS good_sale(
         create_time string,
         category STRING,
         brand STRING,
         buyer_id STRING,
         trans_num BIGINT,
         trans_amount DOUBLE,
         click_cnt BIGINT
         );

   5. 输入表的中文名后，单击提交到生产环境，完成MaxCompute表good_sale的创建。

      

3. 配置数据集成任务。

   1. 右键单击业务流程，选择新建节点 > 数据集成 > 离线同步，创建一个数据集成任务。

   2. 选择您的数据来源为您刚添加的MySQL数据源，数据去向选择已添加的MaxCompute数据源，单击转换脚本切换数据集成任务为脚本模式。

      此时，如果产生报错或您无法选择数据来源的表，都属于正常现象，直接转换为脚本模式即可。

   3. 单击页面右侧的数据集成资源组配置，选中已购买的独享资源组。

      如果未切换任务资源组为数据集成独享资源，后续您的任务将无法成功运行。

   4. 填写数据集成任务脚本内容如下。

      {
          "type": "job",
          "steps": [
              {
                  "stepType": "mysql",
                  "parameter": {
                      "column": [//源列名
                          "create_time",
                          "category",
                          "brand",
                          "buyer_id",
                          "trans_num",
                          "trans_amount",
                          "click_cnt"
                      ],
                      "connection": [
                          {
                              "datasource": "shuai",//源数据源
                              "table": [
                                  "good_sale"//源数据库表名，此处必须为方括号数组格式。
                              ]
                          }
                      ],
                      "where": "",
                      "splitPk": "",
                      "encoding": "UTF-8"
                  },
                  "name": "Reader",
                  "category": "reader"
              },
              {
                  "stepType": "odps",
                  "parameter": {
                      "partition": "",
                      "truncate": true,
                      "datasource": "odps_source",//目标MaxCompute数据源名称
                      "column": [//目标列名
                          "create_time",
                          "category",
                          "brand",
                          "buyer_id",
                          "trans_num",
                          "trans_amount",
                          "click_cnt"
                      ],
                      "emptyAsNull": false,
                      "table": "good_sale"//目标表名
                  },
                  "name": "Writer",
                  "category": "writer"
              }
          ],
          "version": "2.0",
          "order": {
              "hops": [
                  {
                      "from": "Reader",
                      "to": "Writer"
                  }
              ]
          },
          "setting": {
              "errorLimit": {
                  "record": "0"
              },
              "speed": {
                  "throttle": false,
                  "concurrent": 2
              }
          }
      }

   5. 单击运行，您可以在下方的运行日志查看数据是否已传输到MaxCompute。