在数据准备阶段,您需要同步原始数据至MaxCompute。

准备数据源

  1. 通过RDS创建MySQL实例,获取RDS实例ID。详情请参见创建RDS MySQL实例
  2. 在RDS控制台添加白名单,详情请参见添加白名单
    说明 如果是通过自定义资源组调度RDS的数据同步任务,必须把自定义资源组的机器IP也加入RDS的白名单中。
  3. 下载本教程使用的原始数据indicators_datasteal_flag_datatrend_data
  4. 上传原始数据至RDS数据源,详情请参见将Excel的数据导入数据库

新增数据源

说明 本次实验需要创建MySQL数据源。
  1. 进入数据源管理页面。
    1. 登录DataWorks控制台
    2. 在左侧导航栏,单击工作空间列表
    3. 选择工作空间所在地域后,单击相应工作空间后的进入数据集成
    4. 在左侧导航栏,单击数据源,进入工作空间管理 > 数据源管理页面。
  2. 数据源管理页面,单击右上角的新增数据源
  3. 新增数据源对话框中,选择数据源类型为MySQL
  4. 新增MySQL数据源对话框中,配置各项参数。
    参数 描述
    数据源类型 当前选择的数据源类型为MySQL > 阿里云实例模式
    数据源名称 数据源名称必须以字母、数字、下划线组合,且不能以数字和下划线开头。
    数据源描述 对数据源进行简单描述,不得超过80个字符。
    适用环境 可以选择开发生产环境。
    说明 仅标准模式工作空间会显示该配置。
    地区 选择相应的区域。
    RDS实例ID 您可以进入RDS控制台,查看RDS实例ID。
    RDS实例主账号ID 实例购买者登录控制台,进入安全设置页面,即可查看实例账号ID。
    数据库名 数据库的名称。
    用户名 数据库对应的用户名。
    密码 数据库对应的密码。
  5. 单击测试连通性
  6. 测试连通性通过后,单击完成

新建业务流程

  1. 单击当前页面左上角的图标图标,选择全部产品 > 数据开发 > DataStudio(数据开发)
  2. 右键单击业务流程,选择新建业务流程
  3. 新建业务流程对话框中,输入业务名称描述
    数据开发
    说明 业务名称的长度不能超过128个字符,且必须是大小写字母、中文、数字、下划线(_)以及小数点(.)。
  4. 单击新建
  5. 进入业务流程开发面板,并向面板中拖入一个虚拟节点(start)和三个离线同步节点(电量下降趋势数据同步、窃电标志数据同步和指标数据同步)分别填写相应的配置后,单击提交start
  6. 拖拽连线将start节点设置为三个离线同步节点的上游节点。业务流程

配置start节点

  1. 双击虚拟节点,单击右侧的调度配置
  2. 设置start节点的上游节点为工作空间根节点。
    由于新版本给每个节点都设置了输入输出节点,所以需要给start节点设置一个输入。此处设置其上游节点为工作空间根节点,通常命名为工作空间名_root根节点
  3. 配置完成后,单击左上角的保存图标。

新建表

  1. 打开新建的业务流程,单击MaxCompute左侧的展开图标,打开MaxCompute。
  2. 右键单击MaxCompute下的,单击新建表
  3. 新建表对话框中,输入表名,单击提交
    此处需要创建3张表,分别存储同步过来的电量下降趋势数据、指标数据和窃电标志数据(trend_data、indicators_data和steal_flag_data)。
    说明 表名不能超过64个字符,且必须以字母开头,不能包含中文或特殊字符。
  4. 打开创建的表,单击DDL模式,分别输入以下相应的建表语句。
    --电量下降趋势表
    CREATE TABLE `trend_data` (
        `uid` bigint,
        `trend` bigint
    )
    PARTITIONED BY (dt string);
    --指标数据
    CREATE TABLE `indicators_data` (
        `uid` bigint,
        `xiansun` bigint,
        `warnindicator` bigint
    )
    COMMENT '*'
    PARTITIONED BY (ds string)
    LIFECYCLE 36000;
    --窃电标志数据
    CREATE TABLE `steal_flag_data` (
        `uid` bigint,
        `flag` bigint
    )
    COMMENT '*'
    PARTITIONED BY (ds string)
    LIFECYCLE 36000;
  5. 建表语句输入完成后,单击生成表结构确认覆盖当前操作。
  6. 返回建表页面后,在基本属性中输入表的中文名。
  7. 完成设置后,分别单击提交到开发环境提交到生产环境提交环境

配置离线同步节点

配置电量下降趋势数据同步节点。
  1. 双击电量下降趋势数据同步节点,进入节点配置页面。
  2. 选择数据来源。
    数据来源
    参数 描述
    数据源 选择MySQL > workshop
    选择MySQL数据源中的表trending
    数据过滤 您将要同步数据的筛选条件,暂时不支持limit关键字过滤。SQL语法与选择的数据源一致,此处可以不填。
    切分键 读取数据时,根据配置的字段进行数据分片,实现并发读取,可以提升数据同步效率。此处可以不填。
  3. 选择数据去向。
    数据去向
    参数 描述
    数据源 选择ODPS > odps_first
    选择ODPS数据源中的表trend_data
    分区信息 输入要同步的分区列,此处默认为dt=${bdp.system.bizdate}
    清理规则 选择写入前清理已有数据
    空字符串作为null 选择
  4. 配置字段映射。字段映射
  5. 配置通道控制
    通道控制
    参数 描述
    任务期望最大并发数 数据同步任务内,可以从源并行读取或并行写入数据存储端的最大线程数。向导模式通过界面化配置并发数,指定任务所使用的并行度。
    同步速率 设置同步速率可以保护读取端数据库,以避免抽取速度过大,给源库造成太大的压力。同步速率建议限流,结合源库的配置,请合理配置抽取速率。
    错误记录数 错误记录数,表示脏数据的最大容忍条数。
  6. 确认当前节点的配置无误后,单击左上角的保存图标。

提交业务流程

  1. 打开业务流程配置面板,单击左上角的提交进行提交。
  2. 选择提交对话框中需要提交的节点,输入备注,勾选忽略输入输出不一致的告警提交
  3. 单击提交,待显示提交成功即可。

确认数据是否成功导入MaxCompute

  1. 数据开发页面的左侧导航栏,单击临时查询,进入临时查询面板。
  2. 右键单击临时查询,选择新建节点 > ODPS SQL
  3. 编写并执行SQL语句,查看导入表trend_data、indicators_data和steal_flag_data的记录数。
    运行
    SQL语句如下所示,其中分区列需要更新为业务日期。例如,任务运行的日期为20190809,则业务日期为201900808。
    --查看是否成功写入MaxCompute
    SELECT count(*) from trend_data where dt=业务日期;
    SELECT count(*) from indicators_data where ds=业务日期;
    SELECT count(*) from steal_flag_data where ds=业务日期;

后续步骤

现在,您已经学习了如何通过数据同步采集数据,您可以继续下一个教程。在该教程中,您将学习如何对采集的数据进行计算与分析。详情请参见数据加工