文档

准备数据

更新时间:

在数据准备阶段,您需要同步原始数据至MaxCompute。

准备数据源

  1. 通过RDS创建MySQL实例,获取RDS实例ID。详情请参见快速创建RDS MySQL实例

  2. 在RDS控制台添加白名单,详情请参见添加白名单

    说明

    如果是通过自定义资源组调度RDS的数据同步任务,必须把自定义资源组的机器IP也加入RDS的白名单中。

  3. 下载本教程使用的原始数据indicators_datasteal_flag_datatrend_data

  4. 上传原始数据至RDS数据源,详情请参见将Excel的数据导入数据库

新增数据源

说明

本次实验需要创建MySQL数据源。

  1. 进入管理中心页面。

    登录DataWorks控制台,单击左侧导航栏的管理中心,在下拉框中选择对应工作空间后单击进入管理中心

  2. 在左侧导航栏,单击数据源,进入数据源页面。

  3. 数据源页面,单击新增数据源

  4. 新增数据源对话框中,选择数据源类型为MySQL

  5. 新增MySQL数据源对话框中,配置各项参数。

    参数

    描述

    数据源类型

    当前选择的数据源类型为阿里云实例模式

    数据源名称

    数据源名称必须以字母、数字、下划线组合,且不能以数字和下划线开头。

    数据源描述

    对数据源进行简单描述,不得超过80个字符。

    适用环境

    可以选择开发生产环境。

    说明

    仅标准模式工作空间会显示该配置。

    地区

    选择相应的区域。

    RDS实例ID

    您可以进入RDS控制台,查看RDS实例ID。

    默认数据库名

    数据库的名称。

    用户名

    数据库对应的用户名。

    密码

    数据库对应的密码。

    认证选项

    选择无认证

  6. 单击对应资源组后的测试连通性。

  7. 测试连通性通过后,单击完成

新建业务流程

  1. 单击当前页面左上角的图标图标,选择全部产品 > 数据开发与运维 > DataStudio(数据开发)

  2. 右键单击业务流程,选择新建业务流程

  3. 新建业务流程对话框中,输入业务名称描述

    说明

    业务名称的长度不能超过128个字符,且必须是大小写字母、中文、数字、下划线(_)以及小数点(.)。

  4. 单击新建

  5. 进入业务流程开发面板,并向面板中拖入一个虚拟节点(start)和三个离线同步节点(电量下降趋势数据同步、窃电标志数据同步和指标数据同步)分别填写相应的配置后,单击提交start

  6. 拖拽连线将start节点设置为三个离线同步节点的上游节点。业务流程

配置start节点

  1. 双击虚拟节点,单击右侧的调度配置

  2. 设置start节点的上游节点为工作空间根节点。

    由于新版本给每个节点都设置了输入输出节点,所以需要给start节点设置一个输入。此处设置其上游节点为工作空间根节点,通常命名为工作空间名_root根节点

  3. 配置完成后,单击左上角的保存图标。

新建表

  1. 右键单击新建的业务流程,选择新建表 > MaxCompute >

  2. 新建表对话框中,选择引擎实例、路径,输入表名称,单击新建

    此处需要创建3张表,分别存储同步过来的电量下降趋势数据、指标数据和窃电标志数据(trend_data、indicators_data和steal_flag_data)。

    说明

    表名不能超过64个字符,且必须以字母开头,不能包含中文或特殊字符。

  3. 打开创建的表,单击DDL模式,分别输入以下相应的建表语句。

    --电量下降趋势表
    CREATE TABLE trend_data (
        uid bigint,
        trend bigint
    )
    PARTITIONED BY (dt string);
    --指标数据
    CREATE TABLE indicators_data (
        uid bigint,
        xiansun bigint,
        warnindicator bigint
    )
    COMMENT '*'
    PARTITIONED BY (ds string)
    LIFECYCLE 36000;
    --窃电标志数据
    CREATE TABLE steal_flag_data (
        uid bigint,
        flag bigint
    )
    COMMENT '*'
    PARTITIONED BY (ds string)
    LIFECYCLE 36000;
  4. 建表语句输入完成后,单击生成表结构确认覆盖当前操作。

  5. 返回建表页面后,在基本属性中输入表的中文名。

  6. 完成设置后,分别单击提交到开发环境提交到生产环境提交环境

配置离线同步节点

配置电量下降趋势数据同步节点。

  1. 双击电量下降趋势数据同步节点,进入节点配置页面。

  2. 选择数据来源。

    数据来源

    参数

    描述

    数据源

    选择MySQL > workshop

    选择MySQL数据源中的表trending

    数据过滤

    您将要同步数据的筛选条件,暂时不支持limit关键字过滤。SQL语法与选择的数据源一致,此处可以不填。

    切分键

    读取数据时,根据配置的字段进行数据分片,实现并发读取,可以提升数据同步效率。此处可以不填。

  3. 选择数据去向。

    数据去向

    参数

    描述

    数据源

    选择ODPS > odps_first

    选择ODPS数据源中的表trend_data

    分区信息

    输入要同步的分区列,此处默认为dt=${bdp.system.bizdate}

    清理规则

    选择写入前清理已有数据

    空字符串作为null

    选择

  4. 配置字段映射。字段映射

  5. 配置通道控制

    通道控制

    参数

    描述

    任务期望最大并发数

    数据同步任务内,可以从源并行读取或并行写入数据存储端的最大线程数。向导模式通过界面化配置并发数,指定任务所使用的并行度。

    同步速率

    设置同步速率可以保护读取端数据库,以避免抽取速度过大,给源库造成太大的压力。同步速率建议限流,结合源库的配置,请合理配置抽取速率。

    错误记录数

    错误记录数,表示脏数据的最大容忍条数。

  6. 确认当前节点的配置无误后,单击左上角的保存图标。

提交业务流程

  1. 打开业务流程配置面板,单击左上角的提交进行提交。

  2. 选择提交对话框中需要提交的节点,输入备注,勾选忽略输入输出不一致的告警提交

  3. 单击提交,待显示提交成功即可。

确认数据是否成功导入MaxCompute

  1. 数据开发页面的左侧导航栏,单击临时查询,进入临时查询面板。

  2. 右键单击临时查询,选择新建节点 > ODPS SQL

  3. 编写并执行SQL语句,查看导入表trend_data、indicators_data和steal_flag_data的记录数。

    运行

    SQL语句如下所示,其中分区列需要更新为业务日期。例如,任务运行的日期为20190809,则业务日期为201900808。

    --查看是否成功写入MaxCompute
    SELECT count(*) from trend_data where dt=业务日期;
    SELECT count(*) from indicators_data where ds=业务日期;
    SELECT count(*) from steal_flag_data where ds=业务日期;

后续步骤

现在,您已经学习了如何通过数据同步采集数据,您可以继续下一个教程。在该教程中,您将学习如何对采集的数据进行计算与分析。详情请参见加工数据

  • 本页导读 (1)
文档反馈