01新建MaxCompute公共节点

本文介绍如何新建MaxCompute公共节点。

前提条件

  1. 已新建工作组,具体操作,请参见新建工作组

  2. 已在工作组中分别添加数据源类型为MaxCompute、RDS MySQL的数据源,具体操作,请参见新建云计算资源

  3. 已新建逻辑表,具体操作,请参见通过云计算资源扫描创建逻辑表通过DDL方式新建逻辑表或者07批量导入逻辑表

操作步骤

  1. 登录数据资源平台控制台

  2. 在页面左上角,单击菜单图标,选择协同

  3. 在顶部菜单栏,单击选择工作组图标,选择目标工作组,单击资产加工

  4. 说明

    若您已在资产加工页面,请跳过“单击资产加工”的操作。

  5. 在左侧导航栏,单击image图标,选择公共节点

  6. 单击image图标,在公共节点页面,单击新建节点

  7. 新建节点对话框,节点类型选择为MaxCompute SQL,单击确定

  8. 进入节点编辑页面,对节点进行配置。

    1. 在右侧节点属性页签,填写节点标识和节点名称为“ods_base_yhkh_demo_di”。

    2. 在编辑页面,输入如下SQL脚本,单击图标。

      insert overwrite table ${ods_base_yhkh_demo_di}
      select
        t1.id,
        t1.zzhm,
        t1.khmc,
        t1.nl,
        t1.xb,
        case t1.xb when '0' then '01' when '1' then '02' end as c_xb_dm,
        case t1.xb when '0' then '男' when '1' then '女' end as c_xb_mc,
        substr(t1.yddh1, -11) as yddh1,
        t1.csrq,
        t1.jysp,
        case t1.jysp when '0' then '00' when '1' then '01' when '2' then '02'
        when '3' then '03' when '4' then '04' end as c_jysp_dm,
        case t1.jysp when '0' then '研究生' when '1' then '本科' when '2' 
        then '高中' when '3' then '职业高中' when '4' then '职业学院' end as c_jysp_mc,
        t1.career,
        case t1.career when '0' then '00' when '1' then '01' when '2' then '02' when '3'
        then '03' when '4' then '04' end as c_career_dm,
        case t1.career when '0' then '保险' when '1' then '教师' when '2' then '外企白领' 
        when '3' then '自由职业' when '4' then 'IT工程师' end as c_career_mc,
        t1.hyzk,
        case t1.hyzk when '0' then '01' when '1' then '02' end as c_hyzk_dm,
        case t1.hyzk when '0' then '已婚' when '1' then '未婚' end as c_hyzk_mc,
        t1.gz,
        t1.decdbyjyje,
        t1.decdbyjybs,
        t1.zjzdjyrq,
        t1.jtnsr,
        t1.dqckcy
      from
        ${stg_base_yhkh_demo_di} t1;
    3. 确认节点信息对话框中,确认节点标识节点名称以及节点目录信息无误后,单击确定

    4. 单击页面右侧运行配置页签,选择开发计算引擎为“dataq_odps_dev”。

    5. 在画布顶部操作栏,单击解析图标,自动解析公共节点输入输出。

    6. 在画布顶部操作栏,单击保存图标,保存已修改的节点画布。

    7. 单击图标,出现节点变量确认对话框,确认默认值无误后,单击确定

      说明

      参数名称可复制,粘贴到默认值中。

    8. 查看运行结果和日志,当结果显示如下所示“Current task status:SUCCESS”,则表示运行成功。

  9. 按照上述步骤新建其他公共节点。

    • 公共节点2:节点名称/节点标识“ods_base_xykxfmx_demo_di”,公共节点描述为”信用卡消费“,节点SQL语句:

      insert overwrite table ${ods_base_xykxfmx_demo_di}
      select
        t1.id,
        t1.cid,
        t1.xfrq,
        t1.rid,
        t1.xfje,
        t1.xflx
      from
      ${stg_base_xykxfmx_demo_di} t1

      参数

      配置信息

      开发计算引擎

      dataq_odps_dev

      节点变量

      输入和参数名一致的默认值。

    • 公共节点3:节点名称/节点标识“ods_base_xykbkjl_demo_di”,公共节点描述为”信用卡信息“,节点SQL语句:

      insert overwrite table ${ods_base_xykbkjl_demo_di}
      select
        t1.id,
        t1.cid,
        t1.climit,
        to_char(from_unixtime(t1.actdate),"yyyymmdd")  as actdate,
        t1.channel,
        t1.rid
      from
        ${stg_base_xykbkjl_demo_di} t1

      参数

      配置信息

      开发计算引擎

      dataq_odps_dev

      节点变量

      输入和参数名一致的默认值。

    • 公共节点4:节点名称/节点标识“dwd_xykyw_xfmx_demo_di”,公共节点描述”银行客户信息“,节点SQL语句:

      insert overwrite table ${dwd_xykyw_xfmx_demo_di} select * from 
      ${ods_base_xykxfmx_demo_di};

      参数

      配置信息

      开发计算引擎

      dataq_odps_dev

      节点变量

      输入和参数名一致的默认值。

    • 公共节点5:节点名称/节点标识/公共节点描述“dwd_xykyw_bkjl_demo_di”,节点SQL语句:

      insert overwrite table ${dwd_xykyw_bkjl_demo_di} select
      a.id,
      a.cid,
      a.climit,
      a.actdate,
      a.channel,
      a.rid,
      b.nl,
      b.c_xb_mc,
      b.c_career_mc
      from ${ods_base_xykbkjl_demo_di} a,${ods_base_yhkh_demo_di} b where a.rid=b.zzhm;

      参数

      配置信息

      开发计算引擎

      dataq_odps_dev

      节点变量

      输入和参数名一致的默认值。

    • 公共节点6:节点名称/节点标识/公共节点描述“dwd_khzx_khxx_demo_di”,节点SQL语句:

      insert overwrite table ${dwd_khzx_khxx_demo_di} 
      select id,zzhm,khmc,nl,c_xb_mc,sjhm,
      csrq,c_jysp_mc,c_career_mc,c_hyzk_mc,
      gz,decdbyjyje,decdbyjybs,zjzdjyrq,jtnsr,
      dqckcy from ${ods_base_yhkh_demo_di};

      参数

      配置信息

      开发计算引擎

      dataq_odps_dev

      节点变量

      输入和参数名一致的默认值。

    • 公共节点7:节点名称/节点标识/公共节点描述“dws_sj_xykyzd_demo_di”,节点SQL语句:

      insert
        overwrite table ${dws_sj_xykyzd_demo_di}
      select
        row_number() over (
          partition by a.aa
          order by
            a.cid,
            a.xfrq
        ),
        a.cid,
        a.xfrq,
        b.climit,
        a.rid,
        a.amount
      from
        (
          select
            1 as aa,
            cid,
            xfrq,
            rid,
            sum(xfje) as amount
          from
            ${dwd_xykyw_xfmx_demo_di}
          group by
            cid,
            xfrq,
            rid
        ) a
        left outer join ${dwd_xykyw_bkjl_demo_di} b on a.cid = b.cid;

      参数

      配置信息

      开发计算引擎

      dataq_odps_dev

      节点变量

      输入和参数名一致的默认值。

    • 公共节点8:节点名称/节点标识“dws_wp_xyk_demo_di”,公共节点描述为“信用卡消费”,节点SQL语句:

      insert overwrite table ${dws_wp_xyk_demo_di} select * from 
      ${dwd_xykyw_bkjl_demo_di};

      参数

      配置信息

      开发计算引擎

      dataq_odps_dev

      节点变量

      输入和参数名一致的默认值。

    • 公共节点9:节点名称/节点标识“dws_ren_kh_demo_di”,公共节点描述为“信用卡信息”。节点SQL语句:

      insert overwrite table ${dws_ren_kh_demo_di} select * from 
      ${dwd_khzx_khxx_demo_di};

      参数

      配置信息

      开发计算引擎

      dataq_odps_dev

      节点变量

      输入和参数名一致的默认值。

    • 公共节点10:节点名称/节点标识“dws_sj_xykxfhz_demo_di”,简介为“银行客户信息”。节点SQL语句:

      insert overwrite table ${dws_sj_xykxfhz_demo_di} select
      cid,
      xfrq,
      rid,
      sum(case xflx when '大额消费' then xfje else 0 end),
      sum(case xflx when '大额整数消费' then xfje else 0 end),
      sum(case xflx when '用一商户连续刷卡' then xfje else 0 end),
      sum(case xflx when '购买基金' then xfje else 0 end),
      sum(case xflx when '娱乐消费' then xfje else 0 end),
      sum(case xflx when '购买保险' then xfje else 0 end),
      sum(xfje) 
      from ${dwd_xykyw_xfmx_demo_di} group by cid,xfrq,rid;

      参数

      配置信息

      开发计算引擎

      dataq_odps_dev

      节点变量

      输入和参数名一致的默认值。

预期结果

在公共节点列表可以查看新建的10个公共节点。image