本文介绍如何基于OSS并使用MaxCompute构建PB级数据仓库。通过MaxCompute对OSS上的海量数据进行分析,将您的大数据分析工作效率提升至分钟级,帮助您更高效、更低成本的挖掘海量数据价值。

前提条件

  • 已开通OSS服务,并已创建Bucket。
  • 已开通MaxCompute服务,并已授权MaxCompute访问OSS。
    • 开通MaxCompute服务请参见开通MaxCompute
    • MaxCompute需要直接访问OSS的数据,因此需要将OSS的数据相关权限赋给MaxCompute的访问账号。您可以在直接登录阿里云账号后,单击此处完成一键授权

背景信息

互联网金融应用每天都需要将大量的金融数据交换文件存放在OSS上,并需要进行超大文本文件的结构化分析。通过MaxCompute的OSS外部表查询功能,用户可以直接用外部表的方式将OSS上的大文件加载到MaxCompute进行分析,从而大幅提升整个链路的效率。

操作示例:物联网采集数据分析

  1. 将物联网数据上传到OSS。
    操作步骤请参见上传文件。您可以使用任何数据集来执行测试,以验证我们在这篇文章中概述的最佳实践。本示例在OSS上准备了一批CSV数据,Endpoint为oss-cn-beijing-internal.aliyuncs.com,Bucket为oss-odps-test,数据文件的存放路径为 /demo/vehicle.csv
  2. 创建MaxCompute Project。
    操作步骤请参见创建MaxCompute Project
  3. 通过MaxCompute创建外部表。
    操作步骤请参考创建表,语句如下:
    CREATE EXTERNAL TABLE IF NOT EXISTS ambulance_data_csv_external
    (
        vehicleId int,
        recordId int,
        patientId int,
        calls int,
        locationLatitute double,
        locationLongtitue double,
        recordTime string,
        direction string
        )
        STORED BY 'com.aliyun.odps.CsvStorageHandler'
        LOCATION 'oss://oss-cn-beijing-internal.aliyuncs.com/oss-odps-test/Demo/';
  4. 通过MaxCompute查询外部表。
    成功创建外部表后,便可如普通表一样使用该外部表。查询步骤请参见运行SQL和导出数据
    假设/demo/vehicle.csv的数据如下:
    1,1,51,1,46.81006,-92.08174,9/14/2014 0:00,S
    1,2,13,1,46.81006,-92.08174,9/14/2014 0:00,NE
    1,3,48,1,46.81006,-92.08174,9/14/2014 0:00,NE
    1,4,30,1,46.81006,-92.08174,9/14/2014 0:00,W
    1,5,47,1,46.81006,-92.08174,9/14/2014 0:00,S
    1,6,9,1,46.81006,-92.08174,9/14/2014 0:00,S
    1,7,53,1,46.81006,-92.08174,9/14/2014 0:00,N
    1,8,63,1,46.81006,-92.08174,9/14/2014 0:00,SW
    1,9,4,1,46.81006,-92.08174,9/14/2014 0:00,NE
    1,10,31,1,46.81006,-92.08174,9/14/2014 0:00,N
    执行如下 SQL 语句:
    select recordId, patientId, direction from ambulance_data_csv_external where patientId > 25;
    输出结果如下:
    +------------+------------+-----------+
    | recordId   | patientId  | direction |
    +------------+------------+-----------+
    | 1          | 51         | S         |
    | 3          | 48         | NE        |
    | 4          | 30         | W         |
    | 5          | 47         | S         |
    | 7          | 53         | N         |
    | 8          | 63         | SW        |
    | 10         | 31         | N         |
    +------------+------------+-----------+

    更多关于OSS外部表使用方法,请参见外部表概述

操作示例:阿里云产品消费账单分析

  1. 创建MaxCompute Project,详情请参见创建MaxCompute Project
  2. 在阿里云控制台单击费用,之后单击返回旧版
  3. 单击消费记录 > 存储到OSS,输入用于存储文件的OSS bucket名称,本示例中为oms-yl
    如果您之前未开通过此服务,您需要单击进入授权,按流程完成授权后再配置。
    服务开通后,每天会将增量的实例消费明细数据生成文件,并同步存储到指定的Bucket中,如下图所示。

  4. 安装MaxCompute客户端,并下载自定义代码
  5. 运行add jar odps-udf-example-0.30.0-SNAPSHOT-jar-with-dependencies.jar命令,将自定义代码编译打包,并上传到MaxCompute。
  6. 通过MaxCompute创建外部表。
    详细步骤请参考创建表。以创建5月4日的账单消费表为例,外部表如下:
    CREATE EXTERNAL TABLE IF NOT EXISTS oms_oss_0504
    (
    月份 string,
    资源拥有者 string,
    消费时间 string,
    消费类型 string,
    账单编号 string,
    商品 string,
    计费方式 string,
    服务开始时间 string,
    服务结束时间 string,
    服务时长 string,
    财务核算单元 string,
    资源id string,
    资源昵称 string,
    TAG string,
    地域 string,
    可用区 string,
    公网ip string,
    内网ip string,
    资源配置 string,
    原价 string,
    优惠金额 string,
    应付金额 string,
    计费项1 string,
    使用量1 string,
    资源包扣除1 string,
    原价1 string ,
    应付金额1 string,
    计费项2 string,
    使用量2 string,
    资源包扣除2 string,
    原价2 string,
    应付金额2 string,
    计费项3 string,
    使用量3 string,
    资源包扣除3 string,
    原价3 string,
    应付金额3 string,
    计费项4 string,
    使用量4 string,
    资源包扣除4 string,
    原价4 string,
    应付金额4 string,
    计费项5 string,
    使用量5 string,
    资源包扣除5 string,
    原价5 string,
    应付金额5 string,
    计费项6 string,
    使用量6 string,
    资源包扣除6 string,
    原价6 string,
    应付金额6 string,
    计费项7 string,
    使用量7 string,
    资源包扣除7 string,
    原价7 string,
    应付金额7 string,
    计费项8 string,
    使用量8 string,
    资源包扣除8 string,
    原价8 string,
    应付金额8 string,
    计费项9 string,
    使用量9 string,
    资源包扣除9 string,
    原价9 string,
    应付金额9 string
    )
    STORED BY 'com.aliyun.odps.udf.example.text.TextStorageHandler' --STORED BY 指定自定义 StorageHandler 的类名。
    with SERDEPROPERTIES (
    'odps.text.option.complex.text.enabled'='true', 
    'odps.text.option.strict.mode'='false'
    --遇到列数不一致的情况不会抛异常,如果实际列数少于schema列数,将所有列按顺序匹配,剩下的不足的列补NULL。
    )
    LOCATION 'oss://oss-cn-beijing-internal.aliyuncs.com/oms-yl/2018-05-04/'
    USING 'text_oss.jar'; --同时需要指定账单中的文本处理类定义所在的 jar 包。
  7. 通过MaxCompute查询外部表。
    查询步骤可参考 运行SQL和导出数据。以查询ECS快照消费账单明细为例,命令如下:
    select  月份,原价,优惠金额,应付金额,计费项1,使用量 from oms_oss where  商品=快照(SNAPSHOT);