全部产品
存储与CDN 数据库 安全 应用服务 数加·人工智能 数加·大数据基础服务 互联网中间件 视频服务 开发者工具 解决方案 物联网
MaxCompute

访问 OSS 非结构化数据

更新时间:2017-11-23 16:53:23

本文将带您实现在 MaxCompute 上轻松访问 OSS 的数据,关于处理非结构化数据的原理性介绍请参见 前言

STS模式授予权限

MaxCompute需要直接访问OSS的数据,前提需要将OSS的数据相关权限赋给MaxCompute的访问账号,您可通过以下两种方式授予权限:

  • 当MaxCompute和OSS的owner是同一个账号时,可以直接登录阿里云账号后,点击此处完成一键授权

  • 自定义授权。

    1. 首先需要在 RAM 中授予 MaxCompute 访问 OSS 的权限。登录 RAM控制台(若MaxCompute和OSS不是同一个账号,此处需由OSS账号登录进行授权),通过控制台中的 角色管理 创建角色 ,角色名如AliyunODPSDefaultRole或AliyunODPSRoleForOtherUser。如下图所示:

      ram_role

    2. 修改角色策略内容设置,如下所示:

      1. --当MaxComputeOSSOwner是同一个账号
      2. {
      3. "Statement": [
      4. {
      5. "Action": "sts:AssumeRole",
      6. "Effect": "Allow",
      7. "Principal": {
      8. "Service": [
      9. "odps.aliyuncs.com"
      10. ]
      11. }
      12. }
      13. ],
      14. "Version": "1"
      15. }
      16. --当MaxComputeOSSOwner不是同一个账号
      17. {
      18. "Statement": [
      19. {
      20. "Action": "sts:AssumeRole",
      21. "Effect": "Allow",
      22. "Principal": {
      23. "Service": [
      24. "MaxCompute的Owner云账号id@odps.aliyuncs.com"
      25. ]
      26. }
      27. }
      28. ],
      29. "Version": "1"
      30. }
    3. 授予角色访问OSS必要的权限 AliyunODPSRolePolicy 。如下所示:

      1. {
      2. "Version": "1",
      3. "Statement": [
      4. {
      5. "Action": [
      6. "oss:ListBuckets",
      7. "oss:GetObject",
      8. "oss:ListObjects",
      9. "oss:PutObject",
      10. "oss:DeleteObject",
      11. "oss:AbortMultipartUpload",
      12. "oss:ListParts"
      13. ],
      14. "Resource": "*",
      15. "Effect": "Allow"
      16. }
      17. ]
      18. }
      19. --可自定义其他权限
    4. 将权限AliyunODPSRolePolicy授权给该角色。

内置extractor访问 OSS 数据

访问外部数据源时,需要用户自定义不同的 Extractor,同时您也可以使用 MaxCompute 内置的 Extractor,来读取按照约定格式存储的 OSS 数据。只需要创建一个外部表,便可把这张表作为源表进行查询。

假设有一份 CSV 数据存在 OSS 上,endpoint 为oss-cn-shanghai-internal.aliyuncs.com,bucket 为oss-odps-test,数据文件的存放路径为/demo/vehicle.csv

创建外部表

创建外部表,语句如下:

  1. CREATE EXTERNAL TABLE IF NOT EXISTS ambulance_data_csv_external
  2. (
  3. vehicleId int,
  4. recordId int,
  5. patientId int,
  6. calls int,
  7. locationLatitute double,
  8. locationLongtitue double,
  9. recordTime string,
  10. direction string
  11. )
  12. STORED BY 'com.aliyun.odps.CsvStorageHandler' -- (1)
  13. WITH SERDEPROPERTIES (
  14. 'odps.properties.rolearn'='acs:ram::xxxxx:role/aliyunodpsdefaultrole'
  15. ) -- (2)
  16. LOCATION 'oss://oss-cn-shanghai-internal.aliyuncs.com/oss-odps-test/Demo/'; -- (3)(4)

上述语句,说明如下:

  • com.aliyun.odps.CsvStorageHandler是内置的处理 CSV 格式文件的StorageHandler,它定义了如何读写 CSV 文件。您只需指明这个名字,相关逻辑已经由系统实现。

  • odps.properties.rolearn中的信息是 RAM 中AliyunODPSDefaultRoleArn信息。您可以通过 RAM 控制台中的 角色详情 获取。

  • LOCATION 必须指定一个 OSS 目录,默认系统会读取这个目录下所有的文件。

    • 建议您使用 OSS 提供的内网域名,否则将产生 OSS 流量费用。

    • 建议您存放 OSS 数据的区域对应您开通 MaxCompute 的区域。由于 MaxCompute 只有在部分区域部署,我们不承诺跨区域的数据连通性。

    • OSS 的连接格式为oss://oss-cn-shanghai-internal.aliyuncs.com/Bucket名称/目录名称/。目录后不要加文件名称,如下的集中用法都是错误的:

      1. http://oss-odps-test.oss-cn-shanghai-internal.aliyuncs.com/Demo/ -- 不支持http连接
      2. https://oss-odps-test.oss-cn-shanghai-internal.aliyuncs.com/Demo/ -- 不支持https连接
      3. oss://oss-odps-test.oss-cn-shanghai-internal.aliyuncs.com/Demo -- 连接地址错误
      4. oss://oss://oss-cn-shanghai-internal.aliyuncs.com/oss-odps-test/Demo/vehicle.csv -- 不必指定文件名
  • 外部表只是在系统中记录了与 OSS 目录的关联,当 Drop 这张表时,对应的LOCATION数据不会被删除。

    更多有关外部表的说明请参见 DDL 语句

查询外部表

外部表创建成功后,便可如同普通表一样使用这个外部表。假设/demo/vehicle.csv数据如下:

  1. 1,1,51,1,46.81006,-92.08174,9/14/2014 0:00,S
  2. 1,2,13,1,46.81006,-92.08174,9/14/2014 0:00,NE
  3. 1,3,48,1,46.81006,-92.08174,9/14/2014 0:00,NE
  4. 1,4,30,1,46.81006,-92.08174,9/14/2014 0:00,W
  5. 1,5,47,1,46.81006,-92.08174,9/14/2014 0:00,S
  6. 1,6,9,1,46.81006,-92.08174,9/14/2014 0:00,S
  7. 1,7,53,1,46.81006,-92.08174,9/14/2014 0:00,N
  8. 1,8,63,1,46.81006,-92.08174,9/14/2014 0:00,SW
  9. 1,9,4,1,46.81006,-92.08174,9/14/2014 0:00,NE
  10. 1,10,31,1,46.81006,-92.08174,9/14/2014 0:00,N

执行如下 SQL 语句:

  1. select recordId, patientId, direction from ambulance_data_csv_external where patientId > 25;

这条语句会提交一个作业,调用内置 csv extractor,从 OSS 读取数据进行处理。输出结果如下:

  1. +------------+------------+-----------+
  2. | recordId | patientId | direction |
  3. +------------+------------+-----------+
  4. | 1 | 51 | S |
  5. | 3 | 48 | NE |
  6. | 4 | 30 | W |
  7. | 5 | 47 | S |
  8. | 7 | 53 | N |
  9. | 8 | 63 | SW |
  10. | 10 | 31 | N |
  11. +------------+------------+-----------+

自定义 Extractor 访问 OSS

当 OSS 中的数据格式比较复杂,内置的 Extractor 无法满足需求时,需要自定义 Extractor 来读取 OSS 文件中的数据。

例如有一个 txt 数据文件,并不是 CSV 格式,记录之间的列通过|分隔。比如/demo/SampleData/CustomTxt/AmbulanceData/vehicle.csv数据如下:

  1. 1|1|51|1|46.81006|-92.08174|9/14/2014 0:00|S
  2. 1|2|13|1|46.81006|-92.08174|9/14/2014 0:00|NE
  3. 1|3|48|1|46.81006|-92.08174|9/14/2014 0:00|NE
  4. 1|4|30|1|46.81006|-92.08174|9/14/2014 0:00|W
  5. 1|5|47|1|46.81006|-92.08174|9/14/2014 0:00|S
  6. 1|6|9|1|46.81006|-92.08174|9/14/2014 0:00|S
  7. 1|7|53|1|46.81006|-92.08174|9/14/2014 0:00|N
  8. 1|8|63|1|46.81006|-92.08174|9/14/2014 0:00|SW
  9. 1|9|4|1|46.81006|-92.08174|9/14/2014 0:00|NE
  10. 1|10|31|1|46.81006|-92.08174|9/14/2014 0:00|N

定义 Extractor

写一个通用的 Extractor,将分隔符作为参数传进来,可以处理所有类似格式的 text 文件。如下所示:

  1. /**
  2. * Text extractor that extract schematized records from formatted plain-text(csv, tsv etc.)
  3. **/
  4. public class TextExtractor extends Extractor {
  5. private InputStreamSet inputs;
  6. private String columnDelimiter;
  7. private DataAttributes attributes;
  8. private BufferedReader currentReader;
  9. private boolean firstRead = true;
  10. public TextExtractor() {
  11. // default to ",", this can be overwritten if a specific delimiter is provided (via DataAttributes)
  12. this.columnDelimiter = ",";
  13. }
  14. // no particular usage for execution context in this example
  15. @Override
  16. public void setup(ExecutionContext ctx, InputStreamSet inputs, DataAttributes attributes) {
  17. this.inputs = inputs; // inputs 是一个 InputStreamSet,每次调用 next() 返回一个 InputStream,这个 InputStream 可以读取一个 OSS 文件的所有内容。
  18. this.attributes = attributes;
  19. // check if "delimiter" attribute is supplied via SQL query
  20. String columnDelimiter = this.attributes.getValueByKey("delimiter"); //delimiter 通过 DDL 语句传参。
  21. if ( columnDelimiter != null)
  22. {
  23. this.columnDelimiter = columnDelimiter;
  24. }
  25. // note: more properties can be inited from attributes if needed
  26. }
  27. @Override
  28. public Record extract() throws IOException {//extactor() 调用返回一条 Record,代表外部表中的一条记录。
  29. String line = readNextLine();
  30. if (line == null) {
  31. return null; // 返回 NULL 来表示这个表中已经没有记录可读。
  32. }
  33. return textLineToRecord(line); // textLineToRecord 将一行数据按照 delimiter 分割为多个列。
  34. }
  35. @Override
  36. public void close(){
  37. // no-op
  38. }
  39. }

textLineToRecord 将数据分割的完整实现请参见 此处

定义 StorageHandler

StorageHandler 作为 External Table 自定义逻辑的统一入口。

  1. package com.aliyun.odps.udf.example.text;
  2. public class TextStorageHandler extends OdpsStorageHandler {
  3. @Override
  4. public Class<? extends Extractor> getExtractorClass() {
  5. return TextExtractor.class;
  6. }
  7. @Override
  8. public Class<? extends Outputer> getOutputerClass() {
  9. return TextOutputer.class;
  10. }
  11. }

编译打包

将自定义代码编译打包,并上传到 MaxCompute。

  1. add jar odps-udf-example.jar;

创建 External 表

与使用内置 Extractor 相似,首先需要创建一张外部表,不同的是在指定外部表访问数据的时候,需要使用自定义的 StorageHandler。

创建外部表语句如下:

  1. CREATE EXTERNAL TABLE IF NOT EXISTS ambulance_data_txt_external
  2. (
  3. vehicleId int,
  4. recordId int,
  5. patientId int,
  6. calls int,
  7. locationLatitute double,
  8. locationLongtitue double,
  9. recordTime string,
  10. direction string
  11. )
  12. STORED BY 'com.aliyun.odps.udf.example.text.TextStorageHandler' --STORED BY 指定自定义 StorageHandler 的类名。
  13. with SERDEPROPERTIES (
  14. 'delimiter'='\\|', --SERDEPROPERITES 可以指定参数,这些参数会通过 DataAttributes 传递到 Extractor 代码中。
  15. 'odps.properties.rolearn'='acs:ram::xxxxxxxxxxxxx:role/aliyunodpsdefaultrole'
  16. )
  17. LOCATION 'oss://oss-cn-shanghai-internal.aliyuncs.com/oss-odps-test/Demo/SampleData/CustomTxt/AmbulanceData/'
  18. USING 'odps-udf-example.jar'; --同时需要指定类定义所在的 jar 包。

查询外部表

执行如下 SQL 语句:

  1. select recordId, patientId, direction from ambulance_data_txt_external where patientId > 25;

自定义 Extractor 访问非文本文件数据

在前面我们看到了通过内置与自定义的 Extractor 可以轻松处理存储在 OSS 上的 CSV 等文本数据。接下来以语音数据(wav 格式文件)为例,为您介绍如何通过自定义的 Extractor 访问并处理 OSS 上的非文本文件。

这里从最终执行的 SQL 开始,介绍以 MaxCompute SQL 为入口,处理存放在 OSS 上的语音文件的使用方法。

创建外部表表sql如下:

  1. CREATE EXTERNAL TABLE IF NOT EXISTS speech_sentence_snr_external
  2. (
  3. sentence_snr double,
  4. id string
  5. )
  6. STORED BY 'com.aliyun.odps.udf.example.speech.SpeechStorageHandler'
  7. WITH SERDEPROPERTIES (
  8. 'mlfFileName'='sm_random_5_utterance.text.label' ,
  9. 'speechSampleRateInKHz' = '16'
  10. )
  11. LOCATION 'oss://oss-cn-shanghai-internal.aliyuncs.com/oss-odps-test/dev/SpeechSentenceTest/'
  12. USING 'odps-udf-example.jar,sm_random_5_utterance.text.label';

如上所示,同样需要创建外部表,然后通过外部表的 Schema 定义了希望通过外部表从语音文件中抽取出来的信息:

  • 一个语音文件中的语句信噪比(SNR):sentence_snr。
  • 对应语音文件的名字:id。

创建外部表后,通过标准的 Select 语句进行查询,则会触发 Extractor 运行计算。此处便可感受到,在读取处理 OSS 数据时,除了可以对文本文件做简单的反序列化处理,还可以通过自定义 Extractor 实现更复杂的数据处理抽取逻辑。比如:在这个例子中,我们通过自定义的com.aliyun.odps.udf.example.speech.SpeechStorageHandler 中封装的 Extractor, 实现了对语音文件计算平均有效语句信噪比的功能,并将抽取出来的结构化数据直接进行 SQL 运算(WHERE sentence_snr > 10),最终返回所有信噪比大于 10 的语音文件以及对应的信噪比值。

在 OSS 地址oss://oss-cn-hangzhou-zmf.aliyuncs.com/oss-odps-test/dev/SpeechSentenceTest/上,存储了原始的多个 WAV 格式的语音文件,MaxCompute 框架将读取该地址上的所有文件,并在必要的时候进行文件级别的分片,自动将文件分配给多个计算节点处理。每个计算节点上的 Extractor 则负责处理通过 InputStreamSet 分配给该节点的文件集。具体的处理逻辑则与用户单机程序相仿,您不需关心分布计算中的种种细节,按照类单机方式实现其用户算法即可。

定制化的SpeechSentenceSnrExtractor主体逻辑,说明如下:

首先在setup接口中读取参数,进行初始化,并且导入语音处理模型(通过 resource 引入):

  1. public SpeechSentenceSnrExtractor(){
  2. this.utteranceLabels = new HashMap<String, UtteranceLabel>();
  3. }
  4. @Override
  5. public void setup(ExecutionContext ctx, InputStreamSet inputs, DataAttributes attributes){
  6. this.inputs = inputs;
  7. this.attributes = attributes;
  8. this.mlfFileName = this.attributes.getValueByKey(MLF_FILE_ATTRIBUTE_KEY);
  9. String sampleRateInKHzStr = this.attributes.getValueByKey(SPEECH_SAMPLE_RATE_KEY);
  10. this.sampleRateInKHz = Double.parseDouble(sampleRateInKHzStr);
  11. try {
  12. // read the speech model file from resource and load the model into memory
  13. BufferedInputStream inputStream = ctx.readResourceFileAsStream(mlfFileName);
  14. loadMlfLabelsFromResource(inputStream);
  15. inputStream.close();
  16. } catch (IOException e) {
  17. throw new RuntimeException("reading model from mlf failed with exception " + e.getMessage());
  18. }
  19. }

Extractor() 接口中,实现了对语音文件的具体读取和处理逻辑,对读取的数据根据语音模型进行信噪比的计算,并且将结果填充成 [snr, id] 格式的 Record。

上述示例对实现进行了简化,同时也没有包括涉及语音处理的算法逻辑,具体实现请参见 MaxCompute SDK 在开源社区中提供的 样例代码

  1. @Override
  2. public Record extract() throws IOException {
  3. SourceInputStream inputStream = inputs.next();
  4. if (inputStream == null){
  5. return null;
  6. }
  7. // process one wav file to extract one output record [snr, id]
  8. String fileName = inputStream.getFileName();
  9. fileName = fileName.substring(fileName.lastIndexOf('/') + 1);
  10. logger.info("Processing wav file " + fileName);
  11. String id = fileName.substring(0, fileName.lastIndexOf('.'));
  12. // read speech file into memory buffer
  13. long fileSize = inputStream.getFileSize();
  14. byte[] buffer = new byte[(int)fileSize];
  15. int readSize = inputStream.readToEnd(buffer);
  16. inputStream.close();
  17. // compute the avg sentence snr
  18. double snr = computeSnr(id, buffer, readSize);
  19. // construct output record [snr, id]
  20. Column[] outputColumns = this.attributes.getRecordColumns();
  21. ArrayRecord record = new ArrayRecord(outputColumns);
  22. record.setDouble(0, snr);
  23. record.setString(1, id);
  24. return record;
  25. }
  26. private void loadMlfLabelsFromResource(BufferedInputStream fileInputStream)
  27. throws IOException {
  28. // skipped here
  29. }
  30. // compute the snr of the speech sentence, assuming the input buffer contains the entire content of a wav file
  31. private double computeSnr(String id, byte[] buffer, int validBufferLen){
  32. // computing the snr value for the wav file (supplied as byte buffer array), skipped here
  33. }

执行查询,如下所示:

  1. select sentence_snr, id
  2. from speech_sentence_snr_external
  3. where sentence_snr > 10.0;

获得计算结果,如下所示:

  1. --------------------------------------------------------------
  2. | sentence_snr | id |
  3. --------------------------------------------------------------
  4. | 34.4703 | J310209090013_H02_K03_042 |
  5. --------------------------------------------------------------
  6. | 31.3905 | tsh148_seg_2_3013_3_6_48_80bd359827e24dd7_0 |
  7. --------------------------------------------------------------
  8. | 35.4774 | tsh148_seg_3013_1_31_11_9d7c87aef9f3e559_0 |
  9. --------------------------------------------------------------
  10. | 16.0462 | tsh148_seg_3013_2_29_49_f4cb0990a6b4060c_0 |
  11. --------------------------------------------------------------
  12. | 14.5568 | tsh_148_3013_5_13_47_3d5008d792408f81_0 |
  13. --------------------------------------------------------------

综上所述,通过自定义 Extractor,便可在 SQL 语句上分布式地处理多个 OSS 上的语音数据文件。同样的方法,也可以方便的利用 MaxCompute 的大规模计算能力,完成对图像,视频等各种类型非结构化数据的处理。

数据的分区

在前面的例子中,一个外部表关联的数据通过LOCATION上指定的OSS“目录”来实现,而在处理的时候,MaxCompute是读取“目录”下面的所有数据,包括子目录中的所有文件。在数据量比较大,尤其是对于随着时间不断积累的数据目录,对全目录扫描可能带来不必要的I/O以及数据处理时间。 解决这个问题通常有两种做法:

  • 直接的方法:用户对数据存放地址做好规划,考虑使用多个EXTERNAL TABLE来描述不同部分的数据,让每个EXTERNALTABLE的LOCATION指向数据的一个子集。
  • 数据分区方法:EXTERNAL TABLE与内部表一样,支持分区表的功能,可以通过这个功能来对数据做系统化的管理。

本章节主要介绍EXTERNAL TABLE的分区功能。

分区数据在OSS上的标准组织方式和路径格式

与MaxCompute内部表不同,对于存放在外部存储上(如OSS)上面的数据,MaxComput没有数据的管理权,因此如果需要使用分区表功能,在OSS上数据文件的存放路径必须符合一定的格式,路径格式如下:

  1. partitionKey1=value1\partitionKey2=value2\...

场景示例

将每天产生的LOG文件存放在OSS上,并需要通过MaxCompute进行数据处理,数据处理时需按照粒度为“天”来访问一部分数据。假设这些LOG文件为CSV格式且可以用内置extractor访问(复杂自定义格式用法也类似),那么外部分区表定义数据如下:

  1. CREATE EXTERNAL TABLE log_table_external (
  2. click STRING,
  3. ip STRING,
  4. url STRING,
  5. )
  6. PARTITIONED BY (
  7. year STRING,
  8. month STRING,
  9. day STRING
  10. )
  11. STORED BY 'com.aliyun.odps.CsvStorageHandler'
  12. WITH SERDEPROPERTIES (
  13. 'odps.properties.rolearn'='acs:ram::xxxxx:role/aliyunodpsdefaultrole'
  14. )
  15. LOCATION 'oss://oss-cn-hangzhou-zmf.aliyuncs.com/oss-odps-test/log_data/';

如上建表语句,和前面的例子区别在于定义EXTERNAL TABLE时,通过PARTITIONED BY的语法指定该外部表为分区表,该例子是一个三层分区分区表,分区的key分别是 year, month 和 day。

为了让分区生效,在OSS上存储数据时需要遵循location的路径格式。如有效的路径存储layout:

  1. osscmd ls oss://oss-odps-test/log_data/
  2. 2017-01-14 08:03:35 128MB Standard oss://oss-odps-test/log_data/year=2016/month=06/day=01/logfile
  3. 2017-01-14 08:04:12 127MB Standard oss://oss-odps-test/log_data/year=2016/month=06/day=01/logfile.1
  4. 2017-01-14 08:05:02 118MB Standard oss://oss-odps-test/log_data/year=2016/month=06/day=02/logfile
  5. 2017-01-14 08:06:45 123MB Standard oss://oss-odps-test/log_data/year=2016/month=07/day=10/logfile
  6. 2017-01-14 08:07:11 115MB Standard oss://oss-odps-test/log_data/year=2016/month=08/day=08/logfile
  7. ...

因为数据是离线准备的,即通过osscmd或者其他OSS工具上载到OSS存储服务,所以数据路径格式也在上载时决定。

通过ALTER TABLE ADD PARTITIONDDL语句,即可把这些分区信息引入MaxCompute。

对应的DDL语句:

  1. ALTER TABLE log_table_external ADD PARTITION (year = '2016', month = '06', day = '01')
  2. ALTER TABLE log_table_external ADD PARTITION (year = '2016', month = '06', day = '02')
  3. ALTER TABLE log_table_external ADD PARTITION (year = '2016', month = '07', day = '10')
  4. ALTER TABLE log_table_external ADD PARTITION (year = '2016', month = '08', day = '08')
  5. ...

以上这些操作与标准的MaxCompute内部表操作一样,对分区表概念不熟悉的可以参考文档。在数据准备好并且PARTITION信息引入ODPS之后,即可通过SQL语句对OSS外表数据的分区进行操作。

此时分析数据时,可以指定指需分析某天的数据,如只想分析2016年6月1号当天,有多少不同的IP出现在LOG里面,可以通过如下语句实现:

  1. SELECT count(distinct(ip)) FROM log_table_external WHERE year = '2016' AND month = '06' AND day = '01';

该语句对log_table_external这个外表对应的目录,将只访问log_data/year=2016/month=06/day=01子目录下的文件(logfile和logfile.1), 不会对整个log_data/目录作全量数据扫描,避免大量无用的I/O操作。

同样如果只希望对2016年下半年的数据做分析, 则:

  1. SELECT count(distinct(ip)) FROM log_table_external
  2. WHERE year = '2016' AND month > '06';

只访问OSS上面存储的下半年的LOG数据。

分区数据在OSS上的自定义路径

如果事先存在OSS上的历史数据,但是又不是根据partitionKey1=value1\partitionKey2=value2\...路径格式来组织存放,也需要通过MaxCompute的分区方式来进行访问计算时,MaxCompute也提供了通过自定义路径来引入partition的方法。

假设OSS数据路径只有简单的分区值(而无分区key信息),也就是数据的layout为:

  1. osscmd ls oss://oss-odps-test/log_data_customized/
  2. 2017-01-14 08:03:35 128MB Standard oss://oss-odps-test/log_data_customized/2016/06/01/logfile
  3. 2017-01-14 08:04:12 127MB Standard oss://oss-odps-test/log_data_customized/2016/06/01/logfile.1
  4. 2017-01-14 08:05:02 118MB Standard oss://oss-odps-test/log_data_customized/2016/06/02/logfile
  5. 2017-01-14 08:06:45 123MB Standard oss://oss-odps-test/log_data_customized/2016/07/10/logfile
  6. 2017-01-14 08:07:11 115MB Standard oss://oss-odps-test/log_data_customized/2016/08/08/logfile
  7. ...

外部表建表DDL可参看前面的例子,同样在建表语句里指定好分区key。

不同的子目录指定到不同的分区,可通过类似如下自定义分区路径的DDL语句实现:

  1. ALTER TABLE log_table_external ADD PARTITION (year = '2016', month = '06', day = '01')
  2. LOCATION 'oss://oss-cn-hangzhou-zmf.aliyuncs.com/oss-odps-test/log_data_customized/2016/06/01/';

在ADD PARTITION的时候增加了LOCATION信息,从而实现自定义分区数据路径后,即使数据存放不符合推荐的partitionKey1=value1\partitionKey2=value2\...格式,也能正确的实现对子目录数据的分区访问了。

本文导读目录