OSS Reader

支持的数据类型

参数说明

json
"column": ["*"]

json
"column":
    {
       "type": "long",
       "index": 0    //从OSS文本第一列获取int字段。
    },
    {
       "type": "string",
       "value": "alibaba"  //从OSSReader内部生成alibaba的字符串字段作为当前字段。
    }

向导开发介绍

1. 选择数据源。
   配置同步任务的数据来源和数据去向。

   参数	描述
   数据源	即上述参数说明中的datasource，通常填写您配置的数据源名称。
   文件名（含路径）	即上述参数说明中的Object。 说明 假如您的OSS文件名有根据每天的时间命名的部分，例如aaa/20171024abc.txt，关于Object系统参数可以设置为aaa/${bdp.system.bizdate}abc.txt。
   列分隔符	即上述参数说明中的fieldDelimiter，默认值为（,）。
   编码格式	即上述参数说明中的encoding，默认值为utf-8。
   null值	即上述参数说明中的nullFormat，将要表示为空的字段填入文本框，如果源端存在则将对应的部分转换为空。
   压缩格式	即上述参数说明中的compress，默认值为不压缩。
   是否包含表头	即上述参数说明中的skipHeader，默认值为No。

2. 字段映射，即上述参数说明中的column。
   左侧的源头表字段和右侧的目标表字段为一一对应的关系。单击添加一行可以增加单个字段，鼠标放至需要删除的字段上，即可单击删除图标进行删除。

   参数	描述
   同名映射	单击同名映射，可以根据名称建立相应的映射关系，请注意匹配数据类型。
   同行映射	单击同行映射，可以在同行建立相应的映射关系，请注意匹配数据类型。
   取消映射	单击取消映射，可以取消建立的映射关系。

3. 通道控制。

   参数	描述
   任务期望最大并发数	数据同步任务内，可以从源并行读取或并行写入数据存储端的最大线程数。向导模式通过界面化配置并发数，指定任务所使用的并行度。
   同步速率	设置同步速率可以保护读取端数据库，以避免抽取速度过大，给源库造成太大的压力。同步速率建议限流，结合源库的配置，请合理配置抽取速率。
   错误记录数	错误记录数，表示脏数据的最大容忍条数。
   分布式处理能力	数据同步时，可以将任务切片分散到多台执行节点上并发执行，提高同步速率。该模式下，配置较大任务并发数会增加数据存储访问压力，如需使用该功能，请提前评估数据存储的访问负载。该功能仅支持在独享数据集成资源组配置，详情请参见独享数据集成资源组和新增和使用独享数据集成资源组。

脚本开发介绍

使用脚本模式开发的详情请参见通过脚本模式配置任务。

{
    "type":"job",
    "version":"2.0",//版本号。
    "steps":[
        {
            "stepType":"oss",//插件名。
            "parameter":{
                "nullFormat":"",//定义可以表示为null的字符串。
                "compress":"",//文本压缩类型。
                "datasource":"",//数据源。
                "column":[//字段。
                    {
                        "index":0,//列序号。
                        "type":"string"//数据类型。
                    },
                    {
                        "index":1,
                        "type":"long"
                    },
                    {
                        "index":2,
                        "type":"double"
                    },
                    {
                        "index":3,
                        "type":"boolean"
                    },
                    {
                        "format":"yyyy-MM-dd HH:mm:ss", //时间格式。
                        "index":4,
                        "type":"date"
                    }
                ],
                "skipHeader":"",//类CSV格式文件可能存在表头为标题情况，需要跳过。
                "encoding":"",//编码格式。
                "fieldDelimiter":",",//字段分隔符。
                "fileFormat": "",//文本类型。
                "object":[]//object前缀。
            },
            "name":"Reader",
            "category":"reader"
        },
        {
            "stepType":"stream",
            "parameter":{},
            "name":"Writer",
            "category":"writer"
        }
    ],
    "setting":{
        "errorLimit":{
            "record":""//错误记录数。
        },
        "speed":{
            "throttle":true,//当throttle值为false时，mbps参数不生效，表示不限流；当throttle值为true时,表示限流。
            "concurrent":1 //作业并发数。
            "mbps":"12",//限流
        }
    },
    "order":{
        "hops":[
            {
                "from":"Reader",
                "to":"Writer"
            }
        ]
    }
}

ORC或Parquet文件读取OSS

目前通过复用HDFS Reader的方式完成OSS读取ORC或Parquet格式的文件，在OSS Reader已有参数的基础上，增加了Path、FileFormat等扩展配置参数，参数含义请参见HDFS Reader。

• 以ORC文件格式读取OSS，示例如下。

  {
        "stepType": "oss",
        "parameter": {
          "datasource": "",
          "fileFormat": "orc",
          "path": "/tests/case61/orc__691b6815_9260_4037_9899_****",
          "column": [
            {
              "index": 0,
              "type": "long"
            },
            {
              "index": "1",
              "type": "string"
            },
            {
              "index": "2",
              "type": "string"
            }
          ]
        }
      }

• 以Parquet文件格式读取OSS，示例如下。

  {
  "type": "job",
  "version": "2.0",
  "steps": [
  {
  "stepType": "oss",
  "parameter": {
  "nullFormat": "",
  "compress": "",
  "fileFormat": "parquet",
  "path": "/*",
  "parquetSchema": "message m { optional BINARY registration_dttm (UTF8); optional Int64 id; optional BINARY first_name (UTF8); optional BINARY last_name (UTF8); optional BINARY email (UTF8); optional BINARY gender (UTF8); optional BINARY ip_address (UTF8); optional BINARY cc (UTF8); optional BINARY country (UTF8); optional BINARY birthdate (UTF8); optional DOUBLE salary; optional BINARY title (UTF8); optional BINARY comments (UTF8); }",
  "column": [
  {
  "index": "0",
  "type": "string"
  },
  {
  "index": "1",
  "type": "long"
  },
  {
  "index": "2",
  "type": "string"
  },
  {
  "index": "3",
  "type": "string"
  },
  {
  "index": "4",
  "type": "string"
  },
  {
  "index": "5",
  "type": "string"
  },
  {
  "index": "6",
  "type": "string"
  },
  {
  "index": "7",
  "type": "string"
  },
  {
  "index": "8",
  "type": "string"
  },
  {
  "index": "9",
  "type": "string"
  },
  {
  "index": "10",
  "type": "double"
  },
  {
  "index": "11",
  "type": "string"
  },
  {
  "index": "12",
  "type": "string"
  }
  ],
  "skipHeader": "false",
  "encoding": "UTF-8",
  "fieldDelimiter": ",",
  "fieldDelimiterOrigin": ",",
  "datasource": "wpw_demotest_oss",
  "envType": 0,
  "object": [
  "wpw_demo/userdata1.parquet"
  ]
  },
  "name": "Reader",
  "category": "reader"
  },
  {
  "stepType": "odps",
  "parameter": {
  "partition": "dt=${bizdate}",
  "truncate": true,
  "datasource": "0_odps_wpw_demotest",
  "envType": 0,
  "column": [
  "id"
  ],
  "emptyAsNull": false,
  "table": "wpw_0827"
  },
  "name": "Writer",
  "category": "writer"
  }
  ],
  "setting": {
  "errorLimit": {
  "record": ""
  },
  "locale": "zh_CN",
  "speed": {
  "throttle": false,
  "concurrent": 2
  }
  },
  "order": {
  "hops": [
  {
  "from": "Reader",
  "to": "Writer"
  }
  ]
  }
  }