全部产品
MaxCompute

其他操作

更新时间:2017-06-07 13:26:11   分享:   

ALIAS命令

Alias功能主要为了满足在不修改代码的前提下,在 MapReduce自定义函数(UDF) 代码中,通过某个固定的资源名读取不同资源(数据)的需求。命令格式:

  1. ALIAS <alias>=<real>;

用途:为资源创建别名。

示例:

  1. ADD TABLE src_part PARTITION (ds='20121208') AS res_20121208;
  2. ADD TABLE src_part PARTITION (ds='20121209') AS res_20121209;
  3. ALIAS resName=res_20121208;
  4. jar -resources resName -libjars work.jar -classpath ./work.jar com.company.MainClass args ...; // 作业一
  5. ALIAS resName=res_20121209;
  6. jar -resources resName -libjars work.jar -classpath ./work.jar com.company.MainClass args ...; // 作业二

上面的资源别名“resName” 在两个作业里引用到不同的资源表,代码可以不做修改也能读取到不同的数据。

Set

命令格式:

  1. set ["<KEY>=<VALUE>"]

说明:用户可以使用set命令设置MaxCompute 或用户自定义的系统变量影响MaxCompute 的行为。

目前,MaxCompute 支持的系统变量包括:

  1. --MaxCompute SQL及新版本Mapreduce支持的Set命令
  2. set odps.stage.mapper.mem= --设置每个map worker的内存大小,单位是M,默认值1024M
  3. set odps.stage.reducer.mem= --设置每个reduce worker的内存大小,单位是M,默认值1024M
  4. set odps.stage.joiner.mem= --设置每个join worker的内存大小,单位是M,默认值1024M
  5. set odps.stage.mem =
  6. --设置MaxCompute 指定任务下所有worker的内存大小。优先级低于以上三个set key,单位M,无默认值
  7. set odps.stage.mapper.split.size=
  8. -- 修改每个map worker的输入数据量,即输入文件的分片大小,
  9. -- 从而间接控制每个map阶段下worker的数量,单位M,默认值256M
  10. set odps.stage.reducer.num= --修改每个reduce阶段worker数量,无默认值。
  11. set odps.stage.joiner.num= --修改每个join阶段worker数量,无默认值。
  12. set odps.stage.num= --修改MaxCompute 指定任务的所有阶段的worker的并发度,优先级低于以上三者,无默认值。

Show Flags

显示Set设置的参数,命令格式:

  1. show flags;

说明:运行Use Project命令会清除掉set命令设置的配置。

SetProject

命令格式:

  1. setproject ["<KEY>=<VALUE>"];

说明:

  • 用户可以使用setproject命令设置Project属性;
  • 当不指定< KEY >=< VALUE > 时,显示当前Project属性配置;

Project属性的详细说明如下:

属性名称 设置权限 属性描述 取值范围
odps.table.drop.ignorenonexistent 所有用户 当删除不存在的表时,是否报错。true时不报错 true(不报错)/false
odps.security.ip.whitelist ProjectOwner 指定访问Project的IP白名单 ip列表,逗号分隔
odps.table.lifecycle ProjectOwner optional:创建表时,lifecycle子句为可选,如果用户不设置 生命周期,则此表永久有效;mandatory:lifecycle子句为必 选;inherit:如果用户不指定生命周期,该表的生命周期为 odps.table.lifecycle.value的值; optional /mandatory/inherit
odps.table.lifecycle.value ProjectOwner 默认的生命周期值 1 ~ 37231(默认)
odps.instance.remain.days ProjectOwner Instance信息保留时间 3 ~ 30
odps.function.strictmode ProjectOwner 内置函数遇到脏数据时,返回NULL(false),或者抛异常(true) true/false
READ_TABLE_MAX_ROW ProjectOwner Select语句返回给客户端的数据条数 1~10000

计量预估(Cost SQL命令)

命令格式:

  1. cost sql <SQL Sentence>;

用途:预估出一条sql的计量信息,包含输入数据的大小,UDF个数以及SQL复杂等级。需要注意的是,该信息不能够作为实际计费标准,仅具有参考意义。

示例:

  1. odps@ $odps_project >cost sql select distinct project_name, user_name from meta.m_security_users distribute by project_name sort by project_name;
  2. ID = 20150715113033121gmsbjxl1
  3. Input:65727592 Bytes
  4. UDF:0
  5. Complexity:1.0
本文导读目录
本文导读目录
以上内容是否对您有帮助?