文档

SET

更新时间:

对当前Session设置MaxCompute系统变量。

命令格式

SET <KEY>=<VALUE>

参数说明

  • KEY:属性名称。

  • VALUE:属性值。

    Session级的常用属性如下。

    属性名称

    属性描述

    取值范围

    console.sql.result.instancetunnel

    InstanceTunnel开关。详情请参见使用说明

    • True:打开。

    • False:关闭。

    odps.stage.mapper.mem

    设置每个Map Worker的内存大小。

    取值范围:256 MB~12288 MB。

    默认值为1024 MB。

    odps.stage.reducer.mem

    设置每个Reduce Worker的内存大小。

    取值范围:256 MB~12288 MB。

    默认值为1024 MB。

    odps.stage.joiner.mem

    设置每个Join Worker的内存大小。

    取值范围:256 MB~12288 MB。

    默认值为1024 MB。

    odps.stage.mem

    设置MaxCompute指定任务下所有Worker的内存大小。优先级低于odps.stage.mapper.memodps.stage.reducer.memodps.stage.joiner.mem属性。

    取值范围:256 MB~12288 MB。

    无默认值。

    odps.stage.mapper.split.size

    修改每个Map Worker的输入数据量,即输入文件的分片大小,从而间接控制每个Map阶段下Worker的数量。

    说明

    SQL语句中使用Limit,会限制Limit作用的Worker单并发运行。因此在设置该配置项的时候,SQL语句中应避免使用Limit。

    单位MB,默认值为256 MB。

    odps.stage.reducer.num

    修改每个Reduce阶段的Worker数量。

    说明

    SQL语句中使用Limit,会限制Limit作用的Worker单并发运行。因此在设置该配置项的时候,SQL语句中应避免使用Limit。

    取值范围:1~10000 个。

    odps.stage.joiner.num

    修改每个Join阶段的Worker数量。

    说明

    SQL语句中使用Limit,会限制Limit作用的Worker单并发运行。因此在设置该配置项的时候,SQL语句中应避免使用Limit。

    取值范围:1~10000 个。

    odps.stage.num

    修改MaxCompute指定任务下所有Worker的并发数,优先级低于odps.stage.mapper.split.sizeodps.stage.reducer.numodps.stage.joiner.num属性。

    说明

    SQL语句中使用Limit,会限制Limit作用的Worker单并发运行。因此在设置该配置项的时候,SQL语句中应避免使用Limit。

    取值范围:1~10000 个。

    odps.sql.reshuffle.dynamicpt

    动态分区开关,以避免拆分动态分区时产生过多小文件。

    • True:打开。

    • False:关闭。

    说明

    如果生成的动态分区个数很少,建议将值设为False,以避免数据倾斜。

    odps.sql.type.system.odps2

    2.0新数据类型开关。2.0数据类型详情请参见2.0数据类型版本

    • True:打开。

    • False:关闭。

    odps.sql.hive.compatible

    Hive兼容模式开关。打开Hive兼容模式后,MaxCompute才支持Hive指定的各种语法,例如inputRecordReaderoutputRecordReaderSerde。Hive兼容数据类型详情请参见Hive兼容数据类型版本

    • True:打开。

    • False:关闭。

    odps.sql.executionengine.coldata.deep.buffer.size.max

    设置MaxCompute在写表过程中,为复杂数据类型的列预先申请的缓存大小,以便提高写入性能。

    如果输出的表中的复杂数据类型过多或输出表中含有的某个单独的复杂类型变量大小过大,可以设置该参数。

    • 如果输出的表有3个列的Schema是复杂数据类型,例如列类型为(STRING、MAP、STRUCT、ARRAY或BINARY),则默认情况下MaxCompute将会为写表操作预留64 MB×3大小的内存。每一列预先申请的缓存将会用来存放这一列batch row count行的数据。

    • 如果预估表的复杂类型变量占用的空间比较小,建议调小此值。例如,如果每个复杂类型变量大小不会超过1024 Byte,同时batch row count值使用的是默认值(1024),则可以将属性值设置为1024×1024,示例如下。

      set odps.sql.executionengine.coldata.deep.buffer.size.max=1048576;
    • 如果您预先知道每个复杂类型的值都在7 MB~8 MB间,同时指定了batch row count为32,则该值可以被调整为8 MB×32。

    • 如果输出的表有复杂类型,或MAPJOIN小表有复杂类型,调整该值会影响到作业执行过程中使用的内存。根据前面的计算方法,值设的过大有可能导致OOM(Out Of Memory)内存溢出。

    单位Byte,默认值为67108864 Byte。

    odps.sql.udf.getjsonobj.new

    设置GET_JSON_OBJECT函数的返回行为是否开启保留原始字符串的方式。

    2021年1月21日及之后新创建的MaxCompute项目中,GET_JSON_OBJECT函数的返回行为默认为保留原始字符串。2021年1月21日之前创建的MaxCompute项目中,GET_JSON_OBJECT函数的返回行为默认为JSON保留字符转义,以免行为变更对存量作业造成影响。

    更多GET_JSON_OBJECT函数信息,请参见GET_JSON_OBJECT

    • True:打开。

    • False:关闭。

    odps.sql.udf.jvm.memory

    设置UDF JVM Heap使用的最大内存。

    某些UDF在内存计算、排序的数据量比较大时,会报内存溢出错误,这时候可以调大该参数,但该方法只能暂时缓解,您需要从业务上去优化UDF代码。

    取值范围:256 MB~12288 MB。

    默认值为1024 MB。

    odps.function.timeout

    设置UDF超时时间。

    取值范围:0 s~3600 s。

    默认值为600 s。

    LabelSecurity

    设置是否开启LabelSecurity安全机制。更多LabelSecurity安全机制信息,请参见Label权限控制

    • True:打开。

    • False:关闭。

    odps.sql.session.resources

    指定UDT引用的资源,可以指定多个,用英文逗号(,)分隔。更多引用资源信息,请参见UDT概述

    上传的资源。

    odps.sql.udt.display.tostring

    设置是否开启将所有以UDT为最终输出的列Wrap上java.util.Objects.toString(...)的机制。

    • True:打开。

    • False:关闭。

    odps.sql.session.java.imports

    指定UDT引用的Java Package,可以指定多个,用英文逗号(,)分隔。更多引用Java Package信息,请参见UDT概述

    上传的Java Package。

    CheckPermissionUsingACL

    设置是否开启ACL授权机制。更多ACL授权信息,请参见MaxCompute权限

    • True:打开。

    • False:关闭。

    CheckPermissionUsingPolicy

    设置是否开启Policy授权机制。更多Policy授权信息,请参见Policy权限控制

    • True:打开。

    • False:关闭。

    ObjectCreatorHasAccessPermission

    设置对象创建者是否默认拥有访问权限。

    • True:允许对象创建者默认拥有访问权限。

    • False:禁止对象创建者默认拥有访问权限。

    ObjectCreatorHasGrantPermission

    设置对象创建者是否默认拥有授权权限。

    • True:允许对象创建者默认拥有授权权限。

    • False:禁止对象创建者默认拥有授权权限。

    ProjectProtection

    设置是否开启数据保护机制。更多数据保护机制信息,请参见数据保护机制

    • True:打开。

    • False:关闭。

    odps.output.field.formatter

    设置SQL查询结果的动态脱敏规则。更多动态脱敏信息,请参见数据动态脱敏

    自定义的动态脱敏规则。

    odps.isolation.session.enable

    设置是否在单Session级别开启动态脱敏。更多动态脱敏信息,请参见数据动态脱敏

    • True:打开。

    • False:关闭。

    odps.sql.skewjoin

    设置是否开启SKEWJOIN功能,解决长尾问题。

    • True:打开。

    • False:关闭。

    odps.sql.skewinfo

    设置SKEWJOIN的目标Key及对应的值。更多信息,请参见数据倾斜调优

    -

    odps.sql.reducer.instances

    设置哈希桶的数量。更多哈希桶信息,请参见表操作

    取值范围:0~4000 个。

    odps.sql.udf.ppr.deterministic

    设置是否在自定义函数中开启分区裁剪机制。更多分区裁剪信息请参见WHERE子句(where_condition)

    • True:打开。

    • False:关闭。

    odps.sql.udf.ppr.to.subquery

    设置是否开启忽略分区裁剪回填报错问题机制。更多分区裁剪信息请参见WHERE子句(where_condition)

    • True:打开。

    • False:关闭。

    odps.optimizer.enable.range.partial.repartitioning

    设置Range聚簇表是否开启Shuffle Remove机制。

    • True:打开。

    • False:关闭。

    odps.optimizer.skew.join.topk.num

    设置优化器运行Aggregate时获取的热值数量。详情请参见SKEWJOIN HINT

    -

    odps.optimizer.stat.collect.auto

    设置是否开启Freeride功能。开启后自动收集表的Column Stats。详情请参见优化器

    • True:打开。

    • False:关闭。

    odps.optimizer.stat.collect.plan

    设置收集计划,收集指定列的指定Column Stats指标。详情请参见优化器

    -

    odps.sql.executionengine.batch.rowcount

    设置SQL引擎一次同时处理的数据行数。默认值是1024。一般不需要手动调整,遇到单行大字段导致OOM或UDF性能较差导致的超时场景需要手动调小。建议不要设置太小否则会影响性能。

    取值范围:1~1024 行。

    odps.sql.external.net.vpc

    设置是否开启外部表VPC支持。详情请参见HBase外部表(HBase标准版或增强版)RDS外部表Hologres外部表

    • True:打开。

    • False:关闭。

    odps.sql.groupby.position.alias

    设置是否开启将groupby中的整型常量做为SELECT的列序号处理。

    • True:打开。

    • False:关闭。

    odps.sql.groupby.skewindata

    设置是否开启groupby防倾斜机制。

    • True:打开。

    • False:关闭。

    odps.sql.orderby.position.alias

    设置是否开启将orderby中的整型常量做为SELECT的列序号处理。

    • True:打开。

    • False:关闭。

    odps.sql.groupby.orderby.position.alias

    设置是否开启将group byorder by中的整型常量做为SELECT的列序号处理。推荐使用该参数。

    说明

    对于存量项目,如果在项目级别开启该参数,可能会对您已有的任务解析和执行操作造成影响,请确认并务必保证存量任务在此参数设置下仍可以按照原有逻辑正确执行后,再修改该参数。否则,请在Session级别设置。

    • True:打开。

    • False:关闭。

    odps.sql.mapjoin.memory.max

    设置MAPJOIN场景小表读入内存后的大小,单位MB。

    取值范围:0 MB~8192 MB。

    odps.sql.metering.value.max

    设置单SQL消费限制值。详情请参见消费监控告警

    -

    odps.sql.python.version

    设置运行SQL句的Python版本。

    • cp27

    • cp37

    odps.sql.select.output.format

    设置是否在MaxCompute客户端的返回结果中显示表头信息。详情请参见使用本地客户端(odpscmd)连接

    • {""needHeader"":false,""fieldDelim"":""""}:不显示表头信息。

    • {""needHeader"":true,""fieldDelim"":""""}:显示表头信息。

    odps.sql.timezone

    设置MaxCompute项目的时区。更多时区信息,请参见时区配置操作

    -

    odps.sql.unstructured.data.oss.use.https

    设置访问外部表时,是否需要开启底层通过HTTPS方式获取数据的机制。更多信息,请参见创建OSS外部表

    • True:打开。

    • False:关闭。

    odps.sql.unstructured.oss.commit.mode

    设置是否开启通过OSS的分片上传功能向OSS外部表写入数据。详情请参见将数据写入OSS

    • True:打开。

    • False:关闭。

    odps.sql.decimal.tostring.trimzero

    当数据类型为Decimal时是否去掉小数点后面末尾的零,默认值为True,代表默认去零。

    • True:去掉小数据点后末尾的零。

    • False:保留小数据点后末尾的零。

    odps.sql.unstructured.tablestore.put.row

    OTS外部表支持指定PutRow的写入方式。

    说明

    PutRow详情请参考PutRow

    • True:打开。

    • False:关闭。

    odps.sql.unstructured.external.max.dop

    外部表访问的Worker的最大并发度。

    大于0的整数。

    odps.sql.executionengine.enable.string.to.date.full.format

    是否转换带时分秒的日期字符串。

    • True:是。

    • False:否。

    默认值是False。

    odps.sql.executionengine.enable.rand.time.seed

    控制Rand函数使用系统时间或当前InstanceId作为随机数初始化Seed。

    • True:Rand函数使用当前系统时间作为随机数初始化的Seed,但Rand函数不再幂等,不能作为Shuffle Key使用,会导致重跑的结果不相同。

    • False:Rand函数使用当前InstanceId作为随机数初始化Seed,可以保证函数幂等。

    默认值为False。

    odps.sql.type.json.enable

    JSON数据类型使用开关。关于JSON数据类型的更多信息,请参见MaxCompute JSON类型使用指南

    • True:打开。

    • False:关闭。

    odps.ext.oss.orc.native

    读表时是否使用Native ORC Reader。

    • True:使用。

    • False:不使用。

    odps.sql.job.max.time.hours

    单作业最大执行时间。

    说明

    若需要在项目级别设置,您可以通过申请链接或搜索(钉钉群号:11782920)加入MaxCompute开发者社区钉群联系MaxCompute技术支持团队在后台设置。

    取值范围为:1~72 小时。

    默认值为24 小时。

    odps.task.wlm.quota

    使用指定的资源去执行当前Session的任务,值为对应的QuotaName。关于Quota的更多信息,请参见计算资源-Quota管理

    -

    说明

    若需要查询当前Session设置MaxCompute系统变量,您可前往Logview的SourceXML中查看,详情请参见使用Logview 2.0查看作业运行信息

使用示例

--调整每个Mapper读取数据的大小为256 MB。
SET odps.stage.mapper.split.size=256;

相关命令

SHOW:显示SET命令设置的属性。