MaxCompute支持通过insert into
或insert overwrite
操作向目标表或静态分区中插入、更新数据。
前提条件
执行insert into
和insert overwrite
操作前需要具备目标表的修改权限(Alter)及源表的元信息读取权限(Describe)。授权操作请参见权限列表。
功能介绍
在使用MaxCompute SQL处理数据时,
insert into
或insert overwrite
操作可以将select
查询的结果保存至目标表中。二者的区别是:
insert into
:直接向表或静态分区中插入数据。您可以在insert
语句中直接指定分区值,将数据插入指定的分区。如果您需要插入少量测试数据,可以配合VALUES使用。insert overwrite
:先清空表中的原有数据,再向表或静态分区中插入数据。说明- MaxCompute的
insert
语法与通常使用的MySQL或Oracle的insert
语法有差别。在insert overwrite
后需要加table
关键字,非直接使用table_name
。insert into
可以省略table
关键字。 - 在反复对同一个分区执行
insert overwrite
操作时,您通过desc
命令查看到的数据分区Size会不同。这是因为从同一个表的同一个分区select
出来再insert overwrite
回相同分区时,文件切分逻辑发生变化,从而导致数据的Size发生变化。数据的总长度在insert overwrite
前后是不变的,您不必担心存储计费会产生问题。 - 并发写入场景,MaxCompute会根据ACID保障并发写入操作。关于ACID的具体语义,请参见ACID语义。
- MaxCompute的
向动态分区插入数据的操作请参见插入或覆写动态分区数据(DYNAMIC PARTITION)。
使用限制
执行
insert into
和insert overwrite
操作更新表或静态分区数据的使用限制如下:
insert into
:不支持向聚簇表中追加数据。insert overwrite
:不支持指定插入列,只能使用insert into
。例如create table t(a string, b string); insert into t(a) values ('1');
,a列插入1,b列为NULL或默认值。- MaxCompute对正在操作的表没有锁机制,不要同时对一个表执行
insert into
或insert overwrite
操作。
命令格式
insert {into|overwrite} table <table_name> [partition (<pt_spec>)] [(<col_name> [,<col_name> ...)]]
<select_statement>
from <from_statement>
[zorder by <zcol_name> [, <zcol_name> ...]];
- table_name:必填。需要插入数据的目标表名称。
- pt_spec:可选。需要插入数据的分区信息,不允许使用函数等表达式,只能是常量。格式为
(partition_col1 = partition_col_value1, partition_col2 = partition_col_value2, ...)
。 - col_name:可选。需要插入数据的目标表的列名称。
insert overwrite
不支持指定[(<col_name> [,<col_name> ...)]
。 - select_statement:必填。
select
子句,从源表中查询需要插入目标表的数据。更多select
信息,请参见SELECT语法。说明- 源表与目标表的对应关系依赖于
select
子句中列的顺序,而不是表与表之间列名的对应关系。 - 如果目标表是静态分区,向某个分区插入数据时,分区列不允许出现在
select
子句中。
- 源表与目标表的对应关系依赖于
- from_statement:必填。
from
子句,表示数据来源。例如,源表名称。 - zorder by <zcol_name> [, <zcol_name> ...]:可选。向表或分区写入数据时,支持根据指定的一列或多列(select_statement对应表中的列),把排序列数据相近的行排列在一起,提升查询时的过滤性能,在一定程度上降低存储成本。需要注意的是,
order by x, y
会严格地按照先x后y的顺序对数据进行排序,zorder by x, y
会把相近的<x, y>尽量排列在一起。当SQL查询语句的过滤条件中包含排序列时,order by
后的数据仅对包含x的表达式有较好的过滤效果,zorder by
后的数据对包含x或同时包含x、y的表达式均有较好的过滤效果,列压缩比例更高。zorder by
的使用限制如下:- 目标表为聚簇表时,不支持
zorder by
子句。 zorder by
可以与distribute by
一起使用,不能与order by
、cluster by
或sort by
一起使用。
说明 使用zorder by
子句写入数据时,会占用较多资源,比不排序花费时间更多。 - 目标表为聚簇表时,不支持
使用示例
- 示例1:执行
insert into
命令向非分区表websites
中追加数据。命令示例如下:--创建一张非分区表websites。 create table if not exists websites (id int, name string, url string ); --创建一张非分区表apps create table if not exists apps (id int, app_name string, url string ); --向表apps追加数据。其中:
insert into table table_name
可以简写为insert into table_name
insert into apps (id,app_name,url) values (1,'Aliyun','https://www.aliyun.com'); --复制apps的表数据追加至websites表 insert into websites (id,name,url) select id,app_name,url from apps; --执行select
语句查看表websites中的数据。 select * from websites; --返回结果。 +------------+------------+------------+ | id | name | url | +------------+------------+------------+ | 1 | Aliyun | https://www.aliyun.com | +------------+------------+------------+ - 示例2:执行
insert into
命令向分区表sale_detail
中追加数据。命令示例如下:--创建一张分区表sale_detail。 create table if not exists sale_detail ( shop_name string, customer_id string, total_price double ) partitioned by (sale_date string, region string); --向源表增加分区。 alter table sale_detail add partition (sale_date='2013', region='china'); --向源表追加数据。其中:
insert into table table_name
可以简写为insert into table_name
,但insert overwrite table table_name
不可以省略table
关键字。 insert into sale_detail partition (sale_date='2013', region='china') values ('s1','c1',100.1),('s2','c2',100.2),('s3','c3',100.3); --开启全表扫描,仅此Session有效。执行select
语句查看表sale_detail中的数据。 set odps.sql.allow.fullscan=true; select * from sale_detail; --返回结果。 +------------+-------------+-------------+------------+------------+ | shop_name | customer_id | total_price | sale_date | region | +------------+-------------+-------------+------------+------------+ | s1 | c1 | 100.1 | 2013 | china | | s2 | c2 | 100.2 | 2013 | china | | s3 | c3 | 100.3 | 2013 | china | +------------+-------------+-------------+------------+------------+ - 示例3:执行
insert overwrite
命令更新表sale_detail_insert
中的数据。命令示例如下:--创建目标表sale_detail_insert,与sale_detail有相同的结构。 create table sale_detail_insert like sale_detail; --给目标表增加分区。 alter table sale_detail_insert add partition (sale_date='2013', region='china'); --从源表sale_detail中取出数据插入目标表sale_detail_insert。注意不需要声明目标表字段,也不支持重排目标表字段顺序。 --对于静态分区目标表,分区字段赋值已经在partition()部分声明,不需要在select_statement中包含,只要按照目标表普通列顺序查出对应字段,按顺序映射到目标表即可。动态分区表则需要在
select
中包含分区字段,详情请参见插入或覆写动态分区数据(DYNAMIC PARTITION)。 insert overwrite table sale_detail_insert partition (sale_date='2013', region='china') select shop_name, customer_id, total_price from sale_detail zorder by customer_id, total_price; --开启全表扫描,仅此Session有效。执行select
语句查看表sale_detail_insert中的数据。 set odps.sql.allow.fullscan=true; select * from sale_detail_insert; --返回结果。 +------------+-------------+-------------+------------+------------+ | shop_name | customer_id | total_price | sale_date | region | +------------+-------------+-------------+------------+------------+ | s1 | c1 | 100.1 | 2013 | china | | s2 | c2 | 100.2 | 2013 | china | | s3 | c3 | 100.3 | 2013 | china | +------------+-------------+-------------+------------+------------+ - 示例4:执行
insert overwrite
命令更新表sale_detail_insert
中的数据,调整select
子句中列的顺序。源表与目标表的对应关系依赖于select
子句中列的顺序,而不是表与表之间列名的对应关系。命令示例如下:
返回结果如下:insert overwrite table sale_detail_insert partition (sale_date='2013', region='china') select customer_id, shop_name, total_price from sale_detail; select * from sale_detail_insert;
+------------+-------------+-------------+------------+------------+ | shop_name | customer_id | total_price | sale_date | region | +------------+-------------+-------------+------------+------------+ | c1 | s1 | 100.1 | 2013 | china | | c2 | s2 | 100.2 | 2013 | china | | c3 | s3 | 100.3 | 2013 | china | +------------+-------------+-------------+------------+------------+
在创建
sale_detail_insert
表时,列的顺序为shop_name string、customer_id string、total_price bigint
,而从sale_detail
向sale_detail_insert
插入数据的顺序为customer_id、shop_name、total_price
。此时,会将sale_detail.customer_id
的数据插入sale_detail_insert.shop_name
,将sale_detail.shop_name
的数据插入sale_detail_insert.customer_id
。 - 示例5:向某个分区插入数据时,分区列不允许出现在
select
子句中。如下语句会返回报错,sale_date
和region
为分区列,不允许出现在静态分区的select
子句中。错误命令示例如下:insert overwrite table sale_detail_insert partition (sale_date='2013', region='china') select shop_name, customer_id, total_price, sale_date, region from sale_detail;
- 示例6:
partition
的值只能是常量,不可以为表达式。错误命令示例如下:insert overwrite table sale_detail_insert partition (sale_date=datepart('2016-09-18 01:10:00', 'yyyy') , region='china') select shop_name, customer_id, total_price from sale_detail;