本文为您介绍MaxCompute查询加速MCQA(MaxCompute Query Acceleration)功能,并帮助您了解该功能的系统架构、关键特性、应用场景和使用限制。

功能介绍

MaxCompute MCQA功能提供如下能力。
  • 支持对中、小数据量查询作业进行加速优化,将执行时间为分钟级的查询作业缩减至秒级,同时完全兼容原MaxCompute的查询功能。
  • 支持将主流BI工具,开展即席查询(Ad Hoc)或商业智能(BI)分析。
  • 支持使用独立的资源池,不占用离线计算资源,可以自动识别查询作业,缓解排队压力,优化使用体验。
  • 支持将MCQA(MaxCompute Query Acceleration)查询作业的运行结果写入临时缓存中。当用户后续执行相同的查询作业时,MaxCompute会优先返回缓存中的结果,加快执行速度。
说明 查询作业回退为普通SQL作业后,按原SQL作业计费模式计费。

产品架构

MCQA架构图如下所示。mcqa架构图

应用场景

MCQA功能的应用场景如下。
场景 说明 场景特点
即席查询(Ad Hoc) 您可以通过MCQA优化中小规模数据集(百GB规模内)的查询性能,直接对MaxCompute表开展低时延的查询操作,以便快速完成数据开发及数据分析。 您可以根据实际需求,灵活选择查询条件,快速获取查询结果并调整查询逻辑。对查询时延的要求在几十秒内。使用者通常为掌握SQL技能的数据开发或数据分析师,希望使用熟悉的客户端工具开展查询分析。
商业智能(BI) 利用MaxCompute搭建企业级数据仓库时,ETL会将数据加工处理为面向业务可消费的聚合数据。借助MCQA的低延时、弹性并发、数据缓存等特性,结合MaxCompute表分区、分桶等优化设计,可以低成本满足多并发、快速响应的报告生成、统计分析及固定报表分析需求。 查询的数据对象通常为聚合后的结果数据,适用于数据量较小、多维查询、固定查询、高频查询场景。查询延时要求高,秒级返回(例如大部分查询不超过5秒,不同查询作业由于数据规模和查询复杂度不同,查询时间有较大差异)。
海量数据明细查询分析 MCQA可以自动识别查询作业特征,既能快速响应,处理小规模作业,同时还可以自动匹配大规模作业资源需求,满足分析人员分析不同规模和复杂度的查询作业的需求。 需要探索的历史数据量大、真正需要的有效数据量不大、查询延时要求适中。使用者通常为业务分析人员,往往需要从明细数据中探寻业务规律,发现业务机会,验证业务假设。

使用限制

仅支持数据查询(SELECT开头)语句。如果您提交了MCQA不支持的语句或功能,可通过配置回退到普通离线模式执行,JDBC和SDK(可以通过配置自动回退到普通离线模式执行,其他工具暂不支持回退到普通离线模式执行。版本要求如下:
  • MaxCompute客户端(odpscmd)要求v0.40.8及以上版本,下载odpscmd
  • ODPS-JDBC要求v3.3.0及以上版本,下载ODPS-JDBC
  • ODPS-SDK版本v0.40.8-public及以上要求,下载ODPS-SDK
MCQA功能的详细使用限制如下。
限制项 说明
功能
  • MCQA功能支持标准版、按量计费的MaxCompute服务。
  • MCQA功能支持包年包月计费模式。
  • MCQA功能不支持开发者版的MaxCompute服务,需要升级为标准版。
查询
  • 单次执行的作业支持并发的Worker数上限为2000个。
  • 您通过客户端提交的MCQA作业默认30s超时,通过DataWorks临时查询提交的MCQA作业默认20s超时,超时后MCQA作业将默认回退为普通查询作业。
  • 仅存储格式为ALIORC的表的数据才可能被缓存至内存中进行加速。
  • 不支持查询外部表。
查询并发
  • 包年包月模式。
    • 免费版(未划分MCQA交互式资源组)。
      每天每个项目并发限制5个,每天每个项目最多运行500个作业,超过部分默认设置自动回退为普通作业,如果您设置了不回退,系统会报如下错误:
      ODPS-1800001: Session exception - Failed to submit sub-query in session because:Prepaid project run outoffree query quota.
    • MCQA交互式资源组。
      • 目前一个租户只能创建一个MCQA交互式配额组(Quota)。
      • 每个项目的MCQA作业最大并发数为120,超过后提交作业会回退到普通作业模式运行。
      • 配置交互式资源类型的配额组,用以MCQA作业的预留CU最小配额需和预留CU最大配额值需一致,否则不生效。
      • 交互式资源类型需要满足以下要求,否则不能提交。
        • 预留CU量[minCU]=预留CU量[maxCU]
        • 预留CU量需大于等于50CU。
      • 配置了交互式资源配额组后,所有Project仅支持可识别为加速的作业提交到交互式资源配额组,且查询加速功能不再享有免费体验。
      • 交互式资源类型的配额组不支持作为Project的默认Quota使用,使用查询加速功能时交互式配额组无需绑定Project即对所有Project生效。
  • 后付费模式。

    单个MaxCompute项目的MCQA作业最大并发数为120,超过部分会回退到普通作业模式运行。

缓存机制

MaxCompute支持将MCQA(MaxCompute Query Acceleration)查询作业的运行结果写入临时缓存中。当用户后续执行相同的查询作业时,MaxCompute会优先返回缓存中的结果,加快执行速度。

对于每个MCQA查询作业,MaxCompute会在内部创建临时数据集来缓存查询结果。临时数据集的所有者即运行查询作业生成了缓存结果的用户。临时数据集对用户不可见,不支持查看临时数据集内容。MaxCompute会自动为运行查询作业的用户授予对临时数据集的访问权限。

出现如下情况时,MaxCompute会删除缓存结果:
  • MaxCompute项目的资源使用率较高时,MaxCompute会提前删除缓存结果。
  • 缓存结果所引用的表或视图变更后,缓存结果立即失效,MaxCompure会删除失效的缓存结果。
  • 缓存结果已过期。

使用限制

MCQA查询结果缓存的使用限制如下:
  • 如果您希望从缓存的查询结果中检索数据,执行的查询作业以及查询的上下文配置必须与原始查询作业完全相同。当您运行重复的查询作业时,MaxCompute会重复使用缓存结果。
  • 缓存的查询结果中所引用的表或视图变更后,缓存失效,再次执行相同的查询作业,不会检索到缓存数据。
  • 临时数据集的缓存大小限制为10 GB。

缓存计费规则

缓存的查询结果不会产生任何存储及计算费用,可以有效降低资源使用费用。

缓存验证

您可以获取查询作业的Logview信息,并在Job Details页签,查看到查询作业运行结果已写入缓存中,如下图示所示。更多获取Logview信息,请参见使用Logview 2.0查看Job运行信息Cache

包年包月规格开通MCQA

操作步骤

使用查询加速功能加速包年包月MaxCompute实例的项目步骤如下。
  1. 登录MaxCompute控制台,在左上角选择地域。
  2. 在左侧导航栏,单击Quota管理
  3. Quota管理页面,单击需要配置的一级Quota操作列的Quota配置
  4. 配置Quota模板。
    1. Quota配置页面的Quota模板页签,单击新增Quota
    2. 新增Quota模板对话框,单击+添加一项后,填写Quota名称和选择类型

      Quota名称请自定义输入,类型选择交互式

    3. 单击确定,完成新增MCQA资源组。
  5. 配置Quota计划。
    1. Quota配置页面的Quota计划页签,可以单击新增计划来创建一个新的计划,也可以在已有计划后单击编辑做编辑操作。
    2. 新建Quota计划编辑Quota计划的对话框中,在MCQA资源组上输入预留CU量[minCU,maxCU]的值。
      输入预留CU量[minCU,maxCU]的值时注意事项如下。
      • 最小CU数(minCU)需要等于最大CU数(maxCU)。
      • 最小CU数要大于等于50CU。如果不需要交互式资源,设置为0
      • 交互式类型的Quota不支持弹性预留CU。
    3. 单击确定,完成Quota计划录入。
    4. Quota计划页签,单击新增或编辑Quota计划操作列的立即生效
  6. 配置时间计划。

    配置时间计划设置每日不同时间点启用不同的Quota计划,以此实现对Quota配置的分时逻辑,配置详情请参见配置Quota

回退策略

如果因使用限制发生查询加速作业回退为普通查询作业,包年包月规格下专用于跑MCQA的配额回退为当前Project绑定的配额资源(Quota)。

MCQA渠道接入说明

MCQA功能支持的接入方式如下:
  • MaxCompute客户端。
  • DataWorks临时查询或数据开发。
  • JDBC。
  • SDK。
  • MaxCompute Studio。
  • PyODPS。
  • SQLAlchemy。

基于MaxCompute客户端启用MCQA功能

  1. 下载最新版MaxCompute客户端(odpscmd)。
  2. 安装并配置客户端,详情请参见安装并配置MaxCompute客户端
  3. 修改客户端安装目录conf下的配置文件odps_config.ini,在配置文件最后一行增加如下命令行。
    enable_interactive_mode=true --打开MCQA
    interactive_auto_rerun=true  --代表MCQA失败后自动回退到普通作业执行
  4. 运行客户端安装目录bin下的MaxCompute客户端(Linux系统下运行./bin/odpscmd,Windows下运行./bin/odpscmd.bat)。出现如下信息,表示运行成功。客户端运行成功
  5. 执行查询作业后,客户端界面返回结果中的LogView如果包含如下信息表明MCQA功能已开启。logviiew

基于DataWorks临时查询或数据开发启用MCQA功能

DataWorks的临时查询手动业务流程模块默认开启MCQA功能,您无需手动开启。如果您需要关闭MCQA功能,请填写钉钉群申请表单加入钉钉群进行反馈处理。

临时查询模块执行查询作业,如果返回结果包含如下信息表明MCQA功能已开启。临时查询详情请参见创建临时查询临时查询
手动业务流程模块执行查询作业,返回结果包含如下信息表明MCQA功能已开启。手动业务流程详情请参见管理手动业务流程手动业务流程

基于JDBC启用MCQA功能

使用JDBC连接MaxCompute,您可以通过执行如下操作开启MCQA功能。使用JDBC连接MaxCompute的操作详情请参见JDBC使用说明
  1. 下载支持MCQA功能的JDBC JAR包或可编译的源代码
  2. 通过Maven方式配置Pom依赖。
    <dependency>
      <groupId>com.aliyun.odps</groupId>
      <artifactId>odps-jdbc</artifactId>
      <version>3.3.0</version>
      <classifier>jar-with-dependencies</classifier>
    </dependency>
  3. 基于源代码创建Java程序,适配实际信息,详情请参见MaxCompute JDBC,示例如下。
    String accessId = "your_access_id";
    String accessKey = "your_access_key";
    String conn = "jdbc:odps:http://service.<regionid>.maxcompute.aliyun.com/api?project=<your_project_name>"&accessId&accessKey&charset=UTF-8&interactiveMode=true&alwaysFallback=false&autoSelectLimit=1000000000";
    Statement stmt = conn.createStatement();
    --your_access_id、your_access_key为您的云账号信息,your_project_name为需要使用MCQA功能的项目名称。
    Connection conn = DriverManager.getConnection(conn, accessId, accessKey);
    Statement stmt = conn.createStatement();
    String tableName = "testOdpsDriverTable";
    stmt.execute("drop table if exists " + tableName);
    stmt.execute("create table " + tableName + " (key int, value string)");
    您可以选择在连接串中配置如下参数,完善处理逻辑。
    参数 说明
    enableOdpsLogger 用于打印日志。未配置SLF4J时,建议您配置此参数为True。
    fallbackForUnknownError 默认值为False,设置为True时,表示发生未知错误时回退到离线模式。
    fallbackForResourceNotEnough 默认值为False,设置为True时,表示发生资源不足问题时回退到离线模式。
    fallbackForUpgrading 默认值为False,设置为True时,表示升级期间回退到离线模式。
    fallbackForRunningTimeout 默认值为False,设置为True时,表示执行超时时回退到离线模式。
    fallbackForUnsupportedFeature 默认值为False,设置为True时,表示遇到MCQA不支持的场景时回退到离线模式。
    alwaysFallback 默认值为False,设置为True时,表示在以上几种场景下全部回退到离线模式,仅在JDBC 3.2.3及以上版本支持。
使用示例。
  • 示例1:Tableau上使用MCQA:

    服务器增加interactiveMode=true属性,用于开启MCQA功能。建议您同步增加enableOdpsLogger=true属性,用于打印日志。配置操作详情请参见配置JDBC使用Tableau

    完整的服务器配置示例如下。
    http://service.cn-beijing.maxcompute.aliyun.com/api?
    project=****_beijing&interactiveMode=true&enableOdpsLogger=true&autoSelectLimit=1000000000"
    如果只对项目空间中的部分表进行Tableau操作,您可以在服务器参数中增加table_list=table_name1, table_name2属性选择需要的表,表之间用半角逗号(,)分隔。如果表过多,会导致Tableau打开缓慢,强烈建议使用此方式只载入需要的表。示例如下,对于有大量分区的表不建议把所有分区的数据都设置成数据源,可以筛选需要的分区或通过自定义SQL获取需要的数据。
    http://service.cn-beijing.maxcompute.aliyun.com/api?project=****_beijing
    &interactiveMode=true&alwaysFallback=true&enableOdpsLogger=true&autoSelectLimit=1000000000"
    &table_list=orders,customers
  • 示例2:SQLWorkBench使用MCQA。

    完成JDBC驱动配置后,在Profile配置界面修改已填写的JDBC URL,支持SQLWorkBench使用MCQA功能。Profile配置操作详情请参见配置JDBC使用SQL Workbench/J

    需要配置的URL格式如下所示:
    jdbc:odps:<MaxCompute_endpoint>?
    project=<MaxCompute_project_name>&accessId=<AccessKey ID>&accessKey=<AccessKey Secret>
    &charset=UTF-8&interactiveMode=true&autoSelectLimit=1000000000"
    参数说明如下。
    参数 说明
    MaxCompute_endpoint MaxCompute服务所在区域的Endpoint,详情请参见Endpoint
    MaxCompute_project_name MaxCompute项目空间名称。
    AccessKey ID 有访问指定项目空间权限的AccessKey ID。

    您可以进入AccessKey管理页面获取AccessKey ID。

    AccessKey Secret AccessKey ID对应的AccessKey Secret。

    您可以进入AccessKey管理页面获取AccessKey Secret。

    charset=UTF-8 字符集编码格式。
    interactiveMode MCQA功能开关,true表示开启MCQA功能。
    autoSelectLimit 数据量超过100万限制时,需要配置此参数。

基于Java SDK启用MCQA功能

Java SDK详情请参见Java SDK介绍。您需要通过Maven配置Pom依赖,配置示例如下。
<dependency>
  <groupId>com.aliyun.odps</groupId>
  <artifactId>odps-sdk-core</artifactId>
  <version>3.3.0</version>
</dependency>
创建Java程序,命令示例如下。
import com.aliyun.odps.Odps;
import com.aliyun.odps.OdpsException;
import com.aliyun.odps.OdpsType;
import com.aliyun.odps.account.Account;
import com.aliyun.odps.account.AliyunAccount;
import com.aliyun.odps.data.Record;
import com.aliyun.odps.data.ResultSet;
import com.aliyun.odps.sqa.*;

import java.io.IOException;
import java.util.*;

public class SQLExecutorExample {

    public static void SimpleExample() {
        // 设置账号和项目信息。
        Account account = new AliyunAccount("<your_access_id>", "<your_access_key>");
        Odps odps = new Odps(account);
        odps.setDefaultProject("<your_project_name>");
        odps.setEndpoint("http://service.<regionid>.maxcompute.aliyun.com/api");

        // 准备构建SQLExecutor。
        SQLExecutorBuilder builder = SQLExecutorBuilder.builder();

        SQLExecutor sqlExecutor = null;
        try {
            // run in offline mode or run in interactive mode
            if (false) {
                // 创建一个默认执行离线SQL的Executor。
                sqlExecutor = builder.odps(odps).executeMode(ExecuteMode.OFFLINE).build();
            } else {
                // 创建一个默认执行查询加速SQL的Executor,并且在查询加速模式失败后,自动回退到离线查询。
                sqlExecutor = builder.odps(odps).executeMode(ExecuteMode.INTERACTIVE).fallbackPolicy(FallbackPolicy.alwaysFallbackPolicy()).build();
            }
            // 如果需要的话可以传入查询的特殊设置。
            Map<String, String> queryHint = new HashMap<>();
            queryHint.put("odps.sql.mapper.split.size", "128");
            // 提交一个查询作业,支持传入Hint。
            sqlExecutor.run("select count(1) from test_table;", queryHint);

            // 列举一些支持的常用获取信息的接口。
            // UUID
            System.out.println("ExecutorId:" + sqlExecutor.getId());
            // 当前查询作业的logview。
            System.out.println("Logview:" + sqlExecutor.getLogView());
            // 当前查询作业的Instance对象(Interactive模式多个查询作业可能为同一个Instance)。
            System.out.println("InstanceId:" + sqlExecutor.getInstance().getId());
            // 当前查询作业的阶段进度(Console的进度条)。
            System.out.println("QueryStageProgress:" + sqlExecutor.getProgress());
            // 当前查询作业的执行状态变化日志,例如回退信息。
            System.out.println("QueryExecutionLog:" + sqlExecutor.getExecutionLog());

            // 提供两种获取结果的接口。
            if(false) {
                // 直接获取全部查询作业结果,同步接口,可能会占用本线程直到查询成功或失败。
                // 一次性读取全部结果数据到内存中,当数据量较大时不建议使用,可能会有内存问题。
                List<Record> records = sqlExecutor.getResult();
                printRecords(records);
            } else {
                // 获取查询结果的迭代器ResultSet,同步接口,可能会占用本线程直到查询成功或失败。
                // 获取大量结果数据时推荐使用,分次读取查询结果。
                ResultSet resultSet = sqlExecutor.getResultSet();
                while (resultSet.hasNext()) {
                    printRecord(resultSet.next());
                }
            }

            // run another query
            sqlExecutor.run("select * from test_table;", new HashMap<>());
            if(false) {
                // 直接获取全部查询结果,同步接口,可能会占用本线程直到查询成功或失败。
                // 一次性读取全部结果数据到内存中,当数据量较大时不建议使用,可能会有内存问题。
                List<Record> records = sqlExecutor.getResult();
                printRecords(records);
            } else {
                // 获取查询结果的迭代器ResultSet,同步接口,可能会占用本线程直到查询成功或失败。
                // 获取大量结果数据时推荐使用,分次读取查询结果。
                ResultSet resultSet = sqlExecutor.getResultSet();
                while (resultSet.hasNext()) {
                    printRecord(resultSet.next());
                }
            }
        } catch (OdpsException e) {
            e.printStackTrace();
        } catch (IOException e) {
            e.printStackTrace();
        } finally {
            if (sqlExecutor != null) {
                // 关闭Executor释放相关资源。
                sqlExecutor.close();
            }
        }
    }

    // SQLExecutor can be reused by pool mode
    public static void ExampleWithPool() {
        // 设置账号和项目信息。
        Account account = new AliyunAccount("your_access_id", "your_access_key");
        Odps odps = new Odps(account);
        odps.setDefaultProject("your_project_name");
        odps.setEndpoint("http://service.<regionid>.maxcompute.aliyun.com/api");

        // 通过连接池方式执行查询。
        SQLExecutorPool sqlExecutorPool = null;
        SQLExecutor sqlExecutor = null;
        try {
            // 准备连接池,设置连接池大小和默认执行模式。
            SQLExecutorPoolBuilder builder = SQLExecutorPoolBuilder.builder();
            builder.odps(odps)
                    .initPoolSize(1) // init pool executor number
                    .maxPoolSize(5)  // max executors in pool
                    .executeMode(ExecuteMode.INTERACTIVE); // run in interactive mode

            sqlExecutorPool = builder.build();
            // 从连接池中获取一个Executor,如果不够将会在Max限制内新增Executor。
            sqlExecutor = sqlExecutorPool.getExecutor();

            // Executor具体用法和上一示例一致。
            sqlExecutor.run("select count(1) from test_table;", new HashMap<>());
            System.out.println("InstanceId:" + sqlExecutor.getId());
            System.out.println("Logview:" + sqlExecutor.getLogView());

            List<Record> records = sqlExecutor.getResult();
            printRecords(records);
        } catch (OdpsException e) {
            e.printStackTrace();
        } catch (IOException e) {
            e.printStackTrace();
        } finally {
            sqlExecutor.close();
        }
        sqlExecutorPool.close();
    }

    private static void printRecord(Record record) {
        for (int k = 0; k < record.getColumnCount(); k++) {

            if (k != 0) {
                System.out.print("\t");
            }

            if (record.getColumns()[k].getType().equals(OdpsType.STRING)) {
                System.out.print(record.getString(k));
            } else if (record.getColumns()[k].getType().equals(OdpsType.BIGINT)) {
                System.out.print(record.getBigint(k));
            } else {
                System.out.print(record.get(k));
            }
        }
    }

    private static void printRecords(List<Record> records) {
        for (Record record : records) {
            printRecord(record);
            System.out.println();
        }
    }

    public static void main(String args[]) {
        SimpleExample();
        ExampleWithPool();
    }
}

基于MaxCompute Studio启用MCQA功能

V3.5.0及以上版本的MaxCompute Studio插件支持MCQA功能,推荐您安装最新版本的MaxCompute Studio插件。安装MaxCompute Studio插件的操作详情请参见安装MaxCompute Studio

您在MaxCompute Studio的SQL编辑器中,选择带查询加速功能的SQL执行模式查询加速加速失败重跑后,执行查询语句即可启用查询加速功能,如下图所示。查询加速
  • 查询加速:使用查询加速功能执行SQL查询语句。
  • 加速失败重跑:使用查询加速功能执行SQL查询语句失败后,回退到离线模式(即默认模式)执行SQL查询语句。

基于PyODPS启用MCQA功能

0.10.7或以上版本的PyODPS支持MCQA功能,您需要在运行SQL时使用run_sql_interactive()方法启用MCQA功能,命令示例如下。
odps = ODPS(...)
instance = odps.run_sql_interactive('select count(*) from test_table')
# logview
print(instance.get_logview_address())
# 可选:如果使用Tunnel下载结果,则不需要客户端等待。
# 等待运行完毕,也可以使用wait_for_completion,区别在于wait_for_success将在任务失败时抛出异常。
instance.wait_for_success()
# 下载结果
# 显示ODPS返回的警告
print(instance.get_warnings())
# 用于屏显,若任务失败则返回错误信息
print(instance.get_printable_result())
# 从frontend下载结果
for each_record in instance.open_reader():
    pass # each_record 是 odps.Record 类型
# 使用tunnel下载结果
for each_record in instance.open_reader(tunnel=True):
    pass
run_sql_interactive()方法可携带的参数如下:
  • service_name:可选。用于指定查询加速会话的名称。
  • service_startup_timeout:可选。用于指定等待Session Attach的超时时间。
  • force_reattach:可选。run_sql_interactive()默认会自动复用Session。用于强制重新Attach Session。

基于PyODPS,使用SQLAlchemy或其他支持SQLAlchemy接口的第三方工具实现查询加速

PyODPS集成了SQLAlchemy,可以使用SQLAlchemy查询MaxCompute数据。您需要在连接串中指定如下参数实现查询加速:
  • interactive_mode=true:必填。查询加速功能总开关。
  • reuse_odps=true:可选。打开强制复用连接,对于部分第三方工具(例如Apache SuperSet),打开此选项可提高性能。
您可以在连接串中配置fallback_policy=<policy1>,<policy2>,...参数,完善处理逻辑。与JDBC的配置项类似,控制加速失败的回退行为。
  • generic:默认为False,设置为True时,表示发生未知错误时回退到离线模式。
  • noresource:默认为False,设置为True时,表示发生资源不足问题时回退到离线模式。
  • upgrading:默认为False,设置为True时,表示升级期间回退到离线模式。
  • timeout:默认为False,设置为True时,表示执行超时时回退到离线模式。
  • unsupported:默认为False,设置为True时,表示遇到MCQA不支持的场景时回退到离线模式。
  • default:等同于同时指定unsupported、upgrading、noresource和timeout。如果连接串中未指定fallback_policy,则此项为默认值。
  • all:默认为False,设置为True时,表示在以上几种场景下全部回退到离线模式,仅在JDBC 3.2.3及以上版本才支持。
例如,打开查询加速,打开强制复用链接,在查询加速功能尚未支持、升级中和资源不足时回退到离线模式的连接串如下。
odps://<access_id>:<access_key>@<project>/?endpoint=<endpoint>&interactive_mode=true&reuse_odps=true&fallback_policy=unsupported,upgrading,noresource

常见问题

  • 问题一:使用JDBC链接MaxCompute,执行包年包月资源的SQL任务时报错(ODPS-1800001),详细报错信息如下。
    Error:com.aliyun.odps.OdpsException: ODPS-1800001: Session exception - Failed to submit sub-query in session because:Prepaid project run out of free query quota.
    • 可能原因:

      您当前使用了查询加速(MCQA)功能,当前查询加速功能正在公测中,如果您已购买包年包月套餐,公测期间,无需进行额外操作,即可免费体验查询加速功能。免费体验查询加速时,单个MaxCompute项目支持的最大作业并发数为5,日免费加速作业数累计为500个。如果作业数超过500个时,会出现上述报错。

    • 解决方法:

      您需要在配置JDBC启用MCQA功能的配置过程中,设置alwaysFallback参数值为true,设置完成后,没有超过500个作业数时,能正常使用MCQA进行查询加速,超过500个的作业会退回至离线模式。配置的详细操作及参数解释请参见。

  • 问题二:基于PyODPS发送请求并获取结果的时长比DataWorks长。
    • 可能原因:
      • 使用了wait_for_xxx方法,延长了时间。
      • 轮询间隔时间长。
    • 解决方法:
      • 请求本身运行很快的情况下,不使用wait_for_xxx方法,发出请求后直接使用Tunnel下载结果。
      • 调低轮询间隔:instance.wait_for_success(interval=0.1)。命令示例如下。
        from odps import ODPS, errors
        
        max_retry_times = 3
        
        def run_sql(odps, stmt):
            retry = 0
            while retry < max_retry_times:
                try:
                    inst = odps.run_sql_interactive(stmt)
                    print(inst.get_logview_address())
                    inst.wait_for_success(interval=0.1)
                    records = []
                    for each_record in inst.open_reader(tunnel=True):
                        records.append(each_record)
                    return records
                except errors.ODPSError as e:
                    retry = retry + 1
                    print("Error: " + str(e) + " retry: " + str(retry) + "/" + str(max_retry_times))
                    if retry >= max_retry_times:
                        raise e
        
        odps = ODPS(...)
        
        run_sql(odps, 'select 1')
  • 问题三:基于SDK如何使用Logview排查Java SDK报错?
    解决方法:MaxCompute Java SDK提供了Logview接口,请使用如下命令调用Logview接口获取日志。
    String logview = sqlExecutor.getLogView();
  • 问题四:基于JDBC如何获取MaxCompute Logview URL?

    解决方法:MaxCompute JDBC Driver是基于MaxCompute Java SDK的封装。因此使用时和MaxCompute客户端、MaxCompute Studio以及DataWorks一样,通过MaxCompute JDBC Driver执行SQL时,会生成Logview URL。您可以通过Logview查看任务执行状态、追踪任务进度、获取任务执行结果。Logview URL可以通过配置日志输出(properties.log4j),默认以标准输出打印到终端屏幕。