附录:数据探查典型场景说明

本文为您介绍数据探查任务在不同计算引擎下执行探查语句的异常或报错信息及对应的解决方法。

具体典型场景说明如下。

计算引擎

类别

异常原因

解决方法

Cloudera Data Platform 7.x

任务报错

引擎的优化器功能异常。

set hive.optimize.shared.work = false;

亚信DP5.3

内存溢出

Map端和Reduce端的内存溢出。

set mapreduce.map.memory.mb=10150;

set mapreduce.map.java.opts=-Xmx6144m;

set mapreduce.reduce.memory.mb=10150;

set mapreduce.reduce.java.opts=-Xmx8120m;

E-MapReduce3.xE-MapReduce5.x CDH5.xCDH6.xFusionInsight 8.xCloudera Data Platform 7.x亚信DP5.3

运行速度慢

设置的Job并发执行数量不足。

set hive.exec.parallel=true;

set hive.exec.parallel.thread.number=16;