使用Prometheus监控E-MapReduce

在集成中心页面单击已安装区域的E-MapReduce组件卡片，然后在弹出的对话框中单击大盘页签可以查看该组件的大盘略缩图和超链接，单击超链接进入阿里云Grafana页面，查看对应观测大盘。这里为您展示几个常见的大盘数据。

• HOST大盘：展示ECS节点CPU、内存、磁盘、Load、Network、Socket等。

• HDFS大盘

  • HDFS-HOME

  • HDFS-NameNodes

  • HDFS-DataNodes

  • HDFS-JournanlNodes

• Hive大盘

  • HiveServer2：HiveQL查询服务器，接收来自JDBC客户端提交的SQL请求。

  • HiveMetaStore：元数据管理模块，用于存储Database和Table等元信息。

• YARN大盘

  • HOME：展示集群状态、内存、任务、节点、Container等。

  • NodeManager：负责节点的资源管理、监控和作业运行。

  • ResourceManager：负责集群的资源管理与调度，为运行在YARN上的各种类型作业分配资源。

  • TimeLineServer：收集作业的指标，并展示作业执行情况。

  • JobHistory

• Kafka大盘

  • KAFKA-HOME

  • KAFKA-Broker

  • KAFKA-Topic

• ClickHouse大盘

• Flink大盘

• Impala大盘

• ZooKeeper大盘

• Spark大盘

HDFS（Hadoop Distributed File System）是一种Hadoop分布式文件系统，适用于大规模数据的分布式读写，特别是读多写少的场景。HDFS指标包括HOME、NameNodes、DataNodes和JournanlNodes指标。

• HDFS-HOME

• HDFS-NameNodes

• HDFS-DataNodes

• HDFS-JournanlNodes

YARN是Hadoop系统的核心组件，主要功能包括负责Hadoop集群的资源管理，对作业进行调度运行以及监控。YARN指标包括HOME、Queue、ResourceManager、NodeManager、TImeLineServer和JobHistory。

• YARN-HOME

• YARN-Queues

• YARN-ResourceManager

• YARN-NodeManagers

• YARN-TimeLineServer

• YARN-JobHistory

Hive是一个基于Hadoop的数据仓库框架，在大数据业务场景中，主要用来进行数据提取、转化和加载（ETL）以及元数据管理。Hive由HiveServer2（HiveQL查询服务器）、Hive MetaStore（元数据管理模块）和Hive Client构成，其指标包括HiveMetaStore和HiveServer2。

• HiveMetaStore

  指标	说明
  hive_memory_heap_max	JVM最大可用堆内存，单位：Byte。
  hive_memory_heap_used	JVM已使用堆内存，单位：Byte。
  hive_memory_non_heap_used	JVM已使用堆外内存量，单位：Byte。
  hive_active_calls_api_alter_table	当前活跃的alter table请求数。
  hive_active_calls_api_create_table	当前活跃的create table请求数。
  hive_active_calls_api_drop_table	当前活跃的drop table请求数。
  hive_api_alter_table	alter table请求平均时间，单位：ms。
  hive_api_alter_table_with_environment_context	alter table with env context请求平均时间，单位：ms。
  hive_api_create_table	create table请求平均时间，单位：ms。
  hive_api_create_table_with_environment_context	create table with env context请求平均时间，单位：ms。
  api_drop_table	drop table请求平均时间，单位：ms。
  hive_api_drop_table_with_environment_context	drop table with env context请求平均时间，单位：ms。
  hive_api_get_all_databases	get all databases请求平均时间，单位：ms。
  hive_api_get_all_functions	get all functions请求平均时间，单位：ms。
  hive_api_get_database	get database请求平均时间，单位：ms。
  hive_api_get_multi_table	get multi table请求平均时间，单位：ms。
  hive_api_get_tables_by_type	get table请求平均时间，单位：ms。
  hive_api_get_table_objects_by_name_req	get table objects by name请求平均时间，单位：ms。
  hive_api_get_table_req	get table req请求平均时间，单位：ms。
  hive_api_get_table_statistics_req	get table statistics请求平均时间，单位：ms。
  hive_api_get_tables	get tables请求平均时间，单位：ms。
  hive_api_get_tables_by_type	get tables by type请求平均时间，单位：ms。

• HiveServer2

  指标	说明
  hive_metrics_hs2_active_sessions	当前活跃的session个数。
  hive_metrics_memory_total_init	JVM初始化总内存，单位：Byte。
  hive_metrics_memory_total_committed	JVM已预留总内存，单位：Byte。
  hive_metrics_memory_total_max	JVM最大可用总内存，单位：Byte。
  hive_metrics_memory_heap_committed	JVM已预留堆内存，单位：Byte。
  hive_metrics_memory_heap_inithive_metrics_memory_heap_committed	JVM初始化堆内存，单位：Byte。
  hive_metrics_memory_non_heap_committed	JVM已预留堆外内存，单位：Byte。
  hive_metrics_memory_non_heap_init	JVM初始化堆外内存，单位：Byte。
  hive_metrics_memory_non_heap_max	JVM最大可用堆外内存，单位：Byte。
  hive_metrics_gc_PS_MarkSweep_count	JVM PS MarkSweep GC次数。
  hive_metrics_gc_PS_MarkSweep_time	JVM PS MarkSweep GC时间，单位：ms。
  hive_metrics_gc_PS_Scavenge_time	JVM PS Scavenge GC时间，单位：ms。
  hive_metrics_threads_daemon_count	JVM daemon线程数。
  hive_metrics_threads_count	JVM线程数。
  hive_metrics_threads_blocked_count	JVM blocked线程数。
  hive_metrics_threads_deadlock_count	JVM deadlock线程数。
  hive_metrics_threads_new_count	JVM new状态线程数。
  hive_metrics_threads_runnable_count	JVM runnable线程数。
  hive_metrics_threads_terminated_count	JVM terminated线程数。
  hive_metrics_threads_waiting_count	JVM waiting线程数。
  hive_metrics_threads_timed_waiting_count	JVM timed_waiting线程数。
  hive_metrics_memory_heap_max	JVM最大可用堆内存，单位：Byte。
  hive_metrics_memory_heap_used	JVM已使用堆内存，单位：Byte。
  hive_metrics_memory_non_heap_used	JVM已使用堆外内存量，单位：Byte。
  hive_metrics_hs2_open_sessions	当前打开的session数。
  hive_metrics_hive_mapred_tasks	提交的Hive on MR作业总数。
  hive_metrics_hive_tez_tasks	提交的Hive on Tez作业总数。
  hive_metrics_cumulative_connection_count	累计连接数。
  hive_metrics_active_calls_api_runTasks	当前runtask请求数。
  hive_metrics_hs2_completed_sql_operation_FINISHED	已结束的SQL总数。
  hive_metrics_hs2_sql_operation_active_user	当前活跃用户数。
  hive_metrics_open_connections	当前打开的连接数。
  hive_metrics_api_PostHook_com_aliyun_emr_meta_hive_hook_LineageLoggerHook	执行LineageLoggerHook的平均时间，单位：ms。
  hive_metrics_api_hs2_sql_operation_PENDING	SQL任务处于PEEDING状态的平均时间，单位：ms。
  hive_metrics_api_hs2_sql_operation_RUNNING	SQL任务处于RUNNING状态的平均时间，单位：ms。
  hive_metrics_hs2_submitted_queries	提交查询的平均时间，单位：ms。
  hive_metrics_hs2_executing_queries	执行查询的平均时间，单位：ms。
  hive_metrics_hs2_succeeded_queries	服务启动后成功的查询数。
  hive_metrics_hs2_failed_queries	服务启动后失败的查询数。

ZooKeeper是一个分布式、高可用性的协调服务。ZooKeeper提供分布式配置服务、同步服务和命名注册等功能。

消息队列Kafka版是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。消息队列Kafka版广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域，已成为大数据生态中不可或缺的部分。

• Kafka-HOME

• Kafka-Broker

• Kafka-Topic

Impala为存储在Apache Hadoop中的数据提供了高性能和低延迟的SQL查询。

EMR ClickHouse完全兼容开源版本的产品特性，并且在开源的基础上优化了读写性能，提升了ClickHouse与EMR其他组件快速集成的能力。

Flink是一个流式数据流执行引擎，其针对数据流的分布式计算提供了数据分布、数据通信以及容错机制等功能。

• Overview

  参数	指标	说明
  Num Of RunningJobs	numRunningJobs	JM中正在运行的作业数。
  Job Uptime	job_uptime	作业已运行时间，单位：ms。仅支持返回单个系列或表的查询。
  TaskSlots Available	taskSlotsAvailable	当前可用的TaskSlots数量。
  TaskSlots Total	taskSlotsTotal	TaskSlots的总数量。
  Num of TM	numRegisteredTaskManagers	已注册的TM数量。
  sourceIdleTime	sourceIdleTime	源没有处理任何记录的时间，单位：ms。
  currentFetchEventTimeLag	currentFetchEventTimeLag	业务延时（fetch=数据发生时间与数据进入Flink Source时间之间的差值）。
  currentEmitEventTimeLag	currentEmitEventTimeLag	业务延时（emit=数据发生时间与数据离开Flink Source时间之间的差值）。

• Checkpoint

  参数	指标	说明
  Num of Checkpoints	totalNumberOfCheckpoints	检查点总数。
  	numberOfFailedCheckpoints	失败的检查点数量。
  	numberOfCompletedCheckpoints	已完成的检查点数量。
  	numberOfInProgressCheckpoints	正在进行的检查点数量。
  lastCheckpointDuration	lastCheckpointDuration	最近一个检查点完成时间，单位：ms。
  lastCheckpointSize	lastCheckpointSize	最近一个检查点的大小，单位：Byte。
  lastCheckpointRestoreTimestamp	lastCheckpointRestoreTimestamp	协调器上最近一个检查点的恢复时间，单位：ms。

• Network

  参数	指标	说明
  InPool Usage	inPoolUsage	输入缓冲区使用量。
  OutPool Usage	outPoolUsage	输出缓冲区使用量。
  OutputQueue Length	outputQueueLength	输出缓冲区排队数量。
  InputQueue Length	inputQueueLength	输入缓冲区排队数量。

• IO

  参数	指标	说明
  numBytesIn PerSecond	numBytesInLocalPerSecond	每秒本地读取数据的字节数。
  	numBytesInRemotePerSecond	每秒远端读取数据的字节数。
  	numBuffersInLocalPerSecond	每秒本地读取网络缓冲区的数量。
  	numBuffersInRemotePerSecond	每秒远端读取网络缓冲区的数量。
  numBytesOut PerSecond	numBytesOutPerSecond	每秒发出字节数。
  	numBuffersOutPerSecond	每秒发出网络缓冲区的数量。
  Task numRecords I/O PerSecond	numRecordsInPerSecond	每秒接收的记录数。
  	numRecordsOutPerSecond	每秒发出的记录数。
  Task numRecords I/O	numRecordsIn	接收的记录数。
  	numRecordsOut	发出的记录数。
  Operator CurrentSendTime	currentSendTime	发送最新一条记录的耗时时间，单位：ms。

• Watermark

  参数	指标	说明
  Task InputWatermark	currentInputWatermark	任务收到最后一个水印的时间，单位：ms。
  Operator In/Out Watermark	currentInputWatermark	算子收到最后一个水印的时间，单位：ms。
  	currentOutputWatermark	算子发出最后一个水印的时间，单位：ms。
  watermarkLag	watermarkLag	Watermark滞后时间，单位：ms。

• CPU

  参数	指标	说明
  JM CPU Load	CPU_Load	JM CPU使用率。
  TM CPU Load	CPU_Load	TM CPU使用率。
  CPU Usage	CPU_Usage	TM CPU使用率（基于ProcessTree）。

• Memory

  参数	指标	说明
  JM Heap Memory	Memory_Heap_Used	JM Heap Memory已使用量，单位：Byte。
  	Memory_Heap_Committed	JM Heap Memory已申请量，单位：Byte。
  	Memory_Heap_Max	JM Heap Memory最大可用量，单位：Byte。
  JM NonHeap Memory	Memory_NonHeap_Used	JM NonHeap Memory已使用量，单位：Byte。
  	Memory_NonHeap_Committed	JM NonHeap Memory已申请量，单位：Byte。
  	Memory_NonHeap_Max	JM NonHeap Memory最大可用量，单位：Byte。
  TM Heap Memory	Memory_Heap_Used	TM Heap Memory已使用量，单位：Byte。
  	Memory_Heap_Committed	TM Heap Memory已申请量，单位：Byte。
  	Memory_Heap_Max	TM Heap Memory最大可用量，单位：Byte。
  TM NonHeap Memory	Memory_NonHeap_Used	TM NonHeap Memory已使用量，单位：Byte。
  	Memory_NonHeap_Committed	TM NonHeap Memory已申请量，单位：Byte。
  	Memory_NonHeap_Max	TM NonHeap Memory最大可用量，单位：Byte。
  Memory RSS	Memory_RSS	TM当前已使用的堆内存量，单位：Byte。

• JVM

  参数	指标	说明
  JM Threads	Threads_Count	JM活跃线程总数。
  TM Threads	Threads_Count	TM活跃线程总数。
  JM GC Time	GarbageCollector_PS_Scavenge_Time	JM年轻代垃圾回收器运行时间。
  	GarbageCollector_PS_MarkSweep_Time	JM老年代“标记-清除”垃圾回收器的运行时间。
  JM GC Count	GarbageCollector_PS_Scavenge_Count	JM年轻代垃圾回收器运行次数。
  	GarbageCollector_PS_MarkSweep_Count	JM老年代“标记-清除”垃圾回收器的运行次数。
  TM GC Count	GarbageCollector_PS_Scavenge_Count	TM年轻代垃圾回收器运行次数。
  	GarbageCollector_PS_MarkSweep_Count	TM老年代“标记-清除”垃圾回收器的运行次数。
  TM GC Time	GarbageCollector_PS_Scavenge_Time	TM年轻代垃圾回收器运行时间。
  	GarbageCollector_PS_MarkSweep_Time	TM老年代“标记-清除”垃圾回收器的运行时间。
  TM ClassLoader	ClassLoader_ClassesLoaded	TM自JVM启动以来已加载的类总数。
  	ClassLoader_ClassesUnloaded	TM自JVM启动以来已卸载的类总数。
  JM ClassLoader	ClassLoader_ClassesLoaded	JM自JVM启动以来已加载的类总数。
  	ClassLoader_ClassesUnloaded	JM自JVM启动以来已卸载的类总数。