查看运行分析

更新时间:
复制 MD 格式

支持在运行分析中查看开源Flink实时计算引擎的实时实例以及实时工作流的不同监控指标。

权限说明

  • 查看项目的运行分析,需要具备项目空间权限。

  • 查看Apache Flink Dashboard需要填写用户名和密码,支持超级管理员系统管理员任务负责人、项目运维负责人查看用户名密码提示信息。

运行分析入口

  1. Dataphin首页的顶部菜单栏中,选择研发 > 任务运维

  2. 在左侧导航栏选择实例运维 > 实时实例,在实时实例页面中,单击目标实例操作列的image图标。

查看运行分析

在运行分析页面您可以查看各指标的运行情况。如下图所示:

image

功能

描述

①时间区域选择

  • 快捷选项:支持最近10分钟、最近1小时,最近6小时、最近1天,最近1周。默认为最近1小时。

  • 自定义时间区间:您可自定义设置时间区间,用自定义时间区间作为选择时间的区间。仅支持选择过去7天[N-7,N]的时间。

Apache Flink Dashboard刷新

  • Apache Flink Dashboard:Apache Flink Dashboard仅支持Flink引擎版本为1.14及以上,单击Apache Flink Dashboard,您可前往Apache Flink Dashboard进行查看。

    1

    说明
    • 查看Apache Flink Dashboard,请确保VPC网络互通。

    • 实时工作流不支持查看Apache Flink Dashboard。

  • 刷新:您可手动刷新数据。

实时监控指标

Flink SQLFlink Datastream任务,可查看以下指标:overview、checkpoint、IO、watermark、cpu、memory、JVM。实时工作流任务支持查看OverviewOperator指标。各指标详情,请参见实时监控指标说明

指标数据统计

您可查看各指标在当前时间段内的数据情况。

指标统计说明

  • 若所选择的时间区间小于或等于6小时,可查看每分钟采集的所有数据点。

  • 若所选择的时间区间大于6小时且小于等于24小时,可查看从整点开始的每5分钟所采集的数据点,每个数据点为该时间点前5分钟的记数。

  • 若所选择的时间区间大于24小时,可查看从整点开始的每10分钟所采集的数据点,每个数据点为该时间点前10分钟的记数。

实时监控指标说明

Flink SQL、Flink DataStream任务

开源Flink、Ververica FlinkFusionInsight Flink实时计算引擎下的Flink SQL、Flink DataStream任务,支持查看以下监控指标。

  • overview

    监控指标

    描述

    单位

    失败次数

    当前时间段内任务的失败次数。

    次数

    反压情况

    当前时间段内该任务是否存在反压。当前任务生产数据的速率比下游任务消费数据的速率要快时,将产生反压。

    是或否

    Sink的数据输出

    Sink输出的情况(TPS)。

    次/秒

    Checkpoint失败次数

    当前时间段内任务Checkpoint的失败次数。

    次数

  • checkpoint

    监控指标

    细分类型

    描述

    单位

    Checkpoint总数

    (Num of Checkpoints)

    Checkpoint总数

    totalNumberOfCheckpoints

    当前时间段内任务Checkpoint总数。

    失败的Checkpoint总数

    numberOfFailedCheckpoints

    当前时间段内任务失败的Checkpoint数量。

    已完成的Checkpoint总数

    numberOfCompletedCheckpoints

    当前时间段内任务已完成的Checkpoint数量。

    正在进行的Checkpoint总数

    numberOfInProgressCheckpoints

    当前时间段内任务正在进行的Checkpoint数量。

    最近Checkpoint持续时间(lastCheckpointDuration

    最近一个Checkpoint的持续时间

    lastCheckpointDuration

    任务最近一个Checkpoint的持续时间。

    如果Checkpoint耗时过长或者超时,可能由于状态过大、临时网络原因、Barrier未对齐或者数据存在反压等原因造成。

    毫秒(ms)

    最近Checkpoint大小

    (lastCheckpointSize)

    最近一个Checkpoint的大小

    lastCheckpointSize

    任务最近一次实际上传的Checkpoint大小,可以在Checkpoint有瓶颈时协助分析Checkpoint性能。

    字节(Byte)

  • IO

    监控指标

    含义

    监控指标

    描述

    单位

    每秒输入字节总数。

    (numBytesIn PerSecond)

    可查看上游流速的输入情况,协助您观察作业流量表现。

    每秒本地读取数据的字节数

    numBytesInLocal PerSecond

    每秒本地读取数据的字节数。

    字节(Byte)

    每秒远端读取数据的字节数

    numBytesInRemote PerSecond

    每秒远端读取数据的字节数。

    字节(Byte)

    每秒本地读取网络缓冲区数据的字节数

    numBuffersIn Local PerSecond

    每秒本地读取网络缓冲区数据的字节数。

    字节(Byte)

    每秒远端读取网络缓冲区的数据的字节数

    numBuffersIn Remote PerSecond

    每秒远端读取网络缓冲区的数据的字节数。

    字节(Byte)

    每秒输出字节总数。

    numBytesOut PerSecond

    可查看上游吞吐输出情况,协助您观察作业流量表现。

    每秒输出字节数

    numBytesOut PerSecond

    每秒输出字节数。

    字节(Byte)

    每秒输出网络缓冲区的数据的字节数

    numBuffersOut PerSecond

    每秒输出网络缓冲区的数据的字节数。

    字节(Byte)

    每个Subtask每秒收到和输出的总数据量。

    (Task numRecords I/O PerSecond)

    可根据该指标判断作业是否存在I/O瓶颈并且通过速率判断严重程度。

    每秒接收的记录数

    numRecordsIn PerSecond

    每秒接收的记录数。

    每秒发出的记录数

    numRecordsOut PerSecond

    每秒发出的记录数。

    每个Subtask收到和输出的总数据量。

    (Task numRecords I/O)

    可根据该指标判断作业是否存在I/O瓶颈。

    接收的记录总数

    numRecordsIn

    接收的记录总数。

    发出的记录总数

    numRecordsOut

    发出的记录总数。

  • watermark

    监控指标

    描述

    单位

    每个任务收到最近一个Watermark的时间

    (Task InputWatermark)

    每个任务收到最近一个Watermark的时间,说明TM收到数据的延时情况。

    毫秒(ms)

  • CPU

    监控指标

    描述

    单位

    单个JM CPU使用率

    (JM CPU Load)

    单个JM CPU使用率。如果该值长期大于100%,说明CPU很繁忙,负载很高。这可能会影响系统性能,导致系统卡顿、响应时间过长等问题。

    单个TM CPU使用率

    (TM CPU Load)

    单个TM CPU使用率。该值反映FlinkCPU时间片的占用情况,1CoreCPU用满为100%,4Core用满为400%。如果该值长期大于100%则说明CPU很繁忙。如果负载很高,但CPU使用率却比较低,可能因为频繁的读写操作导致不可中断睡眠状态的进程过多。

  • memory

    监控指标

    细分类型

    描述

    单位

    JM 堆内存

    (JM Heap Memory)

    JM 堆内存已使用量

    (JM Heap Memory Used)

    JM 堆内存已使用量。

    字节(Byte)

    JM 堆内存已申请量

    (JM Heap Memory Committed)

    JM 堆内存已申请量。

    字节(Byte)

    JM 堆内存最大可用量

    (JM Heap Memory Max)

    JM 堆内存最大可用量。

    字节(Byte)

    JM的非堆内存

    (JM NonHeap Memory)

    JM 堆外内存已使用量

    (JM NonHeap Memory Used)

    JM 堆外内存已使用量。

    字节(Byte)

    JM 堆外内存已申请量

    (JM NonHeap Memory Committed)

    JM 堆外内存已申请量。

    字节(Byte)

    JM 堆外内存最大可用量

    (JM NonHeap Memory Max)

    JM 堆外内存最大可用量。

    字节(Byte)

    TM 堆内存

    (TM Heap Memory)

    TM 堆内存已使用量

    (TM Heap Memory Used)

    TM 堆内存已使用量。

    字节(Byte)

    TM 堆内存已申请量

    (TM Heap Memory Committed)

    TM 堆内存已申请量。

    字节(Byte)

    TM 堆内存最大可用量

    (TM Heap Memory Max)

    TM 堆内存最大可用量。

    字节(Byte)

    TM 堆外内存

    (TM NonHeap Memory)

    TM 堆外内存已使用量

    (TM NonHeap Memory Used)

    TM 堆外内存已使用量。

    字节(Byte)

    TM 堆外内存已申请量

    (TM NonHeap Memory Committed)

    TM 堆外内存已申请量。

    字节(Byte)

    TM 堆外内存最大可用量

    (TM NonHeap Memory Max)

    TM 堆外内存最大可用量。

    字节(Byte)

  • JVM

    监控指标

    描述

    单位

    JM活跃线程总数

    (JM Threads)

    JM活跃线程总数。JM线程数过多时,会导致占用过大的内存空间,从而降低作业稳定性。

    TM活跃线程总数

    (TM Threads)

    TM活跃线程总数(按 TM 聚合,多个 TM 多条线)。

    JM年轻代垃圾回收器运行时间

    (JM GC Time)

    JM年轻代垃圾回收器运行时间。长时间GC会导致占用过大内存空间,从而影响作业性能。该指标协助您进行作业诊断,排查作业级别的故障原因。

    毫秒(ms)

    TM年轻代垃圾回收器运行时间

    (TM GC Time)

    TM年轻代垃圾回收器运行时间。长时间GC会导致占用过大内存空间,从而影响作业性能。该指标协助您进行作业诊断,排查作业级别的故障原因。

    毫秒(ms)

    JM年轻代垃圾回收器运行次数

    (JM GC Count)

    JM年轻代垃圾回收器运行次数。GC次数过多会导致占用过大内存空间,从而影响作业性能。该指标协助您进行作业诊断,排查作业级别的故障原因。

    TM年轻代垃圾回收器运行次数

    (TM GC Count)

    TM年轻代垃圾回收器运行次数。GC次数过多会导致占用过大内存空间,从而影响作业性能。该指标协助您进行作业诊断,排查作业Task级别的故障原因。

    TMJVM启动以来已加载的类总数

    (TM ClassLoader)

    TMJVM启动以来已加载的类总数。JM所在的JVM创建后加载类的总数或卸载类的总数过大,会导致占用过大内存空间,从而影响作业性能。

    JMJVM启动以来已加载的类总数

    (JM ClassLoader)

    JMJVM启动以来已加载的类总数。JM所在的JVM创建后,加载类的总数或卸载类的总数过大,会导致占用过大的内存空间,从而影响作业性能。

实时工作流任务

开启非结构化数据功能后,实时工作流任务支持查看以下监控指标。

  • Overview

    监控指标

    描述

    单位

    失败次数

    当前时间段内工作流处理事件的失败次数。

    次数

    业务延迟

    当前系统处理的最后一条数据的事件时间(当前系统时间),每分钟上报一次。

    事件处理吞吐

    每秒成功处理完成的事件数。

    个/秒

  • Operator

    监控指标

    描述

    单位

    算子执行失败次数

    各算子的执行失败次数,按算子名称分线展示。

    次数

    算子执行时间分布

    各算子的P50/P95/P99执行耗时,按算子名称分线展示。

    毫秒

    算子QPS

    各算子每秒处理的请求数。

    个/秒

    算子队列等待时间

    事件从提交到算子开始执行的排队等待时间。

    毫秒

    数据集写入TPS

    写入数据集的记录数速率,按数据集分线展示。

    条/秒

    数据集写入延迟

    单次数据集写入操作的耗时。

    毫秒