资源概览

本文为您介绍在DLF中如何查看系统的资源概览。通过资源概览,您可以全面掌握当前资源的使用情况,从而更好地进行资源规划和优化管理。

查看资源概览

数据目录级别

  1. 登录数据湖构建控制台

  2. 数据目录列表页面,单击目标Catalog名称,查看数据目录详细信息。

  3. 单击资源概览页签,您可查看当前数据目录的指标监测,包括资源使用观测(计费相关指标)、限额指标监控和资源请求指标明细。

数据表级别

  1. 数据目录列表页面,单击目标Catalog名称,单击目标库下对应的目标表(Paimon表)。

  2. 单击资源概览页签,可以查看当前Paimon表的指标监控,指标详情

指标说明(数据目录)

资源使用观测

指标

描述

总存储用量

展示当前存储的最新值。

总存储用量

展示所选时间段内总存储量的变化。

1天计算资源使用(CU * Hours)

统计所选结束时间前 24 小时内 Catalog 湖表优化的 CU * Hours 计算资源使用情况。

存储用量明细

展示所选时间段各存储类型的原始用量和计费用量。其中分为standard(标准存储)、IA(低频存储)、 Archive(归档存储)和coldarchive(冷归档存储)。

湖表优化 CU * Hours 使用

表示所选时间段每 1 小时 Catalog 湖表优化的 CU * Hours 计算资源使用情况。

文件请求数

表示所选时间段内每 1 小时内的文件请求次数。写请求包含了计费 PUT、POST、HEAD 请求,读请求包含了计费 GET 请求。

限额指标监控

指标

描述

QPS

所选结束时间前 1 分钟的平均每秒文件请求数。

下载带宽

所选结束时间前 1 分钟的平均下载带宽。

上传带宽

所选结束时间前 1 分钟的平均上传带宽。

QPS趋势

展示前 1 分钟内的平均每秒文件请求数。

带宽趋势

展示前 1 分钟内的平均上传带宽和平均下载带宽随时间的变化趋势。

资源请求指标明细

指标

描述

CU * Hours 分类用量趋势

所选时间范围内的各类任务 CU 用量。

CU * Hours 分类用量

所选时间范围内的各类任务 CU 用量。

Catalog 读流量

  • Total(总流量)

  • Compaction(数据合并任务产生的流量)

  • RequestLogs(系统请求日志产生的流量)

  • DLF (系统内部管理流量,如生命周期管理,文件清理)

Catalog 写流量

Catalog 读流量分类(文件类型取样)

  • Manifest(清单文件)

  • Snapshot(快照文件)

  • Schema(元数据文件)

Catalog 写流量分类(文件类型取样)

Catalog 读请求

  • Compaction(数据合并任务产生的请求)

  • RequestLogs(系统请求日志产生的请求)

  • DLF (系统内部管理请求,如生命周期管理,文件清理)

Catalog 写请求

Catalog 读请求分类

  • Manifest(清单文件)

  • Snapshot(快照文件)

  • Schema(元数据文件)

  • Bucket-(根据数据格式分类)

Catalog 写请求分类

IO 请求数量

1 分钟内的文件请求数量。

GetObject 请求数量

1 分钟内的 GetObject 请求数量。

GetObject 请求延迟

1 分钟内的 GetObject 请求平均延迟。

Upload 请求数量

1 分钟内的 Upload 请求数量。

Upload 请求延迟

1 分钟内的 Upload 请求平均延迟。

Delete 请求数量

1 分钟内的 Delete 请求数量。

Delete 请求延迟

1 分钟内的 Delete 请求平均延迟。

ObjectMeta 请求数量

1 分钟内的 ObjectMeta 请求数量。

ObjectMeta 请求延迟

1 分钟内的 ObjectMeta 请求平均延迟。

ListObjects 请求数量

1 分钟内的 ListObjects 请求数量。

ListObjects 请求延迟

1 分钟内的 ListObjects 请求平均延迟。

元数据请求数量

1 分钟内的元数据请求数量。

TableRead 请求数量

1 分钟内的 TableRead 请求数量。

TableRead 请求延迟

1 分钟内的 TableRead 请求平均延迟。

TableWrite 请求数量

1 分钟内的 TableWrite 请求数量。

TableWrite 请求延迟

1 分钟内的 TableWrite 请求平均延迟。

List 请求数量

1 分钟内的 List 请求数量。

List 请求延迟

1 分钟内的 List 请求平均延迟。

其他元数据请求数量

1 分钟内的其他元数据请求数量。

其他元数据请求延迟

1 分钟内的其他元数据请求平均延迟。

CU * Hours Top 表

对于多表操作、数据库级操作等情况,会默认显示为 default_id

说明

数据经抽样聚合生成,数值仅供参考

读流量 Top 表

写流量 Top 表

读请求 Top 表

写请求 Top 表

指标说明(数据表)

说明
  • 数据采集和处理存在延时,近3小时内的数值可能会出现波动,仅供参考。

  • 占比数据经抽样聚合生成,数值仅供参考。

指标

描述

Table CU * Hours(小时)

当前表的 CU 用量趋势,仅统计独立合并的表。

Table CU * Hours(每天)

当前表 CU * Hours 分类趋势

当前表的各类任务 CU 用量,仅统计独立合并的表。

当前表 CU * Hours 分类

当前表 / Catalog CU 总用量占比趋势

当前表在 Catalog 中的 CU 用量占比,仅统计独立合并表。

当前表 / Catalog CU 总用量占比

Table 读流量

各请求源在表级别的访问占比。

Table 写流量

Table 读流量分类(请求源取样)

各请求源在表级别的访问占比。

Table 写流量分类(请求源取样)

Table 读请求

各请求源在表级别的访问占比。

Table 写请求

Table 读请求分类(请求源取样)

各请求源在表级别的访问占比。

Table 写请求分类(请求源取样)

Table 读请求分类(文件类型取样)

各类文件在表级别的访问占比。

Table 写请求分类(文件类型取样)

Table/Catalog 读请求占比

当前表在 Catalog 上的访问占比。

Table/Catalog 写请求占比

GetObject 请求数量

GetObject 请求数量。

GetObject 请求延迟

GetObject 请求平均延迟。

Upload 请求数量

Upload 请求数量。

Upload 请求延迟

Upload 请求平均延迟。

Delete 请求数量

Delete 请求数量。

Delete 请求延迟

Delete 请求平均延迟。

ObjectMeta 请求数量

ObjectMeta 请求数量。

ObjectMeta 请求延迟

ObjectMeta 请求平均延迟。

ListObjects 请求数量

ListObjects 请求数量。

ListObjects 请求延迟

ListObjects 请求平均延迟。