Apache Gravitino元数据采集

更新时间:
复制 MD 格式

配置 Apache Gravitino 数据源后,您可以在数据地图中创建元数据采集器,将 Gravitino 所纳管的 Catalog 元数据(库、表、字段、分区等)统一采集至 DataWorks,实现跨数据湖的元数据发现与治理。本文介绍如何针对 Gravitino 数据源进行元数据采集及采集后的元数据展示说明。

前提条件

使用限制

  • 当前仅支持采集 Relational 类型的 Catalog(如 Hive、Iceberg、Paimon、JDBC 等)。Model、File Set、Messaging 类型暂不支持。

    说明

    Apache Gravitino 在此场景中仅作为元数据采集渠道。采集完成后,DataWorks 中实际呈现的仍是各 Catalog(如 Iceberg Catalog、Paimon Catalog、Hive Catalog 等)的元数据内容。

  • 分区信息通过实时查询获取,不进行静态存储,每次查看时动态拉取。

新建元数据采集

  1. 登录DataWorks控制台,切换至目标地域后,单击左侧导航栏的数据治理 > 数据地图,在右侧页面中单击进入数据地图。

  2. 在元数据采集页面,单击新建元数据采集,进入新建元数据采集页面。

  3. 在基础配置区域,配置以下参数:

    参数

    说明

    采集类型

    选择 Apache Gravitino。

    配置来源

    默认为数据源。

    选择工作空间

    选择数据源所属的工作空间,或选择全部工作空间查看所有可用数据源。

    选择数据源

    选择已创建的 Apache Gravitino 数据源。选择后,下方将展示该数据源的类型、名称、工作空间、环境类型及连接信息。

    名称

    自定义元数据采集名称,如gravitino_test。

  4. 在资源组配置区域,配置以下参数:

    参数

    说明

    资源组

    选择用于执行采集任务的 Serverless 资源组。选择后将展示资源组的名称、标识、类型和状态信息。

    测试连通性

    单击测试连通性按钮,验证资源组与数据源之间的网络连通性。需确保连通性测试成功后方可保存采集配置。

  5. (可选)在智能增强配置区域,选择是否开启AI完善描述。

    开启此功能后,系统将基于DataWorks Data Agent大模型的智能分析能力,在完成元数据采集后自动为表和字段生成描述推荐。资产负责人可在「表详情」页面快速查看 AI 生成的描述内容,并根据实际需求选择「确认保存」或「手动修改」,高效提升元数据管理的规范性和准确性。

  6. 在采集计划区域,配置以下参数:

    参数

    说明

    触发方式

    选择采集的触发方式:

    • 手动:仅支持手动触发采集。

    • 周期:按设定的采集周期自动执行采集任务。

    采集周期

    当触发方式选择周期时,设置采集频率。支持每月、每周、每天、每小时。选择每小时后,您还可以在分钟下拉框中多选具体的分钟时刻,最小粒度为 5 分钟(如 0、5、10、15 等)。

  7. 配置完成后,单击页面底部的保存并运行按钮,系统将保存采集配置并立即触发一次采集任务。您也可以单击保存仅保存配置,后续手动触发采集。

查看数据库详情

采集任务运行成功后,您可以在采集器详情页面的数据范围页签中查看本次采集覆盖的数据库及表信息。

  1. 在元数据采集列表中,单击目标采集器名称,进入采集器详情页面。

  2. 单击数据范围页签,查看已采集的数据库列表。

数据范围页面展示以下信息:

列名

说明

数据库名称

已采集的数据库(database)名称。

表数量

该数据库下已采集的表数量。

最近更新

该数据库元数据最近一次采集更新的时间。

操作

单击查看详情可进入数据库详情页面。

单击查看详情后,进入数据库详情页面,页面左侧展示数据库的基础信息,右侧展示该数据库下的表列表。

基础信息包括:

  • 总表数:该数据库下已采集的表总数。

  • 数据库:数据库名称。

  • 实体ID:数据库的唯一标识符。

  • 技术类型:数据库所属的技术类型,如 Apache Hive、Iceberg、Paimon 等。

  • 空间所属区域:数据源所在的地域信息。

表列表展示以下信息:

列名

说明

表名

表的名称,单击可跳转至表详情页面。

类型

表所属的技术类型,如 Apache Hive、Iceberg、Paimon 等。

表说明

表的描述信息。

创建时间

表的创建时间。

更新时间

表的最近更新时间。

查看表详情

在数据库详情页面的表列表中,单击目标表名,进入表详情页面。页面左侧展示表的基础信息、技术信息和业务信息,右侧展示字段明细和使用说明。

表基础信息

表基础信息区域展示以下内容:

字段

说明

表名

表的名称。

数据源类型

表所属的数据源类型,如 Apache Hive、Iceberg、Paimon 等。

数据库

表所属的数据库名称,单击可跳转至数据库详情页面。

实体ID

唯一标识符,实体ID由 Gravitino Server 连接地址、Metalake 名称和 Catalog +名称组合生成。

创建时间

表的创建时间。

表说明

表的描述信息。

AI表说明

基于 AI 自动生成的表描述。如未生成,可单击生成AI描述手动触发。

表类型

表的管理类型,如 MANAGED_TABLE、EXTERNAL_TABLE 等。

是否分区表

标识该表是否为分区表。

标签

表关联的标签信息。

技术信息

不同的数据源所展示的技术信息可能存在差异,具体请以页面实际内容为准。

业务信息

业务信息区域展示表在 Gravitino 中的归属关系:

字段

说明

实例ID

Gravitino 数据源实例的唯一标识。

Gravitino 实例地址

Gravitino Server 的访问地址。

Metalake 名称

表所属的 Metalake 名称。

Catalog 名称

表所属的 Catalog 名称。

明细信息

页面右侧的明细信息页签展示表的字段列表和分区字段信息:

  • 字段列表:展示字段名称、数据类型、描述及是否为主键。支持通过搜索框筛选字段,也可单击AI字段描述为字段自动生成描述。

  • 分区字段信息:展示分区列的字段名称、类型和描述。若表为非分区表,则显示"没有数据"。