创建并管理自定义规则模板

DataWorks数据质量支持通过统一管理自定义规则,形成自建的规则模板库,帮助您提升规则配置的效率。本文将为您介绍如何新建自定义规则模板,以及如何操作自定义规则模板。

前提条件

您需要购买DataWorks企业版及以上版本,才可以使用规则模板库功能。

背景信息

您可以通过规则模板库新建规则模板。新建成功后,即可操作和应用规则模板。

注意事项

自定义规则的变更操作仅对变更后引用该规则的任务生效,不会修改存量(现有)任务的自定义规则设置。

新建自定义规则模板

  1. 进入数据质量页面。

    登录DataWorks控制台,切换至目标地域后,单击左侧导航栏的数据开发与治理 > 数据质量,在下拉框中选择对应工作空间后单击进入数据质量

  2. 在左侧导航栏,单击质量资产 > 规则模板库

  3. 单击新建图标,选择新建文件夹

  4. 新建文件夹对话框中,输入名称并选择目标文件夹,然后单击确定

  5. 在左侧目录右键单击相应的文件夹名称,选择新建规则模板

    您也可以重命名删除相应的文件夹。

  6. 新建规则模板对话框,配置各项参数。

    image.png

    参数

    描述

    模板名称

    请输入自定义的模板名称。

    规则字段

    目前仅支持自定义SQL

    采样方式

    目前仅支持自定义SQL

    Set Flag

    请输入SQL的前置set语句。

    说明

    多条语句之间使用英文逗号(,)分隔,语句末尾无需添加分号(;)。

    校验类型

    目前支持数值型波动率型

    校验方式

    选择不同的校验类型,对应不同的校验方式:

    • 如果选择的校验类型数值型,目前校验方式仅支持与固定值比较

      仅可以返回经过countsum等运算后的一个值,与固定值比较。

    • 如果选择的校验类型波动率型,则校验方式包括:

      • 7天平均值波动

      • 30天平均值波动

      • 1天周期比较

      • 7天周期比较

      • 30天周期比较

      • 7天方差波动

      • 30天方差波动

      • 1,7,30天波动检测

      • 上一周期比较

    自定义SQL

    请输入自定义的SQL语句,您可以使用${tableName}表示表名。

    说明

    自定义SQL的采集结果需要是一个值(一行一列的形式),这样才能跟固定值做比较。

    目标文件夹

    选择该自定义规则模板需要存放的文件夹名称。

  7. 单击确定

操作规则模板

单击相应规则模板的名称,即可查看编辑删除复制该规则模板。

操作

描述

查看

您可以查看相应规则模板的参数配置、应用列表日志

  • 应用列表页面为您展示已应用该规则模板的数据质量规则。

  • 日志页面为您展示该规则模板的操作者操作时间操作内容

编辑

单击右上角的编辑,在编辑规则模板对话框中修改相应的参数,单击确认

删除

单击右上角的删除,在删除模板对话框中,单击确认

复制

单击右上角的复制,在复制规则模板对话框中,输入模板名称并选择目标文件夹,单击确认

应用自定义规则模板

您可以在添加监控规则时,选择和使用创建的自定义规则模板。

  1. 进入数据质量页面。

    登录DataWorks控制台,切换至目标地域后,单击左侧导航栏的数据开发与治理 > 数据质量,在下拉框中选择对应工作空间后单击进入数据质量

  2. 进入按表配置监控规则。

    在左侧导航栏,单击规则配置 > 按表配置,进入按表配置规则页面。

    1. 左侧数据源列表按需选择待配置规则的表所在的数据库。

    2. 根据数据库类型、数据库、表名等条件筛选,单击目标表名或操作列的监控配置,进入该表的表质量详情页。

      该页面展示了当前表所有已配置的质量规则,您可通过规则是否已关联质量监控来快速过滤目标规则,并对未关联质量监控的规则定义规则运行方式。

      image

  3. 表质量详情页的规则管理页签,单击新建规则进入规则配置页面。

  4. 通过自定义规则模板创建数据质量规则。

    引用自定义模板时,将自动显示该模板的基本配置(例如Flag参数,校验SQL)等,您可以自定义规则名称,并按照规则类型,配置监控阈值(例如数值型规则需要定义正常阈值、红色阈值,此外,波动型规则还需要定义橙色阈值。)

    image

    各参数解释,详见新建自定义规则模板

  5. 单击确定

相关文档

您可以在按表配置规则时,应用自定义规则模板。更多信息,请参见配置规则:按表(单表)