为了提升指标质量监控的便捷性,Dataphin支持创建校验指标的质量规则。指标参与质量规则校验时,如果触发了质量监控规则,系统会给您发送告警消息,便于您及时发现并处理异常。本文为您介绍如何创建指标质量规则。

前提条件

已发布指标至生产环境。如何发布指标至生产环境,请参见管理发布任务

操作流程

功能 描述
步骤一:选择质量规则的指标 选择需要创建质量规则的指标。
步骤二:设置质量规则的告警 添加告警信息接收人。

如果触发了质量弱监控规则,系统会给您发送告警消息,便于您及时发现并处理异常;如果触发了质量强监控规则,系统会自动中断该表所在的任务,避免脏数据流入下游,同时系统会给您发送告警消息,便于您及时发现并处理异常。

步骤三:创建质量规则 创建指标的质量校验规则。
步骤四:试跑质量规则 测试质量规则运行结果是否正确。

步骤一:选择质量规则的指标

  1. 登录Dataphin控制台
  2. 在Dataphin控制台页面,选择工作区地域后,单击进入Dataphin>>
  3. 在Dataphin首页,单击顶部菜单栏中的资产
  4. 按照下图操作指引,进入创建质量规则对话框。
    gagaga
  5. 创建质量规则对话框,选择汇总逻辑表和指标后,单击开始配置
    您也可以选择数据板块、所属项目筛选汇总逻辑表和指标。gagaga

步骤二:设置质量规则的告警

  1. 单击告警设置后的fagag图标。
    gaga
  2. 告警设置对话框,选择告警接收人告警方式后,单击确定
    gagag

步骤三:创建质量规则

  1. 单击新建质量规则
    gagaga
  2. 新建质量规则对话框,配置参数后,单击保存
    根据选择的规则类型不同,需要配置的参数也不同。详细说明如下:
    • 规则类型选择为质量模板规则。gagaga
      参数 描述
      规则类型 选择为质量模板规则
      规则强度 选择质量规则的强弱:
      • 如果您选择了强规则,则质量规则校验的结果为异常时报警并阻塞下游任务节点。
      • 如果您选择了弱规则,则质量规则校验的结果为异常时报警但不阻塞下游任务节点。
      模板类型 请参见表 1
      趋势
      • 如果校验类型为波动型,则趋势包括绝对值向上向下
      • 如果校验类型为对比型,则趋势固定值
      表 1. 模板类型说明
      模板类型 趋势 配置项 校验类型
      唯一值个数期望校验 固定值 对比设置 对比型
      唯一值1,7,30天波动检测 绝对值、向上、向下 波动阈值 波动型
      平均值1,7,30天波动检测 绝对值、向上、向下 波动阈值 波动型
      最大值上一周期比较 固定值 对比设置 对比型
      最大值1,7,30天波动检测 绝对值、向上、向下 波动阈值 波动型
      最小值上一周期比较检测 固定值 对比设置 对比型
      最小值1,7,30天波动检测 绝对值、向上、向下 波动阈值 波动型
      汇总值上一周期比较检测 固定值 对比设置 对比型
      汇总值1,7,30天波动检测 绝对值、向上、向下 波动阈值 波动型
      空值个数 固定值 对比设置 对比型
      空值率(字段空值个数/行数) 固定值 对比设置 对比型
      重复个数 固定值 对比设置 对比型
      重复率(字段重复个数/总行数) 固定值 对比设置 对比型
    • 规则类型选择为自定义规则。gagag
      参数 描述
      规则类型 选择为自定义规则
      规则名称 配置规则名称。
      规则内容 填写质量规则校验的内容,例如。
      select
        sum(value) as metric
      from
        current_table ctb
        left outer join related_table rtb on ctb.id = rtb.id
      where
        ds = ${bizdate};

      代码编写完成后,单击规范性校验系统帮助您校验代码的语法格式。您也单击格式化系统自动为您调整代码的格式。

      规则强度 选择质量规则的强弱:
      • 如果您选择了强规则,则质量规则校验的结果为异常时报警并阻塞下游任务节点。
      • 如果您选择了弱规则,则质量规则校验的结果为异常时报警但不阻塞下游任务节点。
      检测类型 包括1天波动、7天波动、7天平均值波动、30天平均值波动和对比固定值。
      趋势
      • 如果校验类型为波动型,则趋势包括绝对值向上向下
      • 如果校验类型为对比型,则趋势固定值

步骤四:试跑质量规则

选中新增的指标规则,单击规则试跑gagaga

如果指标规则的试跑失败,则鼠标悬停至gegaga图标,单击试跑日志,查看日志,定位试跑失败原因。