文档

通过表单加工创建离线数据集

更新时间:

Dataphin标签基于离线计算引擎,支持通过表单加工方式配置数据集指标,对来源表字段进行计数(count)、取和(sum)、取最大值(max)、取最小值(min)后定义数据集指标,以供离线标签使用。本文将指导您如何通过表单加工创建离线数据集。

前提条件

创建离线数据集前需先创建数据集所归属的标签项目。更多信息,请参见创建标签项目

操作步骤

  1. 在Dataphin首页,单击顶部菜单栏的标签->标签工作台

  2. 按照以下操作指引,进入新建离线数据集对话框。

    选择标签项目->单击离线数据集->单击新增数据集

    image

  3. 新增离线数据集对话框中,单击表单加工

    image

  4. 新增表单加工配置页面,配置数据集的基本信息。

    参数

    描述

    数据集名称

    填写数据集的名称信息。支持中英文、数字、下划线(_),64个字符以内。

    数据集code

    离线数据集的唯一标识。在存在相同离线数据集名称时,可帮助您定位具体离线数据集。必须以字母开头,允许小写英文字母、数字、下划线(_),64个字符以内。

    数据集更新方式

    支持周期更新手动更新方式。

    • 周期更新:在一定时间的间隔内自动更新数据集。

    • 手动更新:通过手动操作更新方式更新数据集。

    负责人

    请选择该离线数据集的负责人。

    描述

    填写离线数据集的简单描述,1000个字符以内。

  5. 配置离线数据集的加工逻辑

    参数

    描述

    项目

    选择您具备开发权限的项目。

    来源表

    选择项目内的来源表。非分区表仅支持管理中心->标签平台设置的一级分区字段名的分区表。更多信息,请参见标签平台设置

    实体ID-值类型

    选择来源表内实体ID字段。仅支持选择字符型长整型的字段类型

    指标配置

    单击+添加指标,并选择您需要进行加工的统计字段,选择所需的统计函数、时间窗口、指标名称及描述,系统将根据选择自动识别值类型。

    • 统计函数:根据统计字段类型支持不同统计函数。

      • 长整型:计数(count)、取和(sum)、取最大值(max)、取最小值(min)。

      • 字符串:计数(count)、取最大值(max)、取最小值(min)。

    • 时间窗口:支持前1天、前7天、前15天、前30天及自定义自定义时,支持普通日历或切换为已经创建的日历。

    • 指标名称:支持中英文、数字、下划线(_),需在64个字符以内。

    • 值类型:完成统计字段和统计函数的配置后,系统将自动识别指标的值类型。

    • 配置码值:支持整型Decimal(M,0)布尔型字符串类型字段配置码表。

      1. 单击image.png进入配置码表对话框。

      2. 配置码表对话框中,配置相关参数。

        • 配置码表:默认为不配置,可以选择码表为指标配置对应码表

        • 码表来源:目前仅支持手动配置

        • 码表名称:请输入码表名称。支持中文、英文数字及特殊字符,128个字符以内。

        • 码表描述:请输入码表的简单描述,1000个字符以内。

        • 批量输入:单击批量输入,可以在批量输入代码信息对话框中,批量输入代码值及代码名称,每组按行分割,代码值和代码名称中间用半角冒号(:)分隔。单击点击识别后,系统将自动解析批量输入框的代码信息并填入代码信息列表。

        • 一键清除:单击一键清除,系统将自动清除信息列表。

        • 代码信息:支持手动输入代码值、代码名称。

          • 代码值:填写指标对应的代码值,填写类型需要符合指标的值类型,不可为空,且填写的代码值需唯一。

          • 代码名称:支持填写所有字符类型,不可为空,且填写的代码值需唯一。

            说明

            单击image.png支持删除当前已创建的代码值。

      3. 单击确定,完成代码值配置。

    • 描述:填写指标的简单描述,128个字符以内。

    若您需要添加多个指标,您可单击+添加指标进行新增。

    过滤条件

    若您需对统计字段数据进行过滤。您可使用筛选条件进行过滤。

    过滤条件支持:大于等于大于小于等于小于不为空为空在范围中不在范围中晚于等于晚于早于等于早于

    若您需多个过滤条件,您可单击+新增筛选条件进行新增。存在多个筛选条件时,支持或、且逻辑运算。

    • 或:满足其中一个筛选条件时进行过滤。

    • 且:需同时满足所有筛选条件才进行过滤。

  6. 配置离线数据集的运维配置

    说明

    若数据集更新方式为手动更新,无需进行配置。

    1. 调度周期

      • 计划更新时间:支持按天的某一时刻进行调度。即任务每天自动运行一次,您可以根据需要,指定运行的时间点。

      • 条件调度:可设置多组调度条件,系统按照从上往下的顺序评估条件,命中条件后即执行相应调度,并终止后续所有调度条件的评估。未命中任何条件时,则执行默认调度配置。更多信息,请参见条件调度规则说明

        重要

        条件调度仅在调度类型为正常调度时生效。

    2. 调度依赖

      调度依赖即节点间的上下游依赖关系,在Dataphin中,上游任务节点运行完成且运行成功,下游任务节点才会开始运行。

      image.png

      • 自动解析

        系统将根据任务血缘自动解析上游依赖节点并做关联,数据更新将依赖上游数据产出。

        说明
        • 若自动解析的结果不符合预期,您可以单击image.png关闭生效按钮,关闭后表示不选择依赖该节点。

        • 默认本周期依赖。

      • 添加依赖

        自动解析无法解析出调度依赖关系或自动解析生成的上游依赖配置与实际应用不符时,您可以手动单击+添加依赖添加节点的上游依赖。

  7. 单击保存并发布,完成离线数据集的创建。

    说明

    保存成功后,您可以单击数据预览系统将根据配置的加工逻辑展示对应数据信息,以帮助您验证加工逻辑是否正确。

后续步骤

完成离线数据集的创建和配置后,您可以为离线数据集创建对应的离线标签。更多信息,请参见离线标签概述

  • 本页导读 (0)