配置数据过滤转换

数据过滤插件可以对数据进行规则过滤,例如过滤字段的大小等,符合规则的数据才会被保留。

前提条件

配置数据过滤节点前,您需要先配置好相应的输入节点,详情请参见实时同步支持的数据源

操作步骤

  1. 进入数据开发页面。

    登录DataWorks控制台,切换至目标地域后,单击左侧导航栏的数据开发与治理 > 数据开发,在下拉框中选择对应工作空间后单击进入数据开发

  2. 鼠标悬停至新建图标,单击新建节点 > 数据集成 > 实时同步

    您也可以展开业务流程,右键单击目标业务流程,选择新建节点 > 数据集成 > 实时同步

  3. 新建节点对话框中,选择同步方式单表(Topic)到单表(Topic)ETL,输入名称,并选择路径

  4. 单击确认

  5. 在实时同步节点的编辑页面,鼠标单击转换 > 数据过滤并拖拽至编辑面板,连线已配置好的输入节点。

  6. 单击数据过滤节点,在节点配置对话框中,配置各项参数。

    数据过滤

    • 节点配置

      规则:对数据源中的数据进行规则过滤,满足规则的数据才会被保留。例如图中是将age字段值大于18的数据进行过滤保留。

      说明

      规则中最后的字段自定义二选一填写。

    • 输出字段

      显示要同步的原始表中对应字段和类型。

  7. 单击工具栏中的图标图标。