文档

LVM-图像合规过滤(DLC)

更新时间:

LVM-图像合规过滤(DLC)组件主要用于过滤NSFW得分过高的图像数据。

算法说明

通过计算图像的不合规NSFW(Not Safe For Work)得分,从而过滤NSFW得分过高的图像数据来保证图像的质量,常用于后续图像生成模型的训练。

输入/输出

输入桩

  • 通过读OSS数据组件,读取训练数据所在的OSS路径。

  • 配置此算法参数图像数据OSS路径,选择图像数据所在的OSS目录,或图像元数据文件。详情请参见下文中的参数说明。

  • 使用任意图像预处理组件作为输入。

输出桩

过滤结果。详情请参见下文中的参数说明。

配置组件

在Designer工作流页面添加LVM-图像合规过滤(DLC)组件,并在界面右侧配置相关参数:

参数类型

参数

是否必选

描述

默认值

字段设置

图像数据OSS路径

首次运行时,若无上游组件,需手动选择图像数据所在的OSS目录。运行时会在该目录的上一级目录下生成图像元数据文件meta.jsonl。后续处理此图像数据时,也可以直接选择之前生成的meta.jsonl文件。

输出文件的OSS路径

过滤结果的存储目录。过滤结果包含以下文件:

  • {name}.jsonl:过滤结果文件,即下面参数输出的文件名

  • {name}_stats.jsonl:过滤状态文件。

  • dj_run_yaml.yaml:算法运行时的参数配置文件。

输出的文件名

过滤结果的文件名。

result.jsonl

参数设置

nsfw分数阈值

可接受的最大NSFW得分。

0.5

执行调优

多进程个数

设置进程数。

4

选择资源组

公共资源组

选择节点规格(CPU或GPU实例规格)、专有网络。该算法需使用GPU规格实例。

专有资源组

选择CPU核数、内存、共享内存、GPU卡数。

最大运行时长

组件最大运行时长,超过这个时间,作业会被终止。