文档

LVM-视频文本相似度过滤(DLC)

更新时间:

LVM-视频文本相似度过滤(DLC)组件主要用于过滤相似度过低的视频(仅支持处理MP4格式的视频)数据。

支持的计算资源

DLC

算法说明

通过采样若干视频帧,计算视频帧画面的描述和训练数据中的描述文本(训练数据示例文件中<__dj__video>字段后面的内容)的相似度,从而过滤相似度过低的视频来保证视频的质量,常用于后续视频生成模型的训练。训练数据文件格式说明:

image

  • videos字段中,/root/data/user_input_data/为固定字段,input002/tuchong_1408065155720675383_RF.mp4为OSS中视频的路径,视频文件名称不能包含中文字符。

  • text字段中,There is a whiteboard with equations on it, and a man and a woman are standing in front of it.即上述算法说明中的描述文本。

输入/输出

输入桩

  • 通过读OSS数据组件,读取训练数据文件所在的OSS路径。

  • 配置此算法参数视频数据OSS路径,选择训练数据文件。

关于训练数据文件,详情请参见算法说明

输出桩

过滤结果。详情请参见下文中的参数说明。

配置组件

在Designer工作流页面添加LVM-视频文本相似度过滤(DLC)组件,并在界面右侧配置相关参数:

参数类型

参数

是否必选

描述

默认值

字段设置

视频数据OSS路径

训练数据文件,详情请参见算法说明

输出文件的OSS路径

过滤结果的存储目录。过滤结果包含以下文件:

  • {name}.jsonl:过滤结果文件,即下面参数输出的文件名

  • {name}_stats.jsonl:过滤状态文件。

  • dj_run_yaml.yaml:算法运行时的参数配置文件。

输出的文件名

过滤结果的文件名。

result.jsonl

参数设置

最小文本-图像相似度

需要保留的最小文本-图像相似度。

0.1

最大文本-图像相似度

需要保留的最大文本-图像相似度。

1

均匀采样帧数目

采样的视频帧数。系统会在视频中根据视频时长均匀地采集帧画面进行分析。

3

执行调优

多进程个数

设置进程数。

4

选择资源组

公共资源组

选择节点规格(CPU或GPU实例规格)、专有网络。该算法需使用GPU规格实例。

专有资源组

选择CPU核数、内存、共享内存、GPU卡数。

最大运行时长

组件最大运行时长,超过这个时间,作业会被终止。

  • 本页导读 (1)