LLM-删除LaTeX文档头（DLC）组件适用于TEX文档格式数据。主要功能是找到第一个匹配<section-type>[optional-args]{name}章节格式的字符串，并将其之前的所有内容删除，保留第一个匹配到章节后的所有内容，包括该章节标题。输入的OSS数据文件（JSONL格式，示例）需符合：每一行是一个合法的JSON对象，文件由多行JSON对象组成，整个文件本身不是合法的JSON对象。
支持的计算资源
算法说明
定义LaTeX格式文本章节的正则表达式为：r'^(.*?)(\\\bchapter\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bpart\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubsubsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bparagraph\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubparagraph\b\*?(?:\[(.*?)\])?\{(.*?)\})'（多个匹配字段用“|”分隔）。
定位到满足上述正则表达式的第一个字符串，将其之前的所有内容删除，保留第一个匹配到章节后的所有内容，包括该章节标题。示例如下：
处理前
| 处理后
|
配置组件
在Designer工作流页面添加LLM-删除LaTeX文档头（DLC）组件，并在界面右侧配置相关参数：
参数类型 | 参数 | 是否必选 | 描述 | 默认值 | |
字段设置 | 目标处理字段 | 是 | 要处理的字段名称。 | 无 | |
是否删除没有匹配到章节格式的样本 | 否 | 如果勾选此选项，如果样本没有匹配到任何章节格式，则删除该样本。 | 选中 | ||
数据输出OSS目录 | 否 | 处理后数据的OSS存储目录。如果为空，使用工作空间默认路径。 | 无 | ||
执行调优 | 多进程个数 | 否 | 设置进程数。 | 8 | |
选择资源组 | 公共资源组 | 否 | 选择节点规格（CPU或GPU实例规格）、节点数量、专有网络。 | 无 | |
专有资源组 | 否 | 选择CPU核数、内存、共享内存、GPU卡数、节点数量。 | 无 | ||
最大运行时长 | 否 | 组件最大运行时长，超过这个时间，作业会被kill。 | 无 | ||
- 本页导读