Excel解析

更新时间:
复制 MD 格式

Excel解析算子对选中的Excel文件进行解析,提取其中的文本、图片等信息,生成Markdown。如果是.xls格式的文档,将先转换为.xlsx格式再进行解析。本文介绍Excel解析算子的配置方法。

前提条件

  • 当前实例购买非结构化数据功能后,方可使用工作流功能。

  • 已完成工作流的创建,详细创建步骤请参见创建工作流

背景信息

  • Excel解析算子支持处理以下格式文件:.xls、xlsx。

  • Excel解析算子默认分配1Core、4GB资源。

使用限制

目前仅支持解析10000数据。

权限说明

Basic项目的项目管理员、开发者、分析师以及拥有数据集-使用权限的自定义项目角色,可在算子的输入和输出数据集中使用该项目下的所有数据集。

操作步骤

  1. Dataphin首页的顶部菜单栏中,选择研发 > 数据研发

  2. 开发页面的顶部菜单栏选择项目

  3. 在左侧导航栏中选择数据处理 > 工作流,在左侧工作流列表中单击目标工作流,打开工作流画布,在左侧算子库中拖动Excel解析算子至画布中,并在右侧Excel解析面板中配置以下参数。

    参数

    描述

    步骤名称

    输入当前算子名称,支持任意字符,不超过256个字符。

    输入配置

    数据集

    选择需处理的数据集,仅可选择混合数据集。数据集选择完成后还需选择其版本,默认为该数据集正序的第一个版本。

    当前算子作为其他算子的下游时,此处所选数据集通常与上游算子的输出数据集一致。

    输入字段

    PDF文件存储路径,需选择输入数据集中来源字段,仅可选择输入数据集中是否URL参数为的字段。

    过滤条件(非必填)

    使用SQL语法,仅需输入where语句后的过滤条件,支持使用系统全局变量,例如业务日期${bizdate}。

    算子配置

    模型辅助修正

    关闭时仅使用内置模型进行版面解析与表格提取;开启后,若内置模型解析效果不佳(如版面错位),将自动调用大模型进行修正,以提升解析准确率。

    图片内容理解

    开启后,将调用大模型解析Excel中的图片内容,并在输出的Markdown中将图片替换为文字描述;且还需输入2000个字符内的图片理解提示词(Prompt)

    模型

    仅当启用模型辅助修正图片内容理解时才可配置,两个功能共用一个模型。仅可选择智能应用管理 > 模型配置中模型类型包含文本视觉(图片与视频)已启用的模型。

    输出配置

    数据集

    支持选择来源数据集其他数据集。当来源数据集为表数据集时,默认选择其他数据集。

    当选择其他数据集时,还需指定一个混合数据集及其版本作为输出数据集,默认为该数据集正序的第一个版本;同时,支持选择来源数据集的其他版本。

    选择来源数据集时,算子产出的元数据将写入来源数据集同版本对应的元数据表中。

    文件输出路径

    输入目录名称,若目录不存在则新建。

    • 解析后的文本内容命名格式为${Excel文件名称+从1开始的自增数字}.md

    • 解析后的图片将生成一个文件夹,所有图片均存储在对应文件夹中。

    输出的Markdown文本是否包含图片链接

    选择,则解析后的图片会替换成存储该图片的链接;选择,则清除图片链接。

    加载策略

    若所选输出数据集的元数据表中存在主键,则默认选择主键冲突时更新;若不存在主键,则默认选择追加数据。

    • 追加数据:直接向目标表新增追加数据,当主键/约束冲突时,会提示错误。

    • 主键冲突时更新:当主键/约束冲突时,会先删除整行主键重复的旧数据,再插入新数据。

    • 覆盖:先删除目标表的数据,再写入数据。

    说明

    输出数据集选择来源数据集时,加载策略仅支持主键冲突时更新

    字段映射

    Excel解析算子将固定输出以下字段:

    • markdown_url:Markdown文件的存储路径。

    • image_folder_url:图片文件夹的存储路径。

    算子输出字段默认映射至输出数据集的同名字段,您也可以手动选择目标字段进行自定义映射。此外,支持将来源数据集的透传字段映射至目标数据集。您可以通过以下方式管理字段映射:

    • 新增输出字段:单击后新增一行空白字段映射关系。仅输出数据集选择其他数据集时支持此功能。

    • 批量映射:单击后可选择批量手动映射、同名映射或同行映射。仅输出数据集选择其他数据集时支持此功能。

    • 删除映射:单击删除图标可删除对应行的字段映射,但算子固定输出字段的映射不支持删除。

  4. 配置完成后,单击画布顶部菜单栏中的保存,保存此次配置。

    单个算子配置完成后,可继续为其选择上游或下游算子来完成完整工作流的配置。

附录1:Excel元素与Markdown的映射规则

Excel元素

Markdown输出

备注

Sheet名称

# Sheet: {名称}

作为一级标题。

隐藏Sheet

默认解析。

-

表头行(首行)

Markdown Tableheader。

自动识别首行为表头。

数据行

Markdown Tablebody。

按行逐条转换。

公式

计算后的值。

不保留公式本身。

数字格式(百分比/货币/日期)

转为格式化后的文本。

例如:0.15转化为15%44927转化为2023-01-01

无序列表

-

支持多级嵌套缩进。

超链接

[文本](URL)

保留链接文本和目标。

嵌入图片

![image](oss://path)

提取到OSS。

嵌入式图表、柱状图等

-

-

批注(Comment)

跳过(默认)

批注内容通常非核心数据

条件格式(颜色标记)

Markdown 模式跳过

-

数据验证(下拉列表)

取当前值,忽略验证规则

仅取实际数据。

空行

跳过连续空行

避免Markdown中出现大量空行。

Sheet间分隔

---

水平分隔线。

附录2:解析异常处理

异常问题

处理方式

文件不是有效xlsx文件(损坏/伪装扩展名)

Dataphin中提示异常:文件格式无效,无法解析为Excel文档

加密/受保护的xlsx文件

Dataphin中提示异常:文件已加密或受密码保护,无法解析

所有Sheet均为空

返回空markdown_content,sheet_count = 0

图表底层数据提取失败

降级为渲染截图

图表渲染也失败

插入占位:[图表:渲染失败]

嵌入图片提取失败

跳过,并插入:[图片:提取失败]

公式计算依赖外部数据源

取缓存值(Excel 保存时的最后计算结果),无缓存则显示 #REF!