应用优化

更新时间:
复制 MD 格式

基于版本对比、调试预览、用户反馈、优质评测数据,持续优化应用质量

应用优化支持多版本效果对比、基于调试结果与反馈优化 Prompt,以及基于优质评测数据优化 Prompt。本文介绍如何基于调试结果和人工反馈生成、审查并采纳优化后的 Prompt。

使用前准备

开始前,建议确认已创建应用并发布成功。同时准备能够暴露应用问题的测试问题,例如回答不完整、语气不符合预期、未遵循格式要求或存在合规风险的场景。

进入应用优化

访问应用优化页面,点击选择需要优化的应用,发起应用优化任务。

多版本对比优化

检查并完善当前 Prompt

在左侧提示词优化区域检查应用当前 Prompt,确认角色定位、任务目标、回答规则、边界条件和输出格式等基础信息完整。如需修改 Prompt,可直接在编辑区调整。

发起版本对比

点击对比模式,打开版本对比调试弹窗。弹窗默认展示一组基准组和一组对照组,最多支持添加两组对照组。基准组与对照组的原始配置与当前应用草稿态配置一致,可点击右上角设置按钮查看基准组 Prompt、调整对照组 Prompt。

版本对比调试

调整完成后,输入问题并发起调试任务,基准组与对照组会分别产出回复内容,可查看不同 Prompt 版本的回复差异。支持重复发起多轮调试,也可随时修改配置信息后继续调试。

配置项采纳

确认最优版本的回复内容后,点击对应版本上的采纳当前组的配置项按钮,系统会将该组 Prompt 写入提示词编辑区。

说明采纳仅更新当前编辑中的 Prompt,不会自动发布应用。采纳后仍可继续人工修改,或重新发起对比调试。

调试&反馈优化

发起调试对话

在右侧调试窗口输入测试问题并发送,查看应用回答。建议优先测试真实业务中容易出现问题的场景,例如:

  • 回答遗漏规则、条件或例外情况。
  • 回答语气生硬,不符合应用人设。
  • 未按指定格式输出,内容冗长或结构混乱。
  • 未遵循知识库内容,出现无依据回答。
  • 缺少安全、合规或业务边界约束。

可以连续发起多轮对话,从不同角度验证同一 Prompt 的表现。

选择用于优化的调试结果

根据问题范围选择一条或多条调试结果:

  • 选择一条结果:适合定位明确、可由一个案例说明的问题。优化窗口中显示「当轮调试结果」。
  • 选择多条结果:适合多次出现或需要综合判断的问题。进入批量选择模式后,选择具有代表性的调试结果,优化窗口中显示「已选调试结果(N 条)」。

重要建议选择问题清晰且具有代表性的结果。多条结果最好围绕同一优化目标,避免互相冲突的反馈降低优化结果的可执行性。

输入人工反馈

点击根据调试结果优化 Prompt按钮,打开根据调试结果优化 Prompt窗口。

在人工评估的反馈中描述应用回答存在的问题和期望的改进方向。反馈应尽量具体,说明「哪里有问题」和「希望如何调整」。人工反馈用于补充调试对话中无法直接体现的业务要求。若选择了多条调试结果,可以在一段反馈中概括它们的共性问题和统一优化目标。

生成并查看优化结果

点击开始优化,系统将结合以下内容分析问题并生成新的 Prompt:

  • 应用当前 Prompt。
  • 当轮或已选中的调试对话。
  • 人工评估的反馈。

生成完成后,在弹窗中查看优化结果、当前 Prompt 与智能优化结果的对比,并决定是否采纳。

采纳优化结果

确认优化后的 Prompt 符合预期后,点击采纳,系统会将优化结果写入提示词编辑区。

说明采纳仅更新当前编辑中的 Prompt,不会自动发布应用。采纳后仍可继续人工修改,或重新选择调试结果再次优化。

基于评测集优化

当已经沉淀了一批高质量问题、参考答案或历史回答时,可直接使用评测集创建智能优化任务。

创建优化任务

在调试优化页面点击智能优化,选择基于评测集优化 Prompt,打开基于评测集优化弹窗。

选择评测集和具体数据

  • 选择参与优化的评测集及其版本。必要时可点击查看详情,确认字段结构、数据内容和版本是否正确。
  • 在数据列表中勾选参与本次优化的条目。列表支持分页选择,并显示已选数据数量。如选择有误,可取消选择或重新选择评测集。

重要优先选择已清洗且能够体现目标问题的数据。若评测集中同时包含多个业务目标,建议拆分为不同任务,避免生成的 Prompt 约束过多或相互冲突。建议同时包含:

  • 能体现当前 Prompt 缺陷的典型样本。
  • 能代表正常能力的样本,用于避免优化后出现能力退化。
  • 必要的边界样本,用于补充异常输入、安全或合规约束。

配置字段映射

将评测集字段映射到应用字段:

应用字段是否必需说明
应用输入必需映射用户问题、请求或其他应用输入字段。
应用输出可选映射应用实际回答、参考答案或用于判断目标输出的字段。
轨迹可选评测集包含调用链、步骤或轨迹信息时配置。

警告映射前请抽查数据,避免对应错误。字段映射错误会直接影响系统对问题模式的判断。

开始优化

确认评测集版本、数据范围和字段映射后,点击开始优化。系统将创建智能优化任务,并进入智能优化任务列表。

查看优化结果并一键采纳

进入智能优化任务页面查看优化任务进度。任务完成后,点击智能优化报告查看优化结果。确认结果符合预期后,点击采纳该优化版本,系统会将优化结果写入提示词编辑区。

说明采纳仅更新当前编辑中的 Prompt,不会自动发布应用。采纳后仍可继续人工修改,或重新选择调试结果再次优化。

基于评测任务优化

当批量评测已经完成,可基于评测任务定向选择低分或失败样本进行优化。与直接使用评测集相比,此方式能够利用已经产生的评测结果定位共性问题。

创建优化任务

在调试优化页面点击智能优化,选择基于评测任务优化 Prompt,打开基于评测任务优化弹窗。

选择评测任务和具体数据

  • 选择一个状态为已完成的评测任务。必要时可点击查看任务详情,确认任务对应的应用版本、评测数据和评估器配置符合本次优化目标。
  • 在数据列表中勾选参与本次优化的条目。列表支持分页选择,并显示已选数据数量。如选择有误,可取消选择或重新选择评测任务。

重要建议优先选择具有代表性的失败或低分样本,并保留少量高分样本作为正向参照。不要仅依据单个异常样本修改全局 Prompt。若失败原因来自知识缺失、工具异常或模型能力限制,应先处理对应问题,而不是只修改 Prompt。

配置字段映射

将评测任务字段映射到应用字段:

应用字段是否必需说明
应用输入必需映射用户问题、请求或其他应用输入字段。
应用输出可选映射应用实际回答、参考答案或用于判断目标输出的字段。
轨迹可选评测任务包含调用链、步骤或轨迹信息时配置。

警告映射前请抽查数据,避免对应错误。字段映射错误会直接影响系统对问题模式的判断。

开始优化

确认评测任务、数据范围和字段映射后,点击开始优化。系统将创建智能优化任务,并进入智能优化任务列表。

查看优化结果并一键采纳

进入智能优化任务页面查看优化任务进度。任务完成后,点击智能优化报告查看优化结果。确认结果符合预期后,点击采纳该优化版本,系统会将优化结果写入提示词编辑区。

说明采纳仅更新当前编辑中的 Prompt,不会自动发布应用。采纳后仍可继续人工修改,或重新选择调试结果再次优化。

验证并发布

采纳优化结果后,建议重新发起调试,并同时覆盖以下场景:

  • 原问题场景:确认问题已得到解决。
  • 正常场景:确认原有能力没有退化。
  • 边界场景:确认异常输入、信息不足或冲突指令能够得到合理处理。

确认结果符合预期后,点击发布,完成应用版本更新。

优化建议

  • 一次聚焦一个主要问题:将内容完整性、语气、格式、合规等问题分批优化,更容易判断改动效果。
  • 使用真实且有代表性的对话:优先将线上高频问题、评测失败样本整理为调试问题,或使用能够稳定复现问题的测试问题。
  • 反馈使用明确约束:相比「回答得更好」,建议写明必须包含的内容、禁止出现的行为和期望的输出形式。
  • 先采纳、再验证、后发布:不要仅根据优化后的文本判断效果,应通过调试验证实际回答质量。
  • 保留人工复核:智能优化可能无法理解隐含业务规则,涉及知识口径、权限、安全与合规要求时应重点检查。

常见问题

采纳优化结果后,应用会立即生效吗?

不会。采纳操作仅将优化后的内容写入当前 Prompt,仍需完成调试验证并点击发布,新版本才会正式生效。

应该选择一条还是多条调试结果?

单一、明确的问题可选择一条结果;若同类问题在多个问题中重复出现,可选择多条结果帮助系统识别共性。多条结果应尽量围绕同一优化目标。

如何填写高质量的人工反馈?

建议按照「问题现象 + 具体缺失或错误 + 期望行为」的方式填写。例如:「回答只说明了一般退款规则,遗漏家电类目例外;请完整列出一般规则、适用条件和特殊品类例外。」

优化后还需要重新调试吗?

需要。Prompt 改动可能影响其他回答场景。建议同时验证原问题、正常流程和边界输入,确认没有引入新的问题后再发布。