使用Prompt样例库优化模型输出

当通用大语言模型在处理特定领域的专业任务时,可能难以生成精准或符合预设格式的回答。采用少样本学习(Few-shot learning)的思路,从预定义的高质量问答对中检索相关样例作为模型参考,引导其生成更准确、风格更一致的回复。该功能尤其适用于需要严格遵循既有知识或固定风格的场景,例如智能客服、特定领域知识问答以及格式化内容生成。

效果展示

以下表格展示了样例库中包含的样例内容。

用户输入

模型输出

解释术语:API (Application Programming Interface)

解释:API是一种定义了软件组件之间如何交互的接口规范,它允许不同的应用程序通过预设的规则和协议进行数据交换和功能调用。 类比:想象你点餐的菜单,菜单(API)列出了你可以点的菜品(功能)以及如何点(请求格式),厨房(服务)会根据菜单的要求准备好食物(响应),你不必知道厨房内部如何运作。

解释术语:区块链 (Blockchain)

解释:区块链是一种分布式、去中心化的数字账本技术,它将交易数据记录在一个不断增长的、由加密链接起来的“区块”链中,使得数据难以被篡改,提高了透明度和安全性。 类比:就像一个由许多人共同维护的、大家都看得见的银行流水账本,每个新交易都被记录在一个新的条目里,并用密码锁住,而且这个账本一旦写好,就很难再被一个人悄悄修改。

解释术语:量子纠缠 (Quantum Entanglement)

解释:量子纠缠是一种奇特的量子力学现象,当两个或多个粒子之间存在某种关联时,它们的状态是相互依赖的,无论它们相距多远,测量其中一个粒子的状态会瞬间影响到另一个粒子的状态。 类比:想象你有一双神奇的手套,你戴上左手手套,另一只手套(无论在哪里)立刻就变成了右手手套。它们的状态是瞬间关联的。

使用该Prompt样例库后,模型严格遵循了样例中的术语解释结构和类比风格。效果对比如下:

未使用Prompt样例库

image

使用Prompt样例库

image

创建并使用Prompt样例库

1. 创建Prompt样例库

  1. 访问样例库页面,单击创建样例库(首次创建时显示)或单击image图标新建样例库。

    image

  2. 输入样例库名称,并选择导入方式,支持手动输入批量导入两种。

    手动输入

    直接在页面上输入样例信息(用户输入和模型输出),可单击新增样例添加多条。

    image

    批量导入

    下载模板文件,按格式填写后上传。支持小于 20MB 的 Excel 文件,单次最多导入 100 条样例。

    image

2. 在智能体应用中使用样例库

Prompt样例库与位于相同的业务空间里的智能体应用关联,使其生效。

  1. 确保你已有一个智能体应用

  2. 前往应用管理页面,找到目标智能体应用,单击应用卡片上的配置

  3. 找到并打开样例库开关。添加样例库,选择上一步创建的样例库(一个应用最多可关联5个样例库,采用多路召回策略)。

    多路召回策略:系统会从所有关联的库中检索相关样例,并通过排序模型选出最相关的K条(召回片段数,可配置)加入到大模型的输入Token中用于其回答时参考。
    说明

    目前尚不支持用户手动设置检索顺序。

  4. 可选:单击配置,调整召回片段数(默认为5,最多10)。

  5. 发布应用,使配置生效。

3. 测试验证

控制台调试

在应用调试界面输入一个与样例相关的查询。例如,解释术语:神经网络 (Neural Network)

image

单击prompt样例检索,可查看样例检索的输入输出。

image

API调用

在调用应用 API 时,将请求参数 has_thoughts 设置为 true,响应中的 thoughts 字段将包含详细的检索过程信息,便于调试和验证。调用示例可参考应用调用

管理样例库与样例

在 Prompt样例库页面,可以对已创建的库和库中的样例进行维护。

管理样例库

image

  • 新增:单击样例库管理右侧的image图标创建新的样例库。

  • 删除:鼠标悬停在目标样例库上,单击image图标删除样例库。

    正在被应用引用的样例库无法直接删除。请先前往应用管理页面,在相关应用的配置中解除引用关系,然后再执行删除操作。
  • 重命名:鼠标悬停在需要重命名的样例库上,单击image图标对样例库重命名。

管理样例

选择样例库,在当前样例库中执行以下操作:

  • 增加:单击丰富样例导入数据增加相似样例。

  • 删除:在目标样例的操作列,单击删除

  • 修改:在待修改样例的操作列,单击编辑,修改用户输入模型输出内容,并保存

使用限制

  • 样例库容量:每个样例库最多包含 300 条样例。

    说明

    此限制旨在平衡检索性能与召回准确率。过大的单库规模可能导致检索延迟增加。若样例超过 300 条,建议根据业务主题将其拆分为多个独立的样例库(如“产品功能库”、“售后策略库”)。

  • 应用关联数量:每个智能体应用最多可关联 5 个样例库。

    说明

    系统采用多路召回策略,会从所有关联的库中并行检索。

  • 召回片段数:单次请求最多召回 10 个样例片段注入上下文。

    说明

    此参数可在应用配置中调整,用于控制注入上下文的长度,以平衡效果和 Token 成本。

  • 文件导入限制:批量导入时,支持 20MB 以内的 Excel 文件,单次最多导入 100 条样例。

计费说明

Prompt 样例库功能本身不收取存储或管理费用。

但是,启用此功能会增加大模型调用的 Token 消耗,从而影响你的总体费用。增加的 Token 主要来自被召回并注入到上下文中的样例内容。

成本预估公式: 总输入 Token ≈ 用户查询 Token + 所有召回样例的总 Token + 系统指令 Token

常见问题

  1. 样例库和样例的关系?

    包含关系。每个样例库最多包含300个相似的样例。每个样例包括用户输入和模型输出。

    样例通过样例库进行组织和管理,可以增加多个不同名称的样例库进行应用配置。

  2. Prompt 样例库和知识库有什么区别?

    这是两个功能,服务于不同目的:

    • Prompt 样例库:采用 Few-shot Learning 方式,主要用于教会模型如何“说”。它通过提供少量高质量的问答范例,来控制模型的回答风格、格式和特定事实。适用于需要精确模仿和风格控制的场景。

    • 知识库:采用 RAG 方式,主要用于告诉模型要“说”什么。它通过从大量文档中检索相关段落作为上下文,来为模型提供回答问题所需的外部知识。适用于需要基于海量文档进行开放式问答的场景。