AI 助理
备案控制台
文档
产品文档
输入文档关键字查找
首页 智能开放搜索 OpenSearch OpenSearch-LLM智能问答版 操作指南 问答测试

问答测试

更新时间：
一键部署
产品详情
相关技术圈
我的收藏

控制台中内置了问答测试页面方便用户进行问答测试，输入问题模型就会匹配到对应的结果进行回答。完成实例配置后，您可针对不同场景和不同期望效果设置相应参数，通过体验问答效果，来选择最优参数。本文以控制台操作为例介绍如何进行问答测试并对可自定义的参数进行说明。

前提条件

  1. 已创建OpenSearch-LLM智能版实例，具体请参考：购买智能问答版实例。

  2. 已完成数据配置工作，具体请参考：数据配置。

操作步骤

  1. 登录OpenSearch控制台选择LLM智能问答版，选择左侧导航栏实例管理，单击对应的实例操作栏下的管理按钮，进入实例详情页面，选择问答测试，可以向模型进行提问。

  2. 可根据搜索需求填写对应的问答参数、Prompt参数、文档召回参数、参考图片参数、Query理解参数、人工干预参数及其它参数，然后在对话框输入需要询问的内容，单击发送按钮。

  3. 查看问答测试效果。

    问答效果.png

参数说明

问答参数说明

参数

类型

必需

取值范围

默认值

描述

模型选择

String

是

-

opensearch-qwen

表示该次搜索使用的LLM大模型。可选择的模型请参考：LLM管理。

Prompt

String

否

-

系统默认模板

表示该次搜索使用的Prompt。可选择的Prompt请参考：Prompt管理

多轮对话

Boolean

否

-

true

  • false：表示多轮对话关闭；

  • true：表示多轮对话开启，将结合近n轮对话内容返回结果；

  • session：用于标识对话来源，相同的对话来源会根据上下文进行对话。

流式输出

Boolean

否

-

true

  • false：表示流式输出关闭；

  • true：表示流式输出开启，将实时输出模型回答结果。

Prompt参数说明

参数

类型

必需

取值范围

默认值

描述

attitude

String

否

-

normal

  • 对话内容的语气，默认为normal

  • normal：无

  • polite：使用和蔼和礼貌的语气

  • patience：使用委婉和耐心的语气

rule

String

否

-

simple

对话内容的详细程度，默认为detailed

  • detailed：详细和专业

  • stepbystep：详细且按步骤

noanswer

String

否

-

sorry

无法回答问题时的回复，默认为sorry

  • sorry：抱歉，根据已知信息无法回答该问题

  • uncertain：我不知道

language

String

否

-

Chinese

回答问题使用的语言，默认为Chinese

  • Chinese：中文

  • English：英语

  • Thai：泰语

  • Korean：韩语

role

Boolean

否

-

true

开启后，将定制回答的角色。

role_name

String

否

-

AI小助手

定制回答的角色，例如：AI小助手

out_format

String

否

-

text

输出内容的形式，默认为text

  • text：文本

  • table：表格

  • list：列项

  • markdown：markdown

文档召回参数说明

参数

类型

必需

取值范围

默认值

描述

filter

String

否

-

-

召回文档时根据目标字段进行过滤。例：filter = field = value

top_n

INT

否

(0, 50]

5

召回的文档数。

sf

Float

否

[0,+∞）

1.3

文档召回的阈值，sf越大则召回文档的向量相似度越小。

dense_weight

Float

(0,1)

0.7

选择稀疏向量模型时可选，表示稠密向量的权重，稀疏向量的权重则为：1-dense_weight。

formula

String

否

-

向量相似度

文档召回的排序公式。

operator

String

否

-

AND

文本召回时，文本token之间的关系。

参考图片参数说明

参数

类型

必需

取值范围

默认值

描述

sf

Float

否

[0,+∞)

1

参考图片的阈值，对于稀疏向量模型sf越大则参考图片与内容的向量相似度越大，对于稠密向量模型sf越大则参考图片与内容的向量相似度越小。

dense_weight

Float

否

(0,1)

0.7

选择稀疏向量模型时可选，表示稠密向量的权重，稀疏向量的权重则为：1-dense_weight。

Query理解参数说明

参数

类型

必需

取值范围

默认值

描述

query_extend

Boolean

否

-

false

开启后会扩展Query，提升召回质量

query_exten_num

INT

否

(0,+∞)

5

扩展Query的数量

人工干预参数说明

参数

类型

必需

取值范围

默认值

描述

sf

Float

否

[0,2]

0.3

人工干预问题的阈值，默认为0.3，sf越大则越容易匹配到人工干预词条

其它参数说明

参数

类型

必需

取值范围

默认值

描述

return_hits

Boolean

否

-

false

是否在结果中返回文档召回的结果

csi_level

String

否

-

strict

绿网配置

  • none: 表示不需要经过绿网处理

  • loose: 内容需要经过绿网处理，且只有绿网判断确定存在敏感内容，就会被拦截，返回无结果

  • strict: 内容需要经过绿网处理，且一旦绿网判断确定或者疑似存在敏感内容，就会被拦截，返回无结果

history_max

INT

否

(0，20]

20

多轮对话历史最大轮数，最大20轮

link

Boolean

否

-

false

是否在结果中返回文档召回的具体来源

说明

问答测试支持通过API和SDK调用。

上一篇：向量模型管理下一篇：效果对比
文档推荐