本文介绍行业算法版实例开启智能对话功能步骤。
开启智能对话
行业算法版新增支持智能对话功能,智能对话通过调用接入的AI搜索开发平台大模型在搜索时对用户问题进行智能回答。
通过首页进入检索增强生成-智能对话,选择实例后点击新增智能对话开始配置。
配置参数
新增对话参数时,需填写对话参数名称、大模型参数、上下文参数、更多参数等。
对话参数名称:当前对话参数的名称,长度为1-30个字符,以字母开头,可以包含大小写字母,数字和下划线,不可与其他对话参数名称相同。
大模型参数:包含模型名称、Prompt模板、模型参数。
模型名称:从AI搜索开放平台提供的大模型中选择需要使用的模型。
当前支持以下四种模型,模型详情请参见通义千问大语言模型介绍。
支持模型
支持模型
OpenSearch-通义千问-Turbo(ops-qwen-turbo)
以qwen-turbo大规模语言模型为模型底座,进行有监督的模型微调,强化检索增强,减少有害性。
通义千问-Turbo(qwen-turbo)
通义千问超大规模语言模型,支持中文、英文等不同语言输入。
通义千问-Plus(qwen-plus)
通义千问超大规模语言模型的增强版,支持中文、英文等不同语言输入。
通义千问-Max(qwen-max)
通义千问千亿级别超大规模语言模型,支持中文、英文等不同语言输入。
Prompt模板:从已创建的Prompt中选择需要使用的Prompt模板。
模型参数:包含参数名称、参数值字段,用户可自行增加、修改、删除模型参数,默认按照内置的最佳实践为用户配置对应的模型参数。
上下文参数:包含输入文档数、输入字段。
输入文档数:输入到大模型中的文档数量,最大为x。
输入字段:包含字段名称、字段解释,用户可自行增加、修改、删除输入字段,字段名称需从实例已有的字段名称中选择,最多可选20个字段。
更多参数:点击更多参数,展示字段摘要参数,包含重排模型、切片模型、保留切片数与最大切片长度。
重排模型:进行重排时使用的重排模型,从AI搜索开放平台提供的重排模型中选择。
切片模型:进行切片处理时使用的切片模型,从AI搜索开放平台提供的切片模型中选择。
保留切片数:如果文档内容过长,则需进行切片处理,该字段表示最大保留的切片数。
最大切片长度:进行切片检索时,每个切片的最大长度,取值范围[100,3000],默认为300。
效果展示
完成配置后点击搜索测试,填写raw_query参数(必填)并打开智能对话按钮,点击搜索完成查询,可在智能对话结果中看到效果。
搜索测试详情参考搜索测试。
- 本页导读 (1)
- 开启智能对话
- 效果展示