定制模型介绍
为了更好的满足用户的搜索问答体验,OpenSearch智能问答版推出了LLM定制模型的功能,用户可以根据实际的业务场景需要训练专属的大模型。
操作步骤
LLM定制模型只支持智能问答版实例为专业版的进行创建
创建模型
1、创建专业版的智能问答版实例后,点击LLM定制 -> 创建,创建一个LLM定制模型。
2、按要求填入模型名称,选择对应的基础模型,上传已有问答对,点击确认。
模型名称:长度为1-30个字符,以字母开头,可以包含大小写字母,数字和下划线,且不能和其它模型名称相同。
基础模型:目前仅支持opensearch-llama2-13b。
已有问答对:支持格式为xlsx格式的文件,单个文件大小不能超过128MB,文件名只支持字母、数字、下划线、中划线。相关内容格式可参考样例数据。
计费方式:详情可参考LLM智能问答版计费概述
模型数量:最大与gpu个数保持一致的,单个模型的可用版本个数为2个。
3、模型创建完毕后可点击训练模型或者完成按钮。
训练模型
1、模型创建完毕后,模型状态为模型不可用,最新版本状态为待训练。可点击训练模型然后点击确定开始模型训练。
模型名称:LLM定制模型的名称。
创建时间:标记LLM定制模型的创建时间。
模型状态:标记模型目前的状态为可用或者不可用。
最后训练开始时间:模型可以进行多次训练,此处为标记模型最后一次开始训练的时间。
最新版本状态:刚创建的模型为待训练,训练中的模型为调度中,训练完成的模型为已训练并就绪。
模型查看
1、模型训练完成后可点击详情查看模型相关信息。
基本信息 | |
创建时间 | 标记LLM定制模型的创建时间。 |
模型状态 | 标记模型目前的状态为可用或者不可用。 |
最后训练时间 | 模型可以进行多次训练,此处为标记模型最后一次开始训练的时间。 |
最新版本状态 | 刚创建的模型为待训练,训练中的模型为调度中,训练完成的模型为已训练并就绪。 |
配置信息 | |
基础模型 | 目前仅支持opensearch-llama2-13b。 |
已有问答对 | 支持格式为xlsx格式的文件,单个文件大小不能超过128MB,文件名只支持字母、数字、下划线、中划线。相关内容格式可参考样例数据。 |
训练历史 | |
模型版本 | 模型训练的版本信息 |
版本状态 | 标记模型是否可用 |
训练开始时间 | 模型训练开始的时间 |
训练结束时间 | 模型训练结束的时间 |
2、点击效果测试,可查看模型训练效果。
选用LLM定制模型搜索关键词查看定制模型效果。
- 本页导读 (0)