文档

LLM定制

更新时间:

定制模型介绍

为了更好的满足用户的搜索问答体验,OpenSearch智能问答版推出了LLM定制模型的功能,用户可以根据实际的业务场景需要训练专属的大模型。

操作步骤

说明

LLM定制模型只支持智能问答版实例为专业版的进行创建

创建模型

1、创建专业版的智能问答版实例后,点击LLM定制 -> 创建,创建一个LLM定制模型。

image.png

2、按要求填入模型名称,选择对应的基础模型,上传已有问答对,点击确认。

image.png
说明

模型名称:长度为1-30个字符,以字母开头,可以包含大小写字母,数字和下划线,且不能和其它模型名称相同。

基础模型:目前仅支持opensearch-llama2-13b。

已有问答对:支持格式为xlsx格式的文件,单个文件大小不能超过128MB,文件名只支持字母、数字、下划线、中划线。相关内容格式可参考样例数据。

计费方式:详情可参考LLM智能问答版计费概述

模型数量:最大与gpu个数保持一致的,单个模型的可用版本个数为2个。

3、模型创建完毕后可点击训练模型或者完成按钮。

image.png

训练模型

1、模型创建完毕后,模型状态为模型不可用,最新版本状态为待训练。可点击训练模型然后点击确定开始模型训练。

image.png
说明

模型名称:LLM定制模型的名称。

创建时间:标记LLM定制模型的创建时间。

模型状态:标记模型目前的状态为可用或者不可用。

最后训练开始时间:模型可以进行多次训练,此处为标记模型最后一次开始训练的时间。

最新版本状态:刚创建的模型为待训练,训练中的模型为调度中,训练完成的模型为已训练并就绪。

image.png

模型查看

1、模型训练完成后可点击详情查看模型相关信息。

image.pngimage.png

基本信息

创建时间

标记LLM定制模型的创建时间。

模型状态

标记模型目前的状态为可用或者不可用。

最后训练时间

模型可以进行多次训练,此处为标记模型最后一次开始训练的时间。

最新版本状态

刚创建的模型为待训练,训练中的模型为调度中,训练完成的模型为已训练并就绪。

配置信息

基础模型

目前仅支持opensearch-llama2-13b。

已有问答对

支持格式为xlsx格式的文件,单个文件大小不能超过128MB,文件名只支持字母、数字、下划线、中划线。相关内容格式可参考样例数据。

训练历史

模型版本

模型训练的版本信息

版本状态

标记模型是否可用

训练开始时间

模型训练开始的时间

训练结束时间

模型训练结束的时间

2、点击效果测试,可查看模型训练效果。

image.png

选用LLM定制模型搜索关键词查看定制模型效果。

image.png
  • 本页导读 (0)
文档反馈