如何开启模型训练

视频介绍

定义

模型调优是通过Fine-tuning训练模式提高模型效果的功能模块，作为重要的大模型效果优化方式，用户可以通过构建符合业务场景任务的训练集，调整参数训练模型，训练模型学习业务数据和业务逻辑，最终提高在业务场景中的模型效果。

优势

•推理加速：平台底层默认进行模型压缩和推理加速，屏蔽机器管理和推理加速的技术工作。

•全链路训练平台：丰富、完整的模型训练工具，支持SFT、LoRa等多种优化方式，训练之后支持一键部署。

•多维度评估：支持单模型、多模型对比等多维度评估方式。

训练前的数据准备

训练集：训练所用的数据集，格式一般为Prompt+Completion的文本数据，可通过excel/json进行编辑和上传，最小训练数据条数为20，最大训练数据条数为10000，一条训练数据Prompt+Completion总字符数不高于8000，高于8000的字符数系统将自动截断。通过模型训练可增强模型能力，提升预测效果。

评测集：评测所用的数据集，格式一般为Prompt+Completion的文本数据，评测系统将自动基于Prompt数据预测模型结果，可通过参考评测集中的Completion数据对模型预测结果进行标识，判断模型效果，最小评测数据条数为1，最大条数为5000，Prompt总字符数不高于8000，以实际需要为准。通过模型评测评估模型效果，发现模型问题。

模型微调训练方式

数据准备

准备多少数据做SFT微调训练合适？

SFT微调训练效果受大模型参数及训练数据集数量影响，数据量达到一定阈值后，效果不会再有明显上升。

SFT不同训练任务的数据实验参考

文本分类任务-情感分析：

文本生成-阅读理解

序列标注-命名实体识别

句对关系任务-文本匹配

上传数据集

点击训练数据--上传训练集--上传文件--点击完成。

模型调优

点击【模型调优】模块，选择【训练新模型】按照提示进行创建。新增过程的专业名词可查看概念解释学习。

超参配置

企业可以通过参数配置来影响模型调优的过程，从而影响模型调优的效果，不同的参数配置训练的结果不同，一般建议使用默认配置。

开始训练

预览你的训练配置，准备开始训练，开始训练将进入队列，可在模型管理列表刷新状态，同时，可查看训练过程中的相关指标，训练结束后将通过推送通知。

模型评测

上传模型数据

路径：模型工具--模型评测--创建评测任务。

选择评测方式，页面上方有不同评测方式介绍，按需选择，建议选择单个评测。

评测任务开始后，点击评测，可以自行对数据进行打标。

评测完成后可以点击下载查看评测结果。

如需模型部署，请点击参考模型部署。