LLaMA Factory 是开源低代码大模型微调框架,集成主流微调技术,支持通过 Web UI 零代码微调大模型。以 LLaMA-3-8B-Instruct 为例,演示在 PAI-DSW 中完成模型的中文化与角色扮演微调和评估。
步骤一:创建DSW实例
步骤二:安装LLaMA Factory
单击需要打开的实例操作列下的打开,进入DSW实例开发环境。
在Launcher页面中,单击快速开始区域Notebook下的Python3。
在Notebook中执行以下代码,拉取LLaMA-Factory项目到DSW实例。
!git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git安装LLaMA-Factory依赖环境。
!pip uninstall -y vllm !pip install llamafactory[metrics]==0.9.3运行如下命令,如果显示llamafactory-cli的版本,则表示安装成功。
!llamafactory-cli version
步骤三:下载数据集
LLaMA-Factory 内置多种数据集,存储于data目录下。您可以跳过本步骤,直接使用内置数据集。您也可以准备自定义数据集,将数据处理为框架特定的格式,放在data下,并且修改dataset_info.json文件。
PAI 提供了一份多轮对话数据集,运行以下命令下载。
%cd LLaMA-Factory
!wget https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/tutorials/llama_factory/data.zip
!mv data rawdata && unzip data.zip -d data该数据集分为训练集和验证集,训练集包含 320 组多轮对话样本,验证集包含 30 组,样例如下:
[
{
"conversations": [
{
"from": "human",
"value": "模仿西游记的孙悟空的语气和我聊天。如果你把水冻住,你会得到什么?"
},
{
"from": "gpt",
"value": "哈哈,这问题还难倒俺老孙吗?把水冻住就是变成冰啦!不过若是在取经的路上用得着这冰来做啥,比如过火焰山时,那可就是解渴消暑的好东西了!你觉得呢?还有没有更有趣的问题让俺老孙来解答?"
},
{
"from": "human",
"value": "那怎么做才可以把水冻住"
},
{
"from": "gpt",
"value": "哈哈,对俺老孙来说,这可是轻而易举的事情!只需将水放在凉快的地方,或者使用法力,一吹仙气,水便能迅速结冰啦!当然,在你的世界里,把水放进冰箱的冷冻室里等一阵子,水就会变成冰块了。要是嫌慢,可以尝试用点干冰或液氮什么的,不过得小心使用哈!毕竟不像俺老孙有抗寒法力。"
}
]
}
]步骤四:模型微调
启动Web UI
运行如下命令启动Web UI。
USE_MODELSCOPE_HUB设为 1,表示使用 ModelScope 模型源,避免访问 HuggingFace 的网络问题。!export USE_MODELSCOPE_HUB=1 && \ llamafactory-cli webui单击返回的URL地址,进入Web UI界面。
由于
http://0.0.0.0:7860为内网访问地址,仅支持在当前的DSW实例内部通过单击链接来访问WebUI页面,不支持通过外部浏览器直接访问。/mnt/workspace/LLaMA-Factory [2024-05-08 21:25:45,224] [INFO] [real_accelerator.py:161:get_accelerator] Setting ds_accelerator to cuda (auto detect) Running on local URL: http://0.0.0.0:7860 To create a public link, set `share=True` in `launch()`.
配置参数
进入 Web UI 后,关键参数配置如下,其他参数默认即可。
参数 | 建议取值 | 说明 |
语言 | zh | 无 |
模型名称 | LlaMA-3-8B-instruct | 无 |
数据集 | train | 选择数据集后,可以单击预览数据集查看数据集详情。 |
学习率 | 1e-4 | 有利于模型拟合。 |
批量大小 | 1 | 每次训练输入数据的个数 |
梯度累计 | 2 | 有利于模型拟合。 |
LoRA+学习率比例 | 16 | 相比LoRA,LoRA+续写效果更好。 |
LoRA作用模块 | all | all表示将LoRA层挂载到模型的所有线性层上,提高拟合效果。 |
启动微调
将输出目录修改为train_llama3,训练后的LoRA权重将会保存在此目录中。
单击预览命令,可查看所有已配置的参数。如需通过代码微调,可复制此命令在命令行运行。
单击开始,启动模型微调。大约需要 20 分钟,模型下载完毕后可查看训练进度和损失曲线。显示训练完毕时,微调成功。
步骤五:模型评估
模型微调完成后,检查点路径下拉选择train_llama3。
在Evaluate&Predict页签中,数据集选择eval(验证集)评估模型,并将输出目录修改为eval_llama3,模型评估结果将会保存在该目录中。
单击开始,启动模型评估。大约需要 5 分钟,评估完成后界面显示验证集分数。ROUGE 分数衡量模型输出与标准答案的相似度,越高表示模型学习效果越好。
{ "predict_bleu-4": 14.328526666666667, "predict_rouge-1": 33.71541999999995, "predict_rouge-2": 11.542246666666669, "predict_rouge-l": 24.607813333333333, "predict_runtime": 344.4584, "predict_samples_per_second": 0.087, "predict_steps_per_second": 0.044 }
步骤六:模型对话
在Chat页签中,确保检查点路径是train_llama3,单击加载模型,即可在Web UI中和微调模型进行对话。
在页面底部的对话框输入想要和模型对话的内容,单击提交,即可发送消息。
发送后模型会逐字生成回答,从回答中可以发现模型学习到了数据集中的内容,能够恰当地模仿目标角色的语气进行对话。
单击卸载模型,单击
取消检查点路径,然后单击加载模型,即可与微调前的原始模型聊天。重新向模型发送相同的内容,发现原始模型无法模仿目标角色的语气生成中文回答。
相关文档
更多有关LLaMA Factory的信息,请参见LLaMA Factory。
也可直接打开 Notebook 案例快速体验,请参见LLaMA Factory:微调LLaMA3模型实现角色扮演。