通过在DSW中微调和推理ChatGLM-6B模型，实现定制化、高交互性的对话系统。ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于General Language Model (GLM) 架构，具有62亿参数。结合模型量化技术，可在消费级显卡上本地部署，实现更智能的人机对话体验。
操作步骤
步骤一：创建DSW实例
登录PAI控制台。
在页面左上方，选择DSW实例所在的地域。
本实践中，建议选择华北2（北京）、华东2（上海）、华东1（杭州）、华南1（深圳）这四个地域。这四个地域在后续操作中下载ChatGLM模型数据时速度更快。
在左侧导航栏单击工作空间列表，在工作空间列表页面中单击默认工作空间名称，进入对应工作空间内。
在左侧导航栏，选择模型开发与训练 > 交互式建模（DSW）。
创建DSW实例，关键参数如下。详细操作请参见创建DSW实例。
资源类型：选择公共资源。
资源规格：选择
ecs.gn6v-c8g1.2xlarge。镜像配置：在官方镜像中选择
pytorch-develop:1.12-gpu-py39-cu113-ubuntu20.04。
创建完成后，单击操作列下打开，进入DSW实例开发环境。
步骤二：在DSW中打开教程文件
在Launcher页面，切换至Gallery页签，搜索轻量微调和推理ChatGLM模型实践，单击在DSW中打开，即可自动将本教程所需的资源和教程文件下载至DSW实例中，并在下载完成后自动打开教程文件。
步骤三：运行教程文件
在打开的教程文件chatglm_6b_ipynb中，可查看并直接运行教程。
在教程文件中单击
运行对应步骤的命令，当成功运行结束一个步骤命令后，再顺次运行下个步骤的命令。
本教程包括以下4个运行步骤：
下载ChatGLM-6B模型和相关数据
由于ChatGLM数据较大，下载时间因地域和网络而异，请耐心等待。
如果运行后未出现正常返回结果，并出现类似
404 Not Found的错误，请尝试重新运行下载命令。
微调模型
模型训练过程有量化过程，训练时间可能会比较久，请您耐心等待训练完成。
模型推理
自行安装推理ChatGLM模型时，推理前需检查推理执行脚本evaluate.sh中的CHECKPOINT参数，确保CHECKPOINT参数取值是训练保存的路径名称。
试玩模型
执行命令后，在返回结果中单击生成的URL，即可进入WebUI页面。
说明该URL为内网访问地址，仅支持在当前的DSW实例内部通过单击链接来访问WebUI页面，不支持通过外部浏览器直接访问。
在WebUI页面，输入文本内容，单击Generate，验证模型推理效果。例如：输入“什么是ChatGLM”后单击Generate，模型返回回答：“ChatGLM 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2022 年联合训练的语言模型 GLM-130B 开发而成，可以针对用户的问题和要求提供适当的答复和支持。”右侧可调节参数：Maximum length 设为 2048、Top P 设为 0.7、Temperature 设为 0.95。