Designer和EAS在使用链路上进行了无缝对接,您可以在离线训练、预测和评估流程完成后,将单个模型部署至EAS,以创建一个在线模型服务。本文为您介绍如何将在Designer平台训练获得的模型部署为EAS在线服务。
前提条件
已完成模型训练,并验证了模型的准确性,详情请参见模型训练。
单模型一键部署
支持一键部署的算法
组件名称 | 产出可部署模型格式 | 匹配的EAS Processor | 备注 |
逻辑回归二分类 | PMML | PMML | 训练前需要在组件的字段设置页签中,选中是否生成PMML。 |
GBDT二分类 | PMML | PMML | |
线性支持向量机 | PMML | PMML | |
逻辑回归多分类 | PMML | PMML | |
随机森林 | PMML | PMML | |
朴素贝叶斯 | PMML | PMML | |
K均值聚类 | PMML | PMML | |
GBDT回归 | PMML | PMML | |
线性回归 | PMML | PMML | |
评分卡训练 | PMML | PMML | |
文本摘要训练 | tgz包 | EasyNLP | 会自动配置好PAI提供在公开OSS中的EasyNLP,无需自定义配置。 |
图像分类训练(torch) | tgz包 | EasyCV | 会自动配置好PAI提供在公开OSS中的EasyCV,无需自定义配置。 |
PyAlink脚本 | AlinkModel | Alink | 详情请参见PyAlink脚本。 |
XGBoost训练 | XGBoost | XGBoost | 详情请参见XGBoost训练。 |
对于需要部署PMML模型的算法组件,您需要参照下图的操作指引,在字段设置页签中,选中是否生成PMML,并重新执行该节点。
操作步骤
进入Designer页面。
登录PAI控制台。
在左侧导航栏单击工作空间列表,在工作空间列表页面中单击待操作的工作空间名称,进入对应工作空间内。
在工作空间页面的左侧导航栏选择 ,进入Designer页面。
在工作流列表页面,双击目标工作流,进入工作流页面。
在Designer画布上方,单击模型列表。
系统会自动检测当前画布中训练得到的可部署模型,并自动匹配对应的部署Processor,引导您跳转到EAS完成模型服务的部署。详情请参见服务部署:Designer。
单模型手动部署
下表中的算法组件在模型训练完成后,需要使用通用模型导出组件将模型拼装并导出至OSS目录后,再手动部署。不支持前述章节所述的一键部署。
组件名称 | 产出可部署模型格式 | 匹配的EAS Processor | 手动部署流程 |
PS-SMART二分类 | PS格式 | PS算法 | 需要在组件下游连接通用模型导出组件。 |
PS-SMART多分类 | |||
PS-SMART回归 |
导出模型到OSS Bucket后,关于如何手动部署模型,详情请参见服务部署:控制台。
常见问题
执行一键部署时,如果有节点支持部署,但是置灰的不支持选择,如何解决?
您需要在指定的组件右侧字段设置页签中,选中是否生成PMML,并重新执行对应节点即可。详情请参见支持一键部署的算法。
相关文档
您可以前往PAI-EAS模型在线服务页面,查看已部署服务的状态,或对服务进行管理操作。详情请参见管理EAS模型在线服务。
部署模型服务后,支持通过Designer的更新EAS服务(beta)组件,来定时更新已部署的服务,详情请参见在线模型服务定时自动更新。
Designer支持将离线数据处理pipeline,打包成一个Pipeline模型,并一键部署为EAS在线服务。详情请参见Pipeline部署在线服务。
您可以使用Designer提供的预测组件,对模型进行离线批量预测,详情请参见离线批量预测。
- 本页导读 (1)