文档

单模型部署在线服务

更新时间:

Designer和EAS在使用链路上进行了无缝对接,您可以在离线训练、预测和评估流程完成后,将单个模型部署至EAS,以创建一个在线模型服务。本文为您介绍如何将在Designer平台训练获得的模型部署为EAS在线服务。

前提条件

已完成模型训练,并验证了模型的准确性,详情请参见模型训练

单模型一键部署

支持一键部署的算法

组件名称

产出可部署模型格式

匹配的EAS Processor

备注

逻辑回归二分类

PMML

PMML

训练前需要在组件的字段设置页签中,选中是否生成PMML

GBDT二分类

PMML

PMML

线性支持向量机

PMML

PMML

逻辑回归多分类

PMML

PMML

随机森林

PMML

PMML

朴素贝叶斯

PMML

PMML

K均值聚类

PMML

PMML

GBDT回归

PMML

PMML

线性回归

PMML

PMML

评分卡训练

PMML

PMML

文本摘要训练

tgz包

EasyNLP

会自动配置好PAI提供在公开OSS中的EasyNLP,无需自定义配置。

图像分类训练(torch)

tgz包

EasyCV

会自动配置好PAI提供在公开OSS中的EasyCV,无需自定义配置。

PyAlink脚本

AlinkModel

Alink

详情请参见PyAlink脚本

XGBoost训练

XGBoost

XGBoost

详情请参见XGBoost训练

对于需要部署PMML模型的算法组件,您需要参照下图的操作指引,在字段设置页签中,选中是否生成PMML,并重新执行该节点。image

操作步骤

  1. 进入Designer页面。

    1. 登录PAI控制台

    2. 在左侧导航栏单击工作空间列表,在工作空间列表页面中单击待操作的工作空间名称,进入对应工作空间内。

    3. 在工作空间页面的左侧导航栏选择模型开发与训练 > 可视化建模(Designer),进入Designer页面。

  2. 在工作流列表页面,双击目标工作流,进入工作流页面。

  3. 在Designer画布上方,单击模型列表

    系统会自动检测当前画布中训练得到的可部署模型,并自动匹配对应的部署Processor,引导您跳转到EAS完成模型服务的部署。详情请参见服务部署:Designer

单模型手动部署

下表中的算法组件在模型训练完成后,需要使用通用模型导出组件将模型拼装并导出至OSS目录后,再手动部署。不支持前述章节所述的一键部署。

组件名称

产出可部署模型格式

匹配的EAS Processor

手动部署流程

PS-SMART二分类

PS格式

PS算法

需要在组件下游连接通用模型导出组件。

PS-SMART多分类

PS-SMART回归

导出模型到OSS Bucket后,关于如何手动部署模型,详情请参见服务部署:控制台

常见问题

执行一键部署时,如果有节点支持部署,但是置灰的不支持选择,如何解决?image.png

您需要在指定的组件右侧字段设置页签中,选中是否生成PMML,并重新执行对应节点即可。详情请参见支持一键部署的算法

相关文档

  • 您可以前往PAI-EAS模型在线服务页面,查看已部署服务的状态,或对服务进行管理操作。详情请参见管理EAS模型在线服务

  • 部署模型服务后,支持通过Designer的更新EAS服务(beta)组件,来定时更新已部署的服务,详情请参见在线模型服务定时自动更新

  • Designer支持将离线数据处理pipeline,打包成一个Pipeline模型,并一键部署为EAS在线服务。详情请参见Pipeline部署在线服务

  • 您可以使用Designer提供的预测组件,对模型进行离线批量预测,详情请参见离线批量预测

  • 本页导读 (1)
文档反馈