单模型部署在线服务

更新时间:
复制 MD 格式

DesignerEAS已无缝对接。完成离线训练、离线预测和评估后,您可以将在Designer中训练得到的单个模型一键或手动部署至EAS,创建在线模型服务。

前提条件

已完成模型训练并验证模型准确性,详情请参见构建与调试模型

单模型一键部署

支持的模型组件

以下模型组件支持一键部署至EAS。其余模型仅支持手动部署,详情请参见单模型手动部署

组件名称

产出可部署模型格式

匹配的EAS Processor

备注

逻辑回归二分类

PMML

PMML

训练前需单击模型组件,在字段设置页签选中是否生成PMML,否则组件不会产出PMML模型,无法一键部署。

GBDT二分类

PMML

PMML

线性支持向量机

PMML

PMML

逻辑回归多分类

PMML

PMML

随机森林

PMML

PMML

朴素贝叶斯

PMML

PMML

K均值聚类

PMML

PMML

GBDT回归

PMML

PMML

线性回归

PMML

PMML

评分卡训练

PMML

PMML

文本摘要训练

tgz

EasyNLP

系统会自动配置PAI在公开OSS中提供的EasyNLP,无需自定义配置。

图像分类训练(torch)

tgz

EasyCV

系统会自动配置PAI在公开OSS中提供的EasyCV,无需自定义配置。

PyAlink脚本

AlinkModel

Alink

详情请参见PyAlink脚本

XGBoost训练

XGBoost

XGBoost

详情请参见XGBoost训练

操作步骤

  1. 前往可视化建模,选择工作空间并进入Designer页面,然后单击目标工作流进入画布。

  2. 在工作流画布上方,单击模型列表,系统自动检测当前工作流产出的可部署模型。

    在弹出的模型列表对话框中,选中目标模型(如逻辑回归二分类-1)。单击注册模型可将模型注册至AI资产,实现多版本管理;单击部署至EAS可创建模型服务。

  3. 选中目标模型,单击部署至EAS,跳转至EAS的新建服务页面。

  4. 配置模型服务参数并完成部署。

    系统已自动匹配模型文件Processor种类,其他参数详情请参见自定义部署

  5. 单击部署。当服务状态变为运行中时,表示服务部署成功。

单模型手动部署

以下模型组件不支持一键部署。模型训练完成后,需使用通用模型导出组件将模型拼装并导出至OSS目录,再手动部署。

组件名称

产出可部署模型格式

匹配的EAS Processor

手动部署流程

PS-SMART二分类

PS格式

PS算法

需在该组件下游连接通用模型导出组件,将模型拼装并导出至OSS。

PS-SMART多分类

PS-SMART回归

模型导出到OSS Bucket后,请参见自定义部署手动部署模型至EAS。

常见问题

一键部署模型时,部分节点支持部署但置灰不可选,如何解决?例如模型列表对话框中仅显示模型条目K均值聚类-1,底部只有关闭按钮,没有注册或部署选项。

您需要单击该组件节点,在右侧字段设置页签选中是否生成PMML,然后重新执行该节点。重新执行后,组件产出PMML模型,即可部署。

相关文档

  • 前往PAI-EAS模型在线服务页面,可查看已部署服务的状态或管理服务。详情请参见服务部署

  • 使用在线调试功能可测试服务是否正常运行,详情请参见服务在线调试

  • 部署模型服务后,可使用Designer更新EAS服务(beta)组件定时更新已部署的服务,详情请参见在线模型服务定时更新