全部产品
阿里云办公

模型在线部署使用说明

更新时间:2018-12-17 11:58:13

概述

机器学习模型在线部署功能可以将您的模型一键部署为Restful API,您可以通过HTTP请求的方式进行调用。

  • 目前支持区域:华北2、华东2

  • 目前支持算法包括:GBDT二分类、线性支持向量机、逻辑回归二分类、逻辑回归多分类、随机森林、KMeans、线性回归、GBDT回归(GBDT回归算法不支持int型数据格式输入,所以在部署前请注意GBDT算法输入应为Double型)、Tensorflow等。

  • 在线预测服务包含版本控制、资源监控、蓝绿发布(热升级策略)等功能,可以方便地让你的模型直达业务。

注意

  • 服务一旦处于running状态就开始计费。
  • 服务需要在API网关中绑定自己的域名,否则会有每天1000次调用的限制。

相关费用

  • 在开通机器学习在线预测服务前,需要开通阿里云API网关服务,费用详情请访问API网关定价

  • 机器学习在线预测服务价格:即机器学习在线服务API调用费用,费用详情请访问价格地址

操作步骤

本文以心脏病预测案例为例,为您讲解如何使用机器学习在线预测服务。

  1. 登录阿里云机器学习PAI控制台

  2. 在控制台首页,从模板创建心脏病预测案例实验并单击运行

    运行完成后各组件框后面会出现绿勾表示已运行通过。

  3. 选择部署>模型在线部署

  4. 选择要部署的模型,单击下一步

  5. 选择模型部署方式,阿里云机器学习PAI提供以下三种模型在线部署方式,您可以单击名称查看详细的部署方法。

新建服务

  1. 选择模型部署方式为新建服务,自定义输入模型名称。

  2. 选择进程数Quota数

    进程数决定了可以并发运行程序的数量,推荐数量大于等于2,输出稳定性更高。Quota数决定了运行快慢及RT、QPS等参量。

  3. 单击下一步,确认信息无误后,单击部署

  4. 部署成功后单击模型名称,查看模型调用的相关信息。

  5. 单击监控下的图标,即可监控当前的QPS、Response、RT、Traffic、CPU、Memory、Daily Invoke等信息。

  6. 如果您的资源使用紧张需要扩大,可以单击更新进行扩容。

  7. 单击模型在线部署页面右上角的在线调试,可以选择当前模型进行调试。

    在线调试的详细说明请参考在线调试与其他API网关功能

增加已有服务版本

  1. 选择模型部署方式为增加已有服务版本,选择一个已经部署的模型。

  2. 单击下一步,确认信息无误后,单击部署

    说明增加已有服务版本的部署方式需要花费几分钟时间,请耐心等待。

  3. 部署完成后,单击当前版本列的下拉箭头,切换需要使用的模型版本。

新增蓝绿部署

阿里云机器学习新版本提供了蓝绿部署功能。蓝绿部署是指在老版本不停的基础上,部署新版本然后进行数据分流测试,确认效果后,再将数据流量完全切到新版本。蓝绿部署的特点是无需停机,并且风险较小。

  1. 选择模型部署方式为新增蓝绿部署,选择一个已经部署的模型(默认为正在服务的版本),并选择模型部署占用资源

  2. 单击下一步,确认信息无误后,单击部署

  3. 单击模型操作下的切换流量,改变两个模型之间的流量分配(起初两个模型流量分配都是100%)。

在线调试与API网关功能

模型在线调试

  1. 单击模型在线部署页面右上角的在线调试,选择当前模型,单击运行进行调试。

  2. 在API调试页面,进行身份验证及授权检验。

    单击Headers下方的+新增一条,填入Authorization及对应的值。

    您可以单击模型名称,在密钥中获取Authorization信息。

  3. body处填入输入数据(特征输入),以心脏病预测案例的逻辑回归模型为例,Body信息如下:

    1. [{"sex":0,"cp":0,"fbs":0,"restecg":0,"exang":0,"slop":0,"thal":0,"age":0,"trestbps":0,"chol":0,"thalach":0,"oldpeak":0,"ca":0}]

  4. 单击发送请求即可获得预测结果。

查看API信息

  1. 单击页面上方管理控制台,选择产品与服务>应用服务>API网关,进入API网关控制台。

  2. 选择华东2(上海)区域,即可看到上述部署过程中创建的API网关信息。

  3. 单击右侧操作栏下的管理,查看API的详细配置信息。

API授权

单击上图右侧操作栏下的授权,对该API进行授权。只有授权成功的用户才可以访问您的API,这样的一个用户身份称为一个APP,没有被授权过APP身份的用户无权限访问您的API,保证了API操作的安全性。

API授权及APP应用身份创建的详情请参见视频:如何调用API

API分组与域名绑定

每个被创建的API都隶属一个API分组,可以通过分组来对该组的API进行统一管理。

  1. 进入API网关管理控制台,单击左侧导航栏的API列表

  2. 选择华东2(上海)区域(仅适用于本案例,请根据实际情况选择),单击您的API名称,查看API的分组详情。

  3. 单击页面左上角的返回图标,回到API网关管理控制台首页。单击左侧导航栏的分组管理,再单击您API所在的分组名称,查看该API所在分组的二级域名。

    API分组默认分配的是二级域名,二级域名仅供测试使用,有每天1000次的访问限制。

  4. 如果您有更大需求,请在分组管理界面单击绑定域名,对该API所在的分组进行域名绑定。

    更多详细信息请参阅API网关产品帮助文档

SDK下载与API调用

参见在线预测服务示例代码