全部产品
云市场

PAI EAS简介

更新时间:2019-08-13 10:35:32

在线推理是将算法模型应用至实际业务的重要环节。为了帮助用户更好的实现一站式端到端的算法应用,PAI平台针对在线推理场景提供了PAI EAS(Elastic Algorithm Service)在线预测服务,支持基于异构硬件(CPU/GPU)的模型加载和数据请求的实时响应。您可以通过多种部署方式将您的模型发布成为在线的restful API接口,同时我们提供的弹性扩缩、蓝绿部署等特性可以支撑您以最低的资源成本获取高并发、稳定的在线算法模型服务。

概述

机器学习模型在线部署功能可以将您的模型快速部署为Restful API,您可以通过HTTP请求的方式进行调用。

  • 目前支持区域:华北2(北京)、华东2(上海)、华东1(杭州)、新加坡
  • 在线预测服务包含版本控制、资源监控、蓝绿发布(热升级策略)、资源扩缩容等功能,可以方便地让你的模型直达业务。

注意

  • 服务一旦处于running状态就开始计费,产品定价文档
  • 服务需要在API网关中绑定自己的域名,否则通过公网地址调用会有每天1000次调用的限制。

相关费用

  • 目前我们的模型服务对外提供的访问地址,是在开通机器学习在线预测服务前,需要开通阿里云API网关服务,费用详情请访问API网关定价
  • 机器学习在线预测服务价格:即机器学习在线服务部署费用,费用详情请访问价格地址

模型部署方式

部署服务管理

PAI-EAS控制台页面您可以对您的模型服务进行管理包括:
查看模型调用信息
在线调试
查看日志、监控、服务部署相关信息
服务扩缩容,服务启动/停止,服务删除

子账号授权

如果想使用子账号在控制台进行模型管理,可以让主账号在阿里云访问控制中对子账号授权。
阿里云访问控制地址:https://www.aliyun.com/product/ram

  1. 首先进入“策略管理”,选择“新建授权策略”,选择脚本模式:

image.png
image.png

根据需求进行权限授权:

权限点 权限内容
eas:EditInstance 模型权限:写权限,创建、更新、删除
eas:ReadInstance 模型权限:读权限,查看模型服务的监控、日志、服务地址、在线调试
eas:OperateInstance 模型权限:操作权限,停止/启动模型服务/切换流量
eas:OperateResourceGroup 资源组权限:操作权限,新建/续费/升级资源组

请按照子账号需要用到的权限谨慎进行授权,例如需要给子账号模型的只读权限,可以进行如下操作,如果需要更多权限,可以在Action中以列表方式添加

  1. {
  2. "Statement": [
  3. {
  4. "Effect": "Allow",
  5. "Action": [
  6. "eas:ReadInstance"
  7. ],
  8. "Resource": "*"
  9. }
  10. ],
  11. "Version": "1"
  12. }
  1. 接下来对子账号授权,进入“用户管理”,选择指定的子账号进行授权

image.png
image.png

  1. 另外,子账号需要手动绑定AccessKey到数加租户系统中才能进行模型部署,主账号在用户管理中查看需要授权的子账号的AccessKey,如果该子账号还没有AccessKey,可以点击创建新的AccessKey为子账号创建一个AccessKey,然后将该AccessKey信息告知子账号。

image.png

  1. 子账号登陆阿里云后,在数加控制台-个人信息中绑定自己的AccessKey,具体操作参考https://help.aliyun.com/document_detail/30262.html

操作完成后,子账号就可以在PAI-EAS控制台进行模型服务的创建等相关操作