服务在线调试

服务部署完成后,您可以使用在线调试功能来测试服务是否运行正常。本文为您介绍如何进行服务在线调试。

前提条件

已完成服务部署,详情请参见服务部署:控制台

操作步骤

  1. 进入模型在线服务(EAS)页面。

    1. 登录PAI控制台

    2. 在左侧导航栏单击工作空间列表,在工作空间列表页面中单击待操作的工作空间名称,进入对应的工作空间。

    3. 在工作空间页面的左侧导航栏选择模型部署 > 模型在线服务(EAS),进入模型在线服务(EAS)页面。

  2. 推理服务页签,单击目标服务操作列下的在线调试

  3. 在调试页面的在线调试请求参数区域的Body处,配置服务请求数据。

    • 如果您使用通用Processor(包括TensorFlow、Caffe、PMML等)部署服务,服务请求数据构造,可以参考通用Processor服务请求构造

    • 其他种类模型的服务请求数据,需要根据您自定义模型或镜像的数据输入格式来确定。

      以心脏病预测案例的逻辑回归二分类模型为例,说明如何构造请求数据。

      逻辑回归二分类模型为PMML模型,生成的模型文件中特征数据包括sexcpfbsrestecgexangslopthalagetrestbpscholthalacholdpeakca。则请求数据配置为[{"sex":0,"cp":0,"fbs":0,"restecg":0,"exang":0,"slop":0,"thal":0,"age":0,"trestbps":0,"chol":0,"thalach":0,"oldpeak":0,"ca":0}]

  4. 单击发送请求,即可在调试信息区域查看预测结果。image

相关文档

  • 您可以到模型在线服务(EAS)页面查看模型部署情况,并管理模型服务,详情请参见管理EAS模型在线服务

  • 您可以通过自动压测工具,对部署的服务进行压测,从而了解EAS服务的使用性能,详情请参见服务自动压测

  • 服务性能满足要求后,您可使用该服务进行模型推理,具体操作请参见调用方式概览

  • EAS更多使用案例,详情请参见EAS使用案例汇总