部署配置与一键部署

您可以在注册模型时对模型做服务部署配置,后续一键部署该模型时,会直接使用该配置,您无需手动编辑模型相关的配置信息,可以提升部署效率。本文为您介绍如何做服务部署配置及一键部署模型服务。

服务部署配置

新模型注册时,您可以在模型服务部署配置中,自定义配置服务部署配置信息。08ac986b062b90053e728608909d791c..png

选中自定义配置,并在文本框中填写部署配置信息。

  • 对于采用自定义镜像部署的模型,部署服务配置样例如下:

    {
      "containers": [
        {
          "image": "registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz",
          "env": [
            {
              "name": "var_name",
              "value": "var_value"
            }
          ],
          "command": "/data/eas/ENV/bin/python /data/eas/app.py",
          "port": 8000
        }
      ],
      "storage": [
        {
          "oss": {
            "readOnly": false
          },
          "properties": {
            "resource_type": "model"
          }
        }
      ],
    }

    其中参数配置说明,详情请参见服务部署:自定义镜像。EAS更完整的配置及部署方式,详情请参见服务部署

  • 对于选择预置Processor的模型,部署服务配置样例如下:

    {
      "processor": "tensorflow_gpu_1.12"
    }
  • 对于选择自定义Processor的模型,部署服务配置样例如下:

    {
      "processor_entry": "./service.py",
      "processor_type": "python",
      "processor_path": "http://eas-data.oss-cn-shanghai.aliyuncs.com/demo/service.py",
      "data_image": "registry.cn-shanghai.aliyuncs.com/eas-service/develop:latest"
    }

一键部署服务

您可以将注册好的模型直接部署到EAS,部署时会将您的模型服务部署配置直接透传至EAS的部署配置中。具体操作步骤如下:

  1. 模型管理页面,单击模型列表操作列下的部署至EAS,并按照界面提示进行操作。页面会自动跳转到EAS部署服务页面。

  2. 在部署服务页面,根据模型服务部署配置已预填了模型服务信息区域的关键参数,您仅需配置其他必选参数即可开始部署,配置详情请参见服务部署:控制台