您可以在注册模型时对模型做服务部署配置,后续一键部署该模型时,会直接使用该配置,您无需手动编辑模型相关的配置信息,可以提升部署效率。本文为您介绍如何做服务部署配置及一键部署模型服务。
服务部署配置
新模型注册时,您可以在模型服务部署配置中,自定义配置服务部署配置信息。
选中自定义配置,并在文本框中填写部署配置信息。
对于采用自定义镜像部署的模型,部署服务配置样例如下:
{ "containers": [ { "image": "registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz", "env": [ { "name": "var_name", "value": "var_value" } ], "command": "/data/eas/ENV/bin/python /data/eas/app.py", "port": 8000 } ], "storage": [ { "oss": { "readOnly": false }, "properties": { "resource_type": "model" } } ], }
其中参数配置说明,详情请参见服务部署:自定义镜像。EAS更完整的配置及部署方式,详情请参见服务部署。
对于选择预置Processor的模型,部署服务配置样例如下:
{ "processor": "tensorflow_gpu_1.12" }
对于选择自定义Processor的模型,部署服务配置样例如下:
{ "processor_entry": "./service.py", "processor_type": "python", "processor_path": "http://eas-data.oss-cn-shanghai.aliyuncs.com/demo/service.py", "data_image": "registry.cn-shanghai.aliyuncs.com/eas-service/develop:latest" }
一键部署服务
您可以将注册好的模型直接部署到EAS,部署时会将您的模型服务部署配置直接透传至EAS的部署配置中。具体操作步骤如下:
在模型管理页面,单击模型列表操作列下的部署至EAS,并按照界面提示进行操作。页面会自动跳转到EAS部署服务页面。
在部署服务页面,根据模型服务部署配置已预填了模型服务信息区域的关键参数,您仅需配置其他必选参数即可开始部署,配置详情请参见服务部署:控制台。
文档内容是否对您有帮助?