使用JSON配置文件部署服务

参数

是否必选

描述

computing

instances

否

使用公共资源组部署服务时，需设置该参数，表示使用的资源规格列表。当实例规格竞价失败或库存不足时，按照配置顺序依次尝试使用下一个实例规格创建服务。

• type: 资源规格

• spot_price_limit为可选参数：

  • 当配置该参数时：表示对应实例规格使用竞价实例，并指明价格上限。单位为CNY，支持按量付费。

  • 当不配置该参数时：表示对应实例规格为普通的按量付费实例。

• capacity：配置使用该机型的副本数目上限。可以是数字，如“500”；也可以是字符串，如“20%”。配置后，如果机型副本数目达到上限，即使该机型还有库存资源也不会再使用。 

  例如：服务总的副本数为200，配置A机型的capacity为20%，即该服务最多只会使用A机型拉起40个实例，其余的实例将通过其他规格拉起。

disable_spot_protection_period

否

使用竞价实例时，需设置该参数，取值如下：

• false（默认值）：表示在竞价实例创建成功后，默认有1小时保护期。在保护期内即使市场价格超过了出价，实例也不会被释放。

• true：表示禁用保护期，无保护期实例会始终比有保护期实例优惠10%左右。

networking

vpc_id

否

专有网络VPC

vswitch_id

否

交换机

security_group_id

否

安全组

destination_cidrs

否

若所配置的交换机网段与 EAS 管控网段（10.224.0.0/16 或 10.240.0.0/12）存在冲突，请将此字段显式设置为您的交换机网段（即 VSwitch 的 CIDR）。
示例：

"cloud": {
    "networking": {
      "destination_cidrs": "10.241.28.0/22"
    }
  } 

其中 10.241.28.0/22 请替换为您实际使用的 VSwitch 网段。

参数

是否必选

描述

image

是

使用镜像部署时必填。用于部署模型服务的镜像地址。

env

name

否

镜像执行时的环境变量名称。

value

否

镜像执行时的环境变量取值。

command

二者必选其一

镜像的入口命令，只支持单一命令形式，不支持复杂脚本，如：cd xxx && python app.py，这种形式请使用下面的script参数指定，command字段适应于镜像中无/bin/sh命令的场景。

script

镜像的入口执行的脚本，可指定较为复杂的脚本形式，多行以\n或分号分隔。

port

否

容器端口。

prepare

pythonRequirements

否

实例启动前安装的python requirements列表，要求镜像中在系统路径中存在python和pip命令，list格式，如：

"prepare": {
  "pythonRequirements": [
    "numpy==1.16.4",
    "absl-py==0.11.0"
  ]
}

pythonRequirementsPath

否

实例启动前安装的python requirements.txt文件地址，要求镜像中在系统路径中存在Python和pip命令，requirements.txt可直接打在镜像中，也可以由外部存储挂载的方式挂载到服务实例中，如：

"prepare": {
  "pythonRequirementsPath": "/data_oss/requirements.txt"
}

参数

是否必选

描述

gateway

否

为EAS服务配置的专属网关。

gateway_policy

否

• rate_limit：服务的全局限流，即服务每秒接收的最大请求数。

  • enable：是否打开限流。取值true表示打开限流，false表示关闭限流。

  • limit：限流值。

    说明

    共享网关的服务会默认配置单服务为 1000qps，服务群组为 10000qps。专属网关无默认值。

• concurrency_limit：服务的全局并发控制，即服务瞬时正在处理的最大请求数。应用型专属网关（ALB）暂不支持该设置。

  • enable：是否打开限流。取值true表示打开限流，false表示关闭限流。

  • limit：限流值。

限流配置示例：

{
    "networking": {
        "gateway_policy": {
            "rate_limit": {
                "enable": true,
                "limit": 100
            },
            "concurrency_limit": {
                "enable": true,
                "limit": 50
            }
        }
    }
}

参数

是否必选

描述

type

否

支持配置以下两种存储类型：

• maxcompute：大数据MaxCompute。

• sls：日志服务SLS。

config

maxcompute.project

否

MaxCompute项目名称。

maxcompute.table

否

MaxCompute数据表。

sls.project

否

SLS项目名称。

sls.logstore

否

SLS的Logstore。