获取模型部署的配置文件( EAS InferenceSpec)
调试
您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。
调试
授权信息
请求语法
GET /api/v2/modelgallery/models/{ModelId}/deployment-spec HTTP/1.1
路径参数
|
名称 |
类型 |
必填 |
描述 |
示例值 |
| ModelId |
string |
是 |
实际部署模型 ID。与获取 ProfileId(ListModelDeploymentProfiles)时请求一致。 |
model-gfo1kjy***dbw4fa37 |
请求参数
|
名称 |
类型 |
必填 |
描述 |
示例值 |
| ModelVersion |
string |
是 |
模型版本。与获取 ProfileId(ListModelDeploymentProfiles)时响应中 ModelVersion 一致。 |
1.0.0 |
| WorkspaceId |
string |
是 |
工作空间 ID。可通过 ListWorkspaces 获取。 |
295949 |
| ProfileId |
string |
是 |
部署方案 ID。 |
prf_5cd37a1c7eaa***c6829dbb02 |
| BizKey |
string |
否 |
业务规则键。与获取 ProfileId(ListModelDeploymentProfiles)时请求一致。 |
cmu-biz |
| ResourceSelections |
string |
否 |
URL 编码后的 ResourceSelection JSON 数组;省略时不覆盖模板资源。 JSON 字段说明:
同一项同时传入多个具体资源字段时,渲染优先级为 QuotaId、ResourceId、InstanceType。ResourceType 不决定该优先级 |
%7B%22MemberType%22%3A%22Default%22%7D |
返回参数
|
名称 |
类型 |
描述 |
示例值 |
|
object |
返回结构体。 |
||
| RequestId |
string |
请求 ID。 |
B6B54325-C98C-5937-87A3-2F96C07652EC |
| InferenceSpec |
object |
EAS 部署模板,采用开放对象。 格式参见 JSON 部署。 |
{ "containers": [ { "image": "eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/sglang:v0.5.17", "port": 8000, "script": "python -m sglang.launch_server *** --port 8000" } ], "metadata": { "cpu": 248, "disk": 850, "gpu": 8, "instance": 1, "memory": 2744000, "shm_size": 512 } } |
示例
正常返回示例
JSON格式
{
"RequestId": "B6B54325-C98C-5937-87A3-2F96C07652EC",
"InferenceSpec": {
"containers": [
{
"image": "eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/sglang:v0.5.17",
"port": 8000,
"script": "python -m sglang.launch_server *** --port 8000"
}
],
"metadata": {
"cpu": 248,
"disk": 850,
"gpu": 8,
"instance": 1,
"memory": 2744000,
"shm_size": 512
}
}
}
错误码
访问错误中心查看更多错误码。
变更历史
更多信息,参考变更详情。