创建部署

参数

类型

传参方式

必选

说明

model_name

String

body

是

待部署的模型名称，对应我的模型中的模型 ID。也可通过创建训练任务或创建导入任务接口的输出获取。

plan

String

body

是

部署方案，支持以下计费模式：

调优后的模型支持的部署方式可以在我的模型中快速查询到。

name

String

body

否

模型的控制台显示名称。如果不传该参数，将自动使用 model_name 的值作为部署名称。

capacity

Integer

body

否

仅"plan": "mu"时必填，部署使用的资源单元数量，需为base_capacity的整数倍。不同deploy_spec的取值约束不同，例如MU2必须为 8 的倍数，MU5可填 1。样例："capacity": 1。

billing_method

String

body

否

仅"plan": "mu"时必填，计费方式。当前支持"POST_PAY"（后付费）。样例："billing_method": "POST_PAY"。

deploy_spec

String

body

否

仅"plan": "mu"时，可填写该设置。

具体支持情况请参考：模型单元部署的功能支持情况。

当设置"plan": "mu"时，该参数必须填写。样例："deploy_spec": "MU1"。

enable_thinking

Boolean

body

否

部分模型支持，可设置为true或false。

max_context_length

Number

body

否

部分模型支持。样例："max_context_length": 131072。

rpm_limit

Number

body

否

部分模型支持， requests per minute，每分钟请求数。

tpm_limit

Number

body

否

部分模型支持， token per minute，每分钟 Token 使用量。

ptu_capacity

Object

body

否

仅"plan": "ptu"时，可填写该设置。

具体支持情况请参考：PTU部署的功能支持情况。

如果不填写该参数，将默认按照 10,000 input_tpm 和 1,000 output_tpm 进行设置。

当设置"plan": "ptu"时，该参数才生效。

样例："ptu_capacity": { "input_tpm": 10000, "output_tpm": 1000 }。

ptu_capacity.input_tpm

Number

body

否

所有模型支持，input token pre-minute，部署的模型每分钟支持的最大输入 Token 量。

ptu_capacity.output_tpm

Number

body

否

所有模型支持，output token pre-minute，部署的模型每分钟支持的最大输出 Token 量。

ptu_capacity.thinking_output_tpm

Number

body

否

部分模型支持，thinking output token pre-minute，部署的模型每分钟支持的预置思考最大输出 Token 量。

suffix

String

body

否

模型部署后，将生成新的模型名称，suffix 用于指定新模型名称的后缀，最大长度为8个字符且需全局唯一。每个模型在首次部署时，可以不指定后缀。如果需要对同一模型进行多次部署，则必须设置后缀以便于区分。

参考输出参数 deployed_model。

aigc_config

Object

body

否

视频生成 LoRA 模型的提示词配置。仅适用于万相视频生成模型（wan 系列），wan2.7-image-pro 不支持此参数。包含以下子字段：

• use_input_prompt (Boolean, 必填)：是否使用调用方传入的 Prompt。false=使用下方预设模板，true=使用推理 API 传入的 Prompt。默认 false。

• prompt (String, 必填)：预设 Prompt 模板。仅在 use_input_prompt=false 时生效，将覆盖推理 API 传入的 prompt。

• lora_prompt_default (String, 必填)：兜底 Prompt 模板。当 prompt 字段配置失效时使用的回退模板。

参数

类型

说明

request_id

String

本次请求的ID。

output

Object

本次部署任务的详细信息。

deployed_model

String

新模型的唯一标识。可用于查询部署详情、修改部署限流、部署扩缩容、删除部署等接口，也在发起模型调用请求时通过SDK参数传入。

gmt_create

String

创建部署任务的时间。

gmt_modified

String

修改部署任务的时间。

status

String

部署任务的状态。

• PENDING：正在创建部署任务。

• UPDATING：正在更新部署任务。

• RUNNING：部署任务正在运行，此时已部署的模型可以正常处理请求。

• STOPPED：部署任务已经停止，此时的部署任务不会被计费。

• DELETING：正在删除部署任务。

• FAILED：部署任务创建或更新失败。

model_name

String

部署任务使用的模型名称。

base_model

String

部署任务使用的模型对应的基础模型ID。

base_capacity

Number

基础模型运行所需的最小资源单元数量。

ready_capacity

Number

已就绪并可立即处理请求的资源单元数量。受限于资源初始化速度或硬件状态。

workspace_id

String

部署任务所属的业务空间ID。

charge_type

String

部署任务的扣费方法。

post_paid：后付费。

creator

String

该部署任务创建人UID。

modifier

String

对该部署任务进行最后一次操作的账号UID。

plan

String

部署任务的计费模式。（部分模式不显示该参数）

仅模型单元部署方式响应

model_unit_spec

String

模型单元规格。

enable_thinking

Boolean

是否开启思考模式，部分模型支持。

max_context_length

Number

最大上下文长度限制。

rpm_limit

String

Requests per minute，每分钟请求数。

tpm_limit

Number

Token per minute，每分钟 Token 使用量。

仅预置吞吐量（ptu）部署方式响应

ptu_capacity

Object

当设置"plan": "ptu"时，该参数才生效。

样例："ptu_capacity": { "input_tpm": 10000, "output_tpm": 1000 }。

ptu_capacity.input_tpm

Number

所有模型支持，input token pre-minute，部署的模型每分钟支持的最大输入 Token 量。

ptu_capacity.output_tpm

Number

所有模型支持，output token pre-minute，部署的模型每分钟支持的最大输出 Token 量。

ptu_capacity.thinking_output_tpm

Number

部分模型支持，thinking output token pre-minute，部署的模型每分钟支持的预置思考最大输出 Token 量。

字段

类型

描述

request_id

String

本次请求的系统唯一码。

code

String

错误码。

message

String

错误信息。

错误码

错误信息

错误原因

NotFound

Model: xxx not found!

• 创建部署任务时指定了不存在的模型。

• 查询/更新/删除部署任务时指定了不存在的模型。

Conflict

Deployed model xxx already exists, please specify a suffix.

创建部署任务时使用了已使用过的suffix。

InvalidParameter

Invalid capacity (xx), capacity must be larger than or equal to 0 and multiples of 1 and less than 1000!

创建/更新部署任务时指定了无效的算力单元数量。