模型部署

模型类别

支持的模型

为什么选择模型部署

预置模型

（百炼支持的标准模型）

获得高并发量、高推理性能（低延迟）的推理服务。

自定义模型

（百炼平台调优后的模型）

模型调优支持的模型

部署后，模型才能用于推理或评测。

获得高并发量、高推理性能（低延迟）的推理服务。

1. 前往阿里云百炼-模型部署，点击部署新模型。

2. 选择模型、计费方式，设置模型名称并开始部署。

3. 部署状态为运行中时，代表该模型可以进行推理并开始计费。

4. 使用 DashScope API 调用模型，这里需要传入模型部署成功后的model作为模型名称。

import os
import dashscope

messages = [
    {'role': 'system', 'content': 'You are a helpful assistant.'},
    {'role': 'user', 'content': '你是谁？'}
]
response = dashscope.Generation.call(
    # 若没有配置环境变量，请用百炼API Key将下行替换为：api_key="sk-xxx",
    api_key=os.getenv('DASHSCOPE_API_KEY'),
    model="qwen-plus-d824b8ad<请替换为部署成功后的model名称>",
    messages=messages,
    result_format='message'
)
print(response)

（支持 DashScope、LlamaIndex、LangChain、Assistant SDK，不支持 OpenAI 兼容）

计费方式

支持的模型

是否支持自助扩缩容

（即最大并发量可动态调节）

计费最小单位

优点

缺点

包时（后付费）

所有可部署模型

支持

小时

-

-

包月（预付费）

所有可部署模型

支持

天

1. 比“包时”计费便宜。

-

按调用量（后付费）

只支持部分基于通义千问 2、通义2.5的自定义模型

不支持

提高最大并发量需要在控制台提交申请，并等待百炼平台的人工审核。

token

1. 不使用不计费。

2. 不使用一个月后自动释放。

1. 支持的模型种类少。

模型名称

每实例参考处理能力

qwen-plus

70 QPM

计费方式

计费公式

按使用时长计费/后付费

费用 = 使用时长（小时）× 实例数量 × 模型对应的实例单价（不满1小时按1小时计费）

部署前可以在模型部署控制台查看不同模型的预估每小时费用。

包月计费/预付费

费用 = 购买时长（月）× 实例数量 × 模型对应的实例单价

购买实例：请前往模型部署控制台（点击右上角的资源池管理）购买。

退订实例：请前往退订管理退订。退订后，将根据未用时长退回未使用金额。（不满1天按1天计费）

模型服务

独占实例资源规格

实例单价（后付费，按量）

实例单价（预付费，包月）

悦动人像EMO-detect-deployment

轻量版

20元/实例/小时

10,000元/月

悦动人像EMO-deployment

舞动人像AnimateAnyone-detect

舞动人像AnimateAnyone

通义万相-文本生成图像-0521

通义千问-Turbo

基础版

40元/实例/小时

20,000元/月

通义千问1.5-开源版-7B

通义千问1.5-开源版-14B

基于通义千问2-开源版-7B训练出来的模型

基础版v2-Qwen2

-

20,000元/月

通义千问-Plus

标准版

160元/实例/小时

80,000元/月

通义千问1.5-开源版-72B

通义千问1.5-开源版-110B

基于通义千问2-开源版-72B训练出来的模型

标准版v2-Qwen2

-

80,000元/月

通义千问-Max

高级版

320元/实例/小时

160,000元/月

基于通义千问VL-Plus训练出来的模型

-

40元/实例/小时

-

基于通义千问VL-Max-0201训练出来的模型

-

160元/实例/小时

-