预置吞吐单元（PTU）计费模式

PTU定义

支持的模型

PTU计费模式目前仅支持部署以下5种预置模型，每个模型 PTU 的最小购买单位、每PTU所对应的 TPM 或 QPM 都不同。

如模型实际的TPM超过了部署时购买的PTU所能承载的TPM值时会报限流错误（错误代码：429），建议您等待重试或进行PTU的扩容。

计费模式对比

按PTU 和按 Tokens 调用量计费都属于模型部署时的计费方式，但适用场景不同。

部署流程

以下是通过阿里云百炼控制台以PTU模式进行部署的流程。目前，PTU 模式不支持通过 API 部署。

• 前往模型部署，点击部署新模型。

• 选择预置模型、选择预置吞吐单元计费方式，设置模型名称并开始部署。

• 部署状态为运行中时，代表该模型可以进行推理并开始计费。

部署后调用

模型部署成功后，支持通过 DashScope、 OpenAI 兼容、使用大模型、LangChain及 Assistant SDK 进行调用。

调用部署成功后的模型，model的取值应为模型部署成功后的模型 code 。请您前往模型部署界面获取模型 code 。

import os
from openai import OpenAI

client = OpenAI(
        # 若没有配置环境变量，请用百炼API Key将下行替换为：api_key="sk-xxx",
        api_key=os.getenv("DASHSCOPE_API_KEY"),
        base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    )

completion = client.chat.completions.create(
        model="qwen-plus-d824b8ad<请替换为模型部署成功后的code作为模型名称>",
        messages=[
            {"role": "system", "content": "You are a helpful assistant."},
            {"role": "user", "content": "你是谁？"},
        ],
          # Qwen3模型通过enable_thinking参数控制思考过程（开源版默认True，商业版默认False）
         # 使用Qwen3开源版模型时，若未启用流式输出，请将下行取消注释，否则会报错
         # extra_body={"enable_thinking": False}
    ) 

print(completion.choices[0].message.content)

import os
import dashscope

messages = [
    {'role': 'system', 'content': 'You are a helpful assistant.'},
    {'role': 'user', 'content': '你是谁？'}
]

response = dashscope.Generation.call(
    # 若没有配置环境变量，请用百炼API Key将下行替换为：api_key="sk-xxx",
    api_key=os.getenv('DASHSCOPE_API_KEY'),
    model="qwen-plus-d824b8ad<请替换为模型部署成功后的code作为模型名称>",
    messages=messages,
    result_format='message'
)
print(response)

模型扩缩容

按 PTU 方式部署的模型支持进行扩缩容，您可以根据您的模型所需的吞吐量调整 PTU 的数量。

部署服务下线

如果不再需要模型部署服务，需要停止服务计费，请您按照此操作下线部署服务，下线后将不再产生计费：

• 前往模型部署，找到要下线的部署服务，点击下线并确认。

  

• 部署状态显示“下线中”时，请耐心等待。直到该服务消失后，下线操作全部完成。

调用统计

PTU创建成功后，您可在模型观测页面查看 PTU 利用率的变化。

PTU 部署利用率 = 时间段内消耗的吞吐单元数量 / 时间段内部署的吞吐单元数量

常见问题