TPM 预留

前提条件：已开通百炼模型服务，已创建业务空间。登录百炼控制台，单击创建 TPM 预留。

1. 填写以下参数：

   参数	说明	必填	取值说明
   预留名称	自定义名称，便于识别。	是	≤ 50 个字符
   选择模型	选择需要预留容量的模型。提交后自动生成专属模型 code。	是	仅支持已开放 TPM 预留的模型，以控制台展示为准。
   付费周期	计费周期。	是	按天
   输入 TPM	预留的输入吞吐量，单位 kTPM（1 kTPM = 1,000 Tokens/分钟）。	是	起步和步长因模型而异，以控制台展示为准。
   输出 TPM	预留的输出吞吐量，单位 kTPM。	是	起步和步长因模型而异，以控制台展示为准。
   购买时长	预留的有效时长。	是	支持多种选择。
   到期自动续费	到期前一天 08:00 自动扣款续费。默认开启。	否	开启 / 关闭
   单次续费时长	每次自动续费的时长。	否	与购买时长取值一致。

2. 确认参数后单击立即购买，在费用确认弹窗中核对费用，单击确认支付。

3. 在 TPM 预留详情页的概览 Tab，找到专属模型 code，单击复制。

4. 将 API 请求中的 model 参数替换为复制的专属模型 code：

   前提条件：已创建 TPM 预留实例且状态为运行中。

   Python

   # 短时间内请求量快速拉升时，系统需要短暂预热以匹配所需算力
   # 预热期间部分请求可能出现延迟波动，预热完成后恢复稳定。
   # 请做好请求排队或重试机制。
   
   import dashscope
   
   response = dashscope.Generation.call(
       api_key="your-api-key",
       model="your-dedicated-model-code",   # 替换为专属模型 code
       messages=[{"role": "user", "content": "你好"}],
   )
   print(response.output.text)

   curl

   # 短时间内请求量快速拉升时，系统需要短暂预热以匹配所需算力
   # 预热期间部分请求可能出现延迟波动，预热完成后恢复稳定。
   # 请做好请求排队或重试机制。
   curl -X POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions \
     -H "Authorization: Bearer $DASHSCOPE_API_KEY" \
     -H "Content-Type: application/json" \
     -d '{"model":"your-dedicated-model-code","messages":[{"role":"user","content":"你好"}]}'

容量计算器

创建页面右侧提供容量计算器，帮助您根据业务负载估算需要购买的 TPM 额度。填写以下参数后，计算器自动输出推荐的输入 TPM 和输出 TPM。

预留详情

单击目标模型卡片进入详情页，包含以下 3 个 Tab：

管理操作

在详情页概览 Tab 的预留列表中，找到目标实例，通过操作列执行以下操作：