大模型产品计费

使用时发生余额不足、欠费等情况请直接前往费用与成本页面充值需要的金额。

预付费方法：

• 模型推理（调用）：单击此处购买大语言模型推理节省计划。

• 模型部署：请前往模型部署控制台模型部署（点击右上角“资源池管理”）购买实例或查看已购买的实例信息。

• 模型训练：不支持预付费。

您可以在费用与成本中心设置高额消费预警。

按量、按调用量计费方式无法关闭，您只要不再使用百炼的功能，就不会产生费用。

为防止意外的API调用费用，您可以删除百炼的API Key。

您也可以设置高额消费预警，将预警阈值设置为一个较低值，阿里云将在产生意外扣费时通知您，避免您产生更多损失。

Token是模型用来表示自然语言文本的基本单位，可以直观地理解为“字”或“词”。

• 对于中文文本，1个Token通常对应一个汉字或词语。例如，“你好，我是通义千问”会被转换成['你好', '，', '我是', '通', '义', '千', '问']。

• 对于英文文本，1个Token通常对应3至4个字母或1个单词。例如，"Nice to meet you."会被转换成['Nice', ' to', ' meet', ' you', '.']。

不同的大模型切分Token的方法可能不同。您可以使用SDK在本地查看经过通义千问模型切分后的Token数据。

查看经过通义千问模型切分后的Token数据：

# 运行前请 pip install dashscope
from dashscope import get_tokenizer

# 获取tokenizer对象，目前只支持通义千问系列模型
tokenizer = get_tokenizer('qwen-turbo')

input_str = '通义千问具有强大的能力。'

# 将字符串切分成token并转换为token id
tokens = tokenizer.encode(input_str)
print(f"经过切分后的token id为：{tokens}。")
print(f"经过切分后共有{len(tokens)}个token")

# 将token id转化为字符串并打印出来
for i in range(len(tokens)):
    print(f"token id为{tokens[i]}对应的字符串为：{tokenizer.decode(tokens[i])}")

// Copyright (c) Alibaba, Inc. and its affiliates.
// dashscope SDK版本 >= 2.13.0
import java.util.List;
import com.alibaba.dashscope.exception.NoSpecialTokenExists;
import com.alibaba.dashscope.exception.UnSupportedSpecialTokenMode;
import com.alibaba.dashscope.tokenizers.Tokenizer;
import com.alibaba.dashscope.tokenizers.TokenizerFactory;

public class Main {
  public static void testEncodeOrdinary(){
    Tokenizer tokenizer = TokenizerFactory.qwen();
    String prompt ="如果现在要你走十万八千里路，需要多长的时间才能到达？ ";
    // encode string with no special tokens
    List<Integer> ids = tokenizer.encodeOrdinary(prompt);
    System.out.println(ids);
    String decodedString = tokenizer.decode(ids);
    assert decodedString == prompt;
  }

  public static void testEncode() throws NoSpecialTokenExists, UnSupportedSpecialTokenMode{
    Tokenizer tokenizer = TokenizerFactory.qwen();
    String prompt = "<|im_start|>system\nYour are a helpful assistant.<|im_end|>\n<|im_start|>user\nSanFrancisco is a<|im_end|>\n<|im_start|>assistant\n";
    // encode string with special tokens <|im_start|> and <|im_end|>
    List<Integer> ids = tokenizer.encode(prompt, "all");
    // 24 tokens [151644, 8948, 198, 7771, 525, 264, 10950, 17847, 13, 151645, 198, 151644, 872, 198, 23729, 80328, 9464, 374, 264, 151645, 198, 151644, 77091, 198]
    String decodedString = tokenizer.decode(ids);
    System.out.println(ids);
    assert decodedString == prompt;

  }

  public static void main(String[] args) {
      try {
        testEncodeOrdinary();
        testEncode();
      } catch (NoSpecialTokenExists | UnSupportedSpecialTokenMode e) {
        e.printStackTrace();
      }
  }
}

本地运行的tokenizer可以用来估计文本的Token量，但是得到的结果不保证与模型服务端完全一致，仅供参考。如果您对通义千问的tokenizer细节感兴趣，请参考： tokenizer参考。

当然您可以在百炼控制台-模型观测页面查看您某个具体模型的调用次数和消耗Token数。

在多轮对话中，历史对话的输入输出都会作为新一轮的模型输入 token 进行计费。

如果您需要进一步提高模型的QPM或TPM，请发送邮件至modelstudio@service.aliyun.com进行申请，并在邮件中告知阿里云主账号uid、期望申请的模型和QPM和TPM。申请通过后，您可以在模型广场中找到目标模型并单击查看详情，查看更新后的限流数据。

如果是独立部署的模型，部署完成后控制台有按钮可以操作扩容，详情请查看模型部署。

只创建应用不会收费。但如果调用应用进行了问答，则会根据调用的模型类型收取模型调用费用。

会，如果您主动取消训练，之前已产生的费用仍会被计算。其他原因导致的训练中断，百炼平台不会向您收取训练费用。

当模型完成部署，即状态为运行中时，开始收取模型部署的费用。模型状态为部署中、欠费、部署失败时，均不会计费。

如果是包月预付费，模型状态为运行中后，开始消耗包月时间。

没有暂停计费的方法，但您可以通过以下方式终止计费：

对于包月预付费实例，您可以在下线实例后，在退订管理页面，退订购买的预付费资源。退订时，将从实付金额中扣除已消费金额，退回剩余金额。具体说明请参考退订说明。

按小时、按模型调用量付费的实例，您可以下线实例。实例下线后，将不再产生模型部署费用。

模型评测是否产生费用取决于评测的对象：

• 对已经部署的模型进行评测：只收取模型部署费用，评测不额外收费。

• 对其他模型进行评测：按照 Token 消耗量计费。

1. 服务未开通

• 登录费用与成本页面，检查目标API服务是否已激活。

• 若未开通，根据页面提示完成服务开通或联系客服授权。

2. 账户余额不足

• 余额核查：登录费用与成本页面，确认余额是否充足。

• 充值操作：点击充值按钮，输入所需金额并完成支付。

3. 设置消费预警（防止重复报错）

• 预警配置：请参见“如何预警大额计费”，设定消费阈值，系统将在触达该金额时发送提醒。

在成本分析页面，成本类型选择应付金额，时间粒度选择月，选择时间范围（假设为2024年12月），产品选择大模型服务平台百炼，即可查看所选时间范围内百炼的成本支出。

在成本分析页面，成本类型选择应付金额，时间粒度选择月，选择时间范围（假设为2024年07月～12月），产品明细选择百炼大模型推理，即可查看所选时间范围内模型推理总花费。

以模型 qwen-max 为例。在账单详情页面，选择账单月份，再选择商品名称为百炼大模型推理，单击搜索。

在资产/资源实例ID列找到所有与qwen-max相关的实例。将这些实例对应的应付金额相加，即可得出所选账期内调用qwen-max模型进行模型推理所支付的费用。

自2024年9月7日以后产生的大模型推理账单，可通过ApiKeyID、业务空间ID、模型名称、输入/输出类型、调用渠道进行分账。

在账单详情页面，选择账单月份，再选择商品名称为百炼大模型推理，单击搜索。将搜索结果下载到本地，按照资产/资源实例ID列的内容进行分账。

完整的资产/资源实例ID，例如12xxx;llm-xxx;qwen-max;output_token;app，依次表示ApiKeyID;业务空间ID;模型名称;输入/输出类型;调用渠道。如果您的资产/资源实例ID中没有包含ApiKeyID，则表示该收费项是通过控制台调用产生的。

完整的实例ID，例如text_token;llm-xxx;qwen-max;output_token;app，依次表示计费类型;业务空间ID;模型名称;输入/输出类型;调用渠道。

您可以前往百炼API Key管理查看API Key与ApiKeyID的对应关系。

调用渠道包括app、bmp及assistant-api。app表示通过应用调用模型，bmp表示通过控制台首页或模型体验调用模型，assistant-api表示通过Assistant API调用模型。

阿里云扣费顺序请前往阿里云后付费账单扣款顺序查询。