计量计费
在您调用通义千问的API时会产生一定的费用,模型调用也有限流条件。本文介绍了计费单元、计费单价、您可免费使用的额度以及模型的限流条件。
通义千问
计费单元
模型服务 | 计费单元 |
通义千问 | token |
Token是模型用来表示自然语言文本的基本单位,可以直观的理解为“字”或“词”。对于中文文本来说,1个token通常对应一个汉字;对于英文文本来说,1个token通常对应3至4个字母。
通义千问模型服务根据模型输入和输出的token数量进行计量计费,其中多轮对话中的history作为输入也会进行计量计费。每一次模型调用产生的实际token数量可以从 response 中获取。
字符串与token之间的互相转换
不同的大模型切分token的方法可能不同。您可以使用SDK在本地查看经过通义千问模型切分后的token数据。
# 运行前请 pip install tiktoken
from dashscope import get_tokenizer # dashscope版本 >= 1.14.0
# 获取tokenizer对象,目前只支持通义千问系列模型
tokenizer = get_tokenizer('qwen-turbo')
input_str = '通义千问具有强大的能力。'
# 将字符串切分成token并转换为token id
tokens = tokenizer.encode(input_str)
print(f"经过切分后的token id为:{tokens}。")
print(f"经过切分后共有{len(tokens)}个token")
# 将token id转化为字符串并打印出来
for i in range(len(tokens)):
print(f"token id为{tokens[i]}对应的字符串为:{tokenizer.decode(tokens[i])}")
// Copyright (c) Alibaba, Inc. and its affiliates.
// dashscope SDK版本 >= 2.13.0
import java.util.List;
import com.alibaba.dashscope.exception.NoSpecialTokenExists;
import com.alibaba.dashscope.exception.UnSupportedSpecialTokenMode;
import com.alibaba.dashscope.tokenizers.Tokenizer;
import com.alibaba.dashscope.tokenizers.TokenizerFactory;
public class Main {
public static void testEncodeOrdinary(){
Tokenizer tokenizer = TokenizerFactory.qwen();
String prompt ="如果现在要你走十万八千里路,需要多长的时间才能到达? ";
// encode string with no special tokens
List<Integer> ids = tokenizer.encodeOrdinary(prompt);
System.out.println(ids);
String decodedString = tokenizer.decode(ids);
assert decodedString == prompt;
}
public static void testEncode() throws NoSpecialTokenExists, UnSupportedSpecialTokenMode{
Tokenizer tokenizer = TokenizerFactory.qwen();
String prompt = "<|im_start|>system\nYour are a helpful assistant.<|im_end|>\n<|im_start|>user\nSanFrancisco is a<|im_end|>\n<|im_start|>assistant\n";
// encode string with special tokens <|im_start|> and <|im_end|>
List<Integer> ids = tokenizer.encode(prompt, "all");
// 24 tokens [151644, 8948, 198, 7771, 525, 264, 10950, 17847, 13, 151645, 198, 151644, 872, 198, 23729, 80328, 9464, 374, 264, 151645, 198, 151644, 77091, 198]
String decodedString = tokenizer.decode(ids);
System.out.println(ids);
assert decodedString == prompt;
}
public static void main(String[] args) {
try {
testEncodeOrdinary();
testEncode();
} catch (NoSpecialTokenExists | UnSupportedSpecialTokenMode e) {
e.printStackTrace();
}
}
}
本地运行的tokenizer可以用来估计文本的token量,但是得到的结果不保证与模型服务端完全一致,仅供参考。如果您对通义千问的tokenizer细节感兴趣,请参考: tokenizer参考
计费单价
模型服务 | 模型规格 | 输入(input)价格 | 输出(output)价格 | 计费模式 |
Qwen-Long | qwen-long | 0.0005元/1,000 tokens | 0.002元/1,000 tokens | 后付费 |
通义千问-Turbo | qwen-turbo | 0.002元/1,000 tokens | 0.006元/1,000 tokens | 后付费 |
qwen-turbo-0206 | ||||
qwen-turbo-0624 | ||||
通义千问-Plus | qwen-plus | 0.004元/1,000 tokens | 0.012元/1,000 tokens | 后付费 |
qwen-plus-0206 | ||||
qwen-plus-0624 | ||||
通义千问-Max | qwen-max | 0.04元/1,000 tokens | 0.12元/1,000 tokens | 后付费 |
qwen-max-0428 | 0.04元/1,000 tokens | |||
qwen-max-0403 | 0.04元/1,000 tokens | |||
qwen-max-0107 | 0.04元/1,000 tokens | |||
qwen-max-1201 | 0.12元/1,000 tokens | |||
qwen-max-longcontext | 0.04元/1,000 tokens |
模型名称变更通知:
qwen-turbo
原来为qwen-v1
。qwen-v1
计费与qwen-turbo
保持一致。qwen-v1
模型已弃用,请使用qwen-turbo
。qwen-plus
原来为qwen-plus-v1
。qwen-plus-v1
计费与qwen-plus
保持一致。qwen-plus-v1
模型已弃用,请使用qwen-plus
。
免费额度
模型服务 | 模型名 | 免费额度 |
Qwen-Long | qwen-long | 100万tokens 领取方式:开通阿里云百炼服务后,自动发放; 有效期:30天 |
通义千问-Turbo | qwen-turbo | |
qwen-turbo-0206 | ||
qwen-turbo-0624 | ||
通义千问-Plus | qwen-plus | |
qwen-plus-0206 | ||
qwen-plus-0624 | ||
通义千问-Max | qwen-max | |
qwen-max-0428 | ||
qwen-max-0403 | ||
qwen-max-0107 | ||
qwen-max-1201 | ||
qwen-max-longcontext |
基础限流
为了保证用户调用模型的公平性,通义千问系列模型设置了基础限流。限流是基于模型维度的,并且和调用用户的阿里云主账号相关联,按照该账号下所有API-KEY调用该模型的总和计算限流。如果超出调用限制,用户的API请求将会因为限流控制而失败,用户需要等待一段时间待满足限流条件后方能再次调用。
模型服务 | 模型名 | 基础限流 | 超出基础限流申请 |
Qwen-long | qwen-long | 以下条件任何一个超出都会触发限流:
| 暂无申请方式 |
通义千问-Turbo | qwen-turbo | 以下条件任何一个超出都会触发限流:
| |
qwen-turbo-0206 | 以下条件任何一个超出都会触发限流:
| 暂无申请方式 | |
qwen-turbo-0624 | 以下条件任何一个超出都会触发限流:
| ||
通义千问-Plus | qwen-plus | 以下条件任何一个超出都会触发限流:
| |
qwen-plus-0206 | 以下条件任何一个超出都会触发限流:
| 暂无申请方式 | |
qwen-plus-0624 | 以下条件任何一个超出都会触发限流:
| ||
通义千问-Max | qwen-max | 以下条件任何一个超出都会触发限流(限时免费开放中,限流策略可能随时变化):
| |
qwen-max-0428 | |||
qwen-max-0403 | |||
qwen-max-1201 | |||
qwen-max-0107 | 以下条件任何一个超出都会触发限流(限时免费开放中,限流策略可能随时变化):
| ||
qwen-max-longcontext | 以下条件任何一个超出都会触发限流:
|
查看账单
有关账单详情请前往阿里云用户中心查询。