QPS是衡量接口每秒可处理请求量的核心性能指标,影响服务的实时响应能力。本文介绍QPS的定义、QPS扩容流程和QPS在不同计费方式中如何体现等内容。
什么是QPS
QPS(Query Per Second)是指每秒钟请求或任务的数量,并发数是指系统同时处理的请求或任务的数量,QPS=并发数/平均响应时间。
例如,人脸检测1:1能力平均响应时间为500ms(0.5s),您拥有4个并发,则需要购买的QPS为:4/0.5=8。如果您不想启动全部并发,可根据实际业务需求套用公式。
QPS限制逻辑
QPS是每秒钟调用次数,如果超出QPS,那么超出的部分将在调用的时候返回限流错误,错误类似:
{
"RequestId": "15C865AD-8C45-512F-B4E5-8963DB190181",
"HostId": "facebody.cn-shanghai.aliyuncs.com",
"Code": "Throttling",
"Message": "调用被限流,请稍后再调用,或者购买QPS提升调用限制",
"Recommend": "https://next.api.aliyun.com/troubleshoot?q=Throttling&product=facebody"
}
例如,您通过计费规则或者查看控制台得知某能力的QPS为2,而在一秒内调用了3次,那么前2次将调用成功,第3次会被限流且返回以上错误信息,同时第3次调用不计费(视觉智能开放平台所有能力只有调用成功才会计费)。QPS仅限制一秒内的调用次数,不会累加到上一秒调用次数。如果下一秒内又调用2次,那么这2次都将调用成功。
QPS扩容流程
视觉智能开放平台能力在开通后都有一个默认的QPS限制:
当实际调用频率未超过默认QPS限制时,可正常调用。
当实际调用频率超出默认QPS限制时,会触发限流并导致调用报错,您可以通过购买预付费资源包或购买预付费QPS两种方式扩容QPS。
如果购买预付费资源包后,QPS限制仍无法满足您的业务需求,请参考计费方式查看该能力是否支持预付费QPS:
如果支持,您可以继续购买预付费QPS,进一步扩容QPS。
如果不支持,请通过搜索钉钉群(23109592)加入视觉智能开放平台咨询群联系技术支持人员。
如果购买预付费QPS后,QPS限制仍无法满足您的业务需求,您可以进行QPS升配。当前人脸人体支持购买或升配的最大为50 QPS,分割抠图为30 QPS,目标检测和视频生产为100 QPS。如果升配后的QPS限制仍无法满足您的业务需求,请通过搜索钉钉群(23109592)加入视觉智能开放平台咨询群联系技术支持人员。
QPS与计费方式的关系
使用视觉智能开放平台服务时,大部分能力都会限制QPS,具体的QPS限制和每个能力的计费方式有关。
计费方式 | QPS说明 | 计费维度 | QPS限制的生效时间 | 优先级 |
计费方式 | QPS说明 | 计费维度 | QPS限制的生效时间 | 优先级 |
按量计费 | 如果您仅开通服务,可根据计费详情下的按量计费价格表,查看各能力的默认QPS限制。 | 按照调用次数或输出视频时长等维度计费。 | 开通服务后立即生效。 人脸人体类目下的指纹提取能力在开通服务并通过审核后,必须先购买QPS才能调用。 | 如果您同时购买了资源包和预付费QPS,扣费顺序为: 预付费QPS>预付费资源包>按量计费 因此,当预付费QPS到期后,QPS限制会自动调整为预付费资源包模式对应的QPS限制;当预付费资源包点数耗尽或过期后,将自动调整为按量计费模式对应的QPS限制(即系统默认的QPS限制)。 您可以在视觉智能开放平台控制台查看每个能力当前的QPS阈值。 |
预付费资源包 | 购买资源包后,使用资源包的点数进行抵扣。 | 次日早上8点后提升QPS限制。 | ||
预付费QPS | 购买预付费QPS后,系统将免除调用次数产生的费用。 | 购买QPS后立即生效。 |
案例说明
例如,您想使用人脸比对1:1(CompareFace)功能,2023年2月18号开通了人脸人体类目能力,2023年2月20号购买了图像通用资源包,2023年2月22号购买了10 QPS的人脸比对1:1预付费QPS,购买了2天时间,您的QPS限制规则如下:
时间 | QPS | 说明 |
时间 | QPS | 说明 |
2023年2月18号~2023年2月21号8点 | 2 | 按照开通服务后按量付费的规则计算。 |
2023年2月21号8点~2023年2月22号 | 5 | 购买资源包后,次日8点QPS限制生效。 |
2023年2月22号~2023年2月24号 | 10 | 购买预付费QPS后,QPS限制立即生效,有效期为2天。 |
2023年2月25号~资源包耗尽或者过期 | 5 | 预付费QPS到期,自动变更为资源包对应的QPS。 |
资源包耗尽或者过期以后 | 2 | 资源包耗尽或者过期,自动变更为按量付费对应的QPS。 |
相关文档
更多有关QPS的常见问题,请参见计费定价类。
- 本页导读 (1)
- 什么是QPS
- QPS限制逻辑
- QPS扩容流程
- QPS与计费方式的关系
- 案例说明
- 相关文档