在异步任务处理中,频繁轮询任务结果接口不仅会造成资源浪费,还可能因请求频率过高触发接口限流。阿里云百炼支持通过事件总线在任务完成处理后主动推送任务完成通知。您可以通过配置 HTTP 回调 URL 或 RocketMQ 消息队列来接收通知,在收到通知后,只需一次查询即可获取任务结果,从而避免频繁轮询。
背景介绍
阿里云百炼的异步任务已接入事件总线EventBridge。事件总线作为事件中转服务,负责将事件路由至配置的事件目标(即事件接收端)。本文中提到的“通知”,在事件总线体系中即为一个具体的“事件”。
当阿里云百炼完成异步任务处理后,无论任务成功还是失败,都会生成一个“任务完成事件”(包含任务状态、任务ID等信息),并将其上报到事件总线。事件总线会将该事件推送到您配置的事件目标。更多的事件目标及配置方式请参见事件目标、目标服务类型。
主动轮询 VS 接收异步任务完成通知
对比维度 | 主动轮询 | 接收异步任务完成通知 |
是否限流 | 查询结果接口限流(20QPS) | 不限流 |
接入难度 | 简单,轮询查询结果接口即可 部分任务(如文生图、文生视频)提供了SDK,SDK已实现轮询,可直接使用;若未提供SDK,需自行实现 | 稍复杂 需要在事件总线中配置HTTP回调URL或RocketMQ,还需解析事件总线推送的通知 |
服务器资源消耗 | 轮询会占用您的业务系统资源,尤其是高频查询 | 不占用您的业务系统资源,由事件总线主动推送 |
实时性 | 实时性较低,依赖轮询频率 | 实时性高,任务完成后立即推送 |
选型建议 | 适合低并发、小规模任务,或对实时性要求不高的场景 | 适合高并发、大规模任务,或对实时性要求较高的场景 |
为接收异步任务完成通知,您可以通过事件总线配置事件目标,常见的配置方案包括:
配置HTTP回调URL:需要一个支持公网或阿里云专有网络VPC访问的 HTTP URL,且支持 POST 请求,适合大多数通用场景。
配置RocketMQ:通过云消息队列 RocketMQ 接收事件并进行消费,适用于对消息可靠性要求较高的场景。
方案一:配置HTTP回调URL
方案介绍
阿里云百炼在任务完成后上报至事件总线,事件总线将任务完成事件推送到回调接口。回调接口接收到事件并进行解析,解析出已成功处理的任务 ID,随后只需调用一次查询结果接口即可获取任务结果。
方案特点:与直接轮询相比,该方案有效避免了无效轮询请求,减少资源消耗并降低查询结果接口的限流压力。
计费说明:事件总线计费。
以文生图为例,基于HTTP回调URL的异步调用流程为:
|
操作步骤
步骤1:准备HTTP回调接口
通常情况下,HTTP 回调接口部署在您的业务系统中,用于接收异步事件通知。其配置需满足以下要求:
请求URL:支持公网或阿里云专有网络VPC 访问的 HTTP URL。
请求方式:
POST
。请求Body:
JSON
格式,内容为异步任务完成事件数据。具体事件结构可在事件总线控制台查询,示例如下:
点击查看异步任务完成事件的数据结构
{
"datacontenttype": "application/json;charset=utf-8",
"aliyunaccountid": "xxxxx",
"aliyunpublishtime": "2023-10-25T01:45:16.993Z",
"data": {
"start_time": "2023-10-25 09:45:09",
"user_api_unique_key": "apikey:v1:audio:asr:transcription:paraformer-8k-v1",
"task_status": "SUCCEEDED",
"contain_result": false,
"end_time": "2023-10-25 09:45:16",
"task_id": "a154c328-xxxx-xxxx-xxxx-e52a9a7e9a35",
"region": "cn-beijing",
"request_id": "108f38f5-xxxx-xxxx-xxxx-6504db9080b3",
"api_key_id": "1250"
},
"aliyunoriginalaccountid": "xxxxxxxx",
"specversion": "1.0",
"aliyuneventbusname": "default",
"id": "81765e5b-xxxx-xxxx-xxxx-bbad8dde2bd9",
"source": "acs.dashscope",
"time": "2023-1-25T01:45:16.969Z",
"aliyunregionid": "cn-beijing",
"type": "dashscope:System:AsyncTaskFinish"
}
步骤2:在事件总线控制台查询事件
事件总线控制台支持查询阿里云百炼投递的事件。
登录阿里云主账号,进入事件总线控制台,切换到北京地域,在左侧导航栏选择事件总线,点击default进入云服务专用总线。
阿里云百炼所属的事件总线默认为default。
点击事件追踪,输入查询条件,查询阿里云百炼的异步任务完成事件。
事件源:搜索选择
acs.dashscope
,表示事件来源于 DashScope(即灵积模型服务,属于阿里云百炼的底层服务)。事件类型:搜索选择
dashscope:System:AsyncTaskFinish
,表示异步任务完成事件。
点击事件详情,查看阿里云百炼上报的异步任务完成事件的详细信息。
{ "datacontenttype": "application/json;charset=utf-8", "aliyunaccountid": "xxxxx", "aliyunpublishtime": "2023-10-25T01:45:16.993Z", "data": { "start_time": "2023-10-25 09:45:09", "user_api_unique_key": "apikey:v1:audio:asr:transcription:paraformer-8k-v1", "task_status": "SUCCEEDED", "contain_result": false, "end_time": "2023-10-25 09:45:16", "task_id": "a154c328-xxxx-xxxx-xxxx-e52a9a7e9a35", "region": "cn-beijing", "request_id": "108f38f5-xxxx-xxxx-xxxx-6504db9080b3", "api_key_id": "1250" }, "aliyunoriginalaccountid": "xxxxxxxx", "specversion": "1.0", "aliyuneventbusname": "default", "id": "81765e5b-xxxx-xxxx-xxxx-bbad8dde2bd9", "source": "acs.dashscope", "time": "2023-1-25T01:45:16.969Z", "aliyunregionid": "cn-beijing", "type": "dashscope:System:AsyncTaskFinish" }
点击查看事件的参数描述
参数 | 类型 | 描述 | 示例值 |
datacontenttype | String | 参数data的内容形式。datacontenttype只支持 |
|
aliyunaccountid | String | 阿里云账号ID。 | 123456789098**** |
aliyunpublishtime | String | 接收事件的时间。 | 2020-11-19T21:04:42.179PRC |
data | Object | 事件内容。JSON对象,内容由发起事件的服务决定。CloudEvents可能包含事件发生时由事件生产者给定的上下文,data中封装了这些信息。 | |
data[].start_time | String | 异步任务开始时间, 格式:yyyy-MM-dd HH:mm:ss | 2023-10-25 09:45:09 |
data[].end_time | String | 异步任务完成时间 格式:yyyy-MM-dd HH:mm:ss | 2023-10-25 09:45:16 |
data[].user_api_unique_key | String | API 的唯一key(提交任务时,模型API的五要素),组成格式为:
|
|
data[].task_status | String | 任务状态
| SUCCEEDED |
data[].task_id | String | 任务ID | a154c328-xxxx-xxxx-xxxx-e52a9a7e9a35 |
data[].region | String | 任务所在地域 | cn-beijing |
data[].request_id | String | 请求ID | 108f38f5-xxxx-xxxx-xxxx-6504db9080b3 |
data[].api_key_id | String | API Key ID | 1234 |
aliyunoriginalaccountid | String | 阿里云原始账号ID | 123456789098**** |
specversion | String | CloudEvents协议版本 | 1.0 |
aliyuneventbusname | String | 接收事件的事件总线名称 | default |
id | String | 事件ID,标识事件的唯一值。 | 45ef4dewdwe1-7c35-447a-bd93-fab**** |
source | String | 事件源。 提供事件的服务,标识事件发生的内容。通常包含事件源的类型,发布事件的机制或生产事件的过程。发送端必须确保每个事件的 | acs.dashscope |
time | String | 事件产生的时间。 如果无法确定事件发生的时间,CloudEvents生产者可以把time设置为其他时间(例如当前时间),但是同一个source的所有生产者设置的值必须是一致的。 | 2020-11-19T21:04:41+08:00 |
aliyunregionid | String | 接收事件的地域。 | cn-beijing |
type | String | 事件类型。 描述事件源相关的事件类型。该参数用于路由、事件查询和策略执行等。格式由生产者定义且包含版本等信息。 | dashscope:System:AsyncTaskFinish |
步骤3:配置事件转发规则
在左侧导航栏选择事件规则,单击创建规则。
配置基本信息,自定义规则名称和描述。
配置事件模式:指定需要转发的事件。
事件源:搜索选择
acs.dashscope
,表示事件来源于阿里云百炼。事件类型:搜索选择
dashscope:System:AsyncTaskFinish
,表示异步任务完成事件。模式内容:用来配置过滤条件,可通过指定字段过滤事件。指定字段来源于步骤2中查询到的事件详情字段。模式编写规则请参见事件模式,示例如下:
默认情况:在选择事件源和事件类型后,模式内容默认展示如下内容,表示转发所有的
dashscope:System:AsyncTaskFinish
事件。
{ "source": ["acs.dashscope"], "type": ["dashscope:System:AsyncTaskFinis"] }
通过指定字段过滤事件:筛选出
user_api_unique_key
字段后缀为:paraformer-8k-v1
的事件,即仅转发模型名称为paraformer-8k-v1
的事件。事件类型为dashscope:System:AsyncTaskFinish
。
{ "source": ["acs.dashscope"], "type": ["dashscope:System:AsyncTaskFinish"], "data": { "user_api_unique_key": [ {"suffix": ":paraformer-8k-v1"} ] } }
配置事件目标:支持配置多种类型的事件目标,包括HTTP回调URL、RocketMQ消息队列等。具体操作见步骤4。
步骤4:配置事件目标为HTTP回调接口
配置事件目标:将事件转发到HTTP回调URL。
服务类型:选择“HTTP”。
URL:填写HTTP服务地址。
Body:选择“完整事件”。
网络类型:根据服务地址选择。
HTTP支持公网和专用网络两种类型,当选择专用网络时,需要配置VPC、vSwitch和SecurityGroup。
点击确认即可完成规则的修改。查看事件目标,如果有HTTP样式,则代表配置成功。
方案二:配置RocketMQ
方案介绍
阿里云百炼在任务完成后上报至事件总线,事件总线将任务完成事件推送到云消息队列RocketMQ。业务方监听消息队列并消费消息,解析出已成功处理的任务 ID,随后只需调用一次查询结果接口即可获取任务结果。
方案特点:与HTTP回调接口方案不同的是,RocketMQ 能够保证消息无丢失并支持失败重试,适合对消息可靠性要求较高的场景。
计费说明:事件总线计费、RocketMQ计费。
以文生图为例,基于RocketMQ的异步调用流程为:
|
操作步骤
步骤1:准备RocketMQ实例(若已有RocketMQ队列,可跳过此步)
通过RocketMQ消息队列接收事件,需要先准备好RocketMQ队列,再接收消息。
进入RocketMQ控制台,在左侧导航栏选择实例列表,单击创建实例。
实例ID:示例为
rmq-cn-nwy*******
。创建对应实例的
Topic
,设置自定义的Topic名称。创建对应实例的
Group
,设置自定义的Group名称。
步骤2:在事件总线控制台查询事件
事件总线控制台支持查询阿里云百炼投递的事件。
登录阿里云主账号,进入事件总线控制台,切换到北京地域,在左侧导航栏选择事件总线,点击default进入云服务专用总线。
阿里云百炼所属的事件总线默认为default。
点击事件追踪,输入查询条件,查询阿里云百炼的异步任务完成事件。
事件源:搜索选择
acs.dashscope
,表示事件来源于 DashScope(即灵积模型服务,属于阿里云百炼的底层服务)。事件类型:搜索选择
dashscope:System:AsyncTaskFinish
,表示异步任务完成事件。
点击事件详情,查看阿里云百炼上报的异步任务完成事件的详细信息。
{ "datacontenttype": "application/json;charset=utf-8", "aliyunaccountid": "xxxxx", "aliyunpublishtime": "2023-10-25T01:45:16.993Z", "data": { "start_time": "2023-10-25 09:45:09", "user_api_unique_key": "apikey:v1:audio:asr:transcription:paraformer-8k-v1", "task_status": "SUCCEEDED", "contain_result": false, "end_time": "2023-10-25 09:45:16", "task_id": "a154c328-xxxx-xxxx-xxxx-e52a9a7e9a35", "region": "cn-beijing", "request_id": "108f38f5-xxxx-xxxx-xxxx-6504db9080b3", "api_key_id": "1250" }, "aliyunoriginalaccountid": "xxxxxxxx", "specversion": "1.0", "aliyuneventbusname": "default", "id": "81765e5b-xxxx-xxxx-xxxx-bbad8dde2bd9", "source": "acs.dashscope", "time": "2023-1-25T01:45:16.969Z", "aliyunregionid": "cn-beijing", "type": "dashscope:System:AsyncTaskFinish" }
点击查看事件的参数描述
参数 | 类型 | 描述 | 示例值 |
datacontenttype | String | 参数data的内容形式。datacontenttype只支持 |
|
aliyunaccountid | String | 阿里云账号ID。 | 123456789098**** |
aliyunpublishtime | String | 接收事件的时间。 | 2020-11-19T21:04:42.179PRC |
data | Object | 事件内容。JSON对象,内容由发起事件的服务决定。CloudEvents可能包含事件发生时由事件生产者给定的上下文,data中封装了这些信息。 | |
data[].start_time | String | 异步任务开始时间, 格式:yyyy-MM-dd HH:mm:ss | 2023-10-25 09:45:09 |
data[].end_time | String | 异步任务完成时间 格式:yyyy-MM-dd HH:mm:ss | 2023-10-25 09:45:16 |
data[].user_api_unique_key | String | API 的唯一key(提交任务时,模型API的五要素),组成格式为:
|
|
data[].task_status | String | 任务状态
| SUCCEEDED |
data[].task_id | String | 任务ID | a154c328-xxxx-xxxx-xxxx-e52a9a7e9a35 |
data[].region | String | 任务所在地域 | cn-beijing |
data[].request_id | String | 请求ID | 108f38f5-xxxx-xxxx-xxxx-6504db9080b3 |
data[].api_key_id | String | API Key ID | 1234 |
aliyunoriginalaccountid | String | 阿里云原始账号ID | 123456789098**** |
specversion | String | CloudEvents协议版本 | 1.0 |
aliyuneventbusname | String | 接收事件的事件总线名称 | default |
id | String | 事件ID,标识事件的唯一值。 | 45ef4dewdwe1-7c35-447a-bd93-fab**** |
source | String | 事件源。 提供事件的服务,标识事件发生的内容。通常包含事件源的类型,发布事件的机制或生产事件的过程。发送端必须确保每个事件的 | acs.dashscope |
time | String | 事件产生的时间。 如果无法确定事件发生的时间,CloudEvents生产者可以把time设置为其他时间(例如当前时间),但是同一个source的所有生产者设置的值必须是一致的。 | 2020-11-19T21:04:41+08:00 |
aliyunregionid | String | 接收事件的地域。 | cn-beijing |
type | String | 事件类型。 描述事件源相关的事件类型。该参数用于路由、事件查询和策略执行等。格式由生产者定义且包含版本等信息。 | dashscope:System:AsyncTaskFinish |
步骤3:配置事件转发规则
在左侧导航栏选择事件规则,单击创建规则。
配置基本信息,自定义规则名称和描述。
配置事件模式:指定需要转发的事件。
事件源:搜索选择
acs.dashscope
,表示事件来源于阿里云百炼。事件类型:搜索选择
dashscope:System:AsyncTaskFinish
,表示异步任务完成事件。模式内容:用来配置过滤条件,可通过指定字段过滤事件。指定字段来源于步骤2中查询到的事件详情字段。模式编写规则请参见事件模式,示例如下:
默认情况:在选择事件源和事件类型后,模式内容默认展示如下内容,表示转发所有的
dashscope:System:AsyncTaskFinish
事件。
{ "source": ["acs.dashscope"], "type": ["dashscope:System:AsyncTaskFinis"] }
通过指定字段过滤事件:筛选出
user_api_unique_key
字段后缀为:paraformer-8k-v1
的事件,即仅转发模型名称为paraformer-8k-v1
的事件。事件类型为dashscope:System:AsyncTaskFinish
。
{ "source": ["acs.dashscope"], "type": ["dashscope:System:AsyncTaskFinish"], "data": { "user_api_unique_key": [ {"suffix": ":paraformer-8k-v1"} ] } }
配置事件目标:支持配置多种类型的事件目标,包括HTTP回调URL、RocketMQ消息队列等。具体操作见步骤4。
步骤5:在RocketMQ控制台查看消息
步骤6:使用SDK接收并消费消息
使用RocketMQ的Java SDK实现以下逻辑:先订阅相关Topic,实现消息监听逻辑。在接收到消息后,再进行消费处理。
下面展示RocketMQ 5.0版本的Java客户端示例代码。
在Maven项目中,引入以下依赖
<dependency>
<groupId>org.apache.rocketmq</groupId>
<artifactId>rocketmq-client-java</artifactId>
<version>5.0.4</version>
</dependency>
消费MQ消息的示例代码
import com.alibaba.fastjson2.JSON;
import org.apache.rocketmq.client.apis.*;
import org.apache.rocketmq.client.apis.consumer.ConsumeResult;
import org.apache.rocketmq.client.apis.consumer.FilterExpression;
import org.apache.rocketmq.client.apis.consumer.FilterExpressionType;
import org.apache.rocketmq.client.apis.consumer.PushConsumer;
import org.apache.rocketmq.shaded.org.slf4j.Logger;
import org.apache.rocketmq.shaded.org.slf4j.LoggerFactory;
import java.io.IOException;
import java.nio.ByteBuffer;
import java.util.Collections;
public class ConsumerExample {
private static final Logger LOGGER = LoggerFactory.getLogger(ConsumerExample.class);
private ConsumerExample() {
}
public static void main(String[] args) throws ClientException, IOException, InterruptedException {
/*
实例接入点,从控制台实例详情页的接入点页签中获取。
如果是在阿里云ECS内网访问,建议填写VPC接入点。
如果是在本地公网访问,或者是线下IDC环境访问,可以使用公网接入点。使用公网接入点访问,必须开启实例的公网访问功能。
*/
String endpoints = "xxxx";
//指定需要订阅哪个目标Topic,Topic需要提前在控制台创建,如果不创建直接使用会返回报错。
String topic = "xxxx";
//为消费者指定所属的消费者分组,Group需要提前在控制台创建,如果不创建直接使用会返回报错。
String consumerGroup = "xxxx";
final ClientServiceProvider provider = ClientServiceProvider.loadService();
ClientConfigurationBuilder builder = ClientConfiguration.newBuilder().setEndpoints(endpoints);
/*
如果是使用公网接入点访问,configuration还需要设置实例的用户名和密码。用户名和密码在控制台实例详情页获取。
如果是在阿里云ECS内网访问,无需填写该配置,服务端会根据内网VPC信息智能获取。
*/
builder.setCredentialProvider(new StaticSessionCredentialsProvider("xxxx", "xxxx"));
ClientConfiguration clientConfiguration = builder.build();
//订阅消息的过滤规则,表示订阅所有Tag的消息。
String tag = "*";
FilterExpression filterExpression = new FilterExpression(tag, FilterExpressionType.TAG);
//初始化SimpleConsumer,需要绑定消费者分组ConsumerGroup、通信参数以及订阅关系。
PushConsumer pushConsumer = provider.newPushConsumerBuilder()
.setClientConfiguration(clientConfiguration)
//设置消费者分组。
.setConsumerGroup(consumerGroup)
//设置预绑定的订阅关系。
.setSubscriptionExpressions(Collections.singletonMap(topic, filterExpression))
//设置消费监听器。
.setMessageListener(messageView -> {
try {
//处理消息并返回消费结果。
ByteBuffer buffer = messageView.getBody();
ByteBuffer newBuffer = ByteBuffer.allocate(buffer.capacity());
for (int i = 0; i < buffer.capacity(); i++) {
newBuffer.put(buffer.get(i));
}
String result = new String(newBuffer.array());
LOGGER.info("Consume message={}", JSON.toJSONString(result));
System.out.println(result);
return ConsumeResult.SUCCESS;
} catch (Exception e) {
LOGGER.error("deal message has error", e);
return ConsumeResult.FAILURE;
}
})
.build();
Thread.sleep(Long.MAX_VALUE);
//如果不需要再使用PushConsumer,可关闭该进程。
pushConsumer.close();
}
}
常见问题
一个事件规则可以配置多个事件目标吗?
可以,同一个事件规则可以配置多个事件目标。如果配置多个事件目标,则同一个事件会投递到配置的每个事件目标中。
配置完事件规则,但是接收不到事件?
请确认事件转发规则的地域与事件所属地域一致。例如,北京地域配置的规则仅能转发北京地域的事件,无法转发上海等地域的事件。事件总线所在地域请参见下图。
HTTP/HTTPS服务请求超时或者请求错误?
请按以下步骤排查:
检查HTTP/HTTPS服务状态。
检查事件目标中配置的 URL 是否正确。
检查事件目标配置的Network类型:
PublicNetwork:公网,需确保 URL 可被公网访问。
PrivateNetwork:VPC网络,若选择此项,需正确配置VPC、vSwitch和SecurityGroup信息。
检查VPC网络和交换机配置是否正确。
检查网络安全组配置是否正确。
其他参数配置:请参见事件目标参数。