云消息队列 Kafka 版
更新时间:
本文介绍如何在云消息队列 RabbitMQ 版控制台创建消息流出任务,将云消息队列 RabbitMQ 版的数据导出至云消息队列 Kafka 版。
前提条件
创建消息流出任务
登录云消息队列 RabbitMQ 版控制台,然后左侧导航栏选择 。
在顶部菜单栏选择地域,如华东1(杭州),然后在消息流出页面,单击创建任务。
- 在消息流出创建面板,设置任务名称,选择流出类型为消息队列 Kafka版,配置以下信息,然后单击确定。
- 在资源配置区域,设置以下参数。
表 1. 源端消息队列RabbitMQ版参数配置 参数 说明 示例 地域 默认选择创建消息流出任务时选择的地域且不可更改。 华东1(杭州) RabbitMQ 实例 选择生产消息的源云消息队列 RabbitMQ 版实例。 amqp-cn-******lpc00a Vhost 选择源云消息队列 RabbitMQ 版实例的Vhost。 test Queue 选择源云消息队列 RabbitMQ 版实例的Vhost。 queue_test 表 1. 目标端云消息队列 Kafka 版参数配置 参数 说明 示例 实例ID 选择接收源端消息的目标云消息队列 Kafka 版实例。 Alikafka-cn-i7m2slrc**** Topic 选择目标实例的Topic。 topic 确认模式 选择目标端云消息队列 Kafka 版接收到数据后给客户端发出的确认信号。 - None:客户端不需要等待任何确认收到的消息。
- LeaderOnly:等待Leader成功写入而不等待所有备份是否成功写入。
- All:等待Leader和所有备份都成功写入。
LeaderOnly - 在数据处理区域,设置消息的过滤、转换、重试和死信。
- 消息过滤
- 无需过滤:默认投递全部事件。
- 自定义配置:使用事件模式匹配特定事件。详细规则,请参见消息过滤。
- 消息转换
- 默认配置:默认将消息内容或相关属性映射到目标端。映射关系,请参见默认配置映射关系。
- 自定义配置:根据自身需求配置消息体(body)参数,根据自身需求配置自定义参数投递至目标端。
参数 说明 示例 消息体(body) - 数据清洗:数据清洗任务提供基本的算子能力,底层逻辑使用函数计算,可实现分割,映射,富化及动态路由等繁杂数据加工能力。更多信息,请参见使用函数计算实现消息数据清洗。
- 数据提取:通过 JSONPath语法提取消息中的数据,将指定的消息内容路由到目标。配置规则,请参见消息转换。
数据清洗 服务及函数名称 默认创建名称为 <源端服务名称>_<目标端服务名称>_Transform_<TemplateName>_<timestamp>
的服务和函数。当消息体(body)选择数据清洗且选择新建函数模板时,需要配置该参数。RocketMQ_RocketMQ_Transform_Customized_1688540172662 函数模版 选择函数模板。当消息体(body)选择数据清洗且选择新建函数模板时,需要配置该参数。 - 内容分割:根据正则表达式对消息内容进行分割,将分割后的消息逐条发送至目标。
- 内容映射:根据正则表达式对消息内容进行映射处理。例如,屏蔽消息中敏感字段或将消息大小缩减至最小标准。
- 内容富化:根据富化源对消息内容进行富化。如果消息原始内容包含AccountID,处理时根据AccountID查询数据库,获得客户地域后填至源消息体中,并发送至目标服务。
- 动态路由:根据正则表达式匹配消息内容,将匹配成功的消息路由至对应目标,将匹配不成功的消息路由至默认目标。
内容分割 服务 选择进行数据加工的服务。当消息体(body)选择数据清洗且选择绑定现有函数时,需要配置该参数。 test_service 函数 选择进行数据加工的函数。当消息体(body)选择数据清洗且选择绑定现有函数时,需要配置该参数。 test_function 版本和别名 选择版本和别名。当消息体(body)选择数据清洗且选择绑定现有函数时,需要配置该参数。 版本 LATEST
消息键值(Key) 需要投递的事件的过滤属性。配置规则,请参见消息转换。 部分事件 $.data.systemProperties.KEY
- 重试和死信:配置事件推送失败时的重试策略及错误发生时的处理方式。更多信息,请参见重试和死信。
- 消息过滤
- 在资源配置区域,设置以下参数。
- 返回消息流出页面,找到创建好的任务,在其右侧操作列,单击启用。
- 在提示对话框,阅读提示信息,然后单击确认。启用任务后,会有30秒~60秒的延迟时间,您可以在消息流出页面的状态栏查看启动进度。
其他操作
在消息流出页面,找到目标任务,在其右侧操作列,执行其他操作。
- 查看任务详情:单击详情,在消息流出详情页面,查看任务的源端配置、目标端配置及资源信息。
- 编辑任务配置:单击编辑,在消息流出编辑面板,修改资源配置和规则配置。
- 启停任务:单击启用或者停用,然后在提示对话框,单击确认。
- 删除任务:单击删除,然后在提示对话框,单击确认。
反馈
- 本页导读 (1)
文档反馈