为什么限制Topic总数(分区总数)?

Topic总数(分区总数)太多会使集群性能稳定性能急剧下降。云消息队列 Kafka 版 的存储和协调机制是以分区为粒度的,分区数太多,会导致存储碎片化严重,集群性能稳定性都会急剧下降。

MQTT与RocketMQ的消息结构映射

消息结构映射 云消息队列 MQTT 版 云消息队列 RocketMQ 版 都是基于发布/订阅(Pub/Sub)模型的消息系统,两者概念上存在很多相似之处,下图列举了关键概念的区别映射关系。如上图所示,在 云消息队列 MQTT 版 中Topic是多级结构,而 ...

队列(MessageQueue)

云消息队列 RocketMQ 版 的所有主题都是由多个队列组成,以此实现队列数量的水平拆分和队列内部的流式存储。队列的主要作用如下:存储顺序性 队列天然具备顺序性,即消息按照进入队列的顺序写入存储,同一队列间的消息天然存在顺序关系,...

基本概念

云消息队列 RocketMQ 版 的所有主题都是由多个队列组成,以此实现队列数量的水平拆分和队列内部的流式存储。队列通过QueueId来做唯一标识和区分。更多信息,请参见 队列(MessageQueue)。消息(Message)消息是 云消息队列 RocketMQ 版 中...

消息存储和清理机制

背景信息 参考 云消息队列 RocketMQ 版 中 队列 的定义,消息按照达到服务器的先后顺序被存储到队列中,理论上每个队列都支持无限存储。但是在实际部署场景中,服务端节点的物理存储空间有限,消息无法做到永久存储。因此,在实际使用中...

API概览

主题是云消息队列 RocketMQ 版中消息传输和存储的顶层容器,用于标识同一类业务逻辑的消息。在消息收发模型中,生产者将消息发送至主题,消费者通过订阅指定的主题来消费其中的消息。UpdateTopic 更新主题 更新主题的备注信息。DeleteTopic...

存储费用

包年包月按量付费计费方式下,存储费用为 云消息队列 RocketMQ 版 的必选计费项,系统会根据实例的存储空间占用量进行计费。计费说明 项目 说明 计费公式 存储费用=存储空间×存储单价×存储时长 存储空间的值取计费周期(1小时)内起始...

常见问题

本文汇总了使用 云消息队列 RocketMQ 版 时的常见问题。产品功能常见问题 云消息队列 RocketMQ 版5.0系列相比4.0系列实例有什么优势?云消息队列 RocketMQ 版5.0系列实例兼容哪些版本客户端?云消息队列 RocketMQ 版支持哪些语言客户端?云...

数据加密

存储加密 使用限制 地域限制存储加密暂时仅华东1(杭州)、华东2(上海)、华北2(北京)、华北3(张家口)、华南1(深圳)、华南3(广州)、中国香港、印度(孟买)、新加坡、菲律宾(马尼拉)、泰国(曼谷)地域支持,其他地域将陆续...

常见问题

本文汇总了使用 云消息队列 RocketMQ 版 时的常见问题。产品功能常见问题 消息队列RocketMQ版5.x系列相比4.x系列实例有什么优势?消息队列RocketMQ版5.x系列实例兼容哪些版本客户端?消息队列RocketMQ版支持哪些语言客户端?消息队列...

消息(Message)

系统默认的消息最大限制如下:普通顺序消息:4 MB 事务定时或延时消息:64 KB 使用建议 单条消息不建议传输超大负载 作为一款消息中间件产品,云消息队列 RocketMQ 版 一般传输的是都是业务事件数据。单个原子消息事件的数据大小需要...

什么是云消息队列 MQTT 版

在该模型中消息的生产者消费者都是分布在终端设备,通过MQTT协议连接到 云消息队列 MQTT 版 产品。根据以上两种消息收发模型,可以将使用 云消息队列 MQTT 版 的开发人员分为终端云端两大类。两类开发人员所需的二次开发内容请分别参见...

使用限制

针对队列模式的限制和限制值,请参见下表。限制限制值 说明 命名长度 120字符 超过该限制队列创建失败。队列数量 1000个 无 消息大小 64 KB 超过该限制,消息会被丢弃。批量接口 16条 无 长轮询 30秒 无 消息保存时间 7天 超过时间...

开源对比

出于可用性可靠性考虑,业界通常都是3副本存储存储压力大。治理能力 项目 云消息队列 Kafka 版 Apache Kafka 版本升级 一键自助升级。手工操作易出错。Metrics曲线 能看到完整Metrics曲线,追踪流量、排查问题必备。只能看到实时...

主题(Topic)

模型关系 在整个 云消息队列 RocketMQ 版 的领域模型中,主题所处的流程位置如下:主题是 云消息队列 RocketMQ 版 的顶层存储,所有消息资源的定义在主题内部完成,但主题是一个逻辑概念,并不是实际的消息容器。主题内部由多个队列...

集群消费广播消费

集群消费广播消费是 云消息队列 RocketMQ 版 的基本消费模式,您可以在消费者客户端将消费模式设置为集群消费或者广播消费,用于控制同一条消息只能被集群内一个消费者消费到,还是会被集群内每个消费者消费到。背景信息 云消息队列 ...

使用限制

限制限制值 说明 限制Topic总数(分区总数)支持 云消息队列 Kafka 版 的存储和协调机制是以分区为粒度的,Topic总数(分区总数)太多,会导致存储碎片化,集群性能稳定性下降。Topic减少对应分区 不支持 这是Apache Kafka自身设计所...

使用限制

云消息队列 RocketMQ 版 对某些具体指标进行了约束规范,您在使用 云消息队列 RocketMQ 版 时注意不要超过相应的限制值,以免程序出现异常。限制限制值 说明 Topic名称长度 64个字符 Topic名称长度不得超过该限制,否则会导致无法发送...

顺序消息

在 云消息队列 RocketMQ 版 中,消息的顺序需要由以下三个阶段保证:消息发送 如上图所示,A1、B1、A2、A3、B2、B3是订单A订单B的消息产生的顺序,业务上要求同一订单的消息保持顺序,例如订单A的消息发送消费按照A1、A2、A3的顺序。...

基本概念

本文说明 云消息队列 Kafka 版 涉及的专有名词术语,帮助您更好地理解相关概念并使用该产品。Apache Kafka 一款开源的分布式数据流处理平台,可以实时发布、订阅、存储和处理数据流。更多信息,请参见 Apache Kafka。云消息队列 Kafka 版...

迁移概述

由于ProducerConsumer都是集群化的,您可以通过一台一台机器操作的方式实现上层业务无感知。迁移方式 迁移路由 借助工具迁移 迁移说明 迁移不会删除自建的源Kafka集群的TopicGroup,只是在目标 云消息队列 Kafka 版 实例中创建相同配置...

消费进度管理

消费进度原理 消息位点(Offset)参考 云消息队列 RocketMQ 版 主题 队列 的定义,消息是按到达服务端的先后顺序存储在指定主题的多个队列中,每条消息在队列中都有一个唯一的Long类型坐标,这个坐标被定义为消息位点。任意一个消息队列...

MQTT快速入门

注意事项 云消息队列 MQTT 版 需搭配后端消息存储队列一起使用,具体说明如下:云消息队列 MQTT 版 实例是一个无状态网关类型实例,用来完成IoT移动场景下的客户端连接维持消息转发,本身并不提供消息数据持久化功能,具体的消息存储和...

领域模型概述

消息存储 主题(Topic):云消息队列 RocketMQ 版 消息传输和存储的分组容器,主题内部由多个队列组成,消息的存储和水平扩展实际是通过主题内的队列实现的。队列(MessageQueue):云消息队列 RocketMQ 版 消息传输和存储的实际单元容器,...

名词解释

在使用 云消息队列 MQTT 版 前,需理解该产品MQTT协议所涉及的基本概念术语。基本概念 实例(Instance)创建购买 云消息队列 MQTT 版 服务的实体单元,每个 云消息队列 MQTT 版 实例对应一个全局唯一的服务接入点URL。使用 云消息...

直播互动解决方案

需要注意的是 云消息队列 MQTT 版 限制父级Topic子级Topic的总长度为64个字符,如果超出长度限制将会导致客户端异常。您可以使用 MQTT.fx客户端 验证子级Topic发布订阅消息。Client ID 云消息队列 MQTT 版 的Client ID是每个客户端的...

实例管理

实例是用于 云消息队列 RocketMQ 版 服务的虚拟机资源,会存储消息主题(Topic)客户端ID(Group ID)信息。使用 云消息队列 RocketMQ 版 进行消息收发,必须先创建 云消息队列 RocketMQ 版 实例。本文介绍如何在 云消息队列 RocketMQ 版...

产品架构

本文介绍 云消息队列 Kafka 版 的系统架构发布/订阅模型。云消息队列 Kafka 版 系统架构 如 云消息队列 Kafka 版的系统架构 所示,一个 云消息队列 Kafka 版 集群包括Producer、Kafka Broker、Group、ZooKeeper。图 1.云消息队列 Kafka ...

基于Flink的资讯场景实时数仓

本文介绍如何针对资讯聚合类业务场景搭建基于 云消息队列 Kafka 版 实时计算Flink的实时数仓。场景描述 本文首先介绍什么是实时数仓以及相关技术架构,接着介绍资讯聚合类业务的典型场景及其业务目标,并据此设计了相应的技术架构。然后...

创建资源

前提条件 开通服务并授权 创建实例并获取接入点 实例是用于 云消息队列 MQTT 版 服务的虚拟机资源,会存储消息主题(Topic)客户端相关(Group ID)信息。登录 云消息队列 MQTT 版 控制台,并在左侧导航栏单击 实例列表。在顶部菜单栏...

消息存活时间

本文介绍 云消息队列 RabbitMQ 版 消息存活时间的核心概念、应用场景、注意事项设置方式。什么是消息存活时间 在 云消息队列 RabbitMQ 版 中,消息存活时间用于限制消息在Queue中可以存在的时间,如果消息在Queue中存在的时间超过了设置...

开源RabbitMQ迁移上云

创建Shovel任务,将Source配置为开源RabbitMQ集群的服务地址和队列名称,Destination配置为 云消息队列 RabbitMQ 版 的EndPoint和队列名称。EndPoint的查看方式,请参见 查看实例详情 修改开源RabbitMQ队列消费者的接入点、用户名、密码,...

迁移元数据上云

使用限制 由于RabbitMQ 云消息队列 RabbitMQ 版 在权限管控机制等方面存在差异,rabbit_version、users、permissions、parameters、global_parameters policies 元数据不支持导入 云消息队列 RabbitMQ 版 实例,在导入时会被自动忽略...

步骤二:创建资源

CreateInstance-创建实例(RocketMQ API)或 CreateInstance-创建实例(阿里云交易账单管理API)CreateTopic-创建主题(RocketMQ API)CreateConsumerGroup-创建消费者分组(RocketMQ API)使用限制 地域限制 请确保您创建的 云消息队列 ...

消息查询

云消息队列 RocketMQ 版 提供了三种消息查询的方式,分别是按Message ID、Message Key以及Topic查询。您可以通过消息查询验证消息是否发送成功、验证消息发送的内容是否正确、以及进一步查看消息的轨迹信息。查询方式说明 由于消息在 云...

实例升降配

当您的业务规模扩大或者为了应对临时的流量高峰,您可以升级实例配置(例如提高消息收发TPS峰值、存储空间、公网带宽等),以提高实例的处理能力处理规模。您也可以在业务不活跃时,降低对应实例的配置,避免浪费资源,并降低成本。本文...

定时/延时消息

定时/延时消息为 云消息队列 RocketMQ 版 中的高级特性消息,本文为您介绍定时/延时消息的应用场景、功能原理、使用限制、使用方法使用建议。应用场景 说明 定时消息延时消息本质相同,都是服务端根据消息设置的定时时间在某一固定时刻...

订阅关系(Subscription)

本文介绍 云消息队列 RocketMQ 版 中订阅关系(Subscription)的定义、模型关系、内部属性及使用建议。定义 订阅关系是 云消息队列 RocketMQ 版 系统中消费者获取消息、处理消息的规则状态配置。订阅关系由消费者分组动态注册到服务端...

客户端连接常见问题

需要注意的是 云消息队列 MQTT 版 限制父级Topic子级Topic的总长度为64个字符,如果超出长度限制将会导致客户端异常。您可以使用 MQTT.fx客户端 验证子级Topic发布订阅消息。为什么控制台显示的订阅关系数比实际使用的高很多?当 ...

产品功能

资源支持 云消息队列 RabbitMQ 版 兼容开源RabbitMQ的各个组件:Queue:支持消息存储,支持集群消费模式。说明 云消息队列 RabbitMQ 版 内部暂未实现消息优先级的处理逻辑,您的客户端通过可选队列参数 x-max-priority 声明的优先级队列...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
对象存储 文件存储 CPFS 云消息队列 RocketMQ 版 云消息队列 Kafka 版 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用