没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
试读
14页
《RocketMQ高级原理:深入剖析消息系统的核心机制》的关键内容,涵盖RocketMQ的基础组件、消息存储机制、刷盘方式、主从复制、负载均衡、消息重试、死信队列和幂等性等核心概念。RocketMQ作为一款高性能、高可用的分布式消息中间件,广泛应用于互联网和企业级应用。文章解析了RocketMQ中消息生产者、消费者、Broker服务器的工作原理,同时详细讨论了消息存储的机制、如何通过不同的刷盘方式和主从复制确保消息的可靠性和高可用性。此外,还探讨了RocketMQ在负载均衡、消息重试、死信队列处理和保证消息幂等性方面的策略和实现方式,为开发人员和架构师提供了深入理解RocketMQ内部工作机制的宝贵资料。
资源推荐
资源详情
资源评论
一、基础概念:
1 消息模型(Message Model)
2 消息生产者(Producer)
3 消息消费者(Consumer)
4 主题(Topic)
5 代理服务器(Broker Server)
6 名字服务(Name Server)
7 消息(Message)
二、消息存储
1、何时存储消息
2、消息存储介质
2.1磁盘保存文件慢吗?
2.2零拷贝技术加速文件读写
3 消息存储结构
4 刷盘机制
5 消息主从复制
6 负载均衡
6.1Producer负载均衡
6.2 Consumer负载均衡
1、集群模式
2、广播模式
7、消息重试
1、如何让消息进行重试
2、重试消息如何处理
8、死信队列
9、消息幂等
1、幂等的概念
2、消息幂等的必要性
3、处理方式
前面的部分我们都是为了快速的体验RocketMQ的搭建和使用。这一部分,我们慢下来,总结并学习下
RocketMQ底层的一些概念以及原理,为后面的深入学习做准备。
一、基础概念:
这一部分我们先来总结下RocketMQ的一些重要的基础概念:
1 消息模型(Message Model)
RocketMQ主要由 Producer、Broker、Consumer 三部分组成,其中Producer 负责生产消息,
Consumer 负责消费消息,Broker 负责存储消息。Broker 在实际部署过程中对应一台服务器,每个
Broker 可以存储多个Topic的消息,每个Topic的消息也可以分片存储于不同的 Broker。Message
Queue 用于存储消息的物理地址,每个Topic中的消息地址存储于多个 Message Queue 中。
ConsumerGroup 由多个Consumer 实例构成。
2 消息生产者(Producer)
负责生产消息,一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到
broker服务器。RocketMQ提供多种发送方式,同步发送、异步发送、顺序发送、单向发送。同步和异
步方式均需要Broker返回确认信息,单向发送不需要。
生产者中,会把同一类Producer组成一个集合,叫做生产者组,这类Producer发送同一类消息且发送
逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃,则Broker服务器会联系同一生产者组
的其他生产者实例以提交或回溯消费。
3 消息消费者(Consumer)
负责消费消息,一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提
供给应用程序。从用户应用的角度而言提供了两种消费形式:拉取式消费、推动式消费。
拉取式消费的应用通常主动调用Consumer的拉消息方法从Broker服务器拉消息、主动权由应用控
制。一旦获取了批量消息,应用就会启动消费过程。
推动式消费模式下Broker收到数据后会主动推送给消费端,该消费模式一般实时性较高。
消费者同样会把同一类Consumer组成一个集合,叫做消费者组,这类Consumer通常消费同一类消息
且消费逻辑一致。消费者组使得在消息消费方面,实现负载均衡和容错的目标变得非常容易。要注意的
是,消费者组的消费者实例必须订阅完全相同的Topic。RocketMQ 支持两种消息模式:集群消费
(Clustering)和广播消费(Broadcasting)。
集群消费模式下,相同Consumer Group的每个Consumer实例平均分摊消息。
广播消费模式下,相同Consumer Group的每个Consumer实例都接收全量的消息。
4 主题(Topic)
表示一类消息的集合,每个主题包含若干条消息,每条消息只能属于一个主题,是RocketMQ进行消息
订阅的基本单位。
同一个Topic下的数据,会分片保存到不同的Broker上,而每一个分片单位,就叫做MessageQueue。
MessageQueue是生产者发送消息与消费者消费消息的最小单位。
5 代理服务器(Broker Server)
消息中转角色,负责存储消息、转发消息。代理服务器在RocketMQ系统中负责接收从生产者发送来的
消息并存储、同时为消费者的拉取请求作准备。代理服务器也存储消息相关的元数据,包括消费者组、
消费进度偏移和主题和队列消息等。
Broker Server是RocketMQ真正的业务核心,包含了多个重要的子模块:
Remoting Module:整个Broker的实体,负责处理来自clients端的请求。
Client Manager:负责管理客户端(Producer/Consumer)和维护Consumer的Topic订阅信息
Store Service:提供方便简单的API接口处理消息存储到物理硬盘和查询功能。
HA Service:高可用服务,提供Master Broker 和 Slave Broker之间的数据同步功能。
Index Service:根据特定的Message key对投递到Broker的消息进行索引服务,以提供消息的快
速查询。
而Broker Server要保证高可用需要搭建主从集群架构。RocketMQ中有两种Broker架构模式:
普通集群:
这种集群模式下会给每个节点分配一个固定的角色,master负责响应客户端的请求,并存储消息。
slave则只负责对master的消息进行同步保存,并响应部分客户端的读请求。消息同步方式分为同步同
步和异步同步。
这种集群模式下各个节点的角色无法进行切换,也就是说,master节点挂了,这一组Broker就不可用
了。
Dledger高可用集群:
Dledger是RocketMQ自4.5版本引入的实现高可用集群的一项技术。这个模式下的集群会随机选出一个
节点作为master,而当master节点挂了后,会从slave中自动选出一个节点升级成为master。
Dledger技术做的事情:1、接管Broker的CommitLog消息存储 2、从集群中选举出master节点 3、完
成master节点往slave节点的消息同步。
Dledger的关键部分是在他的节点选举上。Dledger是使用Raft算法来进行节点选举的。这里简单介绍下
Raft算法的选举过程:
首先:每个节点有三个状态,Leader,follower和candidate(候选人)。正常运行的情况下,集群
中会有一个leader,其他都是follower,follower只响应Leader和Candidate的请求,而客户端的
请求全部由Leader处理,即使有客户端请求到了一个follower,也会将请求转发到leader。
集群刚启动时,每个节点都是follower状态,之后集群内部会发送一个timeout信号,所有
follower就转成candidate去拉取选票,获得大多数选票的节点选为leader,其他候选人转为
follower。如果一个timeout信号发出时,没有选出leader,将会重新开始一次新的选举。而
Leader节点会往其他节点发送心跳信号,确认他的leader状态。
-- 然后会启动定时器,如果在指定时间内没有收到Leader的心跳,就会转为Candidate状态,然
后向其他成员发起投票请求,如果收到半数以上成员的投票,则Candidate会晋升为Leader。然
后leader也有可能会退化成follower。
然后,在Raft协议中,会将时间分为一些任意时间长度的时间片段,叫做term。term会使用一
个全局唯一,连续递增的编号作为标识,也就是起到了一个逻辑时钟的作用。
在每一个term时间片里,都会进行新的选举,每一个Candidate都会努力争取成为leader。获
得票数最多的节点就会被选举为Leader。被选为Leader的这个节点,在一个term时间片里就会保
持leader状态。这样,就会保证在同一时间段内,集群中只会有一个Leader。在某些情况下,选
票可能会被各个节点瓜分,形成不了多数派,那这个term可能直到结束都没有leader,直到下一
个term再重新发起选举,这也就没有了Zookeeper中的脑裂问题。而在每次重新选举的过程中,
leader也有可能会退化成为follower。也就是说,在这个集群中, leader节点是会不断变化的。
然后,每次选举的过程中,每个节点都会存储当前term编号,并在节点之间进行交流时,都会
带上自己的term编号。如果一个节点发现他的编号比另外一个小,那么他就会将自己的编号更新
为较大的那一个。而如果leader或者candidate发现自己的编号不是最新的,他就会自动转成
follower。如果接收到的请求term编号小于自己的编号,term将会拒绝执行。
在选举过程中,Raft协议会通过心跳机制发起leader选举。节点都是从follower状态开始的,如
果收到了来自leader或者candidate的心跳RPC请求,那他就会保持follower状态,避免争抢成为
candidate。而leader会往其他节点发送心跳信号,来确认自己的地位。如果follower一段时间(两
个timeout信号)内没有收到Leader的心跳信号,他就会认为leader挂了,发起新一轮选举。
剩余13页未读,继续阅读
资源评论
光芒软件工匠
- 粉丝: 789
- 资源: 64
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- Qt开发知识、经验总结 包括Qss,数据库,Excel,Model/View等
- IV数据.xlsx
- foldcraftlauncher_262944.apk
- 珍藏多年的基于matlab实现潮流计算程序源代码集合,包含多个潮流计算程序.rar
- 使用FPGA实现串-并型乘法器
- 基于matlab实现针对基于双曲线定位的DV-Hop算法中误差误差出一种基于加权双曲线定位的DV-Hop改进算法.rar
- 基于matlab实现由遗传算法开发的整数规划,车辆调度问题.rar
- 电视家7.0(对电视配置要求高).apk
- 免费计算机毕业设计-基于JavaEE的医院病历管理系统设计与实现(包含论文+源码)
- 手机端 我的世界融合植物大战僵尸版.apk
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功