RabbitMq
RabbitMQ
初始MQ
高性能异步通信组件
- 同步通讯:就如同打视频电话,双方的交互都是实时的。因此同一时刻你只能跟一个人打视频电话。
- 异步通讯:就如同发微信聊天,双方的交互不是实时的,你不需要立刻给对方回应。因此你可以多线操作,同时跟多人聊天。
两种方式各有优劣,打电话可以立即得到响应,但是你却不能跟多个人同时通话。发微信可以同时与多个人收发微信,但是往往响应会有延迟。
所以,如果我们的业务需要实时得到服务提供方的响应,则应该选择同步通讯(同步调用)。而如果我们追求更高的效率,并且不需要实时响应,则应该选择异步通讯(异步调用)。
同步调用:
拓展性差
性能下降
级联失败
异步调用:
异步调用方式其实就是基于消息通知的方式,一般包含三个角色:
- 消息发送者:投递消息的人,就是原来的调用方
- 消息Broker:管理、暂存、转发消息,你可以把它理解成微信服务器
- 消息接收者:接收和处理消息的人,就是原来的服务提供方
在异步调用中,发送者不再直接同步调用接收者的业务接口,而是发送一条消息投递给消息Broker。然后接收者根据自己的需求从消息Broker那里订阅消息。每当发送方发送消息后,接受者都能获取消息并处理。
这样,发送消息的人和接收消息的人就完全解耦了。
综上,异步调用的优势包括:
- 耦合度更低
- 性能更好
- 业务拓展性强
- 故障隔离,避免级联失败
- 缓存消息,流量削峰填谷
当然,异步通信也并非完美无缺,它存在下列缺点:
不能立即得到结果,时效性差
不确定下游业务是否成功
完全依赖于Broker(消息代理)的可靠性、安全性和性能
架构复杂,后期维护和调试麻烦
技术选型
消息Broker,目前常见的实现方案就是消息队列(MessageQueue),简称为MQ.
目比较常见的MQ实现:
- ActiveMQ
- RabbitMQ
- RocketMQ
- Kafka
几种常见MQ的对比:
RabbitMQ | ActiveMQ | RocketMQ | Kafka | |
---|---|---|---|---|
公司/社区 | Rabbit | Apache | 阿里 | Apache |
开发语言 | Erlang | Java | Java | Scala&Java |
协议支持 | AMQP,XMPP,SMTP,STOMP | OpenWire,STOMP,REST,XMPP,AMQP | 自定义协议 | 自定义协议 |
可用性 | 高 | 一般 | 高 | 高 |
单机吞吐量 | 一般(十万) | 差 | 高 | 非常高(百万) |
消息延迟 | 微秒级 | 毫秒级 | 毫秒级 | 毫秒以内 |
消息可靠性 | 高 | 一般 | 高 | 一般 |
追求可用性:Kafka、 RocketMQ 、RabbitMQ
追求可靠性:RabbitMQ、RocketMQ
追求吞吐能力:RocketMQ、Kafka
追求消息低延迟:RabbitMQ、Kafka
据统计,目前国内消息队列使用最多的还是RabbitMQ,再加上其各方面都比较均衡,稳定性也好,因此我们课堂上选择RabbitMQ来学习。
RabbitMQ
RabbitMQ是基于Erlang语言开发的开源消息通信中间件,官网地址:
https://www.rabbitmq.com/
安装
还去学了docker,傻瓜式安装
1 | docker run \ |
可以看到在安装命令中有两个映射的端口:
- 15672:RabbitMQ提供的管理控制台的端口
- 5672:RabbitMQ的消息发送处理接口
RabbitMQ对应的架构图
其中包含几个概念:
**publisher**
:生产者,也就是发送消息的一方**consumer**
:消费者,也就是消费消息的一方**queue**
:队列,存储消息
。生产者投递的消息会暂存在消息队列中,等待消费者处理**exchange**
:交换机,负责消息路由
。生产者发送的消息由交换机决定投递到哪个队列。**virtual host**
:虚拟主机,起到数据隔离的作用。每个虚拟主机相互独立,有各自的exchange、queue
上述这些东西都可以在RabbitMQ的管理控制台来管理
收发消息
我们打开Exchanges选项卡,可以看到已经存在很多交换机
:
我们点击任意交换机,即可进入交换机详情页面。
队列queue
绑定关系
只有交换机绑定了相应的队列,才知道如何发送消息,给谁发送消息
数据隔离
不同的用户可以创建不同的虚拟主机,不同的虚拟主机之间是隔离的
SpringAMQP
AMQP :Advanced Message Queuing Protocol
由于RabbitMQ
采用了AMQP协议,因此它具备跨语言的特性。任何语言只要遵循AMQP协议收发消息,都可以与RabbitMQ
交互。并且RabbitMQ
官方也提供了各种不同语言的客户端。
但是,RabbitMQ官方提供的Java客户端编码相对复杂,一般生产环境下我们更多会结合Spring来使用。而Spring的官方刚好基于RabbitMQ提供了这样一套消息收发的模板工具:SpringAMQP。并且还基于SpringBoot对其实现了自动装配,使用起来非常方便。
快速入门
不过有时候为了测试方便,我们也可以直接向队列发送消息,跳过交换机。
在入门案例中,我们就演示这样的简单模型,如图:
也就是:
- publisher直接发送消息到队列
- 消费者监听并处理队列中的消息
:::warning
注意:这种模式一般测试使用,很少在生产中使用。
:::
配置MQ地址:
1 | spring: |
消息发送:
在测试类中实现
1 |
|
消息接收
1 |
|
测试,接收成功
WorkQueues模型
Work queues,任务模型。简单来说就是让多个消费者绑定到一个队列,共同消费队列中的消息。
当消息处理比较耗时的时候,可能生产消息的速度会远远大于消息的消费速度。长此以往,消息就会堆积越来越多,无法及时处理。
此时就可以使用work 模型,多个消费者共同处理消息处理,消息处理的速度就能大大提高了。
接下来,我们就来模拟这样的场景。
要模拟多个消费者绑定同一个队列,我们在consumer服务的SpringRabbitListener中添加2个新的方法:
1 |
|
注意到这两消费者,都设置了Thead.sleep
,模拟任务耗时:
- 消费者1 sleep了20毫秒,相当于每秒钟处理50个消息
- 消费者2 sleep了200毫秒,相当于每秒处理5个消息
测试结果:发现是轮循,一人处理一个
也就是说消息是平均分配给每个消费者,并没有考虑到消费者的处理能力。导致1个消费者空闲,另一个消费者忙的不可开交。没有充分利用每一个消费者的能力,最终消息处理的耗时远远超过了1秒。这样显然是有问题的
在spring中有一个简单的配置,可以解决这个问题。我们修改consumer服务的application.yml文件,添加配置:
1 | spring: |
再次测试,发现结果如下:
消费者1的处理结果是2的十倍了,符合我们设置的延时效果。提升了效率
交换机类型
Exchange(交换机)只负责转发消息,不具备存储消息的能力,因此如果没有任何队列与Exchange绑定,或者没有符合路由规则的队列,那么消息会丢失!
交换机的类型有四种:
- Fanout:广播,将消息交给所有绑定到交换机的队列。我们最早在控制台使用的正是Fanout交换机
- Direct:订阅,基于RoutingKey(路由key)发送给订阅了消息的队列
- Topic:通配符订阅,与Direct类似,只不过RoutingKey可以使用通配符
- Headers:头匹配,基于MQ的消息头匹配,用的较少。
Fanout交换机
Fanout,英文翻译是扇出,我觉得在MQ中叫广播更合适。
在广播模式下,消息发送流程是这样的:
- 1) 可以有多个队列
- 2) 每个队列都要绑定到Exchange(交换机)
- 3) 生产者发送的消息,只能发送到交换机
- 4) 交换机把消息发送给绑定过的所有队列
- 5) 订阅队列的消费者都能拿到消息
在publisher服务的SpringAmqpTest类中添加测试方法:
1 |
|
在consumer服务的SpringRabbitListener中添加两个方法,作为消费者:
@RabbitListener(queues = “fanout.queue1”)
这个注解里面不仅可以指定,队列的名称,也可以指定交换机的名称
1 |
|
Direct交换机
但是,在某些场景下,我们希望不同的消息被不同的队列消费。这时就要用到Direct类型的Exchange。
在Direct模型下:
- 队列与交换机的绑定,不能是任意绑定了,而是要指定一个
RoutingKey
(路由key) - 消息的发送方在 向 Exchange发送消息时,也必须指定消息的
RoutingKey
。 - Exchange不再把消息交给每一个绑定的队列,而是根据消息的
Routing Key
进行判断,只有队列的Routingkey
与消息的Routing key
完全一致,才会接收到消息
rabbitTemplate.convertAndSend(exchangeName, “路由key”, message);
总结:
- Fanout交换机将消息路由给每一个与之绑定的队列
- Direct交换机根据RoutingKey判断路由给哪个队列
- 如果多个队列具有相同的RoutingKey,则与Fanout功能类似
Topic交换机
Topic
类型的Exchange
与Direct
相比,都是可以根据RoutingKey
把消息路由到不同的队列。
只不过Topic
类型Exchange
可以让队列在绑定BindingKey
的时候使用通配符!
BindingKey
一般都是有一个或多个单词组成,多个单词之间以.
分割,例如: item.insert
通配符规则:
#
:匹配一个或多个词*
:匹配不多不少恰好1个词
举例:
item.#
:能够匹配item.spu.insert
或者item.spu
item.*
:只能匹配item.spu
图示:
假如此时publisher发送的消息使用的RoutingKey
共有四种:
china.news
代表有中国的新闻消息;china.weather
代表中国的天气消息;japan.news
则代表日本新闻japan.weather
代表日本的天气消息;
解释:
topic.queue1
:绑定的是china.#
,凡是以china.
开头的routing key
都会被匹配到,包括:china.news
china.weather
topic.queue2
:绑定的是#.news
,凡是以.news
结尾的routing key
都会被匹配。包括:china.news
japan.news
声明队列和交换机
在config中声明一个配置类,用@Configuration注解声明为配置类,@Bean表示在声明时候就加载在Bean对象中
SpringAMQP提供了一个Queue类,用来创建队列:
SpringAMQP还提供了一个Exchange接口,来表示所有不同类型的交换机:
1 | /** |
绑定队列和交换机
1 | /** |
direct实例
direct模式由于要绑定多个KEY,会非常麻烦,每一个Key都要编写一个binding:
1 | /** |
绑定交换机和队列的时候,key参数一次只能用with传递一次。太麻烦
基于注解声明
注解的嵌套,人嘛了,记不住再回来看
在注解@RabbitListener()中使用@Queuebinding()声明队列,交换机,和绑定参数
导包别导错了,全是注解类型的
1 |
|
1 |
|
消息转换器
Spring的消息发送代码接收的消息体是一个Object:
而在数据传输时,它会把你发送的消息序列化为字节发送给MQ,接收消息的时候,还会把字节反序列化为Java对象。
只不过,默认情况下Spring采用的序列化方式是JDK序列化。众所周知,JDK序列化存在下列问题:
- 数据体积过大
- 有安全漏洞
- 可读性差
配置JSON转换器
显然,JDK序列化方式并不合适。我们希望消息体的体积更小、可读性更高,因此可以使用JSON方式来做序列化和反序列化。
在publisher
和consumer
两个服务中都引入依赖:
1 | <dependency> |
注意,如果项目中引入了spring-boot-starter-web
依赖,则无需再次引入Jackson
依赖。
配置消息转换器,在publisher
和consumer
两个服务的启动类中添加一个Bean即可:
1 |
|
消息转换器中添加的messageId可以便于我们将来做幂等性判断。
对之前的Redis业务改造
把以前放入阻塞队列的消息,放入消息队列RabbitMQ中
引入依赖,注入RabbitTemplate对象
其中,convertAndSend的传入的参数为,交换机,关键字,和对象
1 |
|
新建一个Listener包,定义MQListener类,用于监听消息
注入之前的service层对象,直接调用其方法即可
1 |
|
1 |
使用注解嵌套注解的方式,来实现
具体解释如下:
@RabbitListener
: 这是一个监听器注解,用于声明一个方法作为 RabbitMQ 的消息消费者。当 RabbitMQ 中有消息到达时,被注解的方法将被调用。bindings
: 这是@RabbitListener
注解的一个属性,用于指定队列和交换机之间的绑定关系。在这里,通过@QueueBinding
注解指定了队列与交换机之间的绑定关系。@Queue
: 在@QueueBinding
注解中,@Queue
用于声明一个队列,并设置队列的属性。在这里,使用了name
属性指定了队列的名称为 “voucherOrder.queue”。@Exchange
: 在@QueueBinding
注解中,@Exchange
用于声明一个交换机,并设置交换机的属性。在这里,使用了name
属性指定了交换机的名称为 “voucherOrder.topic”,type
属性指定了交换机的类型为 “topic”。key
: 在@QueueBinding
注解中,key
属性用于指定路由键,表示消息从交换机发送到队列时所需匹配的路由规则。在这里,设置了 “secKill.success” 作为路由键。
综上所述,这段代码的作用是声明了一个 RabbitMQ 的消息监听器,监听名为 “voucherOrder.topic” 的交换机上的 “secKill.success” 路由键对应的队列 “voucherOrder.queue”,当有消息通过该路由键到达时,会触发被注解的方法进行消费。
来,上压力测试,好快啊,平均26ms
来三轮求取平均值 82ms
第三轮68ms
好像用了lua脚本后,就确保了一人一单不会被抢了,加Redisson分布式锁还有没有用了?
加锁,也是给后续写入数据库的操作加锁,感觉会没用,试试
果然,平均只有1s了