中间件-消息队列

消息队列基础知识

什么是消息队列

本处提到的消息队列是指各个服务以及系统组件/模块之间的通信,属于一种中间件。参与消息传递的双方称为生产者消费者,生产者负责发送消息,消费者负责处理消息。
在这里插入图片描述

消息队列作用

  1. 通过异步处理,提高系统性能(减少响应所需时间)
  2. 削峰/限流
  3. 降低系统耦合性

消息队列如何降低耦合性

消息队列使用发布-订阅模式工作,消息发送者(生产者)发布消息,一个或多个消息接受者(消费者)订阅消息。 从上图可以看到消息发送者(生产者)和消息接受者(消费者)之间没有直接耦合,消息发送者将消息发送至分布式消息队列即结束对消息的处理,消息接受者从分布式消息队列获取该消息后进行后续处理,并不需要知道该消息从何而来。对新增业务,只要对该类消息感兴趣,即可订阅该消息,对原有系统和业务没有任何影响,从而实现网站业务的可扩展性设计。

消息队列带来的问题

  • 系统可用性下降
  • 系统复杂度提高
  • 一致性问题

JMS Java消息服务

JMS(JAVA Message Service)API是一个消息服务的标准或者说是规范,允许应用程序组件基于JavaEE平台创建、发送、接收和读取消息。

JMS的两种消息模型

  • 点到点(P2P)模型
    使用队列(Queue)作为消息通信载体;满足生产者与消费者模式,一条消息只能被一个消费者使用,未被消费的消息在队列中保留直到被消费或超时。
    在这里插入图片描述

  • 发布/订阅(Pub/Sub)模型
    使用主题(Topic)作为消息通信载体,类似于广播模式;发布者发布一条消息,该消息通过主题传递给所有的订阅者。
    在这里插入图片描述

RPC与消息队列区别

  • 用途:RPC是用于解决两个服务之间的远程通信问题,用于调用远程计算机上某个服务的方法;消息队列主要用来降低系统耦合性、实现任务异步、进行流量削峰。
  • 通信方式:RPC是双向直接网络通讯,消息队列是单向引入中间载体的网络通讯。
  • 架构:消息队列是需要把消息存储起来,RPC则没有相关需求。
  • 请求处理的时效性:通过RPC发出的调配用一般会被处理,放在消息队列中的消息不一定会被处理。

RabbitMQ

RabbitMQ 如何保证信息不丢失

  • 开启生产者确认机制,确保生产者的消息能到达队列
  • 开启持久化功能,确保消息未消费前在队列中不会丢失
  • 开启消费者确认机制为auto,由spring确认消息处理成功后完成ack
  • 开启消费者失败重试机制,多次失败后将消息投递到异常交换机,交由人工处理

RabbitMQ消息重复消费问题怎么解决

  1. 设置一个唯一的标识符,处理消息时,先到数据库查询一下,如果不存在就正常处理,如果存在就不用再消费
  2. 幂等方案:利用redis分布式锁、数据库的锁等

RabbitMQ中的死信交换机?(RabbitMQ延迟队列了解过吗?)

当一个消息在一个队列中变为死信后,可以被重新发送到另一个交换机中,这个交换机就是死信交换机。导致死信的几种原因有:

  • 消息被拒(Basic.Reject / Basic.Nack)且requeue = false
  • 消息TTL过期
  • 队列满了,无法再添加。

什么是延迟队列?RabbitMQ如何实现延迟队列?

延迟队列指的是存储对应的延迟消息,消息被发送以后,并不想让消费者立刻拿到消息,而是等待特定时间后,消费者才能拿到这个消息进行消费。
实现方式:

  1. 利用RabbitMQ的死信交换机和消息存活时间TTL来实现
  2. 安装死信插件(具体没用过)

RabbitMQ如果有100万消息堆积在MQ中,如何解决(消息堆积怎么解决)?

当生产者发送消息的速度超过了消费者处理消息的速度,就会导致队列中的消息堆积,直到存储消息达到上限。之后发送的消息就会变为死信,肯会被抛弃,这就是消息堆积。

解决消息堆积有三种思路

  • 增加更多消费者
  • 消费者使用线程池,多线程处理消息
  • 使用惰性队列,扩大堆积上线

惰性队列

  • 在声明队列的时候设置属性x-queue-mode为lazy,即惰性队列
  • 基于磁盘存储,消息上限高
  • 性能比较稳定,但基于磁盘存储,受限于磁盘IO,时效性会降低。

RabbitMQ的高可用机制

在生产环境中,使用集群来保证高可用性

普通集群

又称标准集群,具备以下特征:

  • 会在集群的各个节点减共享部分数据,包括:交换机、队列元信息。不包含队列中的信息。
  • 当访问集群某个节点时,如果队列不在该节点,会从数据所在节点传递到当前节点在返回
  • 队列所在节点宕机,队列中的消息就会消失

镜像集群

本质是主从模式,具备下面的特征

  • 交换机、队列、队列中的消息 会在各个mq的镜像节点之间同步备份
  • 创建队列的节点被称为该队列的主节点,备份到的其他节点叫做该队列的镜像节点
  • 一个队列的主节点可能是另一个队列的镜像节点
  • 所有操作都是主节点完成,然后同步给镜像节点
  • 主节点宕机后,镜像节点会替代成为新的主节点

仲裁队列

  • 与镜像队列一样,都是主从模式,支持主从数据同步
  • 使用简单,没有复杂配置,只需在声明队列的时候指定使用仲裁队列
  • 主从同步基于Raft协议,强一致性

Kafka

Kafka如何保证消息不丢失

生产者发送消息到Brocker丢失

  • 设置异步发送

消息在Brocker丢失

Kafka如何保证消费顺序性

kafka默认存储和消费信息,是不能保证顺序性的。因为一个topic数据可能存储在不同的分区中,每个分区都有一个按照顺序存储的偏移量。如果消费者关联了多个分区,不能保证顺序性。
但是通过把消息存储到一个分区下可以解决。方法有两种:1)发送消息时指定分区号。2)发送消息时,按照相同的业务设置相同的key。因为默认情况下,分区也是通过key的hashcode值来选择分区的。hash值如果一样的话,分区一定一样。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/470300.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Node.js安装Vue3安装

文章目录 前言Node.js安装设置Node.js系统变量Vue3安装 前言 前端初学者注意:node.js 先安装后才能安装vue3,node.js在安装时会自动安装npm Node.js安装 安装包已上传CSDN,审核中 , 也可以nodejs官网下载 默认C盘,本人下载路径…

idea import的maven类报红

idea 报红/显示红色的原因 一般报红,显示红色,是因为 idea 在此路径下,找不到这个类。 找到是哪个 jar 包的类导致 idea 报红 点击报红的路径的上一层,进入jar 包。比如: import com.aaa.bbb.ccc.DddDto;这个 impo…

K8s-网络原理-上篇

引言 本文是学习《深入剖析K8s》网络原理部分的学习笔记,相关图片和案例可以从https://github.com/WeiXiao-Hyy/k8s_example获取,欢迎Star! 网络基础 IP组成 IP地址由两部分组成,即网络地址和主机地址。网络地址表示其属于互联…

03.生命周期和工程化开发入门

一、Vue生命周期 思考:什么时候可以发送初始化渲染请求?(越早越好)什么时候可以开始操作dom?(至少dom得渲染出来) Vue生命周期:就是一个Vue实例从创建 到 销毁 的整个过程。 生命…

TikTok云手机是什么原理?

随着社交媒体的快速发展和普及,TikTok已成为全球最受欢迎的短视频平台之一,吸引了数以亿计的用户。在TikTok上,许多用户和内容创作者都希望能够更灵活地管理和运营多个账号,这就需要借助云手机技术。那么,TikTok云手机…

10-项目部署_持续集成-黑马头条

项目部署_持续集成 1 今日内容介绍 1.1 什么是持续集成 持续集成( Continuous integration , 简称 CI )指的是,频繁地(一天多次)将代码集成到主干 持续集成的组成要素 一个自动构建过程, 从…

CCIE-04-Layer2_WAN_TS

目录 实验条件网络拓朴 路由器配置开始排错, 要求R11可以访问R17的telnet检查R12和R11的e0/0口,有发现检查R17和R12的S4/0口, 有发现ping R17环回口地址,发现不通telnet R17环回口IP 实验条件 网络拓朴 路由器配置 R11 4组以太网…

基于python智慧社区家政服务系统的设计与实现flask-django-nodejs-php

随着现代网络技术发展,对于智慧社区家政服务系统的设计现在正处于发展的阶段,所以对的要求也是比较严格的,要从系统的功能和用户实际需求来进行对系统制定开发的发展方式,依靠网络技术的的快速发展和现代通讯技术的结合为人们带来…

【NLP笔记】RNN总结

文章目录 经典RNN单向RNN双向RNNDeep RNNRNN特性总结 变体RNNLSTMGRU 参考及转载内容: 循环神经网络(RNN)深度学习05-RNN循环神经网络完全理解RNN(循环神经网络) 传统的CNN(Covolutional Neural Network&am…

图解CodeWhisperer的安装使用

🎬 江城开朗的豌豆:个人主页 🔥 个人专栏 :《 VUE 》 《 javaScript 》 📝 个人网站 :《 江城开朗的豌豆🫛 》 ⛺️ 生活的理想,就是为了理想的生活 ! ​ 目录 📘 CodeWhisperer简介 &#…

C#,图论与图算法,有向图(Graph)之环(Cycle)判断的颜色算法与源代码

1 检查该图是否包含循环 给定一个有向图,检查该图是否包含循环。如果给定的图形至少包含一个循环,则函数应返回true,否则返回false。 方法:深度优先遍历可用于检测图中的循环。连接图的DFS生成树。只有当图中存在后缘时,图中才存在循环。后边是从节点到自身(自循环)或…

【计算机视觉】Gaussian Splatting源码解读补充

本文旨在补充gwpscut创作的博文学习笔记之——3D Gaussian Splatting源码解读。 Gaussian Splatting Github地址:https://github.com/graphdeco-inria/gaussian-splatting 论文地址:https://repo-sam.inria.fr/fungraph/3d-gaussian-splatting/3d_gauss…

EPSON XV4001BC陀螺仪传感器汽车导航系统的应用

近年来为了提高汽车应用系统的可靠性,传感器融合系统被越来越多的应用到汽车领域,如汽车导航系统中的行人检测和预碰撞警告等,通过提供精准的导航信息,为驾驶员提供更安全,更稳定,更舒适的出行体验,例如在行人检测系统中,只使用低成本的红外传感器不能检测到行人的实际位置,而利…

【MySQL】工欲善其事必先利其器 --- Linux下安装MySQL(手把手保姆级)

👦个人主页:Weraphael ✍🏻作者简介:目前学习计网、mysql和算法 ✈️专栏:MySQL学习 🐋 希望大家多多支持,咱一起进步!😁 如果文章对你有帮助的话 欢迎 评论&#x1f4ac…

RTC module design

RTC 1.概要 RTC单元提供实时时钟和日历功能,包括自动闰年调整、闹钟和周期性中断支持。无论在何种工作模式下,RTC都不会关闭,即使在低功耗模式下也能正常运行。此外,RTC的输出寄存器和时钟校正寄存器不会被复位,以确…

Python Web开发记录 Day16:Django part10 文件上传(完结篇)

名人说:莫道桑榆晚,为霞尚满天。——刘禹锡(刘梦得,诗豪) 创作者:Code_流苏(CSDN)(一个喜欢古诗词和编程的Coder😊) 目录 1、文件上传2、Excel上传3、Form和ModelForm回顾…

Matlab DDPG

文章目录 1 rlSimulinkEnv1.1 说明1.2 例子1.2.1 使用工作空间Agent创建Simulink环境1.2.2 为Simulink模型创建强化学习环境1.2.3 创建Simulink多Agents环境2 创建Simulink环境和训练Agent2.1 创建环境接口2.2 创建DDPG Agent2.3 训练Agent2.4 验证已训练的Agent3 创建Simulink…

opengl日记7-ubuntu20.04开发环境opengl拓展glfw和glad环境搭建

文章目录 ubuntu中安装opengl核心环境安装glfw安装glad测试验证程序vscode的task.json配置如下note参考 ubuntu中安装opengl核心环境 可执行如下命令进行整体安装: sudo apt-get install libgl1-mesa-dev*或者单独安装 1、提供编译程序必须软件包的列表信息 sud…

【NLP笔记】Transformer

文章目录 基本架构EmbeddingEncoderself-attentionMulti-Attention残差连接LayerNorm DecoderMask&Cross Attention线性层&softmax损失函数 论文链接: Attention Is All You Need 参考文章: 【NLP】《Attention Is All You Need》的阅读笔记 一…

智慧城市的发展趋势与挑战:未来展望

随着信息技术的飞速发展,智慧城市已成为现代城市发展的重要方向。智慧城市通过集成应用先进的信息通信技术,实现城市管理、服务、运行的智能化,为城市的可持续发展注入了新的活力。然而,在智慧城市的发展过程中,也面临…
最新文章