Redis 主从、哨兵和分片集群简单介绍

Redis 主从集群架构

单节点 redis 并发能力有上限,要进一步提高 redis 并发能力,就要搭建主从集群,实现读写分离

主从同步原理 

Replicaition id:每台 master 机器都一个 repl_id,是数据集的表示,若 salve 的 repl_id 与 master 的一样,则表示它们属于同一个集群

offset:偏移量,表示 master 在 repl_backlong 的位置。而同步时 salve 也会保存一个 offset,若 master 的 offset 大于 salve 的 offset,则表示 salve 的数据落后于 master,需要进行更新

主从同步方式

全量同步

Redis 主从、哨兵和分片集群

2023-04-27 09:16·爱做梦的程序员

Redis 主从集群架构

单节点 redis 并发能力有上限,要进一步提高 redis 并发能力,就要搭建主从集群,实现读写分离

主从同步原理

Replicaition id:每台 master 机器都一个 repl_id,是数据集的表示,若 salve 的 repl_id 与 master 的一样,则表示它们属于同一个集群

offset:偏移量,表示 master 在 repl_backlong 的位置。而同步时 salve 也会保存一个 offset,若 master 的 offset 大于 salve 的 offset,则表示 salve 的数据落后于 master,需要进行更新

主从同步方式

全量同步

执行时机

  1. salve 第一次连接 master 时;
  2. slave 断开时间太久,repl_backlog 中的 offset 已经被覆盖

执行过程

  1. salve 向 master 发送 offset、repl_id,master 判断该 repl_id 为空或与自己的不同,则进行全量同步
  2. master 调用 bgsave 命令异步生成 RDB 文件,同时把生成 RDB 文件过程中接收到命令写入 repl_baklog 缓冲区 中,
  3. master 生成完 RDB 文件后,把 RDB 文件和 repl_baklog 缓冲区中的命令一并发送给 salve;
  4. slave 根据命令和 RDB 文件进行数据同步即可;

 

 

增量同步

执行时机

  • salve 断开又恢复,并且能在 repl_backlog 中找到 offset

执行过程

  1. salve 向 master 发送 offset、repl_id,master 判断该 repl_id 与自己的相同,则进行增量同步
  2. master 根据 salve 发送过来的 offset,读取 repl_backlog 位于 offset 后的命令,发送给 salve;
  3. salve 根据接收的命令进行同步即可;

 区别:

全量同步: master 执行 bgsave 命令,生成 RDB 文件发送给 slave,并将后续的命令存储在 repl_backlog 中,持续发送给 slave

增量同步: master 获取 slave 发送的 offset,将 repl_backlog 中 offset 之后的数据发送给 slave 进行同步

 优化:

  1. 使用无磁盘复制,将数据流直接读入网络 IO 中;
  2. 适当控制 Redis 内存的使用量,避免生成的 RDB 文件过大;
  3. 当 slave 宕机时,要尽快进行恢复,避免进行全量复制
  4. 可以使用 主-从-从 的链式模式,减少 master 的压力;

Redis 哨兵 

哨兵作用

服务状态监控:sentinel 不断监控 Redis 集群中 master 和 salve 的状态;

自动故障转移:当 master 宕机后,sentinel 会在所有的 slave 中选举出一个 master,当宕机后的机器恢复后,也以新选择的 master 为主

通知:sentinel 充当 Redis 的客户端服务发现来源,当集群发送故障时,会把最新的消息发送到客户端

服务状态监控 

sentinel 基于心跳的机制来判断 master 或者 slave 是否正常工作,每隔1秒向集群中的每个实例发送 ping 命令

  • 若该实例没有在规定的时间范围内得到 pong 响应,则认为该机器 主观下线
  • 若超过指定数量(quorum)台 sentinel 没有在规定的时间范围内得到该实例 pong 响应,则认为该机器 客观下线,quorum 的值最好超过 sentinel 机器数的一半

自动故障转移 

选举原则

  1. 判断 salve 和 master 断开时间的长短,若超过 10 * down-after-milliseconds ,则该 slave 不会被选举为 master
  2. 判断 salve-priority 的大小,最小则优先级越高,但该值为 0 却不会被选到;
  3. 判断 offset 的大小,offset 值越大表示数据越新;
  4. 判断 salve 的 id 大小,id 越小,节点的优先级越高;

选举过程

  1. 向某个选举为 master 的 salve 机器发送 salve of one
  2. 向所有的机器发送 salve of 新 master
  3. 最后更改宕机的 master 配置,添加 slave of 新master

 

 Redis 分片集群

主从和哨兵解决了高并发高可用的问题,但是有两个问题没有解决:

  1. 海量数据存储;
  2. 高并发写入;

分片集群的特征

  1. 拥有多个 master,每个 master 可以存储不同的信息;
  2. 每个 master 拥有多个 salve
  3. master 之间通过心跳来监控健康状态;
  4. 客户端可以访问任意节点,但最后都会被路由到正确的节点;

散列插槽

Redis 分片集群把每个 master 映射到不同的散列插槽中

会根据 key 的有效部分来计算插槽的位置,所以 key 不是跟节点绑定,而是跟插槽绑定

  1. 将 16384 个插槽分配到不同的实例上;
  2. 根据 key 的有效部分取 hash 值,对 16384 取余即可;
  3. 余数作为插槽,寻找查找对应的实例即可;
  4. 若有效部分的余数相同,则可以实现把同类的信息放到同一个 master 节点上;

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/306841.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

深入理解 Flink(一)Flink 架构设计原理

大数据分布式计算引擎设计实现剖析 MapReduce MapReduce 执行引擎解析 MapReduce 的组件设计实现图 Spark 执行引擎解析 Spark 相比于 RM 的真正优势的地方在哪里:(Simple、Fast、Scalable、Unified) DAG 引擎中间计算结果可以进行内存持…

【动态规划】【矩阵】C++算法329矩阵中的最长递增路径

作者推荐 【动态规划】C算法312 戳气球 题目 给定一个 m x n 整数矩阵 matrix ,找出其中 最长递增路径 的长度。 对于每个单元格,你可以往上,下,左,右四个方向移动。 你 不能 在 对角线 方向上移动或移动到 边界外&…

[足式机器人]Part2 Dr. CAN学习笔记 - Ch02动态系统建模与分析

本文仅供学习使用 本文参考: B站:DR_CAN Dr. CAN学习笔记 - Ch02动态系统建模与分析 1. 课程介绍2. 电路系统建模、基尔霍夫定律3. 流体系统建模4. 拉普拉斯变换(Laplace)传递函数、微分方程4.1 Laplace Transform 拉式变换4.2 收…

使用SpirngBoot时部分编译报错解决方案:

1. 类文件具有错误的版本 61.0, 应为 52.0 请删除该文件或确保该文件位于正确的类路径子目录中。 报错截图: 解决方案: 找到springboot的java版本看是多少版本,springboot 3.0以上的版本需要最低JDK17的版本,所以查看你自己…

基于Spring-boot-websocket的聊天应用开发总结

目录 1.概述 1.1 Websocket 1.2 STOMP 1.3 源码 2.Springboot集成WS 2.1 添加依赖 2.2 ws配置 2.2.1 WebSocketMessageBrokerConfigurer 2.2.2 ChatController 2.2.3 ChatInRoomController 2.2.4 ChatToUserController 2.3 前端聊天配置 2.3.1 index.html和main.j…

电脑如何关闭自动更新?阻止系统自动更新方法

随着科技的发展,电脑已经成为我们生活中不可或缺的一部分。然而,有时候电脑的自动更新功能会给我们带来一些不必要的麻烦。因此,本文将介绍如何关闭电脑的自动更新功能,以便更好地管理电脑。 关闭自动更新功能的原因 电脑的自动…

Salesforce迁移到销售易方案详解

本章节着重介绍下国内的龙头CRM销售易及Salesforce迁移到销售易。 销售易成立与2011年,经过十几年的发展已经具有的国内领先的PaaS平台各行业成熟的案例。在网络安全法数据安全法个人信息保护法的三重加持下,从Salesforce迁移到性价比更高服务更好的国内…

故事机手机平板等智能硬件DVT阶段可靠性测试方法

DVT是什么 DVT是设计样品验证测试评审阶段,这个阶段要进行全面的,客观的测试, 主要测试项目包括:功能测试,安规测试,性能测试,合规测试(兼容性),机械测试&am…

idea引包异常 cannot resolve symbol ‘xxx‘

cannot resolve symbol ‘xxx’ 动了module的名字,引发的bug。直接清缓存重启

Docker简介、基本概念和安装

Docker简介、基本概念和安装 1.docker简介 1.1 什么是docker Docker 最初是 dotCloud 公司创始人 Solomon Hykes (opens new window)在法国期间发起的一个公司内部项目,它是基于 dotCloud 公司多年云服务技术的一次革新,并于 2013 年 3 月以 Apache 2…

selenium爬取多个网站及通过GUI界面点击爬取

selenium爬取代码 webcrawl.py import re import time import json from selenium import webdriver from selenium.webdriver.common.by import By from selenium.webdriver.chrome.options import Options from selenium.common.exceptions import TimeoutException, Stale…

Linux 文件(夹)权限查看

命令 : ls -al ls -al 是一个用于列出指定目录下所有文件和子目录的命令,包括隐藏文件和详细信息。其中,-a 选项表示显示所有文件,包括以 . 开头的隐藏文件,-l 选项表示以列表的形式显示文件的详细信息。 本例中:drwxrwxr-x 为权限细节。 权限细节(Permission detail…

电子学会C/C++编程等级考试2020年12月(一级)真题解析

C/C++编程(1~8级)全部真题・点这里 第1题:字符三角形 描述 给定一个字符,用它构造一个底边长5个字符,高3个字符的等腰字符三角形。 输入 输入只有一行, 包含一个字符。 输出 该字符构成的等腰三角形,底边长5个字符,高3个字符。 样例输入 * 1 样例输出 * *** ***** 答…

云平台API服务

问题 云平台API服务 详细问题 笔者今天需要使用病虫害图像识别API,游览器搜索后,结果如下: 点击第一个搜索结果:RMB50000,虽然提供1000000次病虫害识别,但是笔者没有这般大地需求,有没有可能…

阿里云RDMA通信库XRDMA论文详解

RDMA(remote direct memory access)即远端直接内存访问,是一种高性能网络通信技术,具有高带宽、低延迟、无CPU消耗等优点。RDMA相比TCP在性能方面有明显的优势,但在编程复杂度上RDMA verbs却比TCP socket复杂一个数量级。 开源社区和各大云厂…

【小工具】pixi-live2d-display,直接可用的live2d的交互网页/桌面应用

效果&#xff1a; <script src"https://cubism.live2d.com/sdk-web/cubismcore/live2dcubismcore.min.js"></script> <script src"https://cdn.jsdelivr.net/gh/dylanNew/live2d/webgl/Live2D/lib/live2d.min.js"></script> <…

Postman工具使用一篇快速入门教程

文章目录 下载安装注册登录CollectionFolderRequestGet请求Post请求Header设置Response响应 EnvironmentsGlobal环境变量其他环境变量Collection变量变量使用同名变量的优先级 Postman内置变量Pre-request script和Test script脚本设置、删除和获取变量获取请求参数获取响应数据…

数据结构入门到入土——链表(完)LinkedList

目录 一&#xff0c;双向链表 1.单向链表的缺点 2.什么是双向链表&#xff1f; 3.自主实现双向链表 接口实现&#xff1a; 二&#xff0c;LinkedList 1.LinkedList的使用 1.1 什么是LinkedList&#xff1f; 1.2 LinkedList的使用 1.LinkedList的构造 2.LinkedList的…

GitLab clone 地址不对的解决办法

1丶问题描述 2丶解决方案 解决方案&#xff1a; 找到挂载到宿主机配置文件&#xff1a;gitlab.rb vi gitlab.rb 改成自己的ip 重启容器 docker restart gitlab 如果发现容器一直重启&#xff0c;可采用粗暴的方法&#xff0c;直接干掉当前容器&#xff0c;重新运行一个 …

AI数字人虚拟现实产业的发展现状与展望

AI数字人虚拟现实产业是当今科技领域备受瞩目的发展方向之一。随着人工智能和虚拟现实技术的迅猛发展&#xff0c;人们对于数字形象的需求不断增加&#xff0c;AI数字人虚拟现实产业正应运而生。本文将从产业现状和未来展望两个方面来描绘AI数字人虚拟现实产业的发展。 首先&a…
最新文章