Redis全量同步和增量同步原理

 更新时间:2023年04月09日 14:45:24   作者:兜兜转转m  
主从第一次同步是全量同步:也就是说,当你主从节点连接建立后,需要执行一次全量同步,但如果slave重启后同步,此时slave重启后,slave节点和master节点的数据之间有落后,因此需要进行增量同步,感兴趣的同学可以参考阅读

全量同步

主从第一次同步是全量同步:也就是说,当你主从节点连接建立后,需要执行一次全量同步。那么Redis如何实现全量同步呢?

其实本质就是Master 给 slave 发送其保存的RDB文件。slave读取RDB文件恢复数据

 详细介绍:

【第一步】slave与master建立连接后,master判断该slave 是否是第一次建立连接。那么该如何判断呢?

其实Master和slave都有一个Replication Id,简称replid,若id一致说明是已经建立过连接了,不需要进行全量同步,则需要进行增量同步。

【第二步】master 执行bgsave,生成RDB文件,同时在生成RDB的同时,也会产生一个baklog文件记录RDB期间的命令,然后将RDB文件发送给从节点,从节点加载RDB文件中的数据。至此全量同步已经完成。

【第三步】也就是后续master和slave在进行同步时候就是增量同步。则需要利用之前生成的baklog文件。

【总结全量同步】

  • slave节点先进行增量同步;
  • master节点判断replid,发现不一致,拒绝增量同步;
  • master将完整内存数据生成RDB,发送RDB到slave;
  • slave清空本地数据, 加载master的RDB;
  • master将RDB期间的命令记录在repl_baklog,并持续将lgo知道命令发送给slave;
  • slave执行接收到的命令,保持与master之间的同步。

增量同步

主从第一次同步是全量同步,但如果slave重启后同步,此时slave重启后,slave节点和master节点的数据之间有落后,因此需要进行增量同步。

【过程】

master节点和slave节点中维护了一个环形数组(前文提到的repl_baklog)和一个指针为offset。

slave来申请增量同步,带着replid和offset,然后master根据获取offset之后的数据,将其发送给slave,slave进行同步。

  • 此时会出现一个问题,当slave下限太久时,master中存储的数据已经超过了这个repl_baklog的上线,因此就需要重新进行全量同步。

通过对Redis主从集群的同步介绍,可以从以下几个方面来优化Redis的主从集群

  • 在master中配置repl-diskless-sync yes 启用无磁盘负责,来避免全量同步时的磁盘IO。(应用场景:你的磁盘传输比较慢,但是你的网络带宽很大,网络状况极好。)
  • Redis单节点上内存占用不要太大。减少RDB文件的大小。
  • 适当的提高repl_baklog的大小,尽量slave恢复后做全量同步。
  • 限制一个master上的slave节点数量,可以采用主从链的形式。

总结

到此这篇关于Redis全量同步和增量同步原理的文章就介绍到这了,更多相关Redis全量和增量同步内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • window环境redis通过AOF恢复数据的方法

    window环境redis通过AOF恢复数据的方法

    这篇文章主要介绍了window环境redis通过AOF恢复数据的方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-11-11
  • redis通过6379端口无法连接服务器(redis-server.exe闪退)

    redis通过6379端口无法连接服务器(redis-server.exe闪退)

    这篇文章主要介绍了redis通过6379端口无法连接服务器(redis-server.exe闪退),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-05-05
  • 详解Redis实现限流的三种方式

    详解Redis实现限流的三种方式

    这篇文章主要介绍了详解Redis实现限流的三种方式,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-04-04
  • 利用redis实现聊天记录转存功能的全过程

    利用redis实现聊天记录转存功能的全过程

    社交类软件聊天功能必不可少,聊天记录存储的方式也比较多,比如文本,数据库,云等等,但是最好的选择还是redis进行存储,这篇文章主要给大家介绍了关于如何利用redis实现聊天记录转存功能的相关资料,需要的朋友可以参考下
    2021-08-08
  • redis学习之RDB、AOF与复制时对过期键的处理教程

    redis学习之RDB、AOF与复制时对过期键的处理教程

    这篇文章主要给大家介绍了关于redis学习之RDB、AOF与复制时对过期键处理的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用redis具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
    2019-11-11
  • linux redis-连接命令解读

    linux redis-连接命令解读

    这篇文章主要介绍了linux redis-连接命令解读,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-06-06
  • redis中key的设置方法步骤

    redis中key的设置方法步骤

    在本篇文章里小编给大家分享了关于redis中key的设置方法步骤以及相关知识点,有兴趣的朋友们学习参考下。
    2019-07-07
  • Redis分布式锁详细介绍

    Redis分布式锁详细介绍

    大家好,本篇文章主要讲的是Redis分布式锁详细介绍,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏一下,方便下次浏览
    2021-12-12
  • Redis分布式缓存与秒杀

    Redis分布式缓存与秒杀

    这篇文章主要介绍了Redis分布式缓存与秒杀,单点Redis的问题,主要有数据丢失,并发能力,故障恢复,存储能力,想进一步了解的同学,可以借鉴本文
    2023-04-04
  • Redis key的过期时间和永久有效的实现

    Redis key的过期时间和永久有效的实现

    在Redis中,键可以设置过期时间或被永久保存,`EXPIRE`和`PEXPIRE`命令分别用于设置键的过期时间,具有一定的参考价值,感兴趣的可以了解一下
    2024-09-09

最新评论