详解如何清理Redis内存碎片

 更新时间:2023年04月18日 10:41:59   作者:邴越  
操作系统的剩余空间总量足够,但申请一块N字节连续地址的空间时,剩余内存空间中没有大小为N字节的连续空间,那么这些剩余内存空间中,小于N字节的连续内存空间就是内存碎片,本文详细介绍了如何清理Redis内存碎片,需要的朋友可以参考一下

明明做了数据删除,数据量已经不大了,为什么使用 top 命令查看时,还会发现 Redis 占用了很多内存呢?
实际上,这是因为,当数据删除后,Redis 释放的内存空间会由内存分配器管理,并不会立即返回给操作系统。

Redis 释放的内存空间可能并不是连续的,那么,这些不连续的内存空间很有可能处于一种闲置的状态。这就会导致一个问题:虽然有空闲空间,Redis 却无法用来保存数据,不仅会减少 Redis 能够实际保存的数据量,还会降低 Redis 运行机器的成本回报率。

什么是Redis内存碎片?

操作系统的剩余空间总量足够,但申请一块N字节连续地址的空间时,剩余内存空间中没有大小为N字节的连续空间,那么这些剩余内存空间中,小于N字节的连续内存空间就是内存碎片。

Redis内存碎片是如何形成的?

内存碎片形成有内部原因和外部原因:

  • 内部原因:内存分配器的分配策略决定操作系统无法做到“按需分配”。
    • Redis使用libc、jemalloc、tcmalloc多种内存分配器来分配内存,默认使用jemalloc。
    • 内存分配器是按照固定大小来分配内存空间,不是完全按照应用程序申请的内存大小来分配。
    • 以jemalloc为例,是按照一系列固定的大小划分内存空间,例如8字节、16字节、32字节、...、2KB、4KB等。当程序申请的内存最接近某个固定值时,jemalloc就会给它分配相应大小的空间。
  • 外部原因:键值对大小不一样,并且键值对可以被修改和删除。
    • Redis申请内存空间分配时,对于大小不一的内存空间需求,内存分配器按照固定大小分配内存空间,分配的内存空间一般都会比申请的内存空间大一些,这会产生一定的内存碎片。
    • 键值对会被修改和删除,会导致空间的扩容和释放。

如何判断Redis是否有内存碎片?

DAS通过Redis提供的INFO命令,查询内存使用的详细信息,命令如下:

INFO memory
# Memory
used_memory:350458970752
used_memory_human:326.39G
used_memory_rss:349066919936
used_memory_rss_human:325.09G
…
mem_fragmentation_ratio:1.00
  • used_memory:表示Redis为了保存数据实际申请使用的内存空间。
  • used_memory_rss:表示操作系统实际分配给Redis的物理内存空间,其中包含了内存空间碎片。
  •  mem_fragmentation_ratio:表示Redis当前的内存碎片率。计算公式:mem_fragmentation_ratio=used_memory_rss/used_memory
    • mem_fragmentation_ratio大于等于1但小于等于1.5,这种情况是合理的。
    • mem_fragmentation_ratio大于1.5,表明内存碎片率已经超过了50%。

如何清理内存碎片?

一个“简单粗暴”的方法是重启Redis实例。但是这个方法会带来两个后果:

  • 如果Redis中的数据没有持久化,数据会丢失;
  • 即使Redis数据持久化了,还需要通过AOF或者RDB来恢复,恢复时长取决于AOF或RDB的大小。并且如果只有一个Redis实例,恢复阶段无法提供服务。

 那有没有更好的方法呢?有的,从4.0-RC3版本以后,Redis自身提供了一种内存碎片自动清理的方法。

内存碎片自动清理

内存碎片清理,简单来说,就是“搬家让位,合并空间”。

当有数据把一块连续的内存空间分割成好几块不连续的空间时,操作系统会把数据拷贝到另外,而原来不连续的内存空间就变成连续的内存空间了。

但是碎片清理是有代价的。操作系统需要把多份数据拷贝到新位置,把原有空间释放出来,这会带来时间开销。另外在数据拷贝时,会阻塞Redis,降低性能。

如何缓解这个问题?

Redis专门为自动内存碎片清理机制提供参数设置。可以通过设置参数,来控制碎片清理的开始和结束时机,以及占用的CPU比例,从而减少碎片清理对Redis请求处理的性能影响。

首先,开启自动内存碎片清理:

config set activedefrag yes
然后,设置触发内存清理的条件:

  • active-defrag-ignore-bytes 100mb:表示内存碎片的字节数达到100MB时,开始清理;
  • active-defrag-threshold-lower 10:表示内存碎片空间占操作系统分配给Redis的总空间比例达到10%时,开始清理。

最后,控制清理操作占用CPU时间比例的上、下限:

  • active-defrag-cycle-min 25: 表示自动清理过程所用CPU时间的比例不低于25%,保证清理能正常开展;
  • active-defrag-cycle-max 75:表示自动清理过程所用CPU时间的比例不高于75%,一旦超过,就停止清理,从而避免在清理时,大量的内存拷贝阻塞Redis,导致响应延迟升高。

总结

内存碎片自动清理涉及内存拷贝,这对 Redis 而言,是个潜在的风险。如果你在实践过程中遇到 Redis 性能变慢,记得通过日志看下是否正在进行碎片清理。如果 Redis 的确正在清理碎片,那么,我建议你调小 active-defrag-cycle-max 的值,以减轻对正常请求处理的影响。

以上就是详解如何清理Redis内存碎片的详细内容,更多关于清理Redis内存碎片的资料请关注脚本之家其它相关文章!

相关文章

  • Redis RDB与AOF持久化方式详细讲解

    Redis RDB与AOF持久化方式详细讲解

    Redis是基于内存的数据结构服务器,保存了大量的键值对数据,所以持久化到磁盘是非常必要的,Redis提供了两种持久化的方式,分别是RDB和AOF。下面我们看下这两种持久化方式的具体实现原理
    2022-11-11
  • Spring Boot 3.0x的Redis 分布式锁的概念和原理

    Spring Boot 3.0x的Redis 分布式锁的概念和原理

    Redis 分布式锁是一种基于 Redis 的分布式锁解决方案,它的原理是利用 Redis 的原子性操作实现锁的获取和释放,从而保证共享资源的独占性,这篇文章主要介绍了适合 Spring Boot 3.0x的Redis 分布式锁,需要的朋友可以参考下
    2024-08-08
  • Redis官方可视化工具RedisInsight的安装使用详细教程(功能强大)

    Redis官方可视化工具RedisInsight的安装使用详细教程(功能强大)

    RedisInsight是Redis官方出品的可视化管理工具,可用于设计、开发、优化你的Redis应用。支持深色和浅色两种主题,界面非常炫酷,接下来通过本文给大家介绍Redis官方可视化工具RedisInsight的安装使用过程,需要的朋友可以参考下
    2022-04-04
  • Redis实现Session共享与单点登录

    Redis实现Session共享与单点登录

    本文主要介绍了Redis实现Session共享与单点登录,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2022-07-07
  • Redis使用RedisTemplate导致key乱码问题解决

    Redis使用RedisTemplate导致key乱码问题解决

    本文主要介绍了Redis使用RedisTemplate导致key乱码问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2024-06-06
  • 通过 Redis 实现 RPC 远程方法调用(支持多种编程语言)

    通过 Redis 实现 RPC 远程方法调用(支持多种编程语言)

    这篇文章主要介绍了通过 Redis 实现 RPC 远程方法调用,支持多种编程语言,本文就以Ruby和Python为例,给出了实现代码,需要的朋友可以参考下
    2014-09-09
  • Redis入门基础常用操作命令整理

    Redis入门基础常用操作命令整理

    这篇文章主要为大家介绍了Redis入门基础常用操作命令的整理,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2022-05-05
  • 使用SpringBoot + Redis 实现接口限流的方式

    使用SpringBoot + Redis 实现接口限流的方式

    这篇文章主要介绍了SpringBoot + Redis 实现接口限流,Redis 除了做缓存,还能干很多很多事情:分布式锁、限流、处理请求接口幂等,文中给大家提到了限流注解的创建方式,需要的朋友可以参考下
    2022-05-05
  • redis 设置生存和过期时间的原理分析

    redis 设置生存和过期时间的原理分析

    这篇文章主要介绍了redis 设置生存和过期时间的原理,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-08-08
  • 详解使用Redis SETNX 命令实现分布式锁

    详解使用Redis SETNX 命令实现分布式锁

    本篇文章主要介绍了详解使用Redis SETNX 命令实现分布式锁,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-01-01

最新评论