详解Redis缓存穿透/击穿/雪崩原理及其解决方案

 更新时间:2021年09月01日 17:13:14   作者:张铁牛  
缓存可以比喻为防弹衣,但如果没有使用好这个防弹衣效果就会适得其反,所以要更好的使用缓存才能发挥出它的作用。本文详细讲解了缓存穿透/击穿/雪崩以及其解决方法,感兴趣的小伙伴可以学习一下这篇文章

1. 简介

如图所示,一个正常的请求

1.客户端请求张铁牛的博客。

2.服务首先会请求redis,查看请求的内容是否存在。

3.redis将请求结果返回给服务,如果返回的结果有数据则执行7;如果没有数据则会继续往下执行。

4.服务从数据库中查询请求的数据。

5.数据库将查询的结果返回给服务。

6.如果数据库有返回数据,则将返回的结果添加到redis。

7.将请求到的数据返回给客户端。

2. 缓存穿透

2.1描述

通过接口访问一个缓存和数据库都不存在的数据。

因为服务出于容错考虑,当请求从持久层查不到数据则不写入缓存,这将导致请求这个不存在的数据每次都要到持久层去查询,失去了缓存的意义。

此时,缓存起不到保护后端持久层的意义,就像被穿透了一样。导致数据库存在被打挂的风险。

2.2 解决方案

1.接口请求参数的校验。对请求的接口进行鉴权,数据合法性的校验等;比如查询的userId不能是负值或者包含非法字符等。

2.当数据库返回空值时,将空值缓存到redis,并设置合理的过期时间。

3.布隆过滤器。使用布隆过滤器存储所有可能访问的 key,不存在的 key 直接被过滤,存在的 key 则再进一步查询缓存和数据库。

3. 缓存击穿

3.1 描述

某个热点 key,在缓存过期的一瞬间,同时有大量的请求打进来,由于此时缓存过期了,所以请求最终都会走到数据库,造成瞬时数据库请求量大、压力骤增,导致数据库存在被打挂的风险。

3.2 解决方案

1.加互斥锁。当热点key过期后,大量的请求涌入时,只有第一个请求能获取锁并阻塞,此时该请求查询数据库,并将查询结果写入redis后释放锁。后续的请求直接走缓存。

2.设置缓存不过期或者后台有线程一直给热点数据续期。

4. 缓存雪崩

4.1 描述

大量的热点数据过期时间相同,导致数据在同一时刻集体失效。造成瞬时数据库请求量大、压力骤增,引起雪崩,导致数据库存在被打挂的风险。

4.1 解决方案

1.将热点数据的过期时间打散。给热点数据设置过期时间时加个随机值。

2.加互斥锁。当热点key过期后,大量的请求涌入时,只有第一个请求能获取锁并阻塞,此时该请求查询数据库,并将查询结果写入redis后释放锁。后续的请求直接走缓存。

3.设置缓存不过期或者后台有线程一直给热点数据续期。

5. 布隆过滤器

5.1 描述

布隆过滤器是防止缓存穿透的方案之一。布隆过滤器主要是解决大规模数据下不需要精确过滤的业务场景,如检查垃圾邮件地址,爬虫URL地址去重, 解决缓存穿透问题等。

布隆过滤器:在一个存在一定数量的集合中过滤一个对应的元素,判断该元素是否一定不在集合中或者可能在集合中。它的优点是空间效率和查询时间都比一般的算法要好的多,缺点是有一定的误识别率和删除困难。

5.2 数据结构

布隆过滤器是基于bitmap和若干个hash算法实现的。如下图所示:

1.元素tie经过hash1,hash2,hash3运算出对应的三个值落到了数组下标为4,6,8的位置上,并将其位置的默认值0,修改成1

2.元素niu同理落到了数组下标为1,3,4的位置上,并将其位置的默认值0,修改成1

此时bitmap中已经存储了tieniu数据元素。

当请求想通过布隆过滤器判断tie元素在程序中是否存在时,通过hash运算结果到数组对应下标位置上发现值已经都被置为1,此时返回true

5.3 “一定不在集合中”

如图所示:

​ 元素zhang通过布隆过滤器判断时,下标0,2都为0,则直接返回false

也就是当判断不在bitmap中的元素时,经过hash运算得到的结果在bitmap中只要有一个为0,则该数据一定不存在。

5.4 “可能在集合中”

如图所示:

​ 元素shuaibi通过布隆过滤器判断时,hash运算的结果落到了下标1,3,8上,此时对应下标位置的值都为1,则直接返回true

这下就尴尬了,因为实际程序中并没有数据shuaibi,但布隆过滤器返回的结果显示有这个元素。这就是布隆过滤器的缺点,存在误判情况。

5.5 ”删除困难“

为什么布隆过滤器删除困难呢,如图所示:

如果删除了“tie”元素,4号位被置为0,则会影响niu元素的判断,因为4号位为0,进行数据校验时返回0,则会认为程序中没有niu元素。

那小伙伴会问,4号位不置为0,行不行?

如果删除了元素,hash碰撞的数组下标不置为0,那么如果继续验证该元素的话,布隆过滤器会继续返回true,但实际上元素已经删除了。

所以布隆过滤器数据删除困难,如果要删除的话,可以参考Counting Bloom Filter

5.6 为什么不使用HashMap呢?

如果用HashSet或Hashmap存储的话,每一个用户ID都要存成int,占4个字节即32bit。而一个用户在bitmap中只需要1个bit,内存节省了32倍。

并且大数据量会产生大量的hash冲突,结果就是产生hash冲突的数据,仍然会进行遍历挨个比对(即使转成红黑树),这样对内存空间和查询效率的提升,仍然是有限的。

当然:数据量不大时,尽管使用。而且hashmap方便进行CRUD😂

到此这篇关于详解缓存穿透/击穿/雪崩原理及其解决方案的文章就介绍到这了,更多相关缓存穿透/击穿/雪崩内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 基于 Redis 的 JWT令牌失效处理方案(实现步骤)

    基于 Redis 的 JWT令牌失效处理方案(实现步骤)

    当用户登录状态到登出状态时,对应的JWT的令牌需要设置为失效状态,这时可以使用基于Redis 的黑名单方案来实现JWT令牌失效,本文给大家分享基于 Redis 的 JWT令牌失效处理方案,感兴趣的朋友一起看看吧
    2024-03-03
  • Redis 过期键删除策略的实现示例

    Redis 过期键删除策略的实现示例

    Redis的过期数据删除策略主要有三种,包括定时删除、惰性删除和定期删除,本文主要介绍了Redis 过期键删除策略的实现示例,具有一定的参考价值,感兴趣的可以了解一下
    2024-03-03
  • 压缩列表牺牲速度来节省内存,Redis是膨胀了吗

    压缩列表牺牲速度来节省内存,Redis是膨胀了吗

    这篇文章主要给大家解释了Redis 当中的 ziplist(压缩列表)牺牲速度来节省内存的原因,希望大家能够喜欢
    2021-02-02
  • Redis优惠券秒杀解决方案

    Redis优惠券秒杀解决方案

    这篇文章主要介绍了Redis解决优惠券秒杀应用案例,本文先讲了抢购问题,指出其中会出现的多线程问题,提出解决方案采用悲观锁和乐观锁两种方式进行实现,然后发现在抢购过程中容易出现一人多单现象,需要的朋友可以参考下
    2022-12-12
  • 详解redis集群的三种方式

    详解redis集群的三种方式

    Redis三种集群方式分别是主从复制,哨兵模式,Cluster集群,这篇文章主要介绍了redis集群的三种方式,本文给大家介绍的非常详细,需要的朋友可以参考下
    2022-07-07
  • redis中opsForList().range()的使用方法详解

    redis中opsForList().range()的使用方法详解

    这篇文章主要给大家介绍了关于redis中opsForList().range()的使用方法,文中通过实例代码以及图文介绍的非常详细,对大家学习或者使用redis具有一定的参考学习价值,需要的朋友可以参考下
    2023-03-03
  • Redis中Scan命令的踩坑实录

    Redis中Scan命令的踩坑实录

    这篇文章主要给大家介绍了关于Redis中Scan命令踩坑的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
    2020-07-07
  • Redis接口访问优化的方法步骤

    Redis接口访问优化的方法步骤

    本文基于之前的Redis接口访问进行优化,引入了接口防抖功能,通过时间段参数限制接口调用频率,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2024-10-10
  • 浅谈redis缓存在项目中的使用

    浅谈redis缓存在项目中的使用

    最近由于项目需要,在系统缓存服务部分上用到了redis,本文就浅谈下在redis缓存在项目中的使用,感兴趣的小伙伴们可以参考一下
    2021-05-05
  • 浅谈Redis 中的过期删除策略和内存淘汰机制

    浅谈Redis 中的过期删除策略和内存淘汰机制

    本文主要介绍了Redis 中的过期删除策略和内存淘汰机制,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2022-04-04

最新评论