JVM进程缓存Caffeine的使用

 更新时间:2023年01月25日 09:35:13   作者:心潮的滴滴  
本文主要介绍了JVM进程缓存Caffeine的使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

一、前言

Caffeine是当前最优秀的内存缓存框架,不论读还是写的效率都远高于其他缓存,而且在Spring5开始的默认缓存实现就将Caffeine代替原来的Google Guava

二、基本使用

<dependency>
    <groupId>com.github.ben-manes.caffeine</groupId>
    <artifactId>caffeine</artifactId>
</dependency>

2.1 手动创建缓存

void test1() {
    Cache<Object, Object> cache = Caffeine.newBuilder()
            // 初始数量
            .initialCapacity(10)
            // 最大条数
            .maximumSize(10)
            // expireAfterWrite和expireAfterAccess同时存在时,以expireAfterWrite为准
            // 最后一次写操作后经过指定时间过期
            .expireAfterWrite(1, TimeUnit.SECONDS)
            // 最后一次读或写操作后经过指定时间过期
            .expireAfterAccess(1, TimeUnit.SECONDS)
            // 监听缓存被移除
            .removalListener((key, value, cause) -> {})
            // 记录命中
            .recordStats()
            .build();
    cache.put("1", "张三");
    System.out.println(cache.asMap());
    System.out.println(cache.getIfPresent("1"));
    System.out.println(cache.get("2", o -> "默认值"));
}

运行结果

{1=张三}
张三
默认值

2.2 异步获取缓存

@Test
void test2() {
    AsyncLoadingCache<String, String> asyncLoadingCache = Caffeine.newBuilder()
            // 创建缓存或者最近一次更新缓存后经过指定时间间隔刷新缓存:仅支持LoadingCache
            .refreshAfterWrite(1, TimeUnit.SECONDS)
            .expireAfterWrite(1, TimeUnit.SECONDS)
            .expireAfterAccess(1, TimeUnit.SECONDS)
            .maximumSize(10)
            // 根据key查询数据库里面的值
            .buildAsync(key -> {
                Thread.sleep(1000);
                return new Date().toString();
            });
    // 异步缓存返回的是CompletableFuture
    CompletableFuture<String> future = asyncLoadingCache.get("1");
    future.thenAccept(System.out::println);
}

2.3 记录命中数据

@Test
void test3() {
    LoadingCache<String, String> cache = Caffeine.newBuilder()
            // 创建缓存或者最近一次更新缓存后经过指定时间间隔,刷新缓存:refreshAfterWrite仅支持LoadingCache
            .refreshAfterWrite(1, TimeUnit.SECONDS)
            .expireAfterWrite(1, TimeUnit.SECONDS)
            .expireAfterAccess(1, TimeUnit.SECONDS)
            .maximumSize(10)
            // 开启记录缓存命中率等信息
            .recordStats()
            // 根据key查询数据库里面的值
            .build(key -> {
                TimeUnit.MILLISECONDS.sleep(1000);
                return new Date().toString();
            });

    cache.put("1", "小明");
    cache.get("1");

    /*
     * hitCount :命中的次数
     * missCount:未命中次数
     * requestCount:请求次数
     * hitRate:命中率
     * missRate:丢失率
     * loadSuccessCount:成功加载新值的次数
     * loadExceptionCount:失败加载新值的次数
     * totalLoadCount:总条数
     * loadExceptionRate:失败加载新值的比率
     * totalLoadTime:全部加载时间
     * evictionCount:丢失的条数
     */
    System.out.println(cache.stats());
}

会影响性能,生产环境下建议不开启

三、淘汰策略

  • LRU: 最近最少使用,淘汰最长时间没有被使用的页面;
  • LFU:最不经常使用,淘汰一段时间内,使用次数最少的页面;
  • FIFO:先进先出

LRU的优点:LRU相比于LFU而言性能更好一些,因为它算法相对比较简单,不需要记录访问频次,可以更好地应对突发流量;
LRU的缺点:虽然性能好一些,但是它通过历史数据来预测未来是局限的,它会认为最后到来的数据是最可能被再次访问的,从而给与它最高的优先级。有些非热点数据被访问过后,占据了高优先级,它会在缓存中占据相当长的时间,从而造成空间浪费;
LFU的优点:LRU根据访问频次访问,在大部分情况下,热点数据的频次肯定高于非热点数据,所以它的命中率非常高;
LFU的缺点:LFU算法相对比较复杂,性能比LRU差。有问题的是下面这种情况,比如前一段时间微博有个热点话题热度非常高,就比如那种可以让微博短时间停止服务的,于是赶紧缓存起来,LFU算法记录了其中热点词的访问频率,可能高达十几亿,而过后很长一段时间,这个话题已经不是热点了,新的热点也来了,但是,新热点话题的热度没办法到达十几亿,也就是说访问频次没有之前的话提高,那之前的热点就会一直占据着缓存空间,长时间无法被剔除。

3.1 4种淘汰方式与例子

Caffeine有4种缓存淘汰设置

  • 大小(会使用W-TinyLFU算法进行淘汰)
  • 权重(大小与权重,只能二选一)
  • 时间
  • 引用(不常用)
// 缓存大小淘汰
@Test
public void maximumSizeTest() throws InterruptedException {
    Cache<Object, Object> cache = Caffeine.newBuilder()
            // 超过10个后会使用W-TinyLFU算法进行淘汰
            .maximumSize(10)
            .build();
    for (int i = 1; i <= 10; i++) {
        cache.put(i, i);
    }
    // 缓存淘汰是异步的
    TimeUnit.MILLISECONDS.sleep(500);
    // 打印还没有被淘汰的缓存
    System.out.println(cache.asMap());
}

// 权重淘汰
@Test
public void maximumWeightTest() throws InterruptedException {
    Cache<Integer, Integer> cache = Caffeine.newBuilder()
            // 限制总权值,若所有缓存的权重加起来>总权重就会淘汰权重小的缓存
            .maximumWeight(100)
            .weigher((Weigher<Integer, Integer>) (key, value) -> key)
            .build();
    // 总权重其实是=所有缓存的权重加起来
    int maximumWeight = 0;
    for (int i = 1; i < 20; i++) {
        cache.put(i, i);
        maximumWeight += i;
        System.out.println("i = " + i + ", maximumWeight = " + maximumWeight);
    }
    System.out.println("总权重 = " + maximumWeight);
    // 缓存淘汰是异步的
    TimeUnit.MILLISECONDS.sleep(500);
    // 打印还没有被淘汰的缓存
    System.out.println(cache.asMap());
}

// 访问后到期(每次访问都会重置时间,也就是说如果一直被访问就不会被淘汰)
@Test
void expireAfterAccessTest() throws InterruptedException {
    Cache<Object, Object> cache = Caffeine.newBuilder()
            .expireAfterAccess(1, TimeUnit.SECONDS)
            // 可以指定调度程序来及时删除过期缓存项,而不是等待Caffeine触发定期维护
            // 若不设置scheduler,则缓存会在下一次调用get的时候才会被动删除
            .scheduler(Scheduler.systemScheduler())
            .build();
    cache.put(1, 2);
    System.out.println(cache.getIfPresent(1));
    Thread.sleep(3000);
    System.out.println(cache.getIfPresent(1));
}

// 写入后到期
@Test
void expireAfterWriteTest() throws InterruptedException {
    Cache<Object, Object> cache = Caffeine.newBuilder()
            .expireAfterWrite(1, TimeUnit.SECONDS)
            // 可以指定调度程序来及时删除过期缓存项,而不是等待Caffeine触发定期维护
            // 若不设置scheduler,则缓存会在下一次调用get的时候才会被动删除
            .scheduler(Scheduler.systemScheduler())
            .build();
    cache.put(1, 2);
    TimeUnit.MILLISECONDS.sleep(3000);
    System.out.println(cache.getIfPresent(1));
}

另外还有一个refreshAfterWrite()表示x秒后自动刷新缓存可以配合以上的策略使用

// 另外还有一个refreshAfterWrite()表示x秒后自动刷新缓存可以配合以上的策略使用
    private static int num = 0;
@Test
void refreshAfterWriteTest() throws InterruptedException {
    LoadingCache<Object, Integer> cache = Caffeine.newBuilder()
            .refreshAfterWrite(1, TimeUnit.SECONDS)
            .build(integer -> ++num);

    // 获取ID=1的值,由于缓存里还没有,所以会自动放入缓存
    System.out.println(cache.get(1));

    // 延迟2秒后,理论上自动刷新缓存后取到的值是2
    // 但其实不是,值还是1,因为refreshAfterWrite并不是设置了n秒后重新获取就会自动刷新
    // 而是x秒后&&第二次调用getIfPresent的时候才会被动刷新
    Thread.sleep(2000);
    System.out.println(cache.getIfPresent(1));// 1

    //此时才会刷新缓存,而第一次拿到的还是旧值
    System.out.println(cache.getIfPresent(1));// 2
}

3.2 最佳实践

实践1

  • 配置:设置maxSize、refreshAfterWrite,不设置expireAfterWrite/expireAfterAccess
  • 优缺点:因为设置expireAfterWrite当缓存过期会同步加锁获取缓存,所以设置expireAfterWrite时性能较好,但是某些时候会取旧数据,适合允许取到旧数据的场景

实践2

  • 配置:设置maxSize、expireAfterWrite/expireAfterAccess,不设置refreshAfterWrite
  • 优缺点:与上面相反,数据一致性好,不会获取到旧数据,但是性能没那么好,适合获取数据时不耗时的场景

四、配合Redis做二级缓存

缓存的解决方案一般有三种:

  • 本地内存缓存,如Caffeine、Ehcache;适合单机系统,速度最快,但是容量有限,而且重启系统后缓存丢失;
  • 集中式缓存,如Redis、Memcached;适合分布式系统,解决了容量、重启丢失缓存等问题,但是当访问量极大时,往往性能不是首要考虑的问题,而是带宽。现象就是Redis服务负载不高,但是由于机器网卡带宽跑满,导致数据读取非常慢;
  • 第三种方案就是结合以上2种方案的二级缓存应运而生,以内存缓存作为一级缓存、集中式缓存作为二级缓存

到此这篇关于JVM进程缓存Caffeine的使用的文章就介绍到这了,更多相关JVM进程缓存Caffeine内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 冒泡排序的原理及java代码实现

    冒泡排序的原理及java代码实现

    冒泡排序法:关键字较小的记录好比气泡逐趟上浮,关键字较大的记录好比石块下沉,每趟有一块最大的石块沉底。算法本质:(最大值是关键点,肯定放到最后了,如此循环)每次都从第一位向后滚动比较,使最大值沉底,最小值上升一次,最后一位向前推进
    2016-02-02
  • 在Spring异步调用中传递上下文的方法

    在Spring异步调用中传递上下文的方法

    这篇文章主要给大家介绍了关于如何在Spring异步调用中传递上下文的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用Spring具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
    2019-08-08
  • Java中Static关键字的五种用法详解

    Java中Static关键字的五种用法详解

    这篇文章主要介绍了Java中static的五种用法:修饰成员变量,修饰成员方法,修饰内部类,静态代码块,静态导包,想详细了解的小伙伴可以参考阅读本文
    2023-03-03
  • Java 编程如何使用 Class.forName() 加载类

    Java 编程如何使用 Class.forName() 加载类

    在一些应用中,无法事先知道使用者将加载什么类,而必须让使用者指定类名称以加载类,可以使用 Class的静态forName()方法实现动态加载类,这篇文章主要介绍了Java编程如何使用Class.forName()加载类,需要的朋友可以参考下
    2022-06-06
  • Sentinel中三种流控模式的使用详解

    Sentinel中三种流控模式的使用详解

    这篇文章主要为大家详细介绍了Sentinel中三种流控模式(预热模式,排队等待模式和热点规则)的使用,文中的示例代码讲解详细,感兴趣的可以了解下
    2023-08-08
  • 详解非spring框架下使用querydsl的方法

    详解非spring框架下使用querydsl的方法

    Querydsl是一个采用API代替拼凑字符串来构造查询语句,可跟 Hibernate 和 JPA 等框架结合使用。本文介绍的是非spring环境下querydsl JPA整合使用,感兴趣的小伙伴们可以参考一下
    2019-01-01
  • SpringBoot整合Dubbo+Zookeeper实现RPC调用

    SpringBoot整合Dubbo+Zookeeper实现RPC调用

    这篇文章主要给大家介绍了Spring Boot整合Dubbo+Zookeeper实现RPC调用的步骤详解,文中有详细的代码示例,对我们的学习或工作有一定的帮助,需要的朋友可以参考下
    2023-07-07
  • SpringBoot2.1.4中的错误处理机制

    SpringBoot2.1.4中的错误处理机制

    这篇文章主要介绍了SpringBoot2.1.4中的错误处理机制,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2021-10-10
  • Java垃圾回收之标记压缩算法详解

    Java垃圾回收之标记压缩算法详解

    今天小编就为大家分享一篇关于Java垃圾回收之标记压缩算法详解,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧
    2018-10-10
  • Spring mvc防止数据重复提交的方法

    Spring mvc防止数据重复提交的方法

    这篇文章主要为大家详细介绍了Spring mvc防止数据重复提交的方法,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-11-11

最新评论