客户端设置超时时间真的很重要
概述
在一条慢SQL导致购物车服务无法使用的解决方案一文中,提到了客户端调用购物车服务的时候,超时了。如果当时客户端没有设置超时时间的话,会在客户端中产生级联故障。先用一张图来说明一下。
聚合层除了调用购物车微服务,还调用了营销系统微服务。如果购物车服务的接口响应时间很慢,而客户端聚合层调用购物车服务时,又没有设置超时时间,那么将占有大量的连接,如果请求购物车服务的请求量比较大,瞬间就会把连接占用完,直接导致聚合层调用营销系统时,需要阻塞住等待获取连接,这样的话,整个小程序的很多功能就都用不了了。
从这里我们可以看到,最终小程序端会整体响应很慢,因为它调用了聚合层,而聚合层又调用了一个性能很差的购物车服务。产生级联故障了,小程序端和聚合层都在等待中耗尽了资源,这个是非常可怕的事情。
设置超时时间
聚合层是使用了Spring Cloud Ribbon
,我们可以设置一下Ribbon
的超时时间。具体的可以参看SpringCloud Edgware.SR3版本中Ribbon的timeout设置方法
ribbon:
ReadTimeout: 2000
ConnectTimeout: 2000
这样的话,聚合层调用购物车服务,如果两秒钟没有返回结果,则超时报错。这样做有两个好处。
- 快速失败,释放资源;
- 聚合层调用购物车虽然失败了,但是聚合层调用营销系统则仍然可以进行,不受影响。小程序端使用到营销系统接口的功能也能继续使用;
知识扩展
客户端保持弹性真心很重要,因此像客户端中的
- 负载均衡模式
- 断路器模式
- 后备模式
- 舱壁模式
都是需要了解的。要做一个弹性客户端,可以借助一些工具,像Netflix
的Hystrix
组件就非常不错,并且已经被Spring Cloud
集成进去了,使用起来也比较简单。
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对脚本之家的支持。如果你想了解更多相关内容请查看下面相关链接
相关文章
Stream distinct根据list某个字段去重的解决方案
这篇文章主要介绍了Stream distinct根据list某个字段去重,stream的distinct去重方法,是根据 Object.equals,和 Object.hashCode这两个方法来判断是否重复的,本文给大家介绍的非常详细,需要的朋友可以参考下2023-05-05使用SpringMVC访问Controller接口返回400BadRequest
这篇文章主要介绍了使用SpringMVC访问Controller接口返回400BadRequest,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教2022-03-03
最新评论