nginx http响应限速的具体实现

 更新时间:2024年05月31日 09:28:08   作者:码农心语  
本文主要介绍了nginx http响应限速的具体实现,可以使用limite_rate和limit_rate_after来限制HTTP响应的速度,具有一定的参考价值,感兴趣的可以了解一下

1. 引言

在现代互联网应用中,服务器的性能和响应速度是至关重要的。为了保证服务器的稳定性和可靠性,限制客户端对服务器的访问速度是一项重要的任务。而nginx 是一款高性能的 Web 服务器和反向代理服务器,提供了丰富的功能来管理和控制客户端请求。其中,HTTP 响应限速功能就是是一种有效的方式,可以限制服务器端对客户端的响应速度,以避免服务器在运行过程中因为部分客户端占用过多的资源而导致网络和服务器负载过高,而引起服务的不稳定的问题。

本文首先介绍了如何进行nginx配置来启用限速功能,然后通过深入源码来详细分析nginx http响应限速的实现原理,让大家对nginx的限速的实现原理有一个完整的认识。

2. 配置参数

和响应限速有关的主要配置参数一共有两个,分别是limite_rate和limit_rate_after。

2.1 limit_rate 配置指令

语  法: limit_rate rate;
默认值: limit_rate 0;
上下文: http, server, location, if in location

本条配置指令用来限制响应传输速率,单位为每秒字节数,如果设置为0表示禁用限速功能。这个限制是对每个请求来说的(而不是对每个客户端来限制的),也就是说如果同一个客户端同时开启了两个链接,那么总的最大响应速率降是这个限制速率的两倍。

配置的参数值可以支持变量(从1.17.0版本开始)。这可能在限制的速率值依赖于某个条件的常见下面显得非常有用,譬如:

map $slow $rate {
    1     4k;
    2     8k;
}

limit_rate $rate;

上例利用map模块,将$slow变量的值映射为$rate变量的值,譬如$slow变量为1,那么映射出$rate为4k。这样子,limit_rate就可以根据$slow的值来设置最终要限制的响应速率了。

这样子,结合map模块的功能,我们完全可以让限速功能变得得更加灵活,譬如根据http header的某个值来映射速率,根据请求的url或者域名来限制速率等等,这里就不在赘述了。

2.2 limit_rate_after 配置指令

语  法: limit_rate_after size;
默认值:limit_rate_after 0;
上下文: http, server, location, if in location

备  注:

本条配置指令从0.8.0版本开始生效。

本条配置指令用来设置在给客户端发送的响应的字节数超过指定的值以后才开始限速。和limit_rate配置指令一样,从1.17.0版本开始,可以支持变量方式配置。

这样指令在流媒体播放的场景下面比较有用,为了支持播放器能够尽量缩短播放前的加载时间,我们就需要在刚开始的时候尽可能快速地将视频文件的头部发送给客户端;而等到播放器满足播放条件开始播放的时候,我们又不太希望播放器加载得太快从而浪费服务器的资源和网络资源,所以需要限制客户端的下载速度到某一个合理的值,只要保证播放器能够流畅播放即可。

而limit_rate_after的配置指令正好满足的这个场景的需求。

2.3 其他限速配置

nginx还可以支持通过设置$limit_rate变量参数来对响应速度进行限制,这样就可以在nginx的运行过程中,由脚本或者插件动态设置响应速率,这样子限速逻辑更加灵活了。不过,从1.17.0版本开始,nginx官方不推荐使用这个方法。

nginx还支持上游服务器通过X-Accel-Limit-Rateheader头来告诉nginx对本次响应进行限速多少的功能。这里不再赘述。

3. 源码分析

nginx http的限速功能是通过ngx_http_write_filter函数来实现的。ngx_http_write_filter函数是 nginx 在处理 HTTP 请求时的一个重要函数,它的主要作用是将响应数据写入到客户端的网络连接。具体来说,ngx_http_write_filter 函数执行以下关键任务:

  • 确定发送响应数据的方式:根据客户端连接的类型(例如普通连接、SSL 连接等),ngx_http_write_filter 函数确定使用哪种方式将响应数据发送给客户端。这包括直接发送数据、缓存数据再发送或者将数据写入到发送缓冲区等。

  • 处理发送缓冲区:ngx_http_write_filter 函数会将响应数据写入到发送缓冲区。发送缓冲区是一个用于临时存储将要发送给客户端的数据的内存区域。nginx 使用发送缓冲区来提高发送效率,避免每次发送数据都需要进行系统调用。

  • 调用操作系统的网络发送函数:当发送缓冲区中的数据达到一定大小或者达到一定的时间间隔时,ngx_http_write_filter 函数会调用操作系统提供的网络发送函数,将数据从发送缓冲区发送到客户端的网络连接中。

  • 处理发送过程中的错误:在发送响应数据的过程中,可能会发生一些错误,例如网络连接中断、客户端关闭连接等。ngx_http_write_filter 函数会检测并处理这些错误情况,确保响应数据能够正确地发送给客户端。

下图给出了ngx_http_writer_filter实现的大致流程图:

在这里插入图片描述

限速原理的重点逻辑就是下面两个公式:

limit = (off_t) r->limit_rate * (ngx_time() - r->start_sec + 1)
                - (c->sent - r->limit_rate_after);
                
delay = (ngx_msec_t) (- limit * 1000 / r->limit_rate + 1);

其中limit就是到目前为止按照设置的限速速率计算本次最多可以发送多少字节

如果limit<=0,表示本次已经没有发送的额度了,需要进行延时发送。在这个时候就需要计算延时发送的延时时长,用到的就是delay变量了,该变量很好理解,就是到目前已经超额发送的字节数/允许发送的速率,得到延时的毫秒数,然后调用ngx_add_timer设置定时器进行延时处理。

对照以上流程图和相关解释,ngx_http_write_filter的主要实现逻辑包括限速逻辑,我们有理由相信不难理解把握了,大家有兴趣可以自行阅读源码。

到此这篇关于nginx http响应限速的具体实现的文章就介绍到这了,更多相关nginx http响应限速内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • nginx下支持PATH_INFO的方法实例详解

    nginx下支持PATH_INFO的方法实例详解

    这篇文章主要介绍了nginx下支持PATH_INFO的方法,结合实例形式详细分析了nginx下使用PATH_INFO模式的具体方法与相关使用技巧,需要的朋友可以参考下
    2016-02-02
  • 利用nginx+lua+redis实现反向代理方法教程

    利用nginx+lua+redis实现反向代理方法教程

    这篇文章主要给大家介绍了利用nginx+lua+redis实现反向代理方法教程,文中介绍的非常详细,对大家具有一定的参考学习价值,需要的朋友们下面来一起看看吧。
    2017-05-05
  • 为高负载网络优化Nginx和Node.js的方法

    为高负载网络优化Nginx和Node.js的方法

    如果不先对Nginx和Node.js的底层传输机制有所了解,并进行针对性优化,可能对两者再细致的调优也会徒劳无功。一般情况下,Nginx通过TCP socket来连接客户端与上游应用
    2013-02-02
  • 编写Go程序对Nginx服务器进行性能测试的方法

    编写Go程序对Nginx服务器进行性能测试的方法

    这篇文章主要介绍了编写Go程序对Nginx服务器进行性能测试的方法,包括对其负载均衡和缓存等方面的测试,极力推荐!需要的朋友可以参考下
    2015-06-06
  • Nginx Rewrite及Location的使用与区别

    Nginx Rewrite及Location的使用与区别

    rewrite和location的功能有点相像,都能实现跳转,本文主要介绍了Nginx Rewrite及Location的使用与区别,具有一定的参考价值,感兴趣的可以了解一下
    2023-08-08
  • Nginx 虚拟主机配置的三种方式(基于域名)

    Nginx 虚拟主机配置的三种方式(基于域名)

    Nginx配置虚拟主机支持3种方式:基于IP的虚拟主机配置,基于端口的虚拟主机配置,基于域名的虚拟主机配置。本文主要介绍了基于域名的实现,感兴趣的小伙伴们可以参考一下
    2018-10-10
  • Nginx反向代理springboot的jar包过程解析

    Nginx反向代理springboot的jar包过程解析

    这篇文章主要介绍了Nginx反向代理springboot的jar包过程解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-05-05
  • nginx日志打印请求头信息示例详解

    nginx日志打印请求头信息示例详解

    这篇文章主要介绍了nginx日志打印请求头信息的相关资料,文章介绍了如何在Nginx中打印请求头中的自定义字段,并解决由于下划线导致的字段无法正确打印的问题,需要的朋友可以参考下
    2024-11-11
  • Nginx层面配置基础用户验证的完整步骤

    Nginx层面配置基础用户验证的完整步骤

    这篇文章主要给大家介绍了关于Nginx层面配置基础用户验证的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用Nginx具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
    2019-07-07
  • 详细聊聊K8s容器内nginx带变量的域名解析

    详细聊聊K8s容器内nginx带变量的域名解析

    这篇文章主要给大家介绍了关于K8s容器内nginx带变量域名的相关资料,文中通过实例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2022-01-01

最新评论