Linux查看日志文件写入速度的4种方法详解

 更新时间:2022年06月11日 14:29:01   作者:扣钉日记  
有时,我们需要查看某个文件的增长速度,如日志文件,以此来感受系统的负载情况,因为一般情况下,日志写入越快,说明系统负载越重。本文总结了Linux中查看日志增长速度的几种方法,需要的可以参考一下

简介

有时,我们需要查看某个文件的增长速度,如日志文件,以此来感受系统的负载情况,因为一般情况下,日志写入越快,说明系统负载越重。

本文就来介绍下Linux中查看日志增长速度的几种方法,如下:

使用dd

首先要介绍的是dd,因为dd命令几乎所有主流发行版都自带,无需额外安装,如下:

$ tail -F app.log | dd of=/dev/null status=progress
3875840 bytes (3.9 MB) copied, 8.228797 s, 471 kB/s

如上,使用tail -F获取新写入的数据,然后用管道将数据交给dd,dd将数据拷贝到/dev/null,其中status=progress是用来显示拷贝速度的,可见,我们日志的写入速度是471 kB/s

使用pv

pv命令可以看做是带进度的cp,如下:

$ yum install -y pv

$ tail -F app.log | pv >/dev/null
2.05MiB 0:00:03 [ 330kiB/s] [       <=>                                ]

原理与dd类似,不过命令换成了pv。

使用cv命令

由于日志数据都是程序(如java)写入的,而在如下的伪文件中,存放着程序打开的文件信息,如下:

  • /proc/<pid>/fd:存放着打开的文件描述符
  • /proc/<pid>/fdinfo:存放着文件描述符写入到的offset

于是定期的读取这个offset就可以知道文件的写入速度了,这也是cv命令的实现原理,如下:

$ yum install -y cv

$ cv -mc java
[    1] java app.log 100.0% (6.1 GiB / 6.1 GiB) 390.2 KiB/s

# 实际上,由于Linux上大多数命令(如cp)没自带进度查看功能,而cv就成了很好的补充
# 比如查看cp复制文件的进度
$ cp app.log app.log.bak & cv -mc cp 

新版cv命令已经改名为progress,安装不到cv包时,可试着安装progress包。

编写小脚本

通过写一个小脚本,定期观察文件大小,也可查看文件写入速度,如下:

# 每秒获取文件大小,通过减去上一秒的大小,即可计算出速度
while sleep 1; do  \
  sz=`stat -c %s app.log`; \
  numfmt --from=auto --to=iec $((sz-psz)); \
  psz=$sz; \
done

492K
750K
370K

通过watch再加上观察,也能大致看出速度,如下:

watch -d -t -n1 du app.log

watch_du

举一反三

其实转念一想,如果我们在某个函数中打上日志,然后通过grep过滤出此日志,然后我们只要计算每秒输出的日志行数,这岂不就是函数执行的QPS了!

# 使用grep过滤出日志,tr删除非换行符,所以dd显示的是换行符的个数!
$ tail -F app.log \
    | grep --line-buffered '/order/get' \
    | stdbuf -oL tr -dc '\n' \                     
    | dd of=/dev/null bs=1 status=progress

151 bytes (151 B) copied, 15.523018 s, 0.0 kB/s

这里可以通过151/15计算出QPS是10,由于没有超过1000,所以看到的是0.0kB/s,如果使用pv命令,会更简单一些,如下:

$ tail -F app.log \
    | grep --line-buffered '/order/get' \
    | pv -l >/dev/null
    
144  0:00:03 [11.5 /s] [       <=>                

到此这篇关于Linux查看日志文件写入速度的4种方法详解的文章就介绍到这了,更多相关Linux查看日志文件写入速度内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • shell中常用的命令之diff和patch用法

    shell中常用的命令之diff和patch用法

    这篇文章主要介绍了shell中常用的命令:diff和patch,在这里diff是比较文件内容,patch是打补丁的,本文通过实例代码给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-02-02
  • Shell脚本中[]和[[]]区别详解

    Shell脚本中[]和[[]]区别详解

    在 Shell 脚本中,[] 和 [[]] 是用于条件测试的不同语法结构,它们有一些区别,主要体现在对字符串处理和表达式的支持上,这篇文章主要介绍了Shell脚本中[]和[[]]区别,需要的朋友可以参考下
    2023-12-12
  • Linux中自定义shell脚本启动jar包的方法

    Linux中自定义shell脚本启动jar包的方法

    这篇文章主要介绍了Linux中自定义shell脚本启动jar包的方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2021-01-01
  • shell高级学习之正则表达式

    shell高级学习之正则表达式

    这篇文章主要给大家介绍了关于shell高级学习之正则表达式的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用shell具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
    2019-05-05
  • ./ 和 sh 的使用区别详解

    ./ 和 sh 的使用区别详解

    这篇文章主要介绍了./ 和 sh 的使用区别详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-09-09
  • shell脚本批量创建用户的方法小结

    shell脚本批量创建用户的方法小结

    有些面试题中会问到批量创建用户的题目,大体是用循环去进行创建,但有时也会有一些额外的附加条件,下面这篇文章主要给大家介绍了关于shell脚本批量创建用户的相关资料,需要的朋友可以参考下
    2022-03-03
  • Linux shell脚本的建立与执行

    Linux shell脚本的建立与执行

    今天小编就为大家分享一篇关于Linux shell脚本的建立与执行,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧
    2019-02-02
  • shell脚本源码安装nginx的详细过程

    shell脚本源码安装nginx的详细过程

    这篇文章主要介绍了shell脚本源码安装nginx,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2021-10-10
  • Linux 中的export与alias命令详解

    Linux 中的export与alias命令详解

    export和alias都是用来简化命令行输入的工具。export用于设置环境变量,环境变量是一些系统级别的变量,用于指定一些系统的默认值或者搜索路径等,这篇文章主要介绍了Linux 中的export与alias命令,需要的朋友可以参考下
    2023-04-04
  • Linux nano命令使用示例

    Linux nano命令使用示例

    nano是一个小型、免费、友好的编辑器,旨在取代非免费Pine包中的默认编辑器Pico,nano是一个字符终端的文本编辑器,有点像DOS下的editor程序,这篇文章主要介绍了Linux nano命令使用示例,需要的朋友可以参考下
    2023-03-03

最新评论