python监控日志中的报错并进行邮件报警

 更新时间:2022年06月09日 11:58:23   作者:linkenzhou  
这篇文章主要为大家介绍了python监控日志中的报错并进行邮件报警的实现实例,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪

前言

在测试过程中,注意力往往都在功能上,如果功能正常,是基本不会查看日志的,反之会查看日志定位问题。但是表面上的功能正常不能确保日志没有报错,不能确保其他功能点没有问题,这时我们就需要日志的监控,一旦有报错就触发报警机制(报警机制可以有邮件报警、钉钉微信发消息报警等),我选择的是发邮件报警。

实现思路

1、在测试过程中,日志时时在刷,时时监控难度太大

2、转换思路,每分钟对日志进行扫描一次,发现报错即报警

  • a.获取当前时间前一分钟的日志,并将日志全部写入一个文件中,每次写入前会将该文件清空
  • b.获取前一分钟文件时,方法是获取前一分钟日志的第一行的行号和最后一行的行号,然后将这两个行号间的所有内容输出到一个文件中(这样做相比于直接根据时间过滤的好处就是会包含报错内容,因为java日志中报错信息前面是没有时间的,根据时间过滤就会漏掉报错信息)
  • c.在前一分钟日志中进行java关键词报错过滤,并将查询到的报错信息的前后20行(具体多少行根据实际情况而定)内容都输出到另一个文件中
  • d.发邮件之前判断上一步生成的文件大小,如果大于0(说明有报错)就触发邮件,如果等于0就不触发邮件报警

3.脚本写好后,放入crond定时任务中,每分钟执行一次,即可进行监控

实现代码

仅供参考

#!/bin/sh
#日志路径
mall_c_log_path='/data/admin/log/mall-c/1.0.0/qa/base/1/mall-c.log'
mall_mg_log_path='/data/admin/log/mall-mg/1.0.0/qa/base/1/mall-mg.log'
#当前时间前一分钟,精确到分
curdate=`date -d "1 minute ago" +"%Y-%m-%d %H:%M"`
echo ${curdate}
#获取mall_c要截取日期日志的开始和结束行号
c_start_line=`cat -n $mall_c_log_path | grep "${curdate}" | head -1 | cut -f1`
c_end_line=`cat -n $mall_c_log_path | grep "${curdate}" | tail -1 | cut -f1`
#获取mall_mg要截取日期日志的开始和结束行号
mg_start_line=`cat -n $mall_mg_log_path | grep "${curdate}" | head -1 | cut -f1`
mg_end_line=`cat -n $mall_mg_log_path | grep "${curdate}" | tail -1 | cut -f1`
sed -n "$c_start_line,${c_end_line}p" $mall_c_log_path > /data/admin/log_err/mall_c_now.log
sed -n "$mg_start_line,${mg_end_line}p" $mall_mg_log_path > /data/admin/log_err/mall_mg_now.log
#清空错误日志文件
> /data/admin/log_err/mall-c_err.txt
> /data/admin/log_err/mall-mg_err.txt
#将报错信息写入文件
err_list=(ArithmeticExecption NullPointerException ClassCastException NegativeArrayException ArrayIndexOutOfBoundsException SecturityException EOFException FileNotFoundException NumberFormatException SQLException IOException NoSuchMethodException SocketTimeoutException)
for i in ${err_list[*]}; do
cat /data/admin/log_err/mall_c_now.log | grep -C 20 "${i}" >> /data/admin/log_err/mall-c_err.txt
cat /data/admin/log_err/mall_mg_now.log | grep -C 20 "${i}" >> /data/admin/log_err/mall-mg_err.txt
done
# -*- coding: UTF-8 -*-
import smtplib,os
from email.mime.text import MIMEText
from email.mime.multipart import MIMEMultipart
from email.header import Header
def send_mail_attch():
    #发送邮箱
    # sender='18706710668@163.com'
    sender='815618406@qq.com'
    #接收邮箱
    receiver='815618406@qq.com'
    #发送邮箱服务器
    # smtpserver='smtp.163.com'
    smtpserver='smtp.qq.com'
    #用户名  口令
    # username='18706710668@163.com'
    username='815618406@qq.com'
    password='vwrfpqwbwgsybdah'
    #中文需参数‘utf8',单字节字符不需要
    # 发送邮件主题
    subject = '互动赢家QA环境日志监控报警'
    msg = MIMEMultipart('mixed')
    msg['Subject'] = Header(subject, 'utf-8')
    #邮件正文
    text = "Dear all!\n 附件是后端日志报错内容,请查收~"
    zw = MIMEText(text,'plain','utf-8')
    msg.attach(zw)
    #邮件附件1
    size_mall_c = os.path.getsize('/data/admin/log_err/mall-c_err.txt')
    if size_mall_c != 0:
        mall_c_log = open('/data/admin/log_err/mall-c_err.txt',"rb")
        send_mall_c_log = mall_c_log.read()
        mall_c_log.close()
        att_1 = MIMEText(send_mall_c_log, 'base64', 'utf-8')
        att_1["Content-Type"] = "application/octet-stream"
        att_1["Content-Disposition"] = "attachment;filename = 'mall_c_err.txt'"
        msg.attach(att_1)
    #邮件附件2
    size_mall_mg = os.path.getsize('/data/admin/log_err/mall-mg_err.txt')
    if size_mall_mg != 0:
        mall_mg_log = open('/data/admin/log_err/mall-mg_err.txt',"rb")
        send_mall_mg_log = mall_mg_log.read()
        mall_mg_log.close()
        att_2 = MIMEText(send_mall_mg_log, 'base64', 'utf-8')
        att_2["Content-Type"] = "application/octet-stream"
        att_2["Content-Disposition"] = "attachment;filename = 'mall_mg_err.txt'"
        msg.attach(att_2)
    msg['to']='815618406@qq.com'
    msg['from']='815618406@qq.com'
    smtp=smtplib.SMTP_SSL('smtp.qq.com',port=465)
    #smtp=smtplib.SMTP()
    #smtp.connect('smtp.qq.com')
    #smtp.set_debuglevel(1)
    smtp.login(username,password)
    smtp.sendmail(sender,receiver,msg.as_string())
    smtp.quit()
if __name__ == '__main__':
    size_mall_c = os.path.getsize('/data/admin/log_err/mall-c_err.txt')
    size_mall_mg = os.path.getsize('/data/admin/log_err/mall-mg_err.txt')
    if (size_mall_c != 0) or (size_mall_mg != 0):
        send_mail_attch()
#!/bin/sh
#执行收集报错的脚本
sh /data/admin/log_err/monitor_log_err.sh
sleep 10
#执行发送邮件脚本
/usr/bin/python /data/admin/log_err/send_email.py

以上就是python监控日志中的报错并进行邮件报警的详细内容,更多关于python监控日志报错邮件报警的资料请关注脚本之家其它相关文章!希望能帮到你~

相关文章

  • python版opencv摄像头人脸实时检测方法

    python版opencv摄像头人脸实时检测方法

    今天小编就为大家分享一篇python版opencv摄像头人脸实时检测方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-08-08
  • 详解使用python crontab设置linux定时任务

    详解使用python crontab设置linux定时任务

    本篇文章主要介绍了使用python crontab设置linux定时任务,具有一定的参考价值,有需要的可以了解一下。
    2016-12-12
  • Python scipy利用快速傅里叶变换实现滤波

    Python scipy利用快速傅里叶变换实现滤波

    这篇文章主要为大家详细介绍了Python scipy如何利用快速傅里叶变换实现滤波,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下
    2024-01-01
  • 详解Python中的各种转义符\n\r\t

    详解Python中的各种转义符\n\r\t

    这篇文章主要介绍了详解Python中的各种转义符\n\r\t,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-07-07
  • 详解python中requirements.txt的一切

    详解python中requirements.txt的一切

    最近学习到了python中的requirements.txt,或许是因为太简单了,网上没有搜到比较完整的介绍,所以这篇文章主要介绍了关于python中requirements.txt的相关资料,需要的朋友可以参考借鉴,下面来一起看看吧。
    2017-03-03
  • Python操作PDF文件之实现A3页面转A4

    Python操作PDF文件之实现A3页面转A4

    这篇文章主要为大家详细介绍了Python操作PDF文件之实现A3页面转A4功能的相关资料,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一下
    2022-11-11
  • 低版本中Python除法运算小技巧

    低版本中Python除法运算小技巧

    这篇文章主要介绍了低版本中Python除法运算小技巧,python 2.5版本中存在两种除法运算,即所谓的true除法和floor除法,本文讲解了两种方法的使用技巧,需要的朋友可以参考下
    2015-04-04
  • python 绘制场景热力图的示例

    python 绘制场景热力图的示例

    这篇文章主要介绍了python 绘制场景热力图的示例,帮助大家更好的利用python绘制图像,感兴趣的朋友可以了解下
    2020-09-09
  • python端口扫描系统实现方法

    python端口扫描系统实现方法

    这篇文章主要介绍了python端口扫描系统实现方法,可实现简单的外网IP扫描及写入MySQL数据库等功能,需要的朋友可以参考下
    2014-11-11
  • python中绕过反爬虫的方法总结

    python中绕过反爬虫的方法总结

    在本篇文章里小编给大家整理的是一篇关于python中绕过反爬虫的方法总结内容,需要的朋友们可以参考下。
    2020-11-11

最新评论