golang实现实时监听文件并自动切换目录

 更新时间:2023年12月22日 10:05:25   作者:sky我的世界  
这篇文章主要给大家介绍了golang实现实时监听文件,并自动切换目录,文中通过代码示例给大家介绍的非常详细,对大家的学习或工作有一定的参考价值,需要的朋友可以参考下

应用程序使用golang开发,日志采用zap进行记录,每天会根据日期自动创建文件夹存放当天日志记录(log.log、error.log)如下图所示,如何实时记录日志内容,进行持久化入库,并且自动根据日期切换文件夹监听

解决方案

采用fsnotify来实现,fsnotify 是 Go 语言中的一个库,用于监控文件系统事件,例如文件或目录的创建、删除、修改等。它提供了一个跨平台的文件系统通知接口,允许你监听文件系统的变化并采取相应的措施。

需要注意的是需要设计数据库或者缓存来存储解析日志的offset,不然会出现如果程序重新启动,会重复解析日志文件的问题。

核心代码

package watch
 
import (
	"bufio"
	"fmt"
	"github.com/fsnotify/fsnotify"
	"go.uber.org/zap"
	"io"
	"os"
	"path/filepath"
	"time"
)
 
// 存储已处理的位置
func saveProcessedOffset(fullFileName, logLevel string, offset int64) {
	logRunRecord := system.SysRunLogWatchRecord{}
	// 尝试从数据库中找到匹配的记录
	global.DB.Where(system.SysRunLogWatchRecord{FullFileName: fullFileName, LogLevel: logLevel}).First(&logRunRecord)
	// 如果找到了匹配的记录,则更新 offset 值
	if logRunRecord.ID > 0 {
		logRunRecord.ProcessedOffset = offset
		global.DB.Save(&logRunRecord)
	} else {
		// 没有找到匹配的记录,插入新记录
		newLogRecord := system.SysRunLogWatchRecord{
			FullFileName:    fullFileName,
			LogLevel:        logLevel,
			ProcessedOffset: offset,
		}
		global.DB.Create(&newLogRecord)
	}
}
 
// 从存储中读取已处理的位置
func readProcessedOffset(fullFileName, logLevel string) int64 {
	var logRunRecord system.SysRunLogWatchRecord
	global.DB.Where("full_file_name = ? and log_level = ?", fullFileName, logLevel).First(&logRunRecord)
	return logRunRecord.ProcessedOffset
}
 
// WatchSysRuntimeLogIncrement 检测日志
func WatchSysRuntimeLogIncrement(logPath, logLevel string) {
	watcher, err := fsnotify.NewWatcher()
	if err != nil {
		global.LOG.Error("fsnotify watch error:", zap.Error(err))
	}
	defer watcher.Close()
	ticker := time.NewTicker(1 * time.Minute)
	global.LOG.Info("启动一个定时器,每分钟检查一次时间并切换目录")
	defer ticker.Stop()
 
	directory := getCurrentLogDirectory(logPath)
	initCurrentErrorLog(fmt.Sprintf("%s/%s.log", directory, logLevel))
	err = watcher.Add(directory)
	if err != nil {
		global.LOG.Error("watcher Add error", zap.Error(err))
	}
	var currentReadFile *os.File
	// 在循环外打开文件
	logFilePath := fmt.Sprintf("%s/%s.log", directory, logLevel)
	// 当前正在解析的日志文件
	currentReadFile, err = os.Open(logFilePath)
	if err != nil {
		global.LOG.Error("无法打开文件:", zap.Error(err))
		return
	}
	var processedOffset int64
	for {
		select {
		case <-ticker.C:
			currentDate := time.Now().Format("2006-01-02")
			newDirectory := fmt.Sprintf("%s%s", logPath, currentDate)
			if newDirectory != directory {
				if _, err := os.Stat(fmt.Sprintf("%s/%s.log", newDirectory, logLevel)); err == nil {
					watcher.Remove(directory)
					directory = newDirectory
					err := watcher.Add(newDirectory)
					if err != nil {
						global.LOG.Error("无法监控新目录:", zap.Error(err))
					}
					global.LOG.Info("开始监控新文件:" + newDirectory)
					//监控新文件的时候,关闭旧文件
					currentReadFile.Close()
					logFilePath := fmt.Sprintf("%s/%s.log", directory, logLevel)
					currentReadFile, err = os.Open(logFilePath)
					processedOffset = 0
					global.LOG.Info("文件已经发生变化,新文件为:" + logFilePath)
				} else {
					global.LOG.Info("新文件不存在,继续监控旧文件")
					processedOffset = readProcessedOffset(fmt.Sprintf("%s/%s.log", directory, logLevel), logLevel)
				}
			} else {
				processedOffset = readProcessedOffset(fmt.Sprintf("%s/%s.log", directory, logLevel), logLevel)
			}
		case event, ok := <-watcher.Events:
			if !ok {
				return
			}
			if event.Op&fsnotify.Write == fsnotify.Write {
				global.LOG.Info("解析文件:" + logFilePath)
				if err != nil {
					global.LOG.Error("无法打开文件:", zap.Error(err))
					continue
				}
				currentReadFile.Seek(processedOffset, io.SeekStart)
				scanner := bufio.NewScanner(currentReadFile)
				for scanner.Scan() {
					line := scanner.Text()
					runLog := system.SystemRunningLog{
						Description: logLevel,
						ModuleName:  logPath,
						Operation:   line,
					}
					err = global.DB.Create(&runLog).Error
					if err != nil {
						global.LOG.Error("存储运行日志错误", zap.Error(err))
					}
				}
				if err := scanner.Err(); err != nil {
					global.LOG.Error("读取文件时发生错误", zap.Error(err))
				}
				// 更新已处理的位置
				processedOffset, err = currentReadFile.Seek(0, io.SeekEnd)
				if err != nil {
					global.LOG.Error("无法获取文件偏移量:", zap.Error(err))
				}
				// 将已处理的位置存储到文件中
				saveProcessedOffset(fmt.Sprintf("%s/%s.log", directory, logLevel), logLevel, processedOffset)
			}
		case err, ok := <-watcher.Errors:
			if !ok {
				return
			}
			global.LOG.Error("错误事件", zap.Error(err))
		}
	}
}
 
// 获取当前日期并构建日志目录路径
func getCurrentLogDirectory(logPath string) string {
	currentDate := time.Now().Format("2006-01-02")
	return fmt.Sprintf("%s%s", logPath, currentDate)
}
 
// 初始文件
func initCurrentErrorLog(errorLogPath string) {
	// 判断文件是否存在
	_, err := os.Stat(errorLogPath)
 
	if os.IsNotExist(err) {
		// 文件不存在,创建文件夹和文件
		err := os.MkdirAll(filepath.Dir(errorLogPath), os.ModePerm)
		if err != nil {
			global.LOG.Error("os.MkdirAll error:", zap.Error(err))
			return
		}
 
		file, err := os.Create(errorLogPath)
		if err != nil {
			global.LOG.Error("os.Create error:", zap.Error(err))
			return
		}
		defer file.Close()
 
		global.LOG.Info("error.log 文件已经存在,开始监控:" + errorLogPath)
	} else if err == nil {
		global.LOG.Info("error.log 文件已经存在,开始监控:" + errorLogPath)
	} else {
		global.LOG.Error("os.IsNotExist error:", zap.Error(err))
		return
	}
}

其中WatchSysRuntimeLogIncrement方法传入日志路径和需要解析的日志文件名称(例如info)后缀默认.log,执行此方法即可实现逻辑

以上就是golang实现实时监听文件并自动切换目录的详细内容,更多关于golang实时监听文件的资料请关注脚本之家其它相关文章!

相关文章

  • go标准库net/http服务端的实现示例

    go标准库net/http服务端的实现示例

    go的http标准库非常强大,本文主要介绍了go标准库net/http服务端,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2024-07-07
  • Golang学习笔记之安装Go1.15版本(win/linux/macos/docker安装)

    Golang学习笔记之安装Go1.15版本(win/linux/macos/docker安装)

    这篇文章主要介绍了Golang学习笔记之安装Go1.15版本(win/linux/macos/docker安装),本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-12-12
  • 解析Go语言编程中的struct结构

    解析Go语言编程中的struct结构

    这篇文章主要介绍了Go语言编程中的struct结构,是Go语言入门学习中的基础知识,需要的朋友可以参考下
    2015-10-10
  • GoLang BoltDB数据库详解

    GoLang BoltDB数据库详解

    这篇文章主要介绍了GoLang BoltDB数据库,boltdb是使用Go语言编写的开源的键值对数据库,boltdb存储数据时 key和value都要求是字节数据,此处需要使用到 序列化和反序列化
    2023-02-02
  • Goland支持泛型了(上机实操)

    Goland支持泛型了(上机实操)

    Go的泛型不是还在设计草图吗?最乐观估计也要2021年8月份。你说Go语言现在都没开发好泛型,你支持这个特性有什么用呢?感兴趣的朋友跟随小编一起看看吧
    2020-12-12
  • 5个可以在Golang中优化代码以提高性能的技巧分享

    5个可以在Golang中优化代码以提高性能的技巧分享

    作为一名软件工程师,确保你的代码高效且性能良好是非常重要的。本文主要和大家分享5个可以在Golang中优化代码以提高性能的技巧,希望对大家有所帮助
    2023-03-03
  • 详解如何在Go语言中调用C源代码

    详解如何在Go语言中调用C源代码

    这篇文章主要为大家详细介绍了如何在Go语言中调用C语言源代码,文中的示例代码讲解详细,对我们学习或工作有一定的帮助,需要的可以参考一下
    2022-05-05
  • 浅谈golang for 循环中使用协程的问题

    浅谈golang for 循环中使用协程的问题

    这篇文章主要介绍了浅谈golang for 循环中使用协程的问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-12-12
  • Golang中gorm无法将字段更新为空值

    Golang中gorm无法将字段更新为空值

    本文主要介绍了Golang中gorm无法将字段更新为空值,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-05-05
  • Golang学习笔记(五):函数

    Golang学习笔记(五):函数

    这篇文章主要介绍了Golang学习笔记(五):函数的相关资料,本文讲解了基本语法、多返回值及命名返回参数、参数传递:传值与传指针、参数传递:可变参数、匿名函数、函数作为值、类型等内容,需要的朋友可以参考下
    2015-05-05

最新评论