python 删除大文件中的某一行(最有效率的方法)

 更新时间:2017年08月19日 09:33:15   投稿:jingxian  
下面小编就为大家带来一篇python 删除大文件中的某一行(最有效率的方法)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧

用 python 处理一个文本时,想要删除其中中某一行,常规的思路是先把文件读入内存,在内存中修改后再写入源文件。

但如果要处理一个很大的文本,比如GB级别的文本时,这种方法不仅需要占用很大内存,而且一次性读入内存时耗费时间,还有可能导致内存溢出。

所以,需要用另外一个思路去处理。

我们可以使用 open() 方法把需要修改的文件打开为两个文件,然后逐行读入内存,找到需要删除的行时,用后面的行逐一覆盖。实现方式见以下代码。

with open('file.txt', 'r') as old_file:
  with open('file.txt', 'r+') as new_file:

    current_line = 0

    # 定位到需要删除的行
    while current_line < (del_line - 1):
      old_file.readline()
      current_line += 1

    # 当前光标在被删除行的行首,记录该位置
    seek_point = old_file.tell()

    # 设置光标位置
    new_file.seek(seek_point, 0)

    # 读需要删除的行,光标移到下一行行首
    old_file.readline()
    
    # 被删除行的下一行读给 next_line
    next_line = old_file.readline()

    # 连续覆盖剩余行,后面所有行上移一行
    while next_line:
      new_file.write(next_line)
      next_line = old_file.readline()

    # 写完最后一行后截断文件,因为删除操作,文件整体少了一行,原文件最后一行需要去掉
    new_file.truncate()

以上这篇python 删除大文件里的某一行(最有效率的方法)就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Python深入分析@property装饰器的应用

    Python深入分析@property装饰器的应用

    这篇文章主要介绍了Python @property装饰器的用法,在Python中,可以通过@property装饰器将一个方法转换为属性,从而实现用于计算的属性,下面文章围绕主题展开更多相关详情,感兴趣的小伙伴可以参考一下
    2022-07-07
  • 使用python实现一个浏览器自动化的脚本

    使用python实现一个浏览器自动化的脚本

    最近工作中有这样一个需求:客户反馈在浏览器操作过程中,重复流程操作太频繁,能不能让浏览器自动操作完成?所以本文给大家介绍了如何使用python实现一个浏览器自动化的脚本,感兴趣的朋友可以参考下
    2024-04-04
  • python之dlib包安装失败问题及解决

    python之dlib包安装失败问题及解决

    这篇文章主要介绍了python之dlib包安装失败问题及解决方案,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-05-05
  • python类中super()和__init__()的区别

    python类中super()和__init__()的区别

    这篇文章主要介绍了python类中super()和__init__()的区别,本文给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
    2016-10-10
  • python函数式编程学习之yield表达式形式详解

    python函数式编程学习之yield表达式形式详解

    这篇文章主要给大家介绍了关于python函数式编程学习之yield表达式形式的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用python具有一定的参考学习价值,需要的朋友们下面随着小编来一起看看吧。
    2018-03-03
  • 神经网络python源码分享

    神经网络python源码分享

    这篇文章主要介绍了神经网络python源码分享,具有一定借鉴价值,需要的朋友可以参考下。
    2017-12-12
  • Django内容增加富文本功能的实例

    Django内容增加富文本功能的实例

    下面小编就为大家带来一篇Django内容增加富文本功能的实例。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-10-10
  • Python网络请求使用Requests库抓取解析数据

    Python网络请求使用Requests库抓取解析数据

    在网络编程中,请求和接收数据是最常见的任务之一,Python的Requests库提供了丰富的功能,使得HTTP请求变得非常简单,在本文中,我们将了解如何使用Requests库发起HTTP请求,并解析返回的数据
    2023-08-08
  • Numpy(Pandas)删除全为零的列的方法

    Numpy(Pandas)删除全为零的列的方法

    这篇文章主要介绍了Numpy(Pandas)删除全为零的列的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-09-09
  • python网络爬虫采集联想词示例

    python网络爬虫采集联想词示例

    这篇文章主要介绍了python网络爬虫采集联想词示例,需要的朋友可以参考下
    2014-02-02

最新评论