使用python进行拆分大文件的方法

 更新时间:2018年12月10日 08:42:44   作者:IBoyMan  
今天小编就为大家分享一篇使用python进行拆分大文件的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

python按指定行数把大文件进行拆分

如图大文件有7000多万行,大小为16G

python进行拆分大文件

需要拆分成多个200万行的小文件

代码如下:

# -*- coding:utf-8 -*-
from datetime import datetime
 
def Main():
 source_dir = '/data/u_lx_data/zhangqm/sh/yanjie/liuxuesheng/jz_yuanshi_list0206.txt'
 target_dir = '/data/u_lx_data/zhangqm/sh/yanjie/liuxuesheng/split/'
 
 # 计数器
 flag = 0
 
 # 文件名
 name = 1
 
 # 存放数据
 dataList = []
 
 print("开始。。。。。")
 print(datetime.now().strftime('%Y-%m-%d %H:%M:%S'))
 
 with open(source_dir,'r') as f_source:
  for line in f_source:
   flag+=1
   dataList.append(line)
   if flag == 2000000:
    with open(target_dir+"jz_yuanshi_list_"+str(name)+".txt",'w+') as f_target:
     for data in dataList:
      f_target.write(data)
    name+=1
    flag = 0
    dataList = []
    
 # 处理最后一批行数少于200万行的
 with open(target_dir+"jz_yuanshi_list_"+str(name)+".txt",'w+') as f_target:
  for data in dataList:
   f_target.write(data)
 
 print("完成。。。。。")
 print(datetime.now().strftime('%Y-%m-%d %H:%M:%S'))
 
if __name__ == "__main__":
 Main()
 

结果如下:

python进行拆分大文件

总共产生39个文件,最后一个文件行数760821,这样就OK啦

经测试16G文件所需时间如图:不到两分钟

python进行拆分大文件

以上这篇使用python进行拆分大文件的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • python re.match函数的具体使用

    python re.match函数的具体使用

    本文主要介绍了python re.match函数的具体使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-02-02
  • Python爬取365好书中小说代码实例

    Python爬取365好书中小说代码实例

    这篇文章主要介绍了Python爬取365好书中小说代码实例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-02-02
  • pytorch 使用半精度模型部署的操作

    pytorch 使用半精度模型部署的操作

    这篇文章主要介绍了pytorch 使用半精度模型部署的操作,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2021-05-05
  • python多线程方式执行多个bat代码

    python多线程方式执行多个bat代码

    这篇文章主要为大家详细介绍了python多线程方式执行多个bat的实现代码,感兴趣的小伙伴们可以参考一下
    2016-06-06
  • 使用pycharm生成代码模板的实例

    使用pycharm生成代码模板的实例

    今天小编就为大家分享一篇使用pycharm生成代码模板的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-05-05
  • Python变量名详细规则详细变量值介绍

    Python变量名详细规则详细变量值介绍

    这篇文章主要介绍了Python变量名详细规则详细变量值,Python需要使用标识符给变量命名,其实标识符就是用于给程序中变量、类、方法命名的符号(简单来说,标识符就是合法的名称,下面葛小编一起进入文章里哦阿姐更多详细内容吧
    2022-01-01
  • 深度学习详解之初试机器学习

    深度学习详解之初试机器学习

    机器学习可应用在各个方面,本篇将在系统性进入机器学习方向前,初步认识机器学习,利用线性回归预测波士顿房价,让我们一起来看看吧
    2021-04-04
  • Selenium定位浏览器弹窗方法实例总结

    Selenium定位浏览器弹窗方法实例总结

    弹出框是自动化测试中一种常见的元素,这种元素通常是客户端自带的,下面这篇文章主要给大家介绍了关于Selenium定位浏览器弹窗方法的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
    2022-06-06
  • 五分钟学会怎么用Pygame做一个简单的贪吃蛇

    五分钟学会怎么用Pygame做一个简单的贪吃蛇

    这篇文章主要介绍了五分钟学会怎么用Pygame做一个简单的贪吃蛇,帮助大家更好的理解和使用python,感兴趣的朋友可以了解下
    2021-01-01
  • python爬虫框架feapder的使用简介

    python爬虫框架feapder的使用简介

    这篇文章主要介绍了python爬虫框架feapde的使用简介,帮助大家更好的理解和学习使用python爬虫,感兴趣的朋友可以了解下
    2021-04-04

最新评论