Python实现本地csv文件合并

 更新时间:2022年02月14日 15:46:13   作者:渴望成为寂寞胜者  
大家好,本篇文章主要讲的是Python实现本地csv文件合并,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏一下

本篇的文件合并主要是针对.csv的文件合并。

# 三、多个文件夹底下多个文件合并

一、单文件之间合并

首先,要查询目录底下的文件要导入OS。并且我们要将.csv文件以pandas的dataframe底下,因此要导入PANDAS,另外由于我们要遍历目录,因此导入 GLOB:

import os
import pandas as pd 
import glob

注:

import os的作用:在python环境下对文件,文件夹执行操作的一个模块。

os.name返回当前系统
os.getcwd()返回当前的路径
os.remove(路径)删除路径下的文件

import glob的作用: glob是python自带的一个操作文件的相关模块,由于模块功能比较少,所以很容易掌握。用它可以查找符合特定规则的文件路径名。使用该模块查找文件,只需要用到: “*”, “?”, “[]”这三个匹配符;

”*”匹配0个或多个字符;
”?”匹配单个字符;
”[]”匹配指定范围内的字符,如:[0-9]匹配数字。
f1=open('../input/covid19temp/2020/12-30-2020.csv').read()
f2=open('../input/covid19temp/2020/12-31-2020.csv').read()

with open('f1112.csv','a+') as f:
    f.write('\n'+f1)
    f.write('\n'+f2)

在这里插入图片描述

合并完成之后就会多出一个f1112.csv文件:

在这里插入图片描述

然而打开f1112.csv后发现合并后的文件有一些脏数据没有整理:

在这里插入图片描述

这时候我们试试skiprows:
在读取文件的时候设置skiprows参数的值,设置为1,会跳过一行,这里是要将第二个文件的索引属性给去掉,因为已经和第一个文件合并了,而第一个文件有索引属性了。

f1=pd.read_csv('../input/covid19temp/2020/12-30-2020.csv')
f2=pd.read_csv('../input/covid19temp/2020/12-31-2020.csv',skiprows=1)
f1112=f1.append(f2)
f1112.to_csv('f1112.csv') # 导出该文件

在这里插入图片描述

在本地目录中打开该文件:

在这里插入图片描述

在这里插入图片描述

二、单个文件夹底下多个文件合并

csv_list=glob.glob('../input/covid19temp/2020/*.csv') 
# 如果不加上*的话拿到的就是目录的名称,如果加上*,拿到的就是完整的目录数据
print(csv_list)

在这里插入图片描述

for i in csv_list:  
    fr=open(i,'r').read()
    with open('2020csvdata.csv','a') as f:
        f.write(fr)
    f.close()
print('数据文件合并完成!')

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

csv_list=glob.glob('../input/covid19temp/2020/*')
for i in csv_list:
    fr=open(i,'rb').read()
    with open('2020csvdata2.csv','ab') as f:
        f.write(fr)
    f.close()
print('数据文件合并完成!')

在这里插入图片描述

csv_list=glob.glob('../input/covid19temp/2020/*')
csvdatadf=pd.DataFrame()
for i in csv_list:
    csvdata=pd.read_csv(i)
    csvdatadf=csvdatadf.append(csvdata)
print('数据文件合并完成!')

合并之后使用pd.read_csv读取文件数据,一共有20W+的疫情数据记录:

在这里插入图片描述

三、多个文件夹底下多个文件合并

import os
import pandas as pd 
import glob
import openpyxl
import numpy as np

path='../input/covid19temp' # 写的路径
csv_lists=[] # 该列表的作用

# 是否更新目录判断:
if os.path.isdir(path): #使用os.path.isdir判断path是否是路径
    if not path.endswith("/"):# 如果该路径的最后没有加上'/'的话,会帮忙加一个/
        path+="/"
        print(path)

在这里插入图片描述

如上图所示,路径后面多了一个 ‘/’,否则路径会找不到

文件操作:

os.listdir(): 列出路径下所有的文件

os.path.join(): 连接文件的作用

os.path.isdir(): 判断是否是文件夹

import os
import pandas as pd 
import glob
import openpyxl
import numpy as np

path='../input/covid19temp' # 写的路径
csv_lists=[] # 该列表的作用

# 是否更新目录判断:
if os.path.isdir(path): #使用os.path.isdir判断path是否是路径
    if not path.endswith("/"):# 如果该路径的最后没有加上'/'的话,会帮忙加一个/
        path+="/"
        print(path)
        for each in os.listdir(path):# os.listdir(): 列出路径下所有的文件
            print(each)

在这里插入图片描述

在这里插入图片描述

import os
import pandas as pd 
import glob
import openpyxl
import numpy as np

path='../input/covid19temp' # 写的路径
csv_lists=[] # 该列表的作用

# 是否更新目录判断:
if os.path.isdir(path): #使用os.path.isdir判断path是否是路径
    if not path.endswith("/"):# 如果该路径的最后没有加上'/'的话,会帮忙加一个/
        path+="/"
        print(path)
        for each in os.listdir(path):# os.listdir(): 列出路径下所有的文件
            print(each)
            sub_path=path+each
            path_list=[]
            if os.path.isdir(sub_path):
                path_list.append(sub_path)
                csv_lists.append(path_list) # 生成主目录下路径列表(非文件)
# 根据路径进行路径下文件列表的生成
csvlists=[]
for i in range(len(csv_lists)):
#    print(i)
    csvlists.append(glob.glob(csv_lists[i][0]+'/*.csv')) 
csvlists

# 获取每年的文件路径
csvfilelist=[]
for j in range(len(csvlists)):
    for k in csvlists[j]:
        csvfilelist.append(k)
csvfilelist

csvdatadf=pd.DataFrame()
for m in csvfilelist:
    filesize=os.path.getsize(m)
    if filesize>0:
        csvdata=pd.read_csv(m)
        csvdatadf=csvdatadf.append(csvdata)
    else:
        continue
    
print('数据合并完成')

四、多文件夹[函数递归]

import os 
import pandas as pd 
def mergeFiles(parent,path="",pathdeep=0):
    fileAbsPath=os.path.join(parent,path)
    if os.path.isdir(fileAbsPath)==True:
        if (pathdeep!=0 and('.ipynb_checkpoints' not in str(fileAbsPath))):
            print('=='+path)
        for filename2 in os.listdir(fileAbsPath):
            mergeFiles(fileAbsPath,filename2,pathdeep=pathdeep+1)
    else:
        print(path)
path=input("请输入需要的文件注主目录:")
mergeFiles(path)

在这里插入图片描述

总结

到此这篇关于Python实现本地csv文件合并的文章就介绍到这了,更多相关Python csv文件合并内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Keras神经网络efficientnet模型搭建yolov3目标检测平台

    Keras神经网络efficientnet模型搭建yolov3目标检测平台

    这篇文章主要为大家介绍了Keras利用efficientnet系列模型搭建yolov3目标检测平台的过程详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2022-05-05
  • 深入探究Flask的两个高级特性之蓝图和JWT认证

    深入探究Flask的两个高级特性之蓝图和JWT认证

    本文将探讨 Flask 的两个高级特性:蓝图(Blueprints)和 JSON Web Token(JWT)认证,蓝图让我们可以将应用模块化,以便更好地组织代码;而 JWT 认证是现代 Web 应用中常见的一种安全机制,感兴趣的小伙伴跟着小编一起来看看吧
    2023-08-08
  • Anaconda中Python虚拟环境的创建使用与删除方法详解

    Anaconda中Python虚拟环境的创建使用与删除方法详解

    这篇文章主要为大家介绍了在Anaconda环境下,创建、使用与删除Python虚拟环境的方法,具有一定的借鉴价值,需要的小伙伴可以跟随小编一起了解一下
    2023-08-08
  • ChatGLM-6B+LangChain环境部署与使用实战

    ChatGLM-6B+LangChain环境部署与使用实战

    这篇文章主要介绍了ChatGLM-6B+LangChain环境部署与使用方法,结合实例形式详细分析了ChatGLM-6B+LangChain环境部署相关步骤、实现方法与相关注意事项,需要的朋友可以参考下
    2023-07-07
  • 使用numpy实现矩阵的翻转(flip)与旋转

    使用numpy实现矩阵的翻转(flip)与旋转

    这篇文章主要介绍了使用numpy实现矩阵的翻转(flip)与旋转,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2021-06-06
  • python实现过滤敏感词

    python实现过滤敏感词

    这篇文章主要介绍了python如何实现过滤敏感词,帮助大家更好的理解和学习使用python,感兴趣的朋友可以了解下
    2021-05-05
  • 基于Python实现英语单词小游戏

    基于Python实现英语单词小游戏

    这篇文章主要为大家详细介绍了如何通过Python实现一个简单的英语单词小游戏,四级考满分的学姐告诉你这样学英语逢考必过,赶紧康康叭
    2022-11-11
  • 如何基于python实现单目三维重建详解

    如何基于python实现单目三维重建详解

    单目三维重建是根据单个摄像头的运动模拟双目视觉获得物体在空间中的三维视觉信息,下面这篇文章主要给大家介绍了关于如何基于python实现单目三维重建的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
    2022-06-06
  • 简单介绍Python2.x版本中的cmp()方法的使用

    简单介绍Python2.x版本中的cmp()方法的使用

    这篇文章主要介绍了简单介绍Python2.x版本中的cmp()方法的使用,然而该方法在Python3.x版本中已并不再内置...需要的朋友可以参考下
    2015-05-05
  • python实现指定文件夹下的指定文件移动到指定位置

    python实现指定文件夹下的指定文件移动到指定位置

    这篇文章主要为大家详细介绍了python实现指定文件夹下的指定文件移动到指定位置,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-09-09

最新评论