Python实现本地csv文件合并
本篇的文件合并主要是针对.csv
的文件合并。
一、单文件之间合并
首先,要查询目录底下的文件要导入OS。并且我们要将.csv文件以pandas的dataframe底下,因此要导入PANDAS,另外由于我们要遍历目录,因此导入 GLOB:
import os import pandas as pd import glob
注:
import os
的作用:在python环境下对文件,文件夹执行操作的一个模块。
os.name返回当前系统 os.getcwd()返回当前的路径 os.remove(路径)删除路径下的文件
import glob
的作用: glob是python自带的一个操作文件的相关模块,由于模块功能比较少,所以很容易掌握。用它可以查找符合特定规则的文件路径名。使用该模块查找文件,只需要用到: “*”, “?”, “[]”这三个匹配符;
”*”匹配0个或多个字符; ”?”匹配单个字符; ”[]”匹配指定范围内的字符,如:[0-9]匹配数字。
f1=open('../input/covid19temp/2020/12-30-2020.csv').read() f2=open('../input/covid19temp/2020/12-31-2020.csv').read() with open('f1112.csv','a+') as f: f.write('\n'+f1) f.write('\n'+f2)
合并完成之后就会多出一个f1112.csv文件:
然而打开f1112.csv后发现合并后的文件有一些脏数据没有整理:
这时候我们试试skiprows
:
在读取文件的时候设置skiprows
参数的值,设置为1,会跳过一行,这里是要将第二个文件的索引属性给去掉,因为已经和第一个文件合并了,而第一个文件有索引属性了。
f1=pd.read_csv('../input/covid19temp/2020/12-30-2020.csv') f2=pd.read_csv('../input/covid19temp/2020/12-31-2020.csv',skiprows=1) f1112=f1.append(f2)
f1112.to_csv('f1112.csv') # 导出该文件
在本地目录中打开该文件:
二、单个文件夹底下多个文件合并
csv_list=glob.glob('../input/covid19temp/2020/*.csv') # 如果不加上*的话拿到的就是目录的名称,如果加上*,拿到的就是完整的目录数据 print(csv_list)
for i in csv_list: fr=open(i,'r').read() with open('2020csvdata.csv','a') as f: f.write(fr) f.close() print('数据文件合并完成!')
csv_list=glob.glob('../input/covid19temp/2020/*') for i in csv_list: fr=open(i,'rb').read() with open('2020csvdata2.csv','ab') as f: f.write(fr) f.close() print('数据文件合并完成!')
csv_list=glob.glob('../input/covid19temp/2020/*') csvdatadf=pd.DataFrame() for i in csv_list: csvdata=pd.read_csv(i) csvdatadf=csvdatadf.append(csvdata) print('数据文件合并完成!')
合并之后使用pd.read_csv读取文件数据,一共有20W+的疫情数据记录:
三、多个文件夹底下多个文件合并
import os import pandas as pd import glob import openpyxl import numpy as np path='../input/covid19temp' # 写的路径 csv_lists=[] # 该列表的作用 # 是否更新目录判断: if os.path.isdir(path): #使用os.path.isdir判断path是否是路径 if not path.endswith("/"):# 如果该路径的最后没有加上'/'的话,会帮忙加一个/ path+="/" print(path)
如上图所示,路径后面多了一个 ‘/’
,否则路径会找不到
文件操作:
os.listdir():
列出路径下所有的文件
os.path.join():
连接文件的作用
os.path.isdir():
判断是否是文件夹
import os import pandas as pd import glob import openpyxl import numpy as np path='../input/covid19temp' # 写的路径 csv_lists=[] # 该列表的作用 # 是否更新目录判断: if os.path.isdir(path): #使用os.path.isdir判断path是否是路径 if not path.endswith("/"):# 如果该路径的最后没有加上'/'的话,会帮忙加一个/ path+="/" print(path) for each in os.listdir(path):# os.listdir(): 列出路径下所有的文件 print(each)
import os import pandas as pd import glob import openpyxl import numpy as np path='../input/covid19temp' # 写的路径 csv_lists=[] # 该列表的作用 # 是否更新目录判断: if os.path.isdir(path): #使用os.path.isdir判断path是否是路径 if not path.endswith("/"):# 如果该路径的最后没有加上'/'的话,会帮忙加一个/ path+="/" print(path) for each in os.listdir(path):# os.listdir(): 列出路径下所有的文件 print(each) sub_path=path+each path_list=[] if os.path.isdir(sub_path): path_list.append(sub_path) csv_lists.append(path_list) # 生成主目录下路径列表(非文件) # 根据路径进行路径下文件列表的生成 csvlists=[] for i in range(len(csv_lists)): # print(i) csvlists.append(glob.glob(csv_lists[i][0]+'/*.csv')) csvlists # 获取每年的文件路径 csvfilelist=[] for j in range(len(csvlists)): for k in csvlists[j]: csvfilelist.append(k) csvfilelist csvdatadf=pd.DataFrame() for m in csvfilelist: filesize=os.path.getsize(m) if filesize>0: csvdata=pd.read_csv(m) csvdatadf=csvdatadf.append(csvdata) else: continue print('数据合并完成')
四、多文件夹[函数递归]
import os import pandas as pd def mergeFiles(parent,path="",pathdeep=0): fileAbsPath=os.path.join(parent,path) if os.path.isdir(fileAbsPath)==True: if (pathdeep!=0 and('.ipynb_checkpoints' not in str(fileAbsPath))): print('=='+path) for filename2 in os.listdir(fileAbsPath): mergeFiles(fileAbsPath,filename2,pathdeep=pathdeep+1) else: print(path) path=input("请输入需要的文件注主目录:") mergeFiles(path)
总结
到此这篇关于Python实现本地csv文件合并的文章就介绍到这了,更多相关Python csv文件合并内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
相关文章
Keras神经网络efficientnet模型搭建yolov3目标检测平台
这篇文章主要为大家介绍了Keras利用efficientnet系列模型搭建yolov3目标检测平台的过程详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2022-05-05Anaconda中Python虚拟环境的创建使用与删除方法详解
这篇文章主要为大家介绍了在Anaconda环境下,创建、使用与删除Python虚拟环境的方法,具有一定的借鉴价值,需要的小伙伴可以跟随小编一起了解一下2023-08-08
最新评论