python分块读取大数据,避免内存不足的方法
更新时间：2018年12月10日 10:59:44 作者：水木小僧
今天小编就为大家分享一篇python分块读取大数据,避免内存不足的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
如下所示：
def read_data(file_name):
'''
file_name:文件地址
'''
inputfile = open(file_name, 'rb') #可打开含有中文的地址
data = pd.read_csv(inputfile, iterator=True)
loop = True
chunkSize = 1000 #一千行一块
chunks = []
while loop:
try:
chunk = dcs.get_chunk(chunkSize)
chunks.append(chunk)
except StopIteration:
loop = False
print("Iteration is stopped.")
data = pd.concat(chunks, ignore_index=True)
#print(train.head())
return data
以上这篇python分块读取大数据,避免内存不足的方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
今天给大家带来的是关于Python的相关知识,文章围绕着python csv的一些基本操作展开,文中有非常详细的介绍及代码示例,需要的朋友可以参考下2021-06-06
下面小编就为大家带来一篇python 采集中文乱码问题的完美解决方法。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧2016-09-09
解决Pycharm 中遇到Unresolved reference ''sklearn''的问题
这篇文章主要介绍了解决Pycharm 中遇到Unresolved reference 'sklearn'的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-07-07
Python之time模块的时间戳,时间字符串格式化与转换方法(13位时间戳)
今天小编就为大家分享一篇Python之time模块的时间戳,时间字符串格式化与转换方法(13位时间戳)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-08-08
这篇文章主要介绍了Python图像处理之膨胀与腐蚀的操作,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2021-02-02
今天小编就为大家分享一篇python 回溯法模板详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-02-02
这篇文章主要介绍了python mysql中in参数化说明，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-06-06
今天小编就为大家分享一篇解决pyinstaller打包pyqt5的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-01-01
运算符重载意味着赋予超出其预定义的操作含义的扩展含义。例如运算符 + 用于添加两个整数以及连接两个字符串和合并两个列表。本文将通过示例带大家详细了解Python的运算符重载，感兴趣的可以了解一下2022-09-09
这篇文章主要介绍了python中的Pytorch建模流程汇总，主要帮大家帮助大家梳理神经网络训练的架构，具有一的的参考价值，需要的小伙伴可以参考一下，希望对你的学习有所帮助2022-03-03
最新评论