解决Tensorflow 内存泄露问题

 更新时间:2020年02月05日 10:09:48   作者:ferriswym  
今天小编就为大家分享一篇解决Tensorflow 内存泄露问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

使用tensorflow进行编程时,经常遇到操作不当,带来的内存泄露问题,这里有一个可以帮助debug问题所在方法:

https://stackoverflow.com/questions/51175837/tensorflow-runs-out-of-memory-while-computing-how-to-find-memory-leaks/51183870#51183870

使用tf.Graph.finalize()把运算图变成只读的,从而对图的修改都会报错,从而找到内存泄露的定点。

目前我出现过内存泄露问题的有两处:

1.

session和graph没有释放内存。按照资料的说法,使用了with关键字可以在session异常退出时也释放内存,否则要用session.close()关闭session。代码如下:

with tf.Session() as session:
  #codes

#一般使用with以后就会释放内存,否则运行如下释放
session.close()
del session

另一方面,我是在session中加载graph(训练好的模型),导致每次关闭程序再运行,graph出现重复加载的现象。错误代码示例:

with tf.Seesion() as session:
  # 在session内部加载保存好的graph
  saver = tf.train.import_meta_graph('./CNN_cracks.meta')
  saver.restore(session, "./CNN_cracks")
  # codes

此处,在一次运行session时会加载一次graph,一次运行的时候没问题,但多次运行(调试时),每次graph都会加载到内存而不被释放,因而造成内存泄露。

正确的做法如下:

# 用with新建一个graph,这样在运行完以及异常退出时就会释放内存
graph = tf.Gragh()
with graph.as_default():
  saver = tf.train.import_meta_graph('./CNN_cracks.meta')

with tf.Session(graph=graph) as session:
  saver.restore(session, "./CNN_cracks")

2.

一些tensorflow的运算似乎也会修改图,原因未明。所以在在训练里面把所有属于tensorflow的运算都写进去,运行session.run返回的只能是只读。

##错误代码

#训练
graph = tf.Graph()
with graph.as_default():
  #codes
  predict = tf.nn.softmax(model(data))

#预测,这里训练文件与预测文件是分离的
with tf.Session(graph=graph) as session:
  #codes
  predict = session.run(predict, feed_dict={data: block})
  prediction = tf.argmax(predict, -1) #这里会对图进行修改
##正确代码

#训练
graph = tf.Graph()
with graph.as_default():
  #codes
  predict = tf.argmax(tf.nn.softmax(model(data)), -1)

#预测
with tf.Session(graph=graph) as session:
  #codes
  prediction = session.run(predict, feed_dict={data: block})

以上这篇解决Tensorflow 内存泄露问题就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • 使用python快速实现不同机器间文件夹共享方式

    使用python快速实现不同机器间文件夹共享方式

    今天小编就为大家分享一篇使用python快速实现不同机器间文件夹共享方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-12-12
  • 详解运行Python的神器Jupyter Notebook

    详解运行Python的神器Jupyter Notebook

    如果我们想要运行Python,就是在Python或者IPython的解释器环境中进行交互式运行,或者程序员最喜欢的编写.py文件,在文件中编写python代码,然后运行。如果想写一篇Python的文章,里面有代码,还希望代码在当前页面运行,那就是使用我们今天要介绍的Jupyter Notebook。
    2021-06-06
  • Python自动化办公之创建PPT文件

    Python自动化办公之创建PPT文件

    python-pptx模块是Python中用于PPT操作的模块。本文将利用这一模块实现创建PPT文件。文中的示例代码讲解详细,感兴趣的小伙伴可以了解一下
    2022-05-05
  • python调用外部程序的实操步骤

    python调用外部程序的实操步骤

    在本文里小编给大家分享了关于python如何调用外部程序的步骤和相关知识点,需要的朋友们学习下。
    2019-03-03
  • Python各种相似度计算方法详解

    Python各种相似度计算方法详解

    这篇文章主要介绍了Python各种相似度计算方法详解,在日常开发中有需要计算相似度的需求,那么今天我们就来看一下各种计算相似度的方法,对日常开发非常有帮助,需要的朋友可以参考下
    2023-07-07
  • pytorch和numpy默认浮点类型位数详解

    pytorch和numpy默认浮点类型位数详解

    这篇文章主要介绍了pytorch和numpy默认浮点类型位数,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-02-02
  • Django使用mysqlclient服务连接并写入数据库的操作过程

    Django使用mysqlclient服务连接并写入数据库的操作过程

    这篇文章主要介绍了Django使用mysqlclient服务连接并写入数据库,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-07-07
  • Pycharm运行程序时,控制台输出PyDev console:starting问题

    Pycharm运行程序时,控制台输出PyDev console:starting问题

    Pycharm运行程序时,控制台输出PyDev console:starting问题,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-05-05
  • Jupyter Notebook内使用argparse报错的解决方案

    Jupyter Notebook内使用argparse报错的解决方案

    这篇文章主要介绍了在Jupyter Notebook内使用argparse报错的解决方案,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2021-06-06
  • 聊聊.py和.ipynb的一些小知识

    聊聊.py和.ipynb的一些小知识

    这篇文章主要介绍了聊聊.py和.ipynb的一些小知识,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2021-03-03

最新评论