解决Tensorflow sess.run导致的内存溢出问题
更新时间：2020年02月05日 09:57:07 作者：hustwayne
今天小编就为大家分享一篇解决Tensorflow sess.run导致的内存溢出问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
下面是调用模型进行批量测试的代码(出现溢出)，开始以为导致溢出的原因是数据读入方式问题引起的，用了tf , PIL和cv等方式读入图片数据，发现越来越慢，内存占用飙升，调试时发现是sess.run这里出了问题（随着for循环进行速度越来越慢）。
# Creates graph from saved GraphDef
create_graph(pb_path)
# Init tf Session
config = tf.ConfigProto()
config.gpu_options.allow_growth = True
sess = tf.Session(config=config)
init = tf.global_variables_initializer()
sess.run(init)
input_image_tensor = sess.graph.get_tensor_by_name("create_inputs/batch:0")
output_tensor_name = sess.graph.get_tensor_by_name("conv6/out_1:0")
for filename in os.listdir(image_dir):
image_path = os.path.join(image_dir, filename)
start = time.time()
image_data = cv2.imread(image_path)
image_data = cv2.resize(image_data, (w, h))
image_data_1 = image_data - IMG_MEAN
input_image = np.expand_dims(image_data_1, 0)
raw_output_up = tf.image.resize_bilinear(output_tensor_name, size=[h, w], align_corners=True)
raw_output_up = tf.argmax(raw_output_up, axis=3)
predict_img = sess.run(raw_output_up, feed_dict={input_image_tensor: input_image}) # 1，height，width
predict_img = np.squeeze(predict_img) # height， width
voc_palette = visual.make_palette(3)
masked_im = visual.vis_seg(image_data, predict_img, voc_palette)
cv2.imwrite("%s_pred.png" % (save_dir + filename.split(".")[0]), masked_im)
print(time.time() - start)
print(">>>>>>Done")
下面是解决溢出问题的代码（将部分代码放在for循环外）
# Creates graph from saved GraphDef
create_graph(pb_path)
# Init tf Session
config = tf.ConfigProto()
config.gpu_options.allow_growth = True
sess = tf.Session(config=config)
init = tf.global_variables_initializer()
sess.run(init)
input_image_tensor = sess.graph.get_tensor_by_name("create_inputs/batch:0")
output_tensor_name = sess.graph.get_tensor_by_name("conv6/out_1:0")
##############################################################################################################
raw_output_up = tf.image.resize_bilinear(output_tensor_name, size=[h, w], align_corners=True)
raw_output_up = tf.argmax(raw_output_up, axis=3)
##############################################################################################################
for filename in os.listdir(image_dir):
image_path = os.path.join(image_dir, filename)
start = time.time()
image_data = cv2.imread(image_path)
image_data = cv2.resize(image_data, (w, h))
image_data_1 = image_data - IMG_MEAN
input_image = np.expand_dims(image_data_1, 0)
predict_img = sess.run(raw_output_up, feed_dict={input_image_tensor: input_image}) # 1，height，width
predict_img = np.squeeze(predict_img) # height， width
voc_palette = visual.make_palette(3)
masked_im = visual.vis_seg(image_data, predict_img, voc_palette)
cv2.imwrite("%s_pred.png" % (save_dir + filename.split(".")[0]), masked_im)
print(time.time() - start)
print(">>>>>>Done")
总结：
在迭代过程中, 在sess.run的for循环中不要加入tensorflow一些op操作，会增加图节点，否则随着迭代的进行，tf的图会越来越大，最终导致溢出；
建议不要使用tf.gfile.FastGFile(image_path, 'rb').read()读入数据（有可能会造成溢出），用opencv之类读取。
以上这篇解决Tensoflow sess.run导致的内存溢出问题就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
大家好，本篇文章主要讲的是python如何用pyecharts制作词云图，感兴趣的同学赶快来看一看吧，对你有帮助的话记得收藏一下2022-01-01
jupyter notebook 多环境conda kernel配置方式
这篇文章主要介绍了jupyter notebook 多环境conda kernel配置方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-04-04
很多网站登录都需要输入验证码,如果要实现自动登录就不可避免的要识别验证码,这篇文章主要给大家介绍了关于python简单验证码识别的实现过程,需要的朋友可以参考下2021-06-06
这篇文章主要介绍了Python如何通过变量ID得到变量的值，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-05-05
这篇文章主要介绍了在Python中使用itertools模块中的组合函数的教程,来自IBM官方技术文档,需要的朋友可以参考下，希望能够给你带来帮助2021-09-09
这篇文章主要介绍了Pygame实现在窗口中显示文字，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习吧2023-02-02
我们在用python进行数据处理时往往需要将文件中的数据取出来做一些处理,下面这篇文章主要给大家介绍了关于Python获取与处理文件路径/目录路径的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下2023-04-04
最近遇到这样一个项目需求制作一个程序有一个简单的查询入口实现Excel的查询与生成，今天教大家利用Python制作本地Excel的查询与生成的程序，感兴趣的朋友跟随小编一起看看吧2022-06-06
这篇文章主要介绍了Python动态生成多维数组的方法,涉及Python数组动态遍历、添加、打印等相关操作技巧,需要的朋友可以参考下2018-08-08
这篇文章主要为大家详细介绍了Python turtle绘画象棋棋盘，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2019-08-08
最新评论