脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → Tensorflow Keras自适应显存

Tensorflow与Keras自适应使用显存方式

 更新时间：2020年06月22日 10:19:44   作者：一呆飞仙  
这篇文章主要介绍了Tensorflow与Keras自适应使用显存方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

Tensorflow支持基于cuda内核与cudnn的GPU加速，Keras出现较晚，为Tensorflow的高层框架，由于Keras使用的方便性与很好的延展性，之后更是作为Tensorflow的官方指定第三方支持开源框架。

但两者在使用GPU时都有一个特点，就是默认为全占满模式。在训练的情况下，特别是分步训练时会导致显存溢出，导致程序崩溃。

可以使用自适应配置来调整显存的使用情况。

一、Tensorflow

1、指定显卡

代码中加入

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"

或者在运行代码前，在终端

export CUDA_VISIBLE_DEVICES=0

2、为显存分配使用比例

在建立tf.Session加入设置数据（显存使用比例为1/3），但有时你虽然设置了使用上限，在程序需要更高显存时还是会越过该限制

gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.333)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))

3、自适应分配

会自适应分配显存，不会将显存全部分配导致资源浪费

config = tf.ConfigProto() 
config.gpu_options.allow_growth=True 
sess = tf.Session(config=config)

二、Keras

与tensorflow大差不差，就是将tf.Session配置转置Keras配置

1、指定显卡

代码中加入

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"

或者在运行代码前，在终端

export CUDA_VISIBLE_DEVICES=0

2、为显存分配使用比例

import tensorflow as tf
import keras.backend.tensorflow_backend as KTF

config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.333
session = tf.Session(config=config)
KTF.set_session(session)

3、自适应分配

import keras.backend.tensorflow_backend as KTF

config = tf.ConfigProto() 
config.gpu_options.allow_growth=True 
session = tf.Session(config=config)
KTF.set_session(session)

4、如有设置fit_generator

将多线程关闭

#可将
use_multiprocessing=True
#改为
use_multiprocessing=False

补充知识：Keras 自动分配显存，不占用所有显存

自动分配显存，不占用所有显存

import keras.backend.tensorflow_backend as KTF
import tensorflow as tf
import os
 
os.environ["CUDA_VISIBLE_DEVICES"] = "1"
config = tf.ConfigProto()
config.gpu_options.allow_growth=True #不全部占满显存, 按需分配
sess = tf.Session(config=config)
KTF.set_session(sess)

以上这篇Tensorflow与Keras自适应使用显存方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

相关文章

  • Python技巧匿名函数、回调函数和高阶函数

    Python技巧匿名函数、回调函数和高阶函数

    本文分享的是Python技巧匿名函数、回调函数和高阶函数,我们在Python中使用lambda表达式来使用匿名函数，回调函数即callback，先写一个函数，让预先写好的系统来调用，一个函数可以作为参数传给另外一个函数，或者一个函数的返回值为另外一个函数，满足其一则为高阶函数
    2021-12-12
  • Python增强下git那长长的指令详解

    Python增强下git那长长的指令详解

    这篇文章主要介绍了Python增强下git那长长的指令 ,在开发中用到的代码目录结构，本文也给大家详细讲解，需要的朋友可以参考下
    2021-09-09
  • 使用matplotlib绘制热图(heatmap)全过程

    使用matplotlib绘制热图(heatmap)全过程

    这篇文章主要介绍了使用matplotlib绘制热图(heatmap)全过程，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
    2022-12-12
  • Python类super()及私有属性原理解析

    Python类super()及私有属性原理解析

    这篇文章主要介绍了Python类super()及私有属性原理解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-06-06
  • 详解四种Python中基本形态学滤波的实现

    详解四种Python中基本形态学滤波的实现

    最基础的形态学操作有四个，分别是腐蚀、膨胀、开计算和闭计算。这篇文章主要介绍了这四种形态学滤波的实现，感兴趣的小伙伴可以跟随小编一起学习一下
    2023-04-04
  • 浅析Python的对象拷贝和内存布局

    浅析Python的对象拷贝和内存布局

    这篇文章主要为大家详细介绍了Python中的对象拷贝和内存布局的相关知识，文中的示例代码讲解详细，对我们学习Python有一定的帮助，需要的可以参考一下
    2022-12-12
  • python标准日志模块logging的使用方法

    python标准日志模块logging的使用方法

    python的标准库里的日志系统从Python2.3开始支持。只要import logging这个模块即可使用。
    2013-11-11
  • Python学习之str重要函数

    Python学习之str重要函数

    这篇文章主要介绍了Python str重要函数，本文通过实例代码给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下
    2021-10-10
  • python遍历序列enumerate函数浅析

    python遍历序列enumerate函数浅析

    enumerate函数用于遍历序列中的元素以及它们的下标。下面通过本文给大家分享python遍历序列enumerate函数浅析，需要的朋友参考下吧
    2017-10-10
  • Numpy中的数组搜索中np.where方法详细介绍

    Numpy中的数组搜索中np.where方法详细介绍

    这篇文章主要介绍了Numpy中的数组搜索中np.where方法详细介绍，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2021-01-01

最新评论