浅谈多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置

 更新时间:2020年06月30日 09:21:13   作者:asher_lithium  
这篇文章主要介绍了浅谈多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

服务器有多张显卡,一般是组里共用,分配好显卡和任务就体现公德了。除了在代码中指定使用的 GPU 编号,还可以直接设置可见 GPU 编号,使程序/用户只对部分 GPU 可见。

操作很简单,使用环境变量 CUDA_VISIBLE_DEVICES 即可。

具体来说,如果使用单卡运行 Python 脚本,则可输入

CUDA_VISIBLE_DEVICES=1 python my_script.py

脚本将只使用 GPU1。

在 .py 脚本和 Notebook 中设置,则

import os

os.environ["CUDA_VISIBLE_DEVICES"] = "2"

还可以直接设置临时的环境变量:

export CUDA_VISIBLE_DEVICES="0"

此时该用户的 CUDA 只看得见 GPU0。

至于显存设置,可以设置使用比例(70%):

gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7)

sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))

也可以按需增长:

config = tf.ConfigProto()
config.gpu_options.allow_growth = True
session = tf.Session(config=config, ...)

如果是 Keras 使用 TensorFlow 后端,则可通过如

import tensorflow as tf 
from keras.backend.tensorflow_backend import set_session
config = tf.ConfigProto()
config.gpu_options.allow_growth = True
set_session(tf.Session(config=config))

更改使用设置。

以上这篇浅谈多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • python如何利用matplotlib绘制并列双柱状图并标注数值

    python如何利用matplotlib绘制并列双柱状图并标注数值

    Python之中最好的图表库叫matplotlib,matplotlib,顾名思义就是提供了一整套和matlab相似的API,它的文档相当完备,下面这篇文章主要给大家介绍了关于python如何利用matplotlib绘制并列双柱状图并标注数值的相关资料,需要的朋友可以参考下
    2022-04-04
  • 详解Python中的文件操作

    详解Python中的文件操作

    这篇文章主要介绍了Python中文件操作的相关资料,帮助大家更好的理解和学习python,感兴趣的朋友可以了解下
    2021-01-01
  • 在Python上基于Markov链生成伪随机文本的教程

    在Python上基于Markov链生成伪随机文本的教程

    这篇文章主要介绍了在Python上基于Markov链生成伪随机文本的教程,是一个基于马尔可夫算法的小实现,充分体现了Python在科学计算中的用途,需要的朋友可以参考下
    2015-04-04
  • PyTorch清理CPU缓存的实现步骤

    PyTorch清理CPU缓存的实现步骤

    在使用PyTorch进行深度学习时,频繁的数据和计算可能导致CPU缓存满载,影响性能和内存使用,适时清理CPU缓存有助于管理内存占用,下面就来介绍一下如何使用
    2024-09-09
  • Python PEP8 代码规范常见问题及解决方法

    Python PEP8 代码规范常见问题及解决方法

    最近换成 PyCharm 写代码总是会出现波浪号,这才了解到 Python 的 PEP8 代码规范,所以将常见的 PEP8 代码规范问题和解决方法记录一下,养成良好的习惯,编写规范的代码
    2023-09-09
  • 深度剖析使用python抓取网页正文的源码

    深度剖析使用python抓取网页正文的源码

    平时打开一个网页,除了文章的正文内容,通常会有一大堆的导航,广告和其他方面的信息。本文的目的,在于说明如何从一个网页中提取出文章的正文内容,而过渡掉其他无关的的信息。
    2014-06-06
  • Python使用pyodbc访问数据库操作方法详解

    Python使用pyodbc访问数据库操作方法详解

    这篇文章主要介绍了Python使用pyodbc访问数据库操作方法,结合实例形式详细分析了Python基于pyodbc针对数据库的连接、查询、插入、修改、删除等操作技巧与注意事项,需要的朋友可以参考下
    2018-07-07
  • Python全栈之进程和守护进程

    Python全栈之进程和守护进程

    这篇文章主要为大家介绍了Python进程和守护进程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下,希望能够给你带来帮助
    2021-12-12
  • Python Pyperclip模块安装和使用详解

    Python Pyperclip模块安装和使用详解

    Pyperclip模块兼容python2和python3,能跨平台使用,这篇文章主要介绍了Pyperclip模块安装和使用详解,需要的朋友可以参考下
    2023-03-03
  • Django实现列表页商品数据返回教程

    Django实现列表页商品数据返回教程

    这篇文章主要介绍了Django实现列表页商品数据返回教程,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-04-04

最新评论