关于Theano和Tensorflow多GPU使用问题

 更新时间:2020年06月19日 14:41:00   作者:Gamma Gao  
这篇文章主要介绍了关于Theano和Tensorflow多GPU使用问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

我使用的是tensorflow-gpu (1.2.1)和Theano (0.9.0),2个4G显存Nvidia Quadro M2000 GPU。

1. theano: ValueError: Could not infer context from inputs

THEANO_FLAGS="contexts=dev0->cuda0;dev1->cuda1,gpuarray.preallocate=0.95,mode=FAST_RUN,floatX=float32,on_unused_input=warn" python config.py

ERROR (theano.gof.opt): SeqOptimizer apply <theano.gpuarray.opt.GraphToGPU object at 0xdfe69210>
ERROR: SeqOptimizer apply <theano.gpuarray.opt.GraphToGPU object at 0xdfe69210>
ERROR (theano.gof.opt): Traceback:
ERROR: Traceback:
ERROR (theano.gof.opt): Traceback (most recent call last):
 File "/usr/lib/python2.7/site-packages/theano/gof/opt.py", line 235, in apply
  sub_prof = optimizer.optimize(fgraph)
 File "/usr/lib/python2.7/site-packages/theano/gof/opt.py", line 87, in optimize
  ret = self.apply(fgraph, *args, **kwargs)
 File "/usr/lib/python2.7/site-packages/theano/gpuarray/opt.py", line 322, in apply
  target = infer_context_name(*fgraph.inputs)
 File "/usr/lib/python2.7/site-packages/theano/gpuarray/basic_ops.py", line 122, in infer_context_name
  raise ValueError("Could not infer context from inputs")
ValueError: Could not infer context from inputs

theano不能自动支持多GPU,需要自己指定一个,只能在一个上面跑, 需要指定一个设备device=cuda0。

支持多GPU, 需要自己编程,参考http://deeplearning.net/software/theano/tutorial/using_multi_gpu.html#

2. tensorflow: ResourceExhaustedError: OOM when allocating tensor with

theano: MemoryError: Error allocating 1440000000 bytes of device memory (out of memory).

说明GPU内存不够,要调小输入或网络单元。

3. theano切换成新的GPU backend

WARNING (theano.sandbox.cuda): The cuda backend is deprecated and will be removed in the next release (v0.10)

theano 0.9.0从cuda backend切换gpuarray backend,需要安装python2-Cython-0.25+和libgpuarray-0.6.3+, 然后通过gpuarray.preallocate来指定。

补充知识:pytorch网络输入图片通道在前在后(channel_first和channel_last)的问题

刚开始学习pytorch卷积神经网络的时候,网络输入要求是(batch,3,32,32),我们如果想要测试自己电脑上的图片格式为(32,32,3)。即网络要求channel_first,本地图片是channel_last,此时我们只需要使用numpy中的np.transpose()函数调整下通道的顺序即可。

代码如下:

import numpy as np
import cv2
path = r"C:\Users\X_man\Desktop\image\cat.jpg"
image = cv2.imread(path,0)
image = cv2.resize(image,(32,32))
image = cv2.cvtColor(image,cv2.COLOR_GRAY2BGR)
print(image.shape)

(32,32,3)

image = np.transpose(image,(2,0,1))
print(image.shape)

(3,32,32)

以上这篇关于Theano和Tensorflow多GPU使用问题就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Python中zipfile压缩包模块的使用

    Python中zipfile压缩包模块的使用

    zipfile 模块提供了创建、读取、写入、添加及列出 ZIP 文件的工具,本文主要介绍了Python中zipfile压缩包模块的使用,感兴趣的可以了解一下
    2021-05-05
  • 在Linux上安装Python的Flask框架和创建第一个app实例的教程

    在Linux上安装Python的Flask框架和创建第一个app实例的教程

    这篇文章主要介绍了在Linux上安装Python的Flask框架和创建第一个app实例,包括创建一个HTML模版和利用Jinja2模板引擎来做渲染的步骤,需要的朋友可以参考下
    2015-03-03
  • Python中的GIL全局解释器锁多线程编程的隐患剖析

    Python中的GIL全局解释器锁多线程编程的隐患剖析

    Python作为一门强大而灵活的编程语言,吸引了大量的开发者,然而,对于多线程编程来说,Python引入了一个概念——全局解释器锁(Global Interpreter Lock,简称GIL),它在一定程度上影响了多线程程序的性能,本文将深入探讨GIL的概念,它对多线程编程的影响以及如何处理与绕过它
    2023-10-10
  • 解决df.to_csv()中文件名的问题

    解决df.to_csv()中文件名的问题

    这篇文章主要介绍了解决df.to_csv()中文件名的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-08-08
  • Python疫情确诊折线图实现数据可视化实例详解

    Python疫情确诊折线图实现数据可视化实例详解

    数据可视化是指用图形或表格的方式来呈现数据。图表能够清楚地呈现数据性质, 以及数据间或属性间的关系,可以轻易地让人看图释义。用户通过探索图(Exploratory Graph)可以了解数据的特性、寻找数据的趋势、降低数据的理解门槛
    2022-09-09
  • python实现带声音的摩斯码翻译实现方法

    python实现带声音的摩斯码翻译实现方法

    这篇文章主要介绍了python实现带声音的摩斯码翻译实现方法,涉及pygame模块操作及摩斯码实现技巧,需要的朋友可以参考下
    2015-05-05
  • Flask进阶之构建RESTful API和数据库交互操作

    Flask进阶之构建RESTful API和数据库交互操作

    这篇文章主要为大家介绍了Flask进阶之构建RESTful API和数据库交互操作示例,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-08-08
  • python Hypothesis生成和执行大量的测试用例

    python Hypothesis生成和执行大量的测试用例

    Hypothesis是一个基于属性的测试(property-based testing)库,它能够帮助我们生成和执行大量的测试用例,与传统的单元测试相比,属性测试更加灵活和全面,能够发现更多的边界情况和潜在的错误
    2024-01-01
  • Python读取图片为16进制表示简单代码

    Python读取图片为16进制表示简单代码

    这篇文章主要介绍了Python读取图片为16进制表示简单代码,具有一定借鉴价值,需要的朋友可以参考下
    2018-01-01
  • Python NaN空值的处理示例详解

    Python NaN空值的处理示例详解

    这篇文章主要介绍了Python NaN空值的处理,通过本文的介绍,对Python去掉数组中的空值NaN有了更加深入的了解,在实际的数据分析工作中,我们可以根据具体的情况选择合,需要的朋友可以参考下
    2023-11-11

最新评论