将pytorch的网络等转移到cuda

 更新时间:2021年06月01日 11:07:59   作者:aleien1  
这篇文章主要介绍了将pytorch的网络等转移到cuda的实现,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

神经网络一般用GPU来跑,我们的神经网络框架一般也都安装的GPU版本,本文就简单记录一下GPU使用的编写。

GPU的设置不在model,而是在Train的初始化上。

第一步是查看是否可以使用GPU

self.GPU_IN_USE = torch.cuda.is_available()

就是返回这个可不可以用GPU的函数,当你的pytorch是cpu版本的时候,他就会返回False。

然后是:

self.device = torch.device('cuda' if self.GPU_IN_USE else 'cpu')

torch.device是代表将torch.tensor分配到哪个设备的函数

接着是,我看到了一篇文章,原来就是将网络啊、数据啊、随机种子啊、损失函数啊、等等等等直接转移到CUDA上就好了!

于是下面就好理解多了:

转移模型:

self.model = Net(num_channels=1, upscale_factor=self.upscale_factor, base_channel=64, num_residuals=4).to(self.device)

设置cuda的随机种子:

torch.cuda.manual_seed(self.seed)

转移损失函数:

self.criterion.cuda()

转移数据:

data, target = data.to(self.device), target.to(self.device)

pytorch 网络定义参数的后面无法加.cuda()

pytorch定义网络__init__()的时候,参数不能加“cuda()", 不然参数不包含在state_dict()中,比如下面这种写法是错误的

self.W1 = nn.Parameter(torch.FloatTensor(3,3), requires_grad=True).cuda()

应该去掉".cuda()"

self.W1 = nn.Parameter(torch.FloatTensor(3,3), requires_grad=True)

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • matplotlib实战之饼图绘制详解

    matplotlib实战之饼图绘制详解

    饼图,或称饼状图,是一个划分为几个扇形的圆形统计图表,这篇文章主要为大家详细介绍了如何使用Matplotlib绘制饼图,需要的小伙伴可以参考下
    2023-08-08
  • python生成png的方法

    python生成png的方法

    本文主要介绍了python生成png的方法,文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-10-10
  • Python实现删除windows下的长路径文件

    Python实现删除windows下的长路径文件

    这篇文章主要为大家详细介绍一下如何利用Python语言实现删除windows下的长路径文件功能,文中的示例代码讲解详细,具有一定参考借鉴价值,感兴趣的可以了解一下
    2022-07-07
  • 基于python爬取梨视频实现过程解析

    基于python爬取梨视频实现过程解析

    这篇文章主要介绍了基于python爬取梨视频实现过程解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-11-11
  • python使用mysql的两种使用方式

    python使用mysql的两种使用方式

    pymsql是Python中操作MySQL的模块。这篇文章主要介绍了python使用mysql的两种使用方式,需要的朋友可以参考下
    2018-03-03
  • Python中jieba库的介绍与使用

    Python中jieba库的介绍与使用

    使用jieba库对一段文本进行词频的统计是一件非常有意思的事,我们只需要使用这第三方库,就可以在不阅读文本的情况下,得到该文本的高频率词汇,这篇文章主要介绍了Python中jieba库的介绍与使用,需要的朋友可以参考下
    2023-03-03
  • 举例详解Python中yield生成器的用法

    举例详解Python中yield生成器的用法

    这篇文章主要介绍了举例详解Python中yield生成器的用法,包括其在多线程multiprocess下的使用示例,非常推荐!需要的朋友可以参考下
    2015-08-08
  • 对pycharm代码整体左移和右移缩进快捷键的介绍

    对pycharm代码整体左移和右移缩进快捷键的介绍

    今天小编就为大家分享一篇对pycharm代码整体左移和右移缩进快捷键的介绍,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-07-07
  • python实现自动整理文件

    python实现自动整理文件

    这篇文章主要介绍了python实现自动整理文件,主要内容通过整理桌面杂乱无章都是文档和资料了解用python如何批量将不同后缀的文件移动到同一文件夹,需要的朋友可以参考一下
    2022-04-04
  • python matplotlib绘图,修改坐标轴刻度为文字的实例

    python matplotlib绘图,修改坐标轴刻度为文字的实例

    今天小编就为大家分享一篇python matplotlib绘图,修改坐标轴刻度为文字的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-05-05

最新评论