将pytorch的网络等转移到cuda
神经网络一般用GPU来跑,我们的神经网络框架一般也都安装的GPU版本,本文就简单记录一下GPU使用的编写。
GPU的设置不在model,而是在Train的初始化上。
第一步是查看是否可以使用GPU
self.GPU_IN_USE = torch.cuda.is_available()
就是返回这个可不可以用GPU的函数,当你的pytorch是cpu版本的时候,他就会返回False。
然后是:
self.device = torch.device('cuda' if self.GPU_IN_USE else 'cpu')
torch.device是代表将torch.tensor分配到哪个设备的函数
接着是,我看到了一篇文章,原来就是将网络啊、数据啊、随机种子啊、损失函数啊、等等等等直接转移到CUDA上就好了!
于是下面就好理解多了:
转移模型:
self.model = Net(num_channels=1, upscale_factor=self.upscale_factor, base_channel=64, num_residuals=4).to(self.device)
设置cuda的随机种子:
torch.cuda.manual_seed(self.seed)
转移损失函数:
self.criterion.cuda()
转移数据:
data, target = data.to(self.device), target.to(self.device)
pytorch 网络定义参数的后面无法加.cuda()
pytorch定义网络__init__()的时候,参数不能加“cuda()", 不然参数不包含在state_dict()中,比如下面这种写法是错误的
self.W1 = nn.Parameter(torch.FloatTensor(3,3), requires_grad=True).cuda()
应该去掉".cuda()"
self.W1 = nn.Parameter(torch.FloatTensor(3,3), requires_grad=True)
以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。
- python windows安装cuda+cudnn+pytorch教程
- 显卡驱动CUDA 和 pytorch CUDA 之间的区别
- pytorch cuda安装报错的解决方法
- PyTorch中的CUDA的操作方法
- PyTorch device与cuda.device用法介绍
- pytorch 如何用cuda处理数据
- pytorch中.to(device) 和.cuda()的区别说明
- PyTorch CUDA环境配置及安装的步骤(图文教程)
- Linux安装Pytorch1.8GPU(CUDA11.1)的实现
- 详解win10下pytorch-gpu安装以及CUDA详细安装过程
- Pytorch使用CUDA流(CUDA stream)的实现
相关文章
python matplotlib绘图,修改坐标轴刻度为文字的实例
今天小编就为大家分享一篇python matplotlib绘图,修改坐标轴刻度为文字的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧2018-05-05
最新评论