pytorch中Tensor.to(device)和model.to(device)的区别及说明
更新时间：2022年07月15日 15:10:21 作者：康康同学97
这篇文章主要介绍了pytorch中Tensor.to(device)和model.to(device)的区别及说明，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
Tensor.to(device)和model.to(device)的区别
区别所在
使用GPU训练的时候，需要将Module对象和Tensor类型的数据送入到device。通常会使用 to.(device)。但是需要注意的是：
- 对于Tensor类型的数据，使用to.(device) 之后，需要接收返回值，返回值才是正确设置了device的Tensor。
- 对于Module对象，只用调用to.(device) 就可以将模型设置为指定的device。不必接收返回值。
来自pytorch官方文档的说明：
Tensor.to(device)
Module.to(device)
举例
# Module对象设置device的写法 model.to(device) # Tensor类型的数据设置 device 的写法。 samples = samples.to(device)
pytorch学习笔记--to(device)用法
在学习深度学习的时候，我们写代码经常会见到类似的代码：
img = img.to(device=torch.device("cuda" if torch.cuda.is_available() else "cpu"))
model = models.vgg16_bn(pretrained=True).to(device=torch.device("cuda" if torch.cuda.is_available() else "cpu"))也可以先定义device：
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
model = model.to(device)
img = img.to(device)这段代码到底有什么用呢？
这段代码的意思就是将所有最开始读取数据时的tensor变量copy一份到device所指定的GPU上去，之后的运算都在GPU上进行。
为什么要在GPU上做运算呢？
首先，在做高维特征运算的时候，采用GPU无疑是比用CPU效率更高，如果两个数据中一个加了.cuda()或者.to(device)，而另外一个没有加，就会造成类型不匹配而报错。
tensor和numpy都是矩阵，前者能在GPU上运行，后者只能在CPU运行，所以要注意数据类型的转换。
.cuda()和.to(device)的效果一样吗？为什么后者更好？
两个方法都可以达到同样的效果，在pytorch中，即使是有GPU的机器，它也不会自动使用GPU，而是需要在程序中显示指定。调用model.cuda()，可以将模型加载到GPU上去。这种方法不被提倡，而建议使用model.to(device)的方式，这样可以显示指定需要使用的计算资源，特别是有多个GPU的情况下。
如果你有多个GPU
那么可以参考以下代码：
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
model = Model()
if torch.cuda.device_count() > 1:
model = nn.DataParallel(model，device_ids=[0,1,2])
model.to(device)以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
列表的删操作指的是在列表中删除已存在的元素，列表中的元素被删除后，后面所有的元素依次往前移动一位，挂在被删除元素的索引下，保证每一个索引都有元素，这篇文章主要介绍了Python列表对象中元素的删除操作方法,需要的朋友可以参考下2022-12-12
这篇文章主要介绍了python登录pop3邮件服务器接收邮件的方法,涉及Python操作邮件的相关技巧,需要的朋友可以参考下2015-04-04
最近也是听说github出了一种最新的插件叫做copilot,于是申请了,下面这篇文章主要给大家介绍了关于Github Copilot结合python使用的相关资料,需要的朋友可以参考下2022-04-04
这篇文章主要介绍了django 消息框架 message使用详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-07-07
今天小编就为大家分享一篇python-opencv 将连续图片写成视频格式的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-01-01
深入理解Python虚拟机中字典(dict)的实现原理及源码剖析
这篇文章主要介绍了在 cpython 当中字典的实现原理，在本篇文章当中主要介绍在早期 python3 当中的版本字典的实现，现在的字典做了部分优化,希望对大家有所帮助2023-03-03
今天小编就为大家分享一篇在IPython中进行Python程序执行时间的测量方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-11-11
今天教大家怎么用Python实现自动提取并收集信息的功能,文中介绍的非常详细,有很多代码示例,对正在学习python的小伙伴们很有帮助,需要的朋友可以参考下2021-05-05
在数据处理和报告生成等工作中,Excel 表格是一种常见且广泛使用的工具,本文中将介绍如何使用 Python 写入数据到 Excel 表格,并提供更高效和准确的 Excel 表格数据写入方案,需要的可以参考下2024-01-01
断点续传和并发是现在很多ftp程序都支持的功能，如果我们用python如何来做断点续传和并发了，今天来看一篇python实现断点续传和并发的ftp程序例子吧，具体如下。2016-09-09
最新评论