Pytorch获取无梯度TorchTensor中的值
更新时间：2021年05月22日 08:59:23 作者：_Epsilon_
这篇文章主要介绍了Pytorch获取无梯度TorchTensor中的值，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
获取无梯度Tensor
遇到的问题：
使用两个网络并行运算，一个网络的输出值要给另一个网络反馈。而反馈的输出值带有网络权重的梯度，即grad_fn=<XXXBackward0>.
这时候如果把反馈值扔到第二网络中更新，会出现第一个计算图丢失无法更新的错误。哎哟喂，我根本不需要第一个网络的梯度好吗？
一开始用了一个笨办法，先转numpy，然后再转回torch.Tensor。因为numpy数据是不带梯度的。
但是我的原始tensor的放在cuda上的，
cuda的张量是不能直接转Tensor，所以
t_error = td_error.cuda().data.cpu().numpy() t_error = torch.FloatTensor(t_error).to(device)
从cuda转回了cpu，变成numpy，又转成了tensor，又回到了cuda上，坑爹呢这是，可能只有我才能写出如此低效的辣鸡代码了。
后来发现，其实直接在返回的时候添加
with torch.no_grad(): td_error = reward + GAMMA * v_ - v
即可.
补充：在pytorch中取一个tensor的均值，然后该张量中的所有值与其对比！
Pytorch中的Tensor的shape是(B, C, W, H)，
对该tensor取均值并与所有值做对比代码如下：
C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3] for c in range(C): mean = torch.mean(x[0][c]) for h in range(H): for w in range(W): if x[0][c][h][w] >= mean: x[0][c][h][w] = mean
以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
二分查找法（Binary Search）是一种在有序数组中查找某一特定元素的算法，在本文中，我们将使用 Python 实现二分查找算法，并深入探讨算法的原理和实现细节，感兴趣的可以了解一下2023-04-04
详解使用Pytorch Geometric实现GraphSAGE模型
这篇文章主要为大家介绍了详解使用Pytorch Geometric实现GraphSAGE模型示例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2023-04-04
这篇文章主要介绍了使用Python处理EXCEL基础操作篇1,如何在Python中导入EXCEL数据,文中提供了解决思路和部分实现代码，一起来看看吧2023-03-03
这篇文章主要介绍了深入解析Python中的WSGI接口,WSGI接口是Python中网络框架连接服务器的必备工具,需要的朋友可以参考下2015-05-05
在本文中小编给大家整理了关于Python函数和模块的使用的相关知识点以及实例代码内容，需要的朋友们跟着学习下。2019-05-05
今天小编就为大家分享一篇将pytorch转成longtensor的简单方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-02-02
python3+PyQt5 创建多线程网络应用-TCP客户端和TCP服务器实例
今天小编就为大家分享一篇python3+PyQt5 创建多线程网络应用-TCP客户端和TCP服务器实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-06-06
在脚本或应用程序中,我们需要执行音频处理任务,下面这篇文章主要给大家介绍了关于Python如何对音视频文件进行解析的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下2022-11-11
这篇文章主要介绍了Python批量裁剪图片的程序代码，是批量裁剪某一文件夹下的所有图片，并指定裁剪宽高，本文给大家分享实现思路,需要的朋友可以参考下2022-07-07
今天教大家如何学会通过python的matplotlib库绘图,文中有非常详细的图文解说及代码示例,对正在学习python的小伙伴们很有帮助,需要的朋友可以参考下2021-05-05
最新评论