pytorch 中nn.Dropout的使用说明
看代码吧~
Class USeDropout(nn.Module):
def __init__(self):
super(DropoutFC, self).__init__()
self.fc = nn.Linear(100,20)
self.dropout = nn.Dropout(p=0.5)
def forward(self, input):
out = self.fc(input)
out = self.dropout(out)
return out
Net = USeDropout()
Net.train()
示例代码如上，直接调用nn.Dropout即可，但是注意在调用时要将模型参数传入。
补充：Pytorch的nn.Dropout运行稳定性测试
结论：
Pytorch的nn.Dropout在每次被调用时dropout掉的参数都不一样，即使是同一次forward也不同。
如果模型里多次使用的dropout的dropout rate大小相同，用同一个dropout层即可。
如代码所示：
import torch
import torch.nn as nn
class MyModel(nn.Module):
def __init__(self):
super(MyModel, self).__init__()
self.dropout_1 = nn.Dropout(0.5)
self.dropout_2 = nn.Dropout(0.5)
def forward(self, input):
# print(input)
drop_1 = self.dropout_1(input)
print(drop_1)
drop_1 = self.dropout_1(input)
print(drop_1)
drop_2 = self.dropout_2(input)
print(drop_2)
if __name__ == '__main__':
i = torch.rand((5, 5))
m = MyModel()
m.forward(i)
结果如下：
*\python.exe */model.py
tensor([[0.0000, 0.0914, 0.0000, 1.4095, 0.0000],
[0.0000, 0.0000, 0.1726, 1.3800, 0.0000],
[1.7651, 0.0000, 0.0000, 0.9421, 1.5603],
[1.0510, 1.7290, 0.0000, 0.0000, 0.8565],
[0.0000, 0.0000, 0.0000, 0.0000, 0.0000]])
tensor([[0.0000, 0.0000, 0.4722, 1.4095, 0.0000],
[0.0416, 0.0000, 0.1726, 1.3800, 1.3193],
[0.0000, 0.3401, 0.6550, 0.0000, 0.0000],
[1.0510, 1.7290, 1.5515, 0.0000, 0.0000],
[0.6388, 0.0000, 0.0000, 1.0122, 0.0000]])
tensor([[0.0000, 0.0000, 0.4722, 0.0000, 1.2689],
[0.0416, 0.0000, 0.0000, 1.3800, 0.0000],
[0.0000, 0.0000, 0.6550, 0.0000, 1.5603],
[0.0000, 0.0000, 1.5515, 1.4596, 0.0000],
[0.0000, 0.0000, 0.0000, 0.0000, 0.0000]])Process finished with exit code 0
以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了用Python抢火车票的简单小程序实现解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-08-08
这篇文章主要介绍了使用OpenCV去除面积较小的连通域，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-07-07
python处理excel文件有很多方法,最开始接触的是xlrd、xlsxwriter模块,分别用于excel文件的读、写,后来又学习了openpyxl模块,可以同时完成excel文件的读、写,下面这篇文章主要给大家介绍了关于利用Python解决Excel问题的最佳方案,需要的朋友可以参考下2023-04-04
本篇文章主要介绍了Python 通过selenium实现毫秒级自动抢购的示例代码，通过扫码登录即可自动完成一系列操作，抢购时间精确至毫秒，可抢加购物车等待时间结算的，也可以抢聚划算、火车票等的商品，感兴趣的朋友跟随小编一起看看吧2022-10-10
这篇文章主要介绍了Pytorch中关于inplace的操作方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2023-08-08
这篇文章主要介绍了用python写一个带有gui界面的密码生成器，帮助大家更好的理解和使用python，感兴趣的朋友可以了解下2020-11-11
这篇文章主要介绍了基于Python的自媒体小助手---登录页面的实现代码，本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下2020-06-06
这篇文章主要介绍了Python标准库defaultdict模块使用示例,本文讲解了如何使用defaultdict给字典value元素添加默认类型以及defaultdict的两个使用小案例,需要的朋友可以参考下2015-04-04
这篇文章主要介绍了Python实现栈的方法,实例分析了Python实现栈的相关技巧,具有一定参考借鉴价值,需要的朋友可以参考下2015-05-05
下面小编就为大家分享一篇python实现类之间的方法互相调用，具有很的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-04-04
最新评论