pytorch 模型的train模式与eval模式实例
更新时间：2020年02月20日 16:14:57 作者：rasekk
今天小编就为大家分享一篇pytorch 模型的train模式与eval模式实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
原因
对于一些含有batch normalization或者是Dropout层的模型来说，训练时的froward和验证时的forward有计算上是不同的，因此在前向传递过程中需要指定模型是在训练还是在验证。
源代码
[docs] def train(self, mode=True): r"""Sets the module in training mode. This has any effect only on certain modules. See documentations of particular modules for details of their behaviors in training/evaluation mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`, etc. Returns: Module: self """ self.training = mode for module in self.children(): module.train(mode) return self [docs] def eval(self): r"""Sets the module in evaluation mode. This has any effect only on certain modules. See documentations of particular modules for details of their behaviors in training/evaluation mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`, etc. """ #该方法调用了nn.train()方法，把参数默认值改为false. 增加聚合性 return self.train(False)
在使用含有BN层，dropout层的神经网路来说，必须要区分训练和验证
以上这篇pytorch 模型的train模式与eval模式实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了Python2和Python3读取文本文件的区别及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2024-02-02
这篇文章主要介绍了python实现邮件循环自动发件功能,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-09-09
这篇文章主要介绍了python 指定源路径来解决import问题的操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-03-03
在这篇文章中，我们将学习如何使用multiprocessing、joblib和tqdm Python包减少大文件的处理时间。这是一个简单的教程，可以适用于任何文件、数据库、图像、视频和音频，感兴趣的可以了解一下2022-07-07
这篇文章主要为大家介绍了python程序的组织结构，具有一定的参考价值，感兴趣的小伙伴们可以参考一下，希望能够给你带来帮助2021-12-12
这篇文章主要介绍了Python实现统计代码行的方法,结合实例形式分析了Python针对代码行数的计算实现步骤与操作技巧,需要的朋友可以参考下2017-07-07
今天小编就为大家分享一篇利用python求积分的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-07-07
Keras在mnist上的CNN实践,并且自定义loss函数曲线图操作
这篇文章主要介绍了Keras在mnist上的CNN实践,并且自定义loss函数曲线图操作，具有很好的参考价值，希望对大家有所帮助。2021-05-05
今天小编就为大家分享一篇Python 移动光标位置的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-01-01
这篇文章主要介绍了使用matplotlib实现在同一个窗口绘制多个图形问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2023-08-08
最新评论