Pytorch加载部分预训练模型的参数实例
更新时间：2019年08月18日 11:31:25 作者：浮云游子-HFUT
今天小编就为大家分享一篇Pytorch加载部分预训练模型的参数实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
前言
自从从深度学习框架caffe转到Pytorch之后，感觉Pytorch的优点妙不可言，各种设计简洁，方便研究网络结构修改，容易上手，比TensorFlow的臃肿好多了。对于深度学习的初学者，Pytorch值得推荐。今天主要主要谈谈Pytorch是如何加载预训练模型的参数以及代码的实现过程。
直接加载预选脸模型
如果我们使用的模型和预训练模型完全一样，那么我们就可以直接加载别人的模型，还有一种情况，我们在训练自己模型的过程中，突然中断了，但只要我们保存了之前的模型的参数也可以使用下面的代码直接加载我们保存的模型继续训练，不用从头开始。
model=DPN(*args, **kwargs)
model.load_state_dict(torch.load("DPN.pth"))
这样的加载方式是基于Pytorch使用的模型存储方法：
torch.save(DPN.state_dict(), "DPN.pth")
加载部分预训练模型参数
其实大多数时候我们根据自己的任物所提出的模型是在一些公开模型的基础上改变而来，其中公开模型的参数我们没有必要在从头开始训练，只要加载其训练好的模型参数即可，这样有助于提高训练的准确率和我们模型的泛化能力。
model = DPN(num_init_features=64, k_R=96, G=32, k_sec=(3,4,20,3), inc_sec=(16,32,24,128), num_classes=1,decoder=args.decoder)
http = {'url': 'http://data.lip6.fr/cadene/pretrainedmodels/dpn92_extra-b040e4a9b.pth'}
pretrained_dict=model_zoo.load_url(http['url'])
model_dict = model.state_dict()
pretrained_dict = {k: v for k, v in pretrained_dict.items() if k in model_dict}#filter out unnecessary keys
model_dict.update(pretrained_dict)
model.load_state_dict(model_dict)
model = torch.nn.DataParallel(model).cuda()
因为需要删除预训练模型中不匹配的的键，也就是层的名字。
以上这篇Pytorch加载部分预训练模型的参数实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
Python Dataframe 指定多列去重、求差集的方法
今天小编就为大家分享一篇Python Dataframe 指定多列去重、求差集的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-07-07
这篇文章主要为大家介绍了python逆向微信指数爬取的实现步骤，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步早日升职加薪2022-02-02
下面小编就为大家分享一篇pandas将DataFrame的列变成行索引的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-04-04
这篇文章主要为大家详细介绍了python如何实现内容写在图片上，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-03-03
这篇文章主要为大家详细介绍了基于Python如何实现Mysql全量数据同步的功能，文中的示例代码讲解详细，感兴趣的小伙伴可以跟随小编一起了解一下2023-06-06
Python 网络编程之TCP客户端/服务端功能示例【基于socket套接字】
这篇文章主要介绍了Python 网络编程之TCP客户端/服务端功能,结合实例形式分析了Python使用socket套接字实现TCP协议下的客户端与服务器端数据传输操作技巧,需要的朋友可以参考下2019-10-10
今天小编就为大家分享一篇python直接获取API传递回来的参数方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-12-12
python opencv 读取本地视频文件 修改ffmpeg的方法
今天小编就为大家分享一篇python opencv 读取本地视频文件 修改ffmpeg的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-01-01
这篇文章主要介绍了python如何实现二分查找算法，帮助大家更好的理解和使用python，感兴趣的朋友可以了解下。2020-09-09
首先我们要知道pycharm是一款非常强大的python集成开发环境,带有一整套python开发工具,这篇文章主要给大家介绍了关于Python使用Pycharm必备插件推荐的相关资料,需要的朋友可以参考下2023-11-11
最新评论