Pytorch根据layers的name冻结训练方式

 更新时间:2020年01月06日 09:27:31   作者:木有感情的机器人  
今天小编就为大家分享一篇Pytorch根据layers的name冻结训练方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • 超简单的Matplotlib安装与配置教程

    超简单的Matplotlib安装与配置教程

    Matplotlib是Python的第三方绘图库,它非常类似于MATLAB,在使用Matplotlib软件包之前需要对其进行安装,这篇文章主要给大家介绍了关于Matplotlib安装与配置的相关资料,需要的朋友可以参考下
    2023-09-09
  • django写用户登录判定并跳转制定页面的实例

    django写用户登录判定并跳转制定页面的实例

    今天小编就为大家分享一篇django写用户登录判定并跳转制定页面的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-08-08
  • python正则表达式re模块详解

    python正则表达式re模块详解

    re 模块包含对正则表达式的支持,因为曾经系统学习过正则表达式,所以基础内容略过,直接看 python 对于正则表达式的支持。
    2014-06-06
  • Pycharm及python安装详细步骤及PyCharm配置整理(推荐)

    Pycharm及python安装详细步骤及PyCharm配置整理(推荐)

    这篇文章主要介绍了Pycharm及python安装详细步骤以及PyCharm配置整理,本文通过图文并茂的形式给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-04-04
  • python中scipy.stats产生随机数实例讲解

    python中scipy.stats产生随机数实例讲解

    在本篇文章里小编给大家分享的是一篇关于python中scipy.stats产生随机数实例讲解内容,有需要的朋友们可以学习下。
    2021-02-02
  • Python中的单下划线和双下划线使用场景详解

    Python中的单下划线和双下划线使用场景详解

    这篇文章主要介绍了Python中的单下划线和双下划线使用场景详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-09-09
  • python调用机器喇叭发出蜂鸣声(Beep)的方法

    python调用机器喇叭发出蜂鸣声(Beep)的方法

    这篇文章主要介绍了python调用机器喇叭发出蜂鸣声(Beep)的方法,实例分析了Python调用winsound模块的使用技巧,需要的朋友可以参考下
    2015-03-03
  • Python 没有main函数的原因

    Python 没有main函数的原因

    这篇文章主要介绍了Python 没有main函数的原因,文中讲解非常详细,示例代码帮助大家更好的理解和学习,感兴趣的朋友可以了解下
    2020-07-07
  • Python实现从URL地址提取文件名的方法

    Python实现从URL地址提取文件名的方法

    这篇文章主要介绍了Python实现从URL地址提取文件名的方法,涉及OS模块中basename方法的使用技巧,需要的朋友可以参考下
    2015-05-05
  • Python完成毫秒级抢淘宝大单功能

    Python完成毫秒级抢淘宝大单功能

    在本篇文章里小编给大家分享了关于Python完成毫秒级抢淘宝大单功能以及实例代码,需要的朋友们参考下。
    2019-06-06

最新评论