pytorch梯度剪裁方式
更新时间：2020年02月04日 14:54:42 作者：wang xiang
今天小编就为大家分享一篇pytorch梯度剪裁方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
我就废话不多说，看例子吧！
import torch.nn as nn outputs = model(data) loss= loss_fn(outputs, target) optimizer.zero_grad() loss.backward() nn.utils.clip_grad_norm_(model.parameters(), max_norm=20, norm_type=2) optimizer.step()
nn.utils.clip_grad_norm_ 的参数：
parameters – 一个基于变量的迭代器，会进行梯度归一化
max_norm – 梯度的最大范数
norm_type – 规定范数的类型，默认为L2
以上这篇pytorch梯度剪裁方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了详解python的并发编程，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-10-10
这篇文章主要介绍了Python爬虫之Spider类用法简单介绍，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-08-08
在Heroku云平台上部署Python的Django框架的教程
这篇文章主要介绍了在Heroku云平台上部署Python的Django框架的教程,Heroku云平台使用了Git版本控制系统,所以本教程主要提供了配置所需要的Git脚本,需要的朋友可以参考下2015-04-04
本文带你了解了位图的实现，布隆过滤器的原理及 Python 中的使用，以及布隆过滤器如何应对 Redis 中的缓存穿透，相信你对布隆过滤器已经有了一定的认识2021-09-09
要把华强卖瓜做成字符视频大概分为三步，通过读取视频，把每一帧转为字符画，接着把字符画表现出来，本文通过实例代码给大家介绍的非常详细，需要的朋友参考下吧2021-11-11
这篇文章主要为大家详细介绍了基于Python QQBot库的QQ聊天机器人，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2019-06-06
这篇文章主要介绍了python获取指定路径下所有指定后缀文件的方法,涉及Python针对文件与目录操作的相关技巧,需要的朋友可以参考下2015-05-05
ipython jupyter notebook中显示图像和数学公式实例
这篇文章主要介绍了ipython jupyter notebook中显示图像和数学公式实例，具有很好的参考价值，希望对有所帮助。一起跟随小编过来看看吧2020-04-04
本文将介绍如何使用Python操作MongoDB,包括安装MongoDB、安装Python的MongoDB驱动程序、连接到MongoDB、插入、查询、更新和删除数据,以及示例代码2023-11-11
在本篇文章里小编给各位整理的是关于python中while和for循环知识点详解，有兴趣的朋友们可以学习下。2019-11-11
最新评论