关于Pytorch的MLP模块实现方式
更新时间：2020年01月07日 17:06:19 作者：黄鑫huangxin
今天小编就为大家分享一篇关于Pytorch的MLP模块实现方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
MLP分类效果一般好于线性分类器，即将特征输入MLP中再经过softmax来进行分类。
具体实现为将原先线性分类模块：
self.classifier = nn.Linear(config.hidden_size, num_labels)
替换为：
self.classifier = MLP(config.hidden_size, num_labels)
并且添加MLP模块：
class MLP(nn.Module):
def __init__(self, input_size, common_size):
super(MLP, self).__init__()
self.linear = nn.Sequential(
nn.Linear(input_size, input_size // 2),
nn.ReLU(inplace=True),
nn.Linear(input_size // 2, input_size // 4),
nn.ReLU(inplace=True),
nn.Linear(input_size // 4, common_size)
)
def forward(self, x):
out = self.linear(x)
return out
看一下模块结构：
mlp = MLP(1000,3) print(mlp)
以上这篇关于Pytorch的MLP模块实现方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
PyTorch 中的 torch.utils.data 解析(推荐)
这篇文章主要介绍了PyTorch torch.utils.data.Dataset概述案例详解,主要介绍对 torch.utils.data.Dataset 的理解，需要的朋友可以参考下2023-02-02
在本文中，我们将介绍一些常见的分布（均匀分布、高斯分布、对数正态分布等）并通过Python代码进行可视化以直观地显示它们，感兴趣的可以学习一下2022-05-05
在本篇文章里小编给大家整理的是关于Python API自动化框架总结内容，需要的朋友们学习下。2019-11-11
这篇文章主要为大家详细介绍了使用python实现微信自动回复功能，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-04-04
这篇文章主要为大家介绍了如何使用Python中的PyQt5模块来实现数据的增、删、改、查功能，文中示例代码讲解详细，感兴趣的小伙伴可以了解一下2022-03-03
简单来说,抠图就是将照片的主体人或物品从图片中抠出来,以便贴到别处使用,下面这篇文章主要给大家介绍了关于如何使用五行Python代码轻松实现批量抠图的相关资料,文中通过示例代码介绍的非常详细,需要的朋友可以参考下2022-04-04
这篇文章主要介绍了4种python批量替换列表中元素方法,需要的朋友可以参考下2022-04-04
这篇文章主要介绍了使用Tkinter制作信息提示框的相关资料,需要的朋友可以参考下2020-02-02
这篇文章主要介绍了Java中关于泛型接口的使用说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2023-08-08
本文通过实例代码给大家介绍了python3 写一个WAV音频文件播放器,代码简单易懂，非常不错，具有一定的参考借鉴价值，需要的朋友可以参考下2019-09-09
最新评论