Python人工智能深度学习RNN模型结构流程

 更新时间:2021年11月12日 08:51:09   作者:Swayzzu  
这篇文章主要为大家介绍了Python人工智能深度学习RNN的模型流程结构,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步

Python客栈送红包、纸质书

1.RNN基础模型

RNN主要特点是,在DNN隐藏层的输出内容会被存储,并且可以作为输入给到下一个神经元。

如下图所示,当“台北”这个词被输入的时候,前面的词有可能是“离开“,有可能是”到达“,如果把上一次输入的”离开“,所得的隐藏层内容,输入给下一层,这样就有可能区分开是”离开台北“,还是”到达台北“。

如果隐藏层存储的内容并给下次使用,叫做Elman Network

如果最终的输出内容给下次使用,叫做Jordan Network

双向RNN:从正向输入的内容,得到的存储内容,以及反向输入内容得到的存储内容,同时输入给模型。

2.LSTM

Long Short-term Memory,其实当人们说到使用RNN的时候,通常都是使用的LSTM。对于LSTM的每一个单元,除了输入的数据之外,还有另外三个“门”来控制输入,输出,存储。如下图所示,如此一来,每一个LSTM单元共有4个输入,以及1个输出。

这些控制的门都是向量,并且输入之后都需要进行一个sigmoid函数转换,因此输入和门进行计算之后,得到的输出是位于0-1之间的数据,这样就可以实现对输入、输出、存储与否的把控。而门的参数都需要由RNN学习得到。

3.流程结构

如下图,假如输入的是z,经过函数转换,得到g(z),输入门的数据z(i),经过一个sigmoid函数转换,将其相乘,得到g(z) * f(z(i))

同样的,当控制存储数的门得到的结果是1的时候,那么以前的数据就会和1相乘,并于前面算的结果相加,这样就实现了对上次存储数据的利用。是0的时候就会删除上次的数据,实现存储数据的格式化。

最终得到的输出是h(c),但如果输出门输入z0后计算的结果是0,则该输出就无法输出,是1的时候才可以输出。

LSTM和DNN的区别,就是把神经元换成了LSTM单元,输入的数据乘上权重之后,来控制各个门。因此参数变成平常DNN参数的4倍。

将整个流程简化来表示,如下。

实际中,LSTM不只是一个,它是多个组合,并且每一个的输出,以及存储的内容也会添加到下一次的输入当中。如下图所示:

以上便是LSTM的整体结构。

Python人工智能深度学习RNN模型流程结构的详细内容今天就为大家讲解到这里了,更多关于RNN模型流程结构的资料请关注脚本之家其它相关文章!

蓄力AI

微信公众号搜索 “ 脚本之家 ” ,选择关注

程序猿的那些事、送书等活动等着你

原文链接:https://blog.csdn.net/Swayzzu/article/details/121050749

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权/违法违规/事实不符,请将相关资料发送至 reterry123@163.com 进行投诉反馈,一经查实,立即处理!

相关文章

  • 对django layer弹窗组件的使用详解

    对django layer弹窗组件的使用详解

    今天小编就为大家分享一篇对django layer弹窗组件的使用详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-08-08
  • Python计算矩阵的和积的实例详解

    Python计算矩阵的和积的实例详解

    在本篇内容里小编给大家整理的是关于Python计算矩阵的和积的实例详解内容,需要的朋友们参考下。
    2020-09-09
  • Python面向对象之成员相关知识总结

    Python面向对象之成员相关知识总结

    通过面向对象进行编程时,会遇到很多种情况,也会使用不同的成员来实现,接下来我们来逐一介绍成员特性和应用场景,需要的朋友可以参考下
    2021-06-06
  • Python用list或dict字段模式读取文件的方法

    Python用list或dict字段模式读取文件的方法

    这篇文章主要给大家介绍了Python利用list字段模式或者dict字段模式读取文件的方法,文中给出了详细的介绍和示例代码,相信对大家的理解和学习具有一定的参考借鉴价值,有需要的朋友可以跟着小编来一起学习学习吧。
    2017-01-01
  • Python全栈之迭代器和高阶函数

    Python全栈之迭代器和高阶函数

    这篇文章主要为大家介绍了Python之迭代器和高阶函数,具有一定的参考价值,感兴趣的小伙伴们可以参考一下,希望能够给你带来帮助
    2021-12-12
  • python微信公众号之关注公众号自动回复

    python微信公众号之关注公众号自动回复

    这篇文章主要为大家详细介绍了python微信公众号之关注公众号自动回复,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-10-10
  • Python2.7实现多进程下开发多线程示例

    Python2.7实现多进程下开发多线程示例

    这篇文章主要为大家详细介绍了Python2.7实现多进程下开发多线程示例,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-05-05
  • Python使用FTP上传文件的实现示例

    Python使用FTP上传文件的实现示例

    本文主要介绍了Python使用FTP上传文件的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-03-03
  • Pygame代码 制作一个贪吃蛇小游戏

    Pygame代码 制作一个贪吃蛇小游戏

    这篇文章主要介绍了100行Pygame代码 制作一个贪吃蛇小游戏,相信我们大家都玩过贪吃蛇游戏,今天我们就从头一起来写一个贪吃蛇小游戏,只需要100多行的代码就完成了,需要的朋友可以参考一下
    2021-12-12
  • pandas.DataFrame选取/排除特定行的方法

    pandas.DataFrame选取/排除特定行的方法

    今天小编就为大家分享一篇pandas.DataFrame选取/排除特定行的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-07-07

最新评论