Python深度学习神经网络基本原理
神经网络
梯度下降法
在详细了解梯度下降的算法之前，我们先看看相关的一些概念。
1. 步长（Learning rate）：步长决定了在梯度下降迭代的过程中，每一步沿梯度负方向前进的长度。用上面下山的例子，步长就是在当前这一步所在位置沿着最陡峭最易下山的位置走的那一步的长度。
2.特征（feature）：指的是样本中输入部分，比如2个单特征的样本（x(0),y(0)）,（x(1),y(1)）（x(0),y(0)）,（x(1),y(1)）,则第一个样本特征为x(0)x(0)，第一个样本输出为y(0)y(0)。
3. 假设函数（hypothesis function）：在监督学习中，为了拟合输入样本，而使用的假设函数，记为hθ(x)hθ(x)。比如对于单个特征的m个样本（x(i),y(i)）(i=1,2,...m)（x(i),y(i)）(i=1,2,...m),可以采用拟合函数如下： hθ(x)=θ0+θ1xhθ(x)=θ0+θ1x。
4. 损失函数（loss function）：为了评估模型拟合的好坏，通常用损失函数来度量拟合的程度。损失函数极小化，意味着拟合程度最好，对应的模型参数即为最优参数。在线性回归中，损失函数通常为样本输出和假设函数的差取平方。比如对于m个样本（xi,yi）(i=1,2,...m)（xi,yi）(i=1,2,...m),采用线性回归，损失函数为：
J(θ0,θ1)=∑i=1m(hθ(xi)−yi)2J(θ0,θ1)=∑i=1m(hθ(xi)−yi)2
其中xixi表示第i个样本特征，yiyi表示第i个样本对应的输出，hθ(xi)hθ(xi)为假设函数。
分享人：张娇娟
到此这篇关于Python深度学习神经网络基本原理的文章就介绍到这了,更多相关Python 神经网络内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
python库JsonSchema验证JSON数据结构使用详解
这篇文章主要为大家介绍了python库JsonSchema验证JSON数据结构的使用详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-05-05
这篇文章主要给大家介绍了关于利用python批量下载网站马拉松照片的完整步骤，文中通过示例代码介绍的非常详细，对大家的学习或工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2018-12-12
在本文中，我们将介绍 Python 中 _ 字符的不同用法。就像 Python 中的许多其他内容一样，我们会看到 “_” 的不同用法主要是惯例问题。这里我们将介绍几种不同的情况。2020-10-10
如今 Python 成为机器学习和大量使用数据操作的科学领域的主流语言; 它拥有各种深度学习框架和完善的数据处理和可视化工具。这篇文章主要介绍了迁移到 Python 3的方法,需要的朋友可以参考下2019-04-04
这篇文章主要介绍了Python爬虫进阶之爬取某视频并下载的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-12-12
Sublime Text3最新激活注册码分享适用2020最新版 亲测可用
这篇文章主要介绍了Sublime Text3最新激活注册码分享亲测3211可用2020-11-11
这篇文章主要为大家介绍了python深度学习标准库使用argparse调参实例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-06-06
这篇文章主要为大家详细介绍了如何使用Python绘制散点图和条形图,文中的示例代码讲解详细,对我们的学习或工作有一定的帮助,感兴趣的可以了解一下2023-08-08
卸载所有通过pip安装的Python包的方法总结(Windows系统)
这篇文章主要介绍了卸载所有通过pip安装的Python包的方法总结(Windows系统),文中通过代码示例和图文讲解的非常详细,并具有一定的参考价值,需要的朋友可以参考下2024-08-08
当我们用python进行数据处理时会遇到很多缺失值，对缺失值我们需要进行删除或者填补，本文主要介绍了pandas中NaN缺失值的处理方法，感兴趣的可以了解一下2021-05-05
最新评论