Python利用逻辑回归分类实现模板

更新时间：2020年02月15日 16:14:37 作者：米米奇

这篇文章主要介绍了Python利用逻辑回归分类实现模板的思路，本文通过实例代码给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下

Logistic Regression Classifier逻辑回归主要思想就是用最大似然概率方法构建出方程，为最大化方程，利用牛顿梯度上升求解方程参数。

优点：计算代价不高，易于理解和实现。
缺点：容易欠拟合，分类精度可能不高。
使用数据类型：数值型和标称型数据。

好了，下面开始正文。

算法的思路我就不说了，我就提供一个万能模板，适用于任何纬度数据集。
虽然代码类似于梯度下降，但他是个分类算法

定义sigmoid函数

def sigmoid(x):
 return 1/(1+np.exp(-x))

进行逻辑回归的参数设置以及迭代

def weights(x,y,alpha,thershold):
 #初始化参数
 m,n = x_train.shape
 theta = np.random.rand(n) #参数
 cnt = 0 # 迭代次数
 max_iter = 50000
 #开始迭代
 while cnt < max_iter:
  cnt += 1
  diff = np.full(n,0)
  for i in range(m):
   diff = (y[i]-sigmoid(theta.T @ x[i]))*x[i]
   theta = theta + alpha * diff
  if(abs(diff)<thershold).all():
   break
 return theta

预测函数

def predict(x_test,theta):
 if sigmoid(theta.T @ x_test)>0.5:
  return 1
 else:return 0

调用函数

x_train = np.array([[1,2.697,6.254],
     [1,1.872,2.014],
     [1,2.312,0.812],
     [1,1.983,4.990],
     [1,0.932,3.920],
     [1,1.321,5.583],
     [1,2.215,1.560],
     [1,1.659,2.932],
     [1,0.865,7.362],
     [1,1.685,4.763],
     [1,1.786,2.523]])
y_train = np.array([1,0,0,1,0,1,0,0,1,0,1])
alpha = 0.001 # 学习率
thershold = 0.01 # 指定一个阈值，用于检查两次误差
print(weights(x_train,y_train,alpha,thershold))

总结

以上所述是小编给大家介绍的Python利用逻辑回归分类实现模板，希望对大家有所帮助！

您可能感兴趣的文章:

python日志模块logbook使用方法
python自带了日志模块logging，可以用来记录程序运行过程中的日志信息。这篇文章主要介绍了python logbook使用方法,需要的朋友可以参考下
2019-09-09
python特殊字符作为字符串不转义的问题
这篇文章主要介绍了python特殊字符作为字符串不转义的问题，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
2023-07-07
Python中使用zip函数的七重境界解析
这篇文章主要介绍了Python中使用zip函数的七重境界,重点介绍了Python中功能强大的zip 函数的多种用法，并给出了相应的代码示例，需要的朋友可以参考下
2022-12-12
Python3.7黑帽编程之病毒篇（基础篇）
这篇文章主要介绍了Python3.7黑帽编程之病毒篇（基础篇），文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2020-02-02
python实现删除文件与目录的方法
这篇文章主要介绍了python实现删除文件与目录的方法,详细的分析了涉及Python文件操作的各种方法,需要的朋友可以参考下
2014-11-11
Python中的递归函数使用详解
这篇文章主要介绍了Python中的递归函数使用详解,递归函数是指某个函数调用自己或者调用其他函数后再次调用自己,由于不能无限嵌套调用,所以某个递归函数一定存在至少两个分支,一个是退出嵌套,不再直接或者间接调用自己；另外一个则是继续嵌套,需要的朋友可以参考下
2023-12-12
python装饰器简介及同时使用多个装饰器的方法
这篇文章主要介绍了python装饰器简介及同时使用多个装饰器的方法，python支持一个函数同时使用多个装饰器，本文结合实例代码给大家介绍的非常详细,需要的朋友可以参考下
2023-06-06
教你用Python实现Excel表格处理
今天教各位小伙伴怎么用Python处理excel,文中有非常详细的代码示例及相关知识总结,对正在学习python的小伙伴们很有帮助,需要的朋友可以参考下
2021-05-05
Python pandas处理缺失值方法详解(dropna、drop、fillna)
缺失数据会在很多数据分析应用中出现,pandas的目标之一就是尽可能无痛地处理缺失值,下面这篇文章主要给大家介绍了关于Python pandas处理缺失值方法的相关资料，处理方法分别是dropna、drop、fillna,需要的朋友可以参考下
2022-08-08
PyCharm设置Ipython交互环境和宏快捷键进行数据分析图文详解
这篇文章主要介绍了PyCharm设置Ipython交互环境和宏快捷键进行数据分析图文详解，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2020-04-04

Python利用逻辑回归分类实现模板

相关文章

最新评论

大家感兴趣的内容

最近更新的内容

常用在线小工具