tensorflow实现简单逻辑回归

 更新时间:2018年09月07日 15:36:50   作者:WSS5678  
逻辑回归是一种分类器模型,这篇文章主要介绍了tensorflow实现简单逻辑回归,具有一定的参考价值,感兴趣的小伙伴们可以参考一下

逻辑回归是机器学习中很简答的一个栗子,这篇文章就是要介绍如何使用tensorflow实现一个简单的逻辑回归算法。

逻辑回归可以看作只有一层网络的前向神经网络,并且参数连接的权重只是一个值,而非矩阵。公式为:y_predict=logistic(X*W+b),其中X为输入,W为输入与隐含层之间的权重,b为隐含层神经元的偏置,而logistic为激活函数,一般为sigmoid或者tanh, y_predict为最终预测结果。

逻辑回归是一种分类器模型,需要木便函数不断的优化参数,这里目标函数为y_predict与真实标签Y之间的L2距离,使用随机梯度下降算法来更新权重和偏置。 废话不多说,贴代码:

# -*- coding:utf-8 -*-
#功能: 使用tensorflow实现一个简单的逻辑回归
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
 
#创建占位符
X=tf.placeholder(tf.float32)
Y=tf.placeholder(tf.float32)
 
#创建变量
#tf.random_normal([1])返回一个符合正太分布的随机数
w=tf.Variable(tf.random_normal([1],name='weight'))
b=tf.Variable(tf.random_normal([1],name='bias'))
 
y_predict=tf.sigmoid(tf.add(tf.mul(X,w),b))
num_samples=400
cost=tf.reduce_sum(tf.pow(y_predict-Y,2.0))/num_samples
 
#学习率
lr=0.01
optimizer=tf.train.AdamOptimizer().minimize(cost)
 
#创建session 并初始化所有变量
num_epoch=500
cost_accum=[]
cost_prev=0
#np.linspace()创建agiel等差数组,元素个素为num_samples
xs=np.linspace(-5,5,num_samples)
ys=np.sin(xs)+np.random.normal(0,0.01,num_samples)
 
with tf.Session() as sess:
  #初始化所有变量
  sess.run(tf.initialize_all_variables())
  #开始训练
  for epoch in range(num_epoch):
    for x,y in zip(xs,ys):
      sess.run(optimizer,feed_dict={X:x,Y:y})
    train_cost=sess.run(cost,feed_dict={X:x,Y:y})
    cost_accum.append(train_cost)
    print "train_cost is:",str(train_cost)
 
    #当误差小于10-6时 终止训练
    if np.abs(cost_prev-train_cost)<1e-6:
      break
    #保存最终的误差
    cost_prev=train_cost
#画图 画出每一轮训练所有样本之后的误差
plt.plot(range(len(cost_accum)),cost_accum,'r')
plt.title('Logic Regression Cost Curve')
plt.xlabel('epoch')
plt.ylabel('cost')
plt.show()

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • Pytorch实现基于CharRNN的文本分类与生成示例

    Pytorch实现基于CharRNN的文本分类与生成示例

    今天小编就为大家分享一篇Pytorch实现基于CharRNN的文本分类与生成示例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-01-01
  • Django数据库连接丢失问题的解决方法

    Django数据库连接丢失问题的解决方法

    这篇文章主要介绍了Django数据库连接丢失问题的解决方法,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2018-12-12
  • 详解Python中的Cookie模块使用

    详解Python中的Cookie模块使用

    这篇文章主要介绍了详解Python中的Cookie模块使用,是Python入门学习中的基础知识,需要的朋友可以参考下
    2015-07-07
  • python 打印dict的key与value方式

    python 打印dict的key与value方式

    这篇文章主要介绍了python 打印dict的key与value方式,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-11-11
  • python 实现循环定义、赋值多个变量的操作

    python 实现循环定义、赋值多个变量的操作

    这篇文章主要介绍了python 实现循环定义、赋值多个变量的操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2021-03-03
  • python中scipy.stats产生随机数实例讲解

    python中scipy.stats产生随机数实例讲解

    在本篇文章里小编给大家分享的是一篇关于python中scipy.stats产生随机数实例讲解内容,有需要的朋友们可以学习下。
    2021-02-02
  • 详解Python的Lambda函数与排序

    详解Python的Lambda函数与排序

    本篇文章主要是介绍了Python的Lambda函数与排序,简单的介绍了Lambda函数的用法和排序,有需要的朋友可以了解一下。
    2016-10-10
  • python 获取键盘输入,同时有超时的功能示例

    python 获取键盘输入,同时有超时的功能示例

    今天小编就为大家分享一篇python 获取键盘输入,同时有超时的功能示例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-11-11
  • 用Python分析3天破10亿的《我不是药神》到底神在哪?

    用Python分析3天破10亿的《我不是药神》到底神在哪?

    我不是药神这部剧真的是很火,三天破10亿。接下来脚本之家小编给大家带来了用Python来看3天破10亿的《我不是药神》到底神在哪?感兴趣的朋友跟随脚本之家小编一起看看吧
    2018-07-07
  • python中单例常用的几种实现方法总结

    python中单例常用的几种实现方法总结

    Python 的模块就是天然的单例模式,下面这篇文章主要给大家介绍了关于python中单例常用的几种实现方法,文中通过示例代码介绍的非常详细,对大家学习或者使用python单例具有一定的参考学习价值,需要的朋友们一起来看看吧
    2018-10-10

最新评论