tensorflow模型继续训练 fineturn实例
更新时间：2020年01月21日 11:03:17 作者：-牧野-
今天小编就为大家分享一篇tensorflow模型继续训练 fineturn实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
解决tensoflow如何在已训练模型上继续训练fineturn的问题。
训练代码
任务描述： x = 3.0, y = 100.0， 运算公式 x×W+b = y，求 W和b的最优解。
# -*- coding: utf-8 -*-)
import tensorflow as tf
# 声明占位变量x、y
x = tf.placeholder("float", shape=[None, 1])
y = tf.placeholder("float", [None, 1])
# 声明变量
W = tf.Variable(tf.zeros([1, 1]),name='w')
b = tf.Variable(tf.zeros([1]),name='b')
# 操作
result = tf.matmul(x, W) + b
# 损失函数
lost = tf.reduce_sum(tf.pow((result - y), 2))
# 优化
train_step = tf.train.GradientDescentOptimizer(0.0007).minimize(lost)
with tf.Session() as sess:
# 初始化变量
sess.run(tf.global_variables_initializer())
saver = tf.train.Saver(max_to_keep=3)
# 这里x、y给固定的值
x_s = [[3.0]]
y_s = [[100.0]]
step = 0
while (True):
step += 1
feed = {x: x_s, y: y_s}
# 通过sess.run执行优化
sess.run(train_step, feed_dict=feed)
if step % 1000 == 0:
print 'step: {0}, loss: {1}'.format(step, sess.run(lost, feed_dict=feed))
if sess.run(lost, feed_dict=feed) < 1e-10 or step > 4e3:
print ''
# print 'final loss is: {}'.format(sess.run(lost, feed_dict=feed))
print 'final result of {0} = {1}（目标值是100.0）'.format('x×W+b', 3.0 * sess.run(W) + sess.run(b))
print ''
print("模型保存的W值 : %f" % sess.run(W))
print("模型保存的b : %f" % sess.run(b))
break
saver.save(sess, "./save_model/re-train", global_step=step) # 保存模型
训练完成之后生成模型文件：
训练输出：
step: 1000, loss: 4.89526428282e-08 step: 2000, loss: 4.89526428282e-08 step: 3000, loss: 4.89526428282e-08 step: 4000, loss: 4.89526428282e-08 step: 5000, loss: 4.89526428282e-08 final result of x×W+b = [[99.99978]]（目标值是100.0） 模型保存的W值 : 29.999931 模型保存的b : 9.999982
保存在模型中的W值是 29.999931，b是 9.999982。
以下代码从保存的模型中恢复出训练状态，继续训练
任务描述： x = 3.0, y = 200.0， 运算公式 x×W+b = y，从上次训练的模型中恢复出训练参数，继续训练，求 W和b的最优解。
# -*- coding: utf-8 -*-)
import tensorflow as tf
# 声明占位变量x、y
x = tf.placeholder("float", shape=[None, 1])
y = tf.placeholder("float", [None, 1])
with tf.Session() as sess:
# 初始化变量
sess.run(tf.global_variables_initializer())
# saver = tf.train.Saver(max_to_keep=3)
saver = tf.train.import_meta_graph(r'./save_model/re-train-5000.meta') # 加载模型图结构
saver.restore(sess, tf.train.latest_checkpoint(r'./save_model')) # 恢复数据
# 从保存模型中恢复变量
graph = tf.get_default_graph()
W = graph.get_tensor_by_name("w:0")
b = graph.get_tensor_by_name("b:0")
print("从保存的模型中恢复出来的W值 : %f" % sess.run("w:0"))
print("从保存的模型中恢复出来的b值 : %f" % sess.run("b:0"))
# 操作
result = tf.matmul(x, W) + b
# 损失函数
lost = tf.reduce_sum(tf.pow((result - y), 2))
# 优化
train_step = tf.train.GradientDescentOptimizer(0.0007).minimize(lost)
# 这里x、y给固定的值
x_s = [[3.0]]
y_s = [[200.0]]
step = 0
while (True):
step += 1
feed = {x: x_s, y: y_s}
# 通过sess.run执行优化
sess.run(train_step, feed_dict=feed)
if step % 1000 == 0:
print 'step: {0}, loss: {1}'.format(step, sess.run(lost, feed_dict=feed))
if sess.run(lost, feed_dict=feed) < 1e-10 or step > 4e3:
print ''
# print 'final loss is: {}'.format(sess.run(lost, feed_dict=feed))
print 'final result of {0} = {1}（目标值是200.0）'.format('x×W+b', 3.0 * sess.run(W) + sess.run(b))
print("模型保存的W值 : %f" % sess.run(W))
print("模型保存的b : %f" % sess.run(b))
break
saver.save(sess, "./save_mode/re-train", global_step=step) # 保存模型
训练输出：
从保存的模型中恢复出来的W值 : 29.999931 从保存的模型中恢复出来的b值 : 9.999982 step: 1000, loss: 1.95810571313e-07 step: 2000, loss: 1.95810571313e-07 step: 3000, loss: 1.95810571313e-07 step: 4000, loss: 1.95810571313e-07 step: 5000, loss: 1.95810571313e-07 final result of x×W+b = [[199.99956]]（目标值是200.0） 模型保存的W值 : 59.999866 模型保存的b : 19.999958
从保存的模型中恢复出来的W值是 29.999931，b是 9.999982，跟模型保存的值一致，说明加载成功。
总结
从头开始训练一个模型，需要通过 tf.train.Saver创建一个保存器，完成之后使用save方法保存模型到本地：
saver = tf.train.Saver(max_to_keep=3) …… saver.save(sess, "./save_model/re-train", global_step=step) # 保存模型
在训练好的模型上继续训练，fineturn一个模型，可以使用tf.train.import_meta_graph方法加载图结构，使用restore方法恢复训练数据，最后使用同样的save方法保存到本地：
saver = tf.train.import_meta_graph(r'./save_model/re-train-10050.meta') # 加载模型图结构 saver.restore(sess, tf.train.latest_checkpoint(r'./save_model')) # 恢复数据 saver.save(sess, "./save_mode/re-train", global_step=step) # 保存模型
注：特殊情况下(如本例)需要从恢复的模型中加载出数据：
# 从保存模型中恢复变量
graph = tf.get_default_graph()
W = graph.get_tensor_by_name("w:0")
b = graph.get_tensor_by_name("b:0")
以上这篇tensorflow模型继续训练 fineturn实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了python 批量解压压缩文件的实例代码，代码简单易懂，非常不错，具有一定的参考借鉴价值,需要的朋友可以参考下2019-06-06
今天小编就为大家分享一篇python实现拉普拉斯特征图降维示例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-11-11
这篇文章主要介绍了Python中Numpy模块使用详解，NumPy是Python 的一个扩展程序库，支持大量的维度数组与矩阵运算。更多相关内容需要的朋友可以参考一下2022-07-07
python的脚本开发简单,有时候只需几行代码就能实现丰富的功能,而且python本身是跨平台的,所以深受程序员的喜爱,下面这篇文章主要给大家介绍了关于如何利用PyQt5美化你的GUI界面的相关资料,需要的朋友可以参考下2022-01-01
这篇文章主要介绍了Puppeteer使用示例详解，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2019-06-06![jupyter notebook运行代码没反应且in[ ]没有*](//img.jbzj.com/images/xgimg/bcimg5.png)
jupyter notebook运行代码没反应且in[ ]没有*
本文主要介绍了jupyter notebook运行代码没反应且in[ ]没有*，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2022-03-03
Python+Dlib+Opencv实现人脸采集并表情判别功能的代码
这篇文章主要介绍了Python+Dlib+Opencv实现人脸采集并表情判别,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-07-07
这篇文章主要介绍了Python列表1~n输出步长为3的分组实例，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-05-05
PyQt5 QTreeWidget 树形结构递归遍历当前所有节点的实现
Qt中实现树形结构可以使用QTreeWidget类，也可以使用QTreeView类，本文主要介绍了PyQt5 QTreeWidget 树形结构递归遍历当前所有节点的实现，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-11-11
本文探索Python内置数据类型的精髓与应用，包括字符串、列表、元组、字典和集合。通过深入了解它们的特性、操作和常见用法，读者将能够更好地利用这些数据类型解决实际问题。2023-09-09
![jupyter notebook运行代码没反应且in[ ]没有*](http://img.jbzj.com/images/xgimg/bcimg5.png)
最新评论