Tensorflow 自定义loss的情况下初始化部分变量方式
一般情况下,tensorflow里面变量初始化过程为:
#variables ........... #..................... init = tf.initialize_all_variables() sess.run(init)
这里 tf.initialize_all_variables() 会初始化所有的变量。
实际过程中,假设有a, b, c三个变量,其中a已经被初始化了,只想单独初始化b,c,那么:
#variables ... ... init = tf.variables_initializer([b,c]) sess.run(init)
此外,如果自行修改了optimizer,如下代码就会报错:
#definition of variables a, b, c ... .... my_optimizer = tf.train.RMSProp(learning_rate = 0.1).minimize(my_cost) init = tf.variables_initializer([b,c]) sess.run(init)
这是因为自己定义的optimizer会生成新的variables,但是在init里面并没有初始化,所以无法访问,会报错。解决方法如下:
a = tf.Variables(...) #line N temp = set(tf.all_variables()) b = tf.Variables(...) c = tf.Variables(...) #definition of my optimizer optimizer = tf.train....... init = tf.variables_initializer(set(tf.all_varialbles())-temp) # line M sess.run(init)
首先,temp = set(tf.all_variables()) 将该行(line N)代码之前的所有变量保存在temp中,接下来定义变量b, c,以及自定义的optimizer,然后 set(tf.all_varialbles()存储了改行(line M)之前的所有变量(包括optimizer生成的变量以及temp中所含的变量),set(tf.all_varialbles())-temp相减得到line N~M这几行定义的变量。
以上这篇Tensorflow 自定义loss的情况下初始化部分变量方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。
相关文章
如何在python开发工具PyCharm中搭建QtPy环境(教程详解)
这篇文章主要介绍了在python开发工具PyCharm中搭建QtPy环境,本文通过图文并茂的形式给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下2020-02-02教你怎么用PyCharm为同一服务器配置多个python解释器
当我们在服务器上创建了多个虚拟环境时,也可以在 PyCharm 中配置这些虚拟环境,方便不同的项目使用不同的环境,然而按照网上教程添加多个python解释器后,PyCharm会自动帮我们创建多个重复的服务器,本文主要给出该问题的解决方法,同时也对添加解释器做一个详细的讲解2021-05-05django框架用户权限中的session缓存到redis中的方法
今天小编就为大家分享一篇django框架用户权限中的session缓存到redis中的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧2019-08-08
最新评论