TensorFlow Autodiff自动微分详解
更新时间:2020年07月06日 16:53:33 作者:Marks & Co
这篇文章主要介绍了TensorFlow Autodiff自动微分详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
如下所示:
with tf.GradientTape(persistent=True) as tape: z1 = f(w1, w2 + 2.) z2 = f(w1, w2 + 5.) z3 = f(w1, w2 + 7.) z = [z1,z3,z3] [tape.gradient(z, [w1, w2]) for z in (z1, z2, z3)]
输出结果
[[<tf.Tensor: id=56906, shape=(), dtype=float32, numpy=40.0>, <tf.Tensor: id=56898, shape=(), dtype=float32, numpy=10.0>], [<tf.Tensor: id=56919, shape=(), dtype=float32, numpy=46.0>, <tf.Tensor: id=56911, shape=(), dtype=float32, numpy=10.0>], [<tf.Tensor: id=56932, shape=(), dtype=float32, numpy=50.0>, <tf.Tensor: id=56924, shape=(), dtype=float32, numpy=10.0>]] with tf.GradientTape(persistent=True) as tape: z1 = f(w1, w2 + 2.) z2 = f(w1, w2 + 5.) z3 = f(w1, w2 + 7.) z = [z1,z2,z3] tape.gradient(z, [w1, w2])
输出结果
[<tf.Tensor: id=57075, shape=(), dtype=float32, numpy=136.0>,
<tf.Tensor: id=57076, shape=(), dtype=float32, numpy=30.0>]
总结:如果对一个listz=[z1,z2,z3]求微分,其结果将自动求和,而不是返回z1、z2和z3各自对[w1,w2]的微分。
补充知识:Python/Numpy 矩阵运算符号@
如下所示:
A = np.matrix('3 1; 8 2')
B = np.matrix('6 1; 7 9')
A@B matrix([[25, 12], [62, 26]])
以上这篇TensorFlow Autodiff自动微分详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。
相关文章
AI生成图片Stable Diffusion环境搭建与运行方法
Stable Diffusion是一种基于扩散过程的生成模型,由Ge et al.在2021年提出,该模型利用了随机变量的稳定分布,通过递归地应用扩散过程来生成高质量的图像,这篇文章主要介绍了AI图片生成Stable Diffusion环境搭建与运行,需要的朋友可以参考下2023-05-05
最新评论