tensorflow2.0学习笔记（一）

一、维度变换

import tensorflow as tf a = tf.random.normal((4,3,2,1)) a.shape TensorShape([4, 3, 2, 1])

转置

tf.transpose(a).shape TensorShape([1, 2, 3, 4])

perm,设置转置维度，下面的例子是把第3和第4维度进行转置

tf.transpose(a,perm=[0,1,3,2]).shape TensorShape([4, 3, 1, 2])

添加维度

a = tf.random.normal([4,35,8])

添加第0维度

tf.expand_dims(a,axis=0).shape TensorShape([1, 4, 35, 8])

添加第3维度

tf.expand_dims(a,axis=3).shape TensorShape([4, 35, 8, 1])

减少维度，只能减少shape=1的维度

tf.squeeze(tf.zeros([1,2,1,1,3])).shape TensorShape([2, 3]) a = tf.zeros([1,2,1,3]) tf.squeeze(a,axis=0).shape TensorShape([2, 1, 3])

二、广播

它根据维度自动对齐

x = tf.random.normal([4,32,32,3]) (x + tf.random.normal([3])).shape TensorShape([4, 32, 32, 3]) (x + tf.random.normal([32,32,1])).shape TensorShape([4, 32, 32, 3]) (x + tf.random.normal([4,1,1,1])).shape TensorShape([4, 32, 32, 3])

广播例子,broadcast和tile的比较

a = tf.ones([3,4]) a.shape TensorShape([3, 4]) a1 = tf.broadcast_to(a,[2,3,4]) a1.shape TensorShape([2, 3, 4]) a2 = tf.expand_dims(a,axis=0) a2.shape TensorShape([1, 3, 4]) a3 = tf.tile(a2,[2,1,1]) a3.shape TensorShape([2, 3, 4])

三、数学运算

两个张量之间的加减乘除

a = tf.ones([2,2]) b = tf.fill([2,2],2.) tf.math.log(a) <tf.Tensor: shape=(2, 2), dtype=float32, numpy= array([[0., 0.], [0., 0.]], dtype=float32)> tf.exp(a) <tf.Tensor: shape=(2, 2), dtype=float32, numpy= array([[2.7182817, 2.7182817], [2.7182817, 2.7182817]], dtype=float32)>

但这里是$\log_e $，没有其他比如$\log_2 $，$\log_8 $，根据对数换底公式，$\frac{log_a b}{log_a c}=log_c b$，我们可以得出任意的对数

tf.math.log(8.)/tf.math.log(2.) <tf.Tensor: shape=(), dtype=float32, numpy=3.0>

指数

tf.pow(b,3) <tf.Tensor: shape=(2, 2), dtype=float32, numpy= array([[8., 8.], [8., 8.]], dtype=float32)> tf.pow(b,1/2) <tf.Tensor: shape=(2, 2), dtype=float32, numpy= array([[1.4142135, 1.4142135], [1.4142135, 1.4142135]], dtype=float32)>

矩阵相乘（叉乘）

tf.matmul(a,b) <tf.Tensor: shape=(2, 2), dtype=float32, numpy= array([[4., 4.], [4., 4.]], dtype=float32)>

相乘和加的广播

x = tf.ones([4,2]) w = tf.ones([2,1]) b = tf.constant(0.1) x @ w + b # @代表矩阵叉乘 <tf.Tensor: shape=(4, 1), dtype=float32, numpy= array([[2.1], [2.1], [2.1], [2.1]], dtype=float32)>