Tensorflow 例子3 : 添加层 def add_layer()   2017-09-09


在 Tensorflow 里定义一个 添加层的函数, 可以很容易的 添加神经层, 为之后的添加省下不少时间.

定义 add_layer()

神经层里常见的参数通常有 weightsbiases 和激励函数。

首先,我们需要导入 tensorflow 模块。

import tensorflow as tf

然后定义添加神经层的函数 def add_layer(), 它有四个参数:输入值、输入的大小、输出的大小和激励函数,我们设定默认的激励函数是 None

def add_layer(inputs, in_size, out_size, activation_function=None):

接下来,我们开始定义 weightsbiases

因为在生成初始参数时,随机变量(normal distribution)会比全部为0要好很多,所以我们这里的 weights 为一个 in_size 行, out_size 列的随机变量矩阵。

Weights = tf.Variable(tf.random_normal([in_size, out_size]))

在机器学习中,biases 的推荐值不为0,所以我们这里是在0向量的基础上又加了0.1。

biases = tf.Variable(tf.zeros([1, out_size]) + 0.1)

下面,我们定义 Wx_plus_b, 即神经网络未激活的值。其中,tf.matmul() 是矩阵的乘法。

Wx_plus_b = tf.matmul(inputs, Weights) + biases

当 activation_function 为 None 时,输出就是当前的预测值 Wx_plus_b,不为 None 时,就把 Wx_plus_b 传到 activation_function() 函数中得到输出。

if activation_function is None:
outputs = Wx_plus_b
else:
outputs = activation_function(Wx_plus_b)

最后,返回输出,添加一个神经层的函数 def add_layer() 就定义好了。

return outputs

Reference


分享到:


  如果您觉得这篇文章对您的学习很有帮助, 请您也分享它, 让它能再次帮助到更多的需要学习的人. 您的支持将鼓励我继续创作 !
本文基于署名4.0国际许可协议发布,转载请保留本文署名和文章链接。 如您有任何授权方面的协商,请邮件联系我。

Contents

  1. 定义 add_layer()
  2. Reference