深度计算公式(深度学习公式推导)
深度计算公式(深度学习公式推导)将上面的公式进行进一步的转换, 就变成了如下两个向量的内积形式。计算机擅长内积的计算,因此按照这种解释,计算就变容易了。那么加权输入z 的表达式就可以看成如下的公式:由于公式中的 θ 前面有一个“-”(符号),为了计算方便将其进行替换成b,b 就等于 “-θ”,这样公式就变成如下的样子:上图中的b 就是偏置,有了这个概念以后神经元图就改成如下的样子:如上图所示,除了原来的输入,还加入了一个偏置量 b。
当引入Sigmoid 函数之后,会把y的结果设定为从0 到1 之间的数字,无论x 的取值是多少,这样就把线性函数变成了非线性函数,描述y发射的概率问题。这里不对Sigmoid函数进行深入的讨论,大家只要知道Sigmoid是一种激活函数,在这里可以描述发射概率问题。(当然在其他场景也有不同的描述)
偏置
根据上面激活函数的折腾,我们得到了如下的公式;
其实这个公式就是把之前的函数u改成了a(激活函数)。
由于公式中的 θ 前面有一个“-”(符号),为了计算方便将其进行替换成b,b 就等于 “-θ”,这样公式就变成如下的样子:
上图中的b 就是偏置,有了这个概念以后神经元图就改成如下的样子:
如上图所示,除了原来的输入,还加入了一个偏置量 b。
那么加权输入z 的表达式就可以看成如下的公式:
将上面的公式进行进一步的转换, 就变成了如下两个向量的内积形式。计算机擅长内积的计算,因此按照这种解释,计算就变容易了。