反向传播神经网络极简入门_光环大数据培训

反向传播神经网络极简入门_光环大数据培训
我一直在找一份简明的神经网络入门，然而在中文圈里并没有找到。

直到我看到了这份162行的Python实现，以及对应的油管视频之后，我才觉得这就是我需要的极简入门资料。

这份极简入门笔记不需要突触的图片做装饰，也不需要赘述神经网络的发展历史；要推导有推导，要代码有代码，关键是，它们还对得上。

对于欠缺的背景知识，利用斯坦福大学的神经网络wiki进行了补全。

单个神经元
神经网络是多个“神经元”（感知机）的带权级联，神经网络算法可以提供非线性的复杂模型，它有两个参数：权值矩阵{Wl}和偏置向量{bl}，不同于感知机的单一向量形式，{Wl}是复数个矩阵，{bl}是复数个向量，其中的元素分别属于单个层，而每个层的组成单元，就是神经元。

神经元
神经网络是由多个“神经元”（感知机）组成的，每个神经元图示如下：
这其实就是一个单层感知机，其输入是由和+1组成的向量，其输出为，其中f是一个激活函数，模拟的是生物神经元在接受一定的刺激之后产生兴奋信号，否则刺激不够的话，神经元保持抑制状态这种现象。

这种由一个阈值决定两个极端的函数有点像示性函数，然而这里采用的是Sigmoid函数，其优点是连续可导。

Sigmoid函数
常用的Sigmoid有两种——
单极性Sigmoid函数
或者写成
其图像如下
双极性Sigmoid函数
或者写成
把第一个式子分子分母同时除以ez，令x=-2z就得到第二个式子了，换汤不换药。

其图像如下
从它们两个的值域来看，两者名称里的极性应该指的是正负号。

从导数来看，它们的导数都非常便于计算：
对于有，对于tanh，有。

视频作者Ryan还担心观众微积分学的不好，细心地给出了1/(1+e^-x)求导的过程：
一旦知道了f(z)，就可以直接求f'(z)，所以说很方便。

本Python实现使用的就是1/(1+e^-x)
也可以使用双曲正切函数tanh
其导数对应于：
神经网络模型
神经网络就是多个神经元的级联，上一级神经元的输出是下一级神经元的输入，而且信号在两级的两个神经元之间传播的时候需要乘上这两个神经元对应的权值。

例如，下图就是一个简单的神经网络：
其中，一共有一个输入层，一个隐藏层和一个输出层。

输入层有3个输入节点，标注为+1的那个节点是偏置节点，偏置节点不接受输入，输出总是+1。

定义上标为层的标号，下标为节点的标号，则本神经网络模型的参数是：，其中是第l层的第j个节点与第l+1层第i个节点之间的连接参数（或称权值）；表示第l层第i个偏置节点。

这些符号在接下来的前向传播将要用到。

前向传播
虽然标题是《（误差）后向传播神经网络入门》，但这并不意味着可以跳过前
向传播的学习。

因为如果后向传播对应训练的话，那么前向传播就对应预测（分类），并且训练的时候计算误差也要用到预测的输出值来计算误差。

定义为第l层第i个节点的激活值（输出值）。

当l=1时，。

前向传播的目的就是在给定模型参数的情况下，计算l=2,3,4…层的输出值，直到最后一层就得到最终的输出值。

具体怎么算呢，以上图的神经网络模型为例：
这没什么稀奇的，核心思想是这一层的输出乘上相应的权值加上偏置量代入激活函数等于下一层的输入，一句大白话，所谓中文伪码。

另外，追求好看的话可以把括号里面那个老长老长的加权和定义为一个参数：表示第l层第i个节点的输入加权和，比如。

那么该节点的输出可以写作。

于是就得到一个好看的形式：
在这个好看的形式下，前向传播可以简明扼要地表示为：
在Python实现中，对应如下方法：
其中，ai、ah、ao分别是输入层、隐藏层、输出层，而wi、wo则分别是输入层到隐藏层、隐藏层到输出层的权值矩阵。

在本Python实现中，将偏置量一并放入了矩阵，这样进行线性代数运算就会方便一些。

后向传播
后向传播指的是在训练的时候，根据最终输出的误差来调整倒数第二层、倒数第三层……第一层的参数的过程。

符号定义
在Ryan的讲义中，符号定义与斯坦福前向传播讲义相似但略有不同：
：第l层第j个节点的输入。

：从第l-1层第i个节点到第l层第j个节点的权值。

：Sigmoid函数。

：第l层第j个节点的偏置。

：第l层第j个节点的输出。

：输出层第j个节点的目标值（Target value）。

输出层权值调整
给定训练集和模型输出（这里没有上标l是因为这里在讨论输出层，l是固定的），输出层的输出误差（或称损失函数吧）定义为：
其实就是所有实例对应的误差的平方和的一半，训练的目标就是最小化该误差。

怎么最小化呢？看损失函数对参数的导数呗。

将E的定义代入该导数：
无关变量拿出来：
看到这里大概明白为什么非要把误差定义为误差平方和的一半了吧，就是为了好看，数学家都是外貌协会的。

将=（输出层的输出等于输入代入Sigmoid函数）这个关系代入有：
对Sigmoid求导有：
要开始耍小把戏了，由于输出层第k个节点的输入等于上一层第j个节点的输出乘上，即=，而上一层的输出是与到输出层的权值变量无关的，可以看做一个常量，是线性关系。

所以对求权值变量的偏导数直接等于，也就是说：=()=。

然后将上面用过的=代进去就得到最终的：
为了表述方便将上式记作：
其中：
隐藏层权值调整
依然采用类似的方法求导，只不过求的是关于隐藏层和前一层的权值参数的偏导数：
老样子：
还是老样子：
还是把Sigmoid弄进去：
把=代进去，并且将导数部分拆开：
又要耍把戏了，输出层的输入等于上一层的输出乘以相应的权值，亦即=，于是得到：
把最后面的导数挪到前面去，接下来要对它动刀了：
再次利用=，这对j也成立，代进去：
再次利用=，j换成i，k换成j也成立，代进去：
利用刚才定义的，最终得到：
其中：
我们还可以仿照的定义来定义一个，得到：
其中
偏置的调整
因为没有任何节点的输出流向偏置节点，所以偏置节点不存在上层节点到它所对应的权值参数，也就是说不存在关于权值变量的偏导数。

虽然没有流入，但是偏置节点依然有输出（总是+1），该输出到下一层某个节点的时候还是会有权值的，对这个权值依然需要更新。

我们可以直接对偏置求导，发现：
原视频中说∂O/∂θ=1，这是不对的，作者也在讲义中修正了这个错误，∂O/∂θ=O(1–O)。

然后再求，，后面的导数等于，代进去有
其中，。

后向传播算法步骤
随机初始化参数，对输入利用前向传播计算输出。

对每个输出节点按照下式计算delta：
对每个隐藏节点按照下式计算delta：
计算梯度，并更新权值参数和偏置参数：。

这里的是学习率，影响训练速度。

后向传播算法实现
注意不同于上文的单一学习率，这里有两个学习率N和M。

N相当于上文的，而M则是在用上次训练的梯度更新权值时的学习率。

这种同时考虑最近两次迭代得到的梯度的方法，可以看做是对单一学习率的改进。

另外，这里并没有出现任何更新偏置的操作，为什么？
因为这里的偏置是单独作为一个偏置节点放到输入层里的，它的值（输出，没有输入）固定为1，它的权值已经自动包含在上述权值调整中了。

如果将偏置作为分别绑定到所有神经元的许多值，那么则需要进行偏置调整，而不需要权值调整（此时没有偏置节点）。

为什么大家选择光环大数据！
大数据培训、人工智能培训、Python培训、大数据培训机构、大数据培训班、数据分析培训、大数据可视化培训，就选光环大数据！光环大数据，聘请大数据领域具有多年经验的讲师，提高教学的整体质量与教学水准。

讲师团及时掌握时代的技术，将时新的技能融入教学中，让学生所学知识顺应时代所需。

通过深入浅出、通俗易懂的教学方式，指导学生较快的掌握技能知识，帮助莘莘学子实现就业梦想。

光环大数据启动了推进人工智能人才发展的“AI智客计划”。

光环大数据专注国内大数据和人工智能培训，将在人工智能和大数据领域深度合作。

未来三年，光环大数据将联合国内百所大学，通过“AI智客计划”，共同推动人工智能产业人才生态建设，培养和认证5-10万名AI大数据领域的人才。

参加“AI智客计划”，享2000元助学金！
【报名方式、详情咨询】
光环大数据网站报名：
手机报名链接：http:// /mobile/。