本站原创文章，转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com

本文讲述BP神经网络的数学表达式，通过数学表达式，

可以更清晰、具体、直观地了解BP神经网络背后的意义，使BP神经网络不再抽象

   01. BP神经网络的数学表达式   

在这里，我们先用一个简单例子，讲述BP神经网络的数学表达式，

通过本例可以形象地知道BP神经网络拓扑图与数学表达式的对应关系 

   例子配置   

现有一个BP神经网络，它的结构如下 
 1、一个输入层，一个隐层，一个输出层， 输入层、隐层、输出层的节点个数分别为 [2 ，3，1] 
2、传递函数设置：隐层（ tansig函数），输出层（purelin函数）                                           
 
 相对应的模型拓扑图如下
  

   例子数学表达式   

可以根据模型写出BP神经网络的数学表达式如下

 表达式中参数很多，
但实际只有两类参数：权重w和阈值b       
 代表这个权值是第2层的第2个节点到第3层的第1个节点的权值         
代表这个阈值是第2层的第1个节点的阈值                                         
备注：权重矩阵w的下标，一般由后层到前层，这样在矩阵表述时更为简洁    

   02. 三层BP神经网络数学表达式的矩阵形式   

本节讲解BP神经网络权重、阈值的矩阵形式

    三层结构的数学表达式的矩阵形式    

对于三层BP神经网络的表达式，写成通用的矩阵形式为

 

这里的为矩阵，和为向量，
上标和分别代表输出层(out)和隐层(hide)

✍️备注
  权重矩阵的第一个下标是下层的神经元索引，第二个下标 i 才是前层索引
如下：

 

3输入，4隐节点，2输出的BP神经网络为例，
各个w、b的size可以图解如下：
 

对于多层的BP神经网络的数学表达式，也是类似的思路,不再讲述

 End