BP神经网络

【基础】BP神经网络的本质

作者 : 老饼 发表日期 : 2022-06-26 13:56:47 更新日期 : 2024-12-05 18:27:21
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com



从仿生角度理解BP神经网络往往是抽象的、不可捉摸的,难以理解它的

故本文从曲线拟合角度去理解BP神经网络的原理,并解读BP神经网络隐节点、参数的实际意义

通过本文,可以更本质地了解三层BP神经网络的意义,以及训练的目的是什么,使BP神经网络更加具体、形象




    01. BP神经网络的本质   




本节从曲线拟合的角度理解BP神经网络的本质




      BP神经网络的模型本质      


BP神经网络的模型的意义
以常用的三层BP神经网络为例,它的数学表达式有如下形式
 BP神经网络的模型的意义 
从表达式可以看到,网络的输出y其实就是由多个tansig线性组合而成
也就是说,我们使用BP神经网络的本质就是,
已知数据点,求n个tansig函数,使其叠加后能拟合任意数据点
 n个tansig函数叠加为BP神经网络
如图所示,使用三个tansig函数,则可叠加出了一个周期的sin函数曲线







    02. BP神经网络-隐节点与训练的意义   





本节讲解BP神经网络隐节点的意义与训练的意义





      BP神经网络-隐节点的意义     


由上述可知,三层BP神经网络的每个隐节点都代表着一个tansig
 每个隐节点代表一个tansig
因此,我们设置多少个隐节点,就意味着我们打算用多少个tansig来逼近目标函数  
 BP神经网络隐节点的意义 





    BP神经网络-参数与训练的本质     


每个tansig的表达式如下:
 
 从表达式可知,各个参数的意义如下:
👉1. 内层的W控制了tansig曲线的宽        
👉2. 外层的W控制了tansig曲线的高        
👉3. b则控制了tansig的位置                   
而训练的过程,就是调整各个tansig曲线(曲面/超曲面)的高矮肥瘦和位置
 BP神经网络训练的本质
通过训练,使得所有tansig叠加后越来越逼近y,从而最终得到能拟合y的模型曲线






好了,以上就是三层BP神经网络的本质以及训练的意义了~







 End 





联系老饼