神经网络-专题教程

【拓展】BP神经网络传递函数介绍(tansig、logsig、purelin)

作者 : 老饼 发表日期 : 2022-06-09 05:02:24 更新日期 : 2024-11-12 18:28:40
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com



对于BP神经网络,最基本、最常用的传递函数有tansig、logsig和purelin函数

BP神经网络的传递函数也称为激活函数,本文介绍这三个传递函数的一些性质

通过本文,可以具体了解tansig、logsig和purelin激活函数的表达式,以及相关特性





      01. tansig函数       




本节介绍tansig函数的表达式、图象、特性和导数等等





      tansig函数的表达式与图像      


tansig函数的表达式为:
 
 
  
 
 tansig是一个s型函数,tansig的函数图象如下 :
 
tansig的函数图像
   ✍️ tansig函数的特性    
 可以知道,当tansig自变量为一维时,它是一条S形曲线
 
● 它的取值区间为 (-1,1)                                           
● tansig非线性部分主要集中在【-1.7,1.7】之间    
● 在【-1.7,1.7】外,tansig逐渐趋向饱和              
 相对地,在二维时,tansig就是一个S形曲面,更高维时,就是S形超曲面




   tansig函数的导数    


tansig的导数为:

 

 tansig的导数可以用自身表示,这是一个非常重要的特性,它使tansig的导数计算更加方便
tansig的导数图象如下:

 tansig的导数图象







      02. logsig函数     




本节介绍logsig激活函数的表达式、图象、特性和导数等等





       logsig函数的表达式       


logsig函数的表达式为:
 
 
  
logsig也是一个s型函数,logsig的函数图象如下 :
 
logsig的函数图象
  ✍️ logsig函数的特性    
可以知道,当logsig自变量为一维时,它是一条S形曲线
 
● 它的取值区间为 (0,1)                                            
● logsig非线性部分主要集中在【-1.7,1.7】之间   
● 在【-1.7,1.7】外,logsig逐渐趋向饱和             
 相对地,在二维时,logsig就是一个S形曲面,更高维时,就是S形超曲面



   logsig函数的导数    


logsig函数的导数为:
 
logsig的导数可以用自身表示,这是一个非常重要的特性,它使tansig的导数计算更加方便
 logsig的导数图象如下:
 
logsig的导数图象






     03. purelin函数     




本节介绍BP神经网络中的purelin激活函数的表达式




    purelin函数的表达式    


purelin的表达式为:

  
可以看到,purelin就是恒等映射,
BP神经网络的传递函数设为purelin时,跟没有传递函数是一样的






       tansig、logsig、purelin函数总结      


tansig 和 logsig激活函数
tansig和logsig这两个激活函数都是S形函数,它们的非饱和区间都在
比较特殊的是,这两个激活函数的导数都可以用自身表示
 tansig和logsig最大区别在于它们的取值范围:
tansig的取值范围为(-1,1),而logsig的取值范围为(0,1)
  本质上来说,两个激活函数没有太大的区别
    purelin激活函数     
purelin是恒等映射函数,即激活前与激活后的值相等
当激活函数设为purelin时,相当于直接把神经元值作为激活值传递给下一层
 为了不让输出值受限制,往往在输出层都是用purelin作为激活函数






以上就是BP神经网络的三个常用传递函数tansig、logsig、purelin的介绍了









  End  




联系老饼