老饼讲解-BP神经网络
BP神经网络入门
【辨识】神经网络、BP和深度学习的关系
作者 : 老饼 日期 : 2022-06-09 01:02:52 更新 : 2023-09-27 02:47:51
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com



相信很多人都读过不少文献了,

很容易被各种神经网络名称弄得头晕转向

本文给大家辨识清楚各种神经网络的关系




   01. 神经网络简介   



   神经网络简介   


     什么是神经网络    
 
凡是模仿人的神经网络构建出来的数学模型,
都叫神经网络,或者人工神经网络,
神经网络是人工智能的一个主力算法
 
      神经网络的分类    
 
神经网络可以归为三块:
 
   👉 BP神经网络         
       👉 深度学习                
     👉 其它神经网络       




 02. 三类神经网络的详细介绍  



    一般神经网络    


  ✍️ 一句话概括    
 
除BP神经网络,深度学习外的人工神经网络
 
     介绍    
 
出现得最早,起源于1940+年
该类神经网络非常多
今天你根据生物神经网络构建一个模型
明天我根据生物神经网络构建一个
可以说是百舸争流
 经典代表:感知机、Hopfield神经网络、径向基神经网络....等等




     BP神经网络   


  ✍️ 一句话概括    
 
人工神经网络中的顶级代表
往往说《神经网络》就是指《BP神经网络》 
 
     介绍    
 
 ● 提出
 
 大家研究着各种神经网络,研究得不亦乐乎,
突然,1986年,
来了两个家伙Romelhart 和Mcclelland,
提出了一个特殊的结构,并命名: 
 BP神经网络  
 
 
 ● 发展
   BP神经网络提出后,瞬间崛起后当了主力军。
 
以致于几乎成为了《神经网络》的代名词,
为什么拎出来特别划为一类?
因为它实在太出名了,
在不特指时,往往说神经网络都是指BP神经网络
 ● 结构
 
BP神经网络的结构以下 
 
大家印象中的神经网络是不是都是这种结构?
但它其实只是BP神经网络的特有的结构,
 
神经网络有千万种结构,只是BP神经网络太普及了,
现在大家几乎把"BP神经网络结构"与"神经网络结构"划上了等号,

实际BP神经网络结构仅是神经网络结构的一种




     深度学习    


  ✍️ 一句话概括    
深度学习可以看作是BP神经网络的一种加强版,解决输入极极极极多的问题
     
  介绍     
 
●  BP在解决多输入时受挫
 BP神经网络虽然很牛X,
但当要处理图象,音频,文字等问题时,却SB了,
因为这类问题的输入极多,
BP神经网络的参数会随着输入个数指数增长
例如一个50*50像素的图象,就有2500个输入 
假设有100个隐节点,则2500个输入在第一层的权重参数就有2500*100个 ,
参数个数量级太爆炸,导致BP在求解时,很难找到优秀解,就挂B了

 ●  根据业务特性去冗解决问题
这本来是个没办法的事,
但偏偏图象,音频这些问题,
它的输入存在很严重的相关性
 
(例如相邻像素的值总是相近的)
因此,
可以根据这个业务特性,进行输入个数压缩,
或者在求解时根据这个业务特性进行特殊讨巧
 
(例如相邻输入对应的权重参数共享)
使BP神经网络又可以解决这类问题了

 ●  颁发新名
问题解决了,
BP还是BP,
但毕竟,有少许变种了!
不管怎么样,解决了新问题了,
得显示牛B,挂个名: 深度学习!
就这样,2006年,开启了全民深度学习年代!
不懂点深度学习都不好意思说自己做人工智能。
●  再掀高潮
 2016年,alpha go的出现,
深度学习秀足了风头,
开启了全民超级深度学习模式~!
 
     总结   
 总的来说,深度学习底层还是BP,
你可以把深度学习当成 《专用于解决输入极极多,且输入变量之间有极强相关性的问题》的BP神经网络




     03. 总结     


最后,简单总结各种神经网络的作为本文的结束


   神经网络类型总结   


 1   神  经  网 络  :凡是模仿人的神经网络构建出来的数学模型,都叫神经网络
 2   BP 神经网络  :神经网络最经典的代表就是BP神经网络,能解决很多问题。
 3   深  度  学 习   :深度学习可以看作《加强版BP神经网络》,专用于解决输入极极多,且输入变量之间有极强相关性的问题。
 4  其它神经网络  :除了BP神经网络外,还有很多杂七杂八的神经网络,经典的有感知机、Hopfield神经网络、径向基神经网络等等。








 End 







联系老饼