老饼讲解-BP神经网络
本站原创文章，转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com
本文简单介绍径向基神经网络的三种常用求解方法
通过本文可以快速了解径向基神经网络的各种求解方法的思想和特性
本节简单介绍径向基神经网络有什么求解方法
径向基神经网络的求解方法
径向基神经网络的常见基本求解方法有三种
👉 1. 精确求解
👉 2. OLS求解法
👉 3. K-means聚类法
在matlab的工具箱中，
newrbe 就是使用精确求解方法
newrb 则是使用OLS求解法
matlab没有实现k-means求解径向基神经网络的方法
本文先简单介绍各种方法是怎么一回事，
在后续文章，再详细讲解具体的算法原理和流程
并用代码自实现精解求解法与OLS求解法，重现newrbe、newrb的内部逻辑
本节对径向基神经网络各种求解方法的思想进行简单介绍
快速掌握各个求解方法到底是怎么一回事
径向基神经网络的精确求解思想介绍
精确求解的处理方法是
先设定径向基的宽度，
以各个样本为中心各生成一个径向基，
最后求解最外层的W和b就可以了，
由于此种解法能获得精确解，因此能100%拟合样本的y值
精确求解是一种最Base的求解方法
但缺点是网络的隐节点(径向基)非常多，
即有多少个样本就有多少个隐节点
当样本量稍多一些，模型就会非常庞大
因此，为了减少隐节点的个数，简化模型的复杂度
就有了OLS、k-means聚类等求解方法
径向基神经网络的OLS求解思想介绍
OLS全称为Orthogonal least squares正交最小二乘法
OLS求解法是对精确求解的改进，用于减少隐节点的个数
它与精确求解一样，先以每个样本为中心生成隐节点
假设有n个样本，那么就有n个隐节点，
但这n个只是待用隐节点，
OLS从这n个隐节点中逐个挑选隐节点，
每次都选出能让网络误差下降快多的隐节点添加到网络中来
直到网络的误差达到要求，就不要添加隐节点
径向基神经网络的k-means求解思想介绍
k-means法求解径向基神经网络的目的同样是为了减少隐节点个数
先通过k-means聚类，把n个样本聚类成k个中心
然后以k个中心生成径向基，
并根据中心之间的距离确定径向基的宽度
再对外层的W,b进行求解即可
参考文章
【1】深度学习 --- 径向基神经网络RBF详解： https://blog.csdn.net/weixin_42398658/article/details/84342747
End