rbf神经网络的一种即Radial Basis Function,译为径向基函数。在matlab中利用newrb建立网络。
rbf原理
所谓径向基函数 (Radial Basis Function 简称 RBF), 就是某种沿径向对称的标量函数。 通常定义为空间中任一点x到某一中心xc之间欧氏距离的单调函数 , 可记作 k(||x-xc||), 其作用往往是局部的 , 即当x远离xc时函数取值很小。最常用的径向基函数是高斯核函数 ,形式为 k(||x-xc||)=exp{- ||x-xc||^2/(2*σ)^2) } 其中xc为核函数中心,σ为函数的宽度参数 , 控制了函数的径向作用范围。(可以比较BP网络原理来理解)
在RBF网络中,这两个参数往往是可调的。 可以从两个方面理解 RBF 网络的作用 :
(1)把网络看成对未知函数f(x)的逼近器。一般任何函数都可表示成一组基函数的加权和 ,这相当于用隐层单元的输出函数构成一组基函数来逼近f(x) ;
(2)在RBF网络中以输入层到隐层的基函数输出是一种非线性映射,而输出则是线性的。这样,RBF网络可以看成是首先将原始的非线性可分的特征空间变换到另一空间(通常是高维空间),通过合理选择这一变换使在新空间中原问题线性可分,然后用一个线性单元元来解决问题。
在典型的RBE网络中有三组可调参数:隐层基函数中心、方差,以及输出单元的权值。 这些参数的选择有三种常见的方法:
(1)根据经验选择函数中心。比如只要训练样本的分布能代表所给问题 ,可根据经验选定均匀分布的M个中心, 其间距为d,可选取高斯核函数的方为σ=d/sqrt(2*M)。
(2)用聚类方法选择基函数。可以各聚类中心作为核函数中心,而以各类样本的方差的某一函数作为各个基函数的宽度参数。 用(1)或(2)的方法选定了隐层基函旗的参数后,因输出单元是线性单元,它的权值可以简单地用最小二乘法直接计算出来。 (3)将三组可调参数都通过训练样本用误差纠正算法求得。做法与BP方法类似,分别计算误差e(k)对各组参数的偏导数,然后用迭代求取参数。 研究表明,用于模式识别问题的RBF网络在一定意义上等价于首先用非参数方法估计出概率密度,必然后用它进行分类。 |