"径向基函数(RBF)"
径向基函数(RBF)是一种高维空间中的曲面拟合(逼近)问题的解决方法。其本质思想是反向传播学习算法应用递归技术,这种技术在统计学中被称为随机逼近。RBF 的结构由输入层、隐层、输出层三层组成。
一、RBF 的基本概念
RBF 的核心思想是将高维空间中的数据映射到隐空间中,然后在隐空间中对数据进行分类或回归。RBF 的 basis function(径向基函数里的基函数)是神经网络的隐单元中提供的一个函数集,该函数集在输入模式(向量)扩展至隐空间时,为其构建了一个任意的“基”。这个函数集中的函数就被称为径向基函数。
二、RBF 的结构
RBF 的结构由输入层、隐层、输出层三层组成:
1. 输入层:与外界环境连结起来。
2. 隐层:从输入空间到隐空间之间进行非线性变换。
3. 输出层:是线性的,为输入层的输入模式提供响应。
三、高维空间中的曲面拟合
RBF 的目的是将高维空间中的数据映射到隐空间中,然后在隐空间中对数据进行分类或回归。高维空间中的曲面拟合问题可以通过RBF 来解决。
四、映射到高维空间
RBF 中的映射到高维空间是基于Cover的非线性变换基本理论。该理论认为,一个模式分类问题如果映射到一个高维空间将会比映射到一个低维空间更可能实现线性可分。隐空间的维数越高,逼近就越精确。
五、拟合问题
拟合问题是RBF 中的一个重要问题。拟合问题的解决方法可以通过插值公式,如牛顿插值、拉格朗日插值等等。RBF 中的径向基函数可以用来拟合高维空间中的曲面函数F(x)。
六、常用的径向基函数
RBF 中常用的径向基函数有三种,即:
1. 多项式径向基函数
2. 高斯径向基函数
3.反双曲正切径向基函数
七、权值的解
RBF 中的权值可以通过训练数据来求出。选择基函数集合,然后通过训练数据来求出权值W。权值W可以通过矩阵运算来解出。
八、Micchelli定理
Micchelli定理是RBF 中的一个重要定理。该定理保证了径向基函数非奇异,必须使所有的输入点互不相同。
RBF 是一种高维空间中的曲面拟合(逼近)问题的解决方法。其结构由输入层、隐层、输出层三层组成,通过映射到高维空间,拟合问题可以通过插值公式来解决。RBF 中的径向基函数可以用来拟合高维空间中的曲面函数F(x),权值可以通过训练数据来求出。