第 34 章 BP 神经网络模型
第 1 节 基本原理简介
近年来全球性的神经网络研究热潮的再度兴起，不仅仅是因为神经科学本身取得了巨大
的进展．更主要的原因在于发展新型计算机和人工智能新途径的迫切需要．迄今为止在需要
人工智能解决的许多问题中，人脑远比计算机聪明的多，要开创具有智能的新一代计算机，
就必须了解人脑，研究人脑神经网络系统信息处理的机制．另一方面，基于神经科学研究成
果基础上发展出来的人工神经网络模型，反映了人脑功能的若干基本特性，开拓了神经网络
用于计算机的新途径．它对传统的计算机结构和人工智能是一个有力的挑战，引起了各方面
专家的极大关注．
目前，已发展了几十种神经网络，例如Hopficld 模型，Feldmann 等的连接型网络模型，
Hinton 等的玻尔茨曼机模型，以及 Rumelhart 等的多层感知机模型和 Kohonen 的自组织网络
模型等等。在这众多神经网络模型中，应用最广泛的是多层感知机神经网络。多层感知机神
经网络的研究始于 50 年代，但一直进展不大。直到 1985 年，Rumelhart 等人提出了误差反
向传递学习算法（即 BP 算），实现了 Minsky 的多层网络设想，如图 34-1 所示。
输入层
中间层
输出层
图 34-1 BP 神经网络模型
BP 算法不仅有输入层节点、输出层节点，还可有 1 个或多个隐含层节点。对于输入信
号，要先向前传播到隐含层节点，经作用函数后，再把隐节点的输出信号传播到输出节点，
最后给出输出结果。节点的作用的激励函数通常选取S 型函数，如
1
f (x)
1 e
x /Q
式中 Q 为调整激励函数形式的 Sigmoid 参数。该算法的学习过程由正向传播和反向传
播组成。在正向传播过程中，输入信息从输入层经隐含层逐层处理，并传向输出层。每一层
神经元的状态只影响下一层神经元的状态。如果输出层得不到期望的输出，则转入反向传播，
将误差信号沿原来的连接通道返回，通过修改各层神经元的权值，使得误差信号最小。
设含有 n 个节点的任意网络，各节点之特性为 Sigmoid 型。为简便起见，指定网络只有
一个输出 y,任一节点 i 的输出为 O ,并设有 N 个样本(x ,y )(k=1,2,3,…,N),对某一输入 x ，网络
i
k
k
k
资源评论
