人工神经网络及其应用实例
人工神经网络是指一种抽象数学模型,它是基于现代神经科学研究成果提出的,通过简化、抽象和模拟的方式,反映了大脑功能的若干基本特征,但并非其逼真的描写。人工神经网络可概括定义为:由大量简单元件广泛互连而成的复杂网络系统。
人工神经元是人工神经网络的基本组成部分,它可以用电子元件、光学元件等模拟,仅起简单的输入输出变换作用。常用的元件类型有三种:线性元件、连续型非线性元件和离散型非线性元件。
人工神经网络的结构通常由三个部分组成:输入层、隐层和输出层。输入层节点上的神经元接收外部环境的输入模式,并由它传递给相连隐层上的各个神经元。隐层是神经元网络的内部处理层,这些神经元在网络内部构成中间层,不直接与外部输入、输出打交道。输出层用于产生神经网络的输出模式。
多层神经网络结构中有代表性的有前向网络(BP 网络)模型、多层侧抑制神经网络模型和带有反馈的多层神经网络模型等。其中,前向网络模型是最常用的之一,它不具有侧抑制和反馈的连接方式,即不具有本层之间或指向前一层的连接弧,只有指向下一层的连接弧。
人工神经网络的模式变换能力主要体现在隐层的神经元上。多层前向神经网络由隐层神经元的非线性处理衍生它的能力,这个任务的关键在于将神经元的加权输入非线性转换成一个输出的非线性激励函数。
激励函数是人工神经网络中的一个重要组成部分,常用的激励函数有 S 形函数、对数函数、双曲正切函数、高斯函数、正弦函数、反正切函数等。在本文中主要使用的激励函数是对数函数,它的函数表达式为:y = L(u) = 1 / (1 + e^(-u))。
训练神经元的规则有很多种,这里首先介绍利用 delta 规则的学习。delta 规则是一种常用的学习规则,目标是使预报误差最小化。预报误差的定义为:E = t - y,where t 是目标输出,y 是预报输出。
人工神经网络有广泛的应用前景,如图像识别、自然语言处理、语音识别等。在未来,人工神经网络将继续发挥着重要作用,推动着人工智能技术的发展。